Mai 2019: Woran die Stiftung Neue Verantwortung aktuell arbeitet

Mai 2019: Woran die Stiftung Neue Verantwortung aktuell arbeitet

23. Mai 2019

Woran wir gerade arbeiten

Immer mehr Regierungen wollen eine eigene KI-Wirtschaft aufbauen und müssen dafür die Fortschritte anderer Länder beobachten. Philippe Lorenz und Kate Saslow entwickeln deshalb einen Katalog von Messkriterien mit dem sich analysieren lässt, wie weit die KI-Wirtschaft eines Landes entwickelt ist und wie sich einzelne KI-Unternehmen erkennen und bewerten lassen. Ihr erster Vorschlag für einen solchen Monitoring-Index wird im Juni veröffentlicht.
▬▬▬▬▬
Nach der 5G-Debatte machen die US-Sanktionen gegen Huawei-Smartphones deutlich, wie abhängig Staaten durch globale Hard- und Softwaremärkte geworden sind. Jan-Peter Kleinhans analysiert derzeit die Lieferketten der Halbleiter-Industrie, die in Zukunft ebenfalls zum Ziel von Handelskonflikten werden könnten. Halbleiter werden zum Bau fast aller modernen Computer und Industrieanlagen benötigt und sind auch für die IT-Sicherheit von Bedeutung. Bei seiner Arbeit geht es unter anderem um die Frage, welche Bereiche der Chip-Herstellung besonders sicherheitsrelevant sind und welche Rolle europäische Unternehmen in den globalen Lieferketten spielen.
▬▬▬▬▬
Um Smartphones verdächtiger Personen zu überwachen oder in das Netzwerk einer fremden Regierung einzudringen, sind Sicherheitsbehörden, Geheimdienste und Militärs immer häufiger auf die Werkzeuge und das Wissen hochspezialisierter privater Dienstleister angewiesen. Über die angebotenen Überwachungswerkzeuge wird häufig nur hinter verschlossenen Türen gesprochen. Am 11.6.2019 um 18:30 Uhr werden Mike Murray, Forschungsleiter des IT-Sicherheitsunternehmens Lookout, und Sven Herpig ein Hintergrundgespräch darüber führen (Anmeldung erforderlich).
▬▬▬▬▬
Politik und Verwaltung sind auf die Beteiligung engagierter Bürger:innen in Open-Data-Gruppen, Verbraucherschutzorganisationen, Datenschutz-Initiativen, Gewerkschaften oder Hacker-Vereinen angewiesen, wenn ihre Digitalpolitik nicht nur wirtschaftliche Ziele verfolgen soll. Welche Möglichkeiten Politik und Verwaltung haben, die Beteiligung der digitalen Zivilgesellschaft zu fördern, untersucht derzeit Anna Wohlfarth. Ihr Papier erscheint im Juni.
▬▬▬▬▬
Für unsere Arbeit zur Digitalen Energiewende suchen wir ab dem 1. August 2019 eine:n Projektmanager:in. Entwickelt werden sollen Ideen und Vorschläge, um Digitalisierung und Technologie dafür zu nutzen, die Energiewende voranzutreiben und die Pariser Klimaziele zu erreichen. Wir untersuchen, wie die einzelnen Bausteine unserer hochkomplexen Energiewirtschaft, zu denen Gesetze, Märkte und Prozesse gehören, zukünftig besser zusammenspielen können. Dabei möchten wir Vorschläge entwickeln, wie das Energiesystem – auch über den Stromsektor hinaus – nachhaltig gestaltet werden kann. Außerdem setzen wir uns dafür ein, Akteure zu vernetzen, die in der klassischen Energiebranche bisher wenig miteinander zu tun hatten, gleichwohl aber durch die Zusammenarbeit voneinander profitieren können.
▬▬▬▬▬
In Deutschland und vielen anderen Staaten sollen Digitalplattformen verpflichtet werden, stärker gegen Desinformation, hetzerische Inhalte und undurchsichtige politische Kampagnen vorzugehen. Doch welche Reformen und Regulierungsvorschläge sind geeignet, um nicht nur diese Symptome zu behandeln, sondern strukturelle Herausforderungen unserer digitalen öffentlichen Räume und der darunter liegenden Geschäftsmodelle anzugehen? Mit dieser Frage beschäftigt sich unser neuer Projektleiter Dr. Julian Jaursch.

 

Was wir gerade mit Interesse lesen

Häufig wirkt die Politik hilflos gegenüber dem Einfluss der "Big Tech"-Unternehmen wie Google und Facebook. Ein Grund dafür ist, dass die großen Plattformen kaum Einblicke in ihre Datenbestände oder Algorithmen zulassen, was zielgerichtete Regulierung schwierig macht. In einem Artikel erklärt die Rechtswissenschaftlerin Kate Klonick, wie wichtig daher die Arbeit von Tech- und Datenjournalist:innen geworden ist. Mit ihren aufwendigen technischen Recherchen und neuen Methoden haben sie immer wieder problematische Entwicklungen aufgedeckt und konkrete Daten geliefert. Laut Klonick ist es genau diese Form von angewandter Problemanalyse, die für bessere politische Entscheidungen gebraucht wird und gefördert werden sollte. Gelesen von Julia Schuetze.
▬▬▬▬▬
Während Spionage vor 20 Jahren noch zu großen Teilen auf den Erkenntnissen menschlicher Spion:innen fußte, findet die nachrichtendienstliche Tätigkeit heute größtenteils im digitalen Raum statt. Die rechtlichen und politischen Rahmenbedingungen haben sich daran aber kaum angepasst. In diesem Foreign Policy-Artikel wird herausgearbeitet, welche Konsequenzen dies vor allem für demokratische Staaten hat, die ihrer nachrichtendienstlichen Tätigkeit engere rechtliche Rahmen setzen als Autokratien. Gelesen von Jan-David Franke.
▬▬▬▬▬
Anfang des Monats hat das israelische Militär als Reaktion auf einen potentiellen Cyber-Angriff der palästinensischen Hamas deren "Cyber-Hauptquartier" bombardiert und laut eigener Angaben zerstört. Der amerikanische Rechtswissenschaftler Robert Chesney hat den Fall in seinem Artikel völkerrechtlich analysiert. Er kommt zu dem Schluss, dass der Angriff völkerrechtlich legitim sei und auch der bisher übliche Umgang mit militärisch motivierten Cyberangriffen nicht grundsätzlich in Frage gestellt wurde. Allerdings zeigt der Artikel und die unterschiedliche Bewertung des Angriffs auch, dass die aktuellen völkerrechtlichen Regelungen noch immer auf physische Kriegsführung ausgelegt sind und kaum Klarheit über den Umgang mit Cyberangriffen schaffen. Gelesen von Sven Herpig.
▬▬▬▬▬
Eine US-Denkfabrik hat erforscht, wie in Armenien offenbar eine kleine Gruppe von Aktivist:innen versucht hat, den amtierenden Premierminister mit einer Online-Kampagne zu diskreditieren. Dabei gab die Gruppe vor, eine gemeinnützige Fact-Checking-Organisation zu sein. Die Aktivist:innen täuschten vor, Fake News der Regierung aufzudecken, verbreiten aber selbst Desinformation. Diese Taktik ist vergleichsweise neu und ein weiterer Beleg dafür, dass Desinformation häufig nicht allein aus dem Ausland gesteuert wird, sondern ihre Ursprünge im eigenen Land hat. Gelesen von Julian Jaursch.
▬▬▬▬▬
Der Fall der fehlerhaften Boeing 737-Max Flugzeuge hat Ängste vor Automatisierung und autonomer Systeme erneut befeuert. In seinem Podcast spricht Azeem Azhar darüber mit der Professorin und früheren Kampfpilotin Missy Cummings. Cummings erklärt am Boeing-Beispiel, dass Unsicherheit nicht allein durch Fehler der eingesetzten Technik entsteht, sondern durch das mangelhafte Zusammenspiel von Mensch und Technik: Statt politisch nur auf technische Regulierung abzuzielen, sollten auch das Training für Anwender:innen der Technik mitgedacht werden. Gehört von Kate Saslow.

▬▬▬▬▬
Ein Beratungsgremium des Pentagons hat einen Bericht zu den Chancen und Risiken von 5G veröffentlicht. Bemerkenswert ist die klare Sprache: Sorgen macht man sich nicht nur um die IT-Sicherheit der Netze, sondern vor allem darum, die Technologieführerschaft von US-Unternehmen bei 5G zu verlieren und von China abhängig zu werden. Dies wird als direkte Gefahr für die nationale Sicherheit gesehen. Der Bericht illustriert daher einmal mehr, dass es bei 5G weniger um technische Sicherheit, anstatt vielmehr um Geopolitik geht. Gelesen von Jan-Peter Kleinhans.
▬▬▬▬▬
In fast allen Staaten der Welt sind Frauen in der Politik stark unterrepräsentiert. Besonders anschaulich wird das durch eine Daten-Visualisierung, in der Fabian Dinklage den Frauenanteil in Parlamenten von 1990 und 2018 vergleicht. Für Deutschland ergibt sich ein enttäuschendes Bild: Nicht mal ein Drittel der deutschen Parlamentarier:innen in dieser Legislatur sind Frauen, der Frauenanteil des Bundestags ist somit in 28 Jahren um weniger als zehn Prozentpunkte gestiegen. Gerade der Vergleich mit dem Spitzenreiter Ruanda (61 Prozent Frauenanteil) zeigt: Es braucht mehr als nur guten Willen, um Frauen politische Führungspositionen zu ermöglichen. Gelesen von Johanna Famulok.
▬▬▬▬▬

In einem Artikel haben drei Forscher:innen die Geschichte der Medienpolitik von den fünfziger Jahren bis heute kritisch analysiert und zusammengefasst. Ihre Analyse ist nicht nur historisch interessant. Denn der Text erklärt indirekt auch, warum in der deutschen Medienpolitik bisher kaum wirksame Ideen entwickelt werden, wie das immer stärker durch digitale Plattformen geprägte Mediensystem gestaltet werden kann. Gelesen von Sebastian Rieger.
▬▬▬▬▬
In einem Gespräch an der Stanford University sprechen der Autor und Philosoph Yuval Noah Harari und die Informatikprofessorin und Expertin für Künstliche Intelligenz Fei-Fei Li darüber, wie mit Hilfe von Künstlicher Intelligenz unsere Gene und unser Gehirn entschlüsselt werden und wie das unser Verständnis über das Menschsein radikal in Frage stellt. Gelesen von Stefan Heumann.
▬▬▬▬▬
Sophia Rosenfeld, Amerikanische Professorin für Geschichte an der University of Pennsylvania, setzt in ihrer Rede "Post-Truth: A European Problem?" die Debatte um “Fake News” in einen größeren historischen Kontext und zeigt, was Wahrheit und Lüge mit der Herausbildung staatlicher Strukturen und der Aufklärung zu tun haben. Aus Sicht von Rosenfeld sind Lügen bedauerlicherweise schon immer ein Bestandteil von Demokratien, weil "Wahrheit" in Demokratien – anders als in monarchischen Staaten – ein wichtiger Faktor für die Legitimierung von Regierung sind und Lügen diese untergraben sollen. Gelesen von Alexander Sängerlaub.
▬▬▬▬▬
Westliche Medien thematisieren häufig das sogenannte "Social Credit System" in China. Eine Forscherin der Universität Berkeley hat in einem Artikel erklärt, welche Missverständnisse, Befürchtungen und Wissenslücken dabei die  Berichterstattung prägen. Sie kritisiert, dass die häufig oberflächliche und ungenaue Betrachtungsweise ausländische Beobachter:innen daran hindert, das gewaltige Regierungsprojekt und dessen Auswirkungen genau zu verstehen. Gelesen von Kilian Vieth.
▬▬▬▬▬
In klassischen Wirtschaftsmodellen werden das Ökosystem und Klimabudgets nicht mitgedacht. Mit ihrem Buch "Doughnut Economics - Seven Ways to think like a 21st century economist" liefert Kate Raworth ein interessantes Plädoyer, klassische Wirtschaftsschulen durch neue Erkenntnisse aus der Wirtschaft, Psychologie und Ökologie zu ersetzen. Anschaulich zeigt sie, dass unser derzeitiges Wirtschaftsverständnis der Grund für etliche humanitäre und ökologische Katastrophen ist und wie ökologische Grenzen und die Deckung menschlicher Grundbedürfnisse wie der Zugang zu sauberem Wasser in wirtschaftliche Entscheidungen miteinbezogen werden können. Gelesen von Fabian Reetz.

 

Deep Dive: Leseliste zu Algorithmen und Gemeinwohl

Transparenz und Nachvollziehbarkeit gehören zu den Kernforderungen, wenn es um die gemeinwohlverträgliche Gestaltung algorithmischer Systeme geht. Wie aber klärt man die Betroffenen von algorithmischen Entscheidungen über die eingesetzte Technologie auf? Die von Leonie Beining zusammengestellte Leseliste bietet einen Einblick in das Thema.

Einen ersten Eindruck über die grundlegende Relevanz, Menschen den Einsatz von digitalen Technologien im Alltag verständlich zu machen, geben folgende Artikel:

 

Um Algorithmische Entscheidungsfindung transparenter machen, muss man sich zunächst der Frage widmen, wie und ob es überhaupt möglich ist, algorithmische Systeme zu erklären. Folgende Journal-Artikel führen in die Thematik ein und stellen verschiedene (technische) Ansätze verständlich dar. Der Mitschnitt der Konferenz Explaining AI: Can we hold machines accountable? präsentiert den aktuellen Stand der Debatte. 

 

In der Debatte über Transparenz und Nachvollziehbarkeit wird zumeist nur diskutiert, wie sich diese technisch umsetzen ließen. Relevant für die tatsächliche Umsetzung ist aber auch, welche Bedürfnisse Endnutzer:innen oder Betroffene haben. Folgende Studien haben die individuelle Wirkung von Erklärungen und Transparenzmechanismen getestet und analysiert.

 
Konkrete Anregungen und Designvorschläge, wie Benutzer:innenoberflächen gestaltet werden können, um Nutzer:innen Informationen über und Kontrollmöglichkeiten hinsichtlich algorithmischer Entscheidungssysteme zur Verfügung zu stellen, finden sich bei

 

Überblick: Aktuelle Veröffentlichungen und Medienbeiträge

Vertrauen in Algorithmen? (Gastbeitrag in der Frankfurter Rundschau): Die Akzeptanz des Einsatzes von Algorithmen im Leben von Bürger:innen wird stark davon abhängen, inwiefern der Einsatz und die Entscheidungen der Systeme für sie nachvollziehbar sind, argumentiert Leonie Beining.
▬▬▬▬▬
"Die Reform des Nationalen Cyber-Abwehrzentrums" (Audiomitschnitt): Die Zuständigkeiten in der deutschen Cybersicherheitspolitik sind unübersichtlich. Der Leiter des Nationalen Cyberabwehrzentrums, Manuel Bach, hat am 3. April mit Sven Herpig darüber gesprochen, wie das Cyberabwehrzentrum arbeitet, wie der Austausch mit anderen Behörden funktioniert und welche Zukunftspläne es für diese Organisation gibt.
▬▬▬▬▬

Blockchain-Technologie. Herausforderungen und Förderstrategien (Papier): In dieser Analyse hat Fabian Reetz herausgearbeitet, was Blockchain ist, wie diese Technologie funktioniert und welche Potenziale insbesondere für den Technologiestandort Deutschland aus ihr erwachsen. Er macht in seinem Papier aber auch deutlich, dass eine Förderung zielgerichtet stattfinden muss, damit Deutschland seinen Vorreiterposten nicht verliert und um beispielsweise fatale ökologische Folgen zu verhindern.
▬▬▬▬▬

Vorläufige Bewertung des Referentenentwurfs zum IT-Sicherheitsgesetz 2.0: Sven Herpig hat den Entwurf zum IT-Sicherheitsgesetz 2.0 (vom 3.4.2019) Stück für Stück durchgearbeitet. Eine Zusammenfassung seiner Kritik sowie eine detaillierte Kommentierung der einzelnen Paragraphen finden Sie hier.

 

Woran wir uns nicht mehr erinnern

1967 – Der US-amerikanische Physiker Theodore Maiman erhielt 1967 das Patent auf den weltweit ersten Laser, den er am Hughes Research Center in Kalifornien entwickelte. Weil sich jedoch niemand vorstellen konnte, wofür ein Laser gut sein könnte, stellte seine Forschungseinrichtung die Förderung ein. Selbst Maiman räumte damals ein, der "Laser sei eine Lösung, die ein Problem sucht". Der Laser setzte sich dennoch durch. Im Jahr 2000 unterzog sich Maiman einer Laseroperation und konnte so selbst erfahren, welche Probleme seine Erfindung zu lösen in der Lage ist. Erinnert sich Johanna Famulok.