Woran wir gerade arbeiten: Newsletter März 2020

Am vergangenen Wochenende richtete die Bundesregierung den Hackathon "WirVsVirus" aus. Auch zwei Projekte mit SNV-Beteiligung kamen der Aufforderung nach, Herausforderungen der Corona-Krise mit digitalen Lösungen zu begegnen. Anna-Katharina Meßmer arbeitete an der Entwicklung der App "Facts for Friends" mit. Diese stellt kurze und leicht verständliche Gegenargumente zu gängigen COVID-19-Fake News bereit und bietet so dejenigen schnelle und einfache Unterstützung an, die etwas gegen Desinformationen in ihrem Freundes- und Familienkreis tun möchten. Julia Schuetze war Teil des 10-köpfigen Teams, das "Virus fördert Viren" entwickelte: Eine interaktive Checkliste, um die IT-Sicherheit im Home Office zu bewerten. 

▬▬▬▬▬
Datenschutz soll Verbraucher:innen vor unerwünschter Überwachung schützen und der Wettbewerb in der Datennutzung soll ausreichend Zugang zu Daten sicherstellen, damit Innovation und niedrige Preise Verbraucher:innen zugute kommen. Die Wege, das zu erreichen, stehen sich oft konträr gegenüber: Mehr Daten zu teilen hilft dem Wettbewerb, weniger Daten zu teilen dem Datenschutz. Aline Blankertz beschäftigt sich mit den Ideen und Ansätzen, wie Wettbewerb und Datenschutz dennoch miteinander in Einklang gebracht werden können. Zu den momentan diskutierten Konzepten gehören etwa die Portabilität von Daten, neue Regeln zur Offenlegung mancher Daten oder die Entflechtung großer Datensätze.
▬▬▬▬▬
Echte Nachrichten, aber auch Desinformationen, erreichen uns heutzutage in enormer Schlagzahl und auf zahllosen Kanälen – die meisten davon online. Mittlerweile haben Politik und Bürger:innen zwar erkannt, dass das ganz eigene Hürden und Gefahren mit sich bringt, aber bei der Frage nach einer Lösung endet die Diskussion meist mit der Forderung nach mehr "Medienkompetenz". In ihrem Projekt "Digitale Informations- und Nachrichtenkompetenz" setzen Anna-Katharina Meßmer und Alexander Sängerlaub dort an und erarbeiten, welche Skills es genau sind, die dabei helfen, uns in der Flut der News zurechtzufinden und zu filtern, was relevant, glaubhaft und vollständig ist. Ein Papier hierzu erscheint voraussichtlich Ende April. 
▬▬▬▬▬
Die Europäische Union und die US-amerikanische Regierung haben in den vergangenen Monaten damit begonnen, ihre jeweiligen Pläne zur Förderung und Regulierung von KI-Technologien vorzustellen. Beide Wirtschaftsräume verfolgen dabei sehr unterschiedliche Konzepte in der Innovationsförderung, Regulierung und Technologie-Standardisierung von Künstlicher Intelligenz. Das eigene Interesse, die lokale Wirtschaft und Entwicklung im KI-Bereich zu stärken und zu schützen steht dabei im Vordergrund. Mit Maßnahmen wie etwa Exportbeschränkungen entstehen dadurch aber auch schwer zu kalkulierende Wechselwirkungen zwischen diesen und anderen Weltregionen. Die Bedeutung dieser und weiterer, bisweilen kollidierender KI-Governance-Ansätze bilden einen Schwerpunkt der Arbeit von Philippe Lorenz und Kate Saslow in diesem Jahr. 
▬▬▬▬▬
In Online-Wahlkämpfen setzen politische Gruppen und Parteien immer häufiger manipulative Taktiken ein, um Wähler:innen zu erreichen. Dieser problematische Trend wurde erneut vor wenigen Monaten während der Wahlen in Großbritannien deutlich. Julian Jaursch arbeitet derzeit an einem Vorschlag, welche Regeln für den Wahlkampf in Deutschland notwendig wären, um Bürger:innen zu schützen und einen fairen Wettbewerb zwischen Parteien zu gewährleisten. Sein Papier konzentriert sich vor allem auf digitale Wahlwerbung und erscheint voraussichtlich im Mai.

Was wir gerade mit Interesse lesen

Sind Gesellschaften, Regierungen oder Firmen von Entwicklungen oder Gefahren überfordert, suchen sie häufig nach einer Technologie, um das Problem zu lösen. So sollten Uploadfilter helfen, Hassrede und Desinformation auf Sozialen Medien beizukommen und Roboter einen Beitrag leisten, den Pflegenotstand zu mildern. Auch zu Beginn der Corona-Epidemie ließ sich dieser Trend beobachten: Der Einsatz Künstlicher Intelligenz sollte helfen, die Ausbreitung des Coronavirus einzudämmen – sei es durch Vorhersagen zur Verbreitung, durch die Verbesserung von Diagnosen oder sogar durch die Entwicklung von Medikamenten. Dass diese Erwartungen derzeit noch überhöht und sowohl für die Bekämpfung dieser Pandemie, als auch für die Zukunft von KI eher schädlich sind, behandelt dieser Artikel. Er macht aber auch Hoffnung, dass das für zukünftige Krankheitsausbrüche bereits anders aussehen kann. Gelesen von Kate Saslow. 
▬▬▬▬▬
Wenn es um den Wettbewerb zwischen China, den USA und Europa im Bereich der Künstlichen Intelligenz geht, wird häufig das Bild eines "Rennens" um die Vorherrschaft bemüht. Ein Rennen bedeutet, dass jemand als Erstes ankommt und damit gewinnt. Dass dieser Vergleich nicht nur hinkt, sondern ein falsches Bild der KI-Entwicklung und -Nutzung vermittelt, ist die These dieses Kommentars. Gelesen von Leonie Beining. 
▬▬▬▬▬
Der als "Operation Rubicon" bekannt gewordene Fall gilt als "Geheimdienstcoups des Jahrhunderts" und hat doch seit seiner Aufdeckung im Februar nur wenig öffentliche Aufmerksamkeit bekommen. Was ist passiert? Die Crypto AG vertreibt Verschlüsselungsmaschinen an Regierungen in der ganzen Welt. Über 100 Staaten möchten mit den Produkten der in der Schweiz ansässigen Firma ihre Kommunikation schützen. Doch wie die Washington Post (Artikel) gemeinsam mit dem ZDF (TV-Beitrag) in ihrer Recherche herausfinden konnte, ist das Gegenteil der Fall: Die Crypto AG war seit den 1970er Jahren im Besitz der CIA und des BNDs, die so die Verschlüsselungstechnik systematisch schwächen und dadurch die geheimen Informationen anderer Länder mitlesen konnten. Der Fall wirft brisante politische Fragen für die Gegenwart auf: Welche Schlüsselbetriebe in der digitalen Welt, z.B. Router-Hersteller oder IT-Sicherheitsfirmen, sind heute noch in Spionage verstrickt? Gelesen und gesehen von Kilian Vieth.
▬▬▬▬▬
Im Rahmen der Covid-19-Pandemie haben Staaten sehr unterschiedliche Strategien angewendet, um die Verbreitung des Erregers einzudämmen. Ein Mittel, das in Staaten wie Südkorea und China zum Einsatz gekommen ist, ist das Tracking von Mobiltelefonen und die Analyse der Bewegungsdaten einzelner Bürger:innen. In Italien gab es kein solches staatliches Tracking, aber eine Forscher:innengruppe hat Daten von etwa 170.000 Menschen ausgewertet, die freiwillig und anonymisiert zur Verfügung gestellt wurden. Die Erkenntnisse zur Mobilität der Bevölkerung und welchen Einfluss das auf die Infektionswege hatte, wurden in einem Paper veröffentlicht. So zeigte sich etwa, dass lokale Maßnahmen auch nur lokal gewirkt haben, während landesweite Eingriffe mit einer stärkeren Wirkung einhergingen – selbst in den Gebieten, die auch schon lokal betroffen waren. Gelesen von Aline Blankertz. 
▬▬▬▬▬
Reporter ohne Grenzen hat anlässlich des Welttags gegen Internetzensur am 12. März 2020 eine Liste der "größten Feinde des Internets" veröffentlicht. Darin finden sich informelle Netzwerke, Unternehmen und staatliche Akteure, die mit Instrumenten wie Zensur, Desinformation und Überwachung Journalist:innen bedrohen oder behindern. Eine der aufgeführten Organisationen ist das israelische Unternehmen "NSO Group". Die NSO Group hat eine Überwachungssoftware entwickelt, die eine Sicherheitslücke im Messenger WhatsApp nutzt, um Smartphones auszuspähen. Sie bereitete Berichten zufolge auch der Ermordung des Washington Post Journalisten Jamal Kashoggi den Weg. Gelesen von Rebecca Beigel. 
▬▬▬▬▬
Dass europäische Inlandsnachrichtendienste miteinander im Austausch stehen und Ermittlungsergebnisse und Daten miteinander teilen, ist weithin bekannt und gewollt. Bei der Terrorismusabwehr etwa können solche Kooperationen entscheidend sein. Allerdings muss stets gewährleistet sein, dass die Aktivitäten der Nachrichtendienste kontrolliert werden können. So müssen die Kontrollierenden zumindest von der Vernetzung und deren Ausmaß wissen. Seit ein paar Jahren ist nun schon bekannt, dass der sogenannte "Club de Berne" (CdB) weit mehr ist, als ein loser Verbund europäischer Inlandsnachrichtendienste. Viel mehr wusste man bisher nicht, denn die entsprechenden Regierungen stellen sich dem Auskunftsverlangen der Kontrolleur:innen häufig mit dem Verweis auf das Staatswohl wirksam entgegen. Die schweizerische WOZ hat nun mehr Licht ins Dunkel gebracht: Wie ihre Recherche zeigt, betreibt der CdB zahlreiche gemeinsame Datenbanken, Clouds und Verteiler bei denen auch der Mossad und die CIA beteiligt zu sein scheinen. Gelesen von Thorsten Wetzling.
▬▬▬▬▬
Politikwissenschaftler:innen und andere Forscher:innen entwickeln immer ausgefeiltere Methoden, um aktuelle Entwicklungen im Bereich der Cyber-Sicherheitspolitik in Zahlen zu fassen oder Vorhersagen zu treffen. In einem Gastbeitrag für den Blog Lawfare argumentiert der Politologe der Georgetown University School of Foreign Service, Ben Buchanan, dass quantitative Methoden allein aber nicht ausreichen, um die Welt staatlich organisierter Hacker-Angriffe zu verstehen. Stattdessen sollten Cybersicherheitsforscher:innen mehr Zeit damit verbringen, einzelne Cyber-Angriffe tiefgehend zu untersuchen und Fallstudien zu erstellen. Geeignete Quellen stünden mittlerweile ausreichend zur Verfügung. Gelesen von Julia Schuetze.
▬▬▬▬▬
"Transparenz für digitale Wahlkämpfe" ist eine Forderung, hinter der sich derzeit Interessensvertreter:innen aller Lager vereinigen: Politiker:innen, Aktivist:innen, Plattformen und Vertreter:innen der Zivilgesellschaft. In ihrem Papier macht die Politikwissenschaftlerin Kate Dommett aber deutlich, dass "Transparenz" als pauschale Forderung wenig sinnvoll ist. Denn je nach Zielgruppe und Zusammenhang kann Transparenz etwas anderes bedeuten: finanzielle Transparenz, Datentransparenz, Transparenz über Targeting oder Quellen. Auch die Frage, für wen Informationen verfügbar sein sollen, ist dabei nicht geklärt. Statt auf vermeintliche Einigkeit abzustellen, sollte insbesondere die Europäische Kommission ihre Ziele und Vorstellungen zur "Transparenz bei politischer Werbung" konkretisieren. Gelesen von Julian Jaursch. 
▬▬▬▬▬
In den USA steht derzeit der ehemalige CIA-Mitarbeiter Joshua Schulte vor Gericht, was dieser Artikel thematisiert. Schulte wird vorgeworfen, Dokumente über die digitalen Angriffswerkzeuge der CIA Wikileaks zugespielt zu haben, die dort unter dem Namen "Vault 7" veröffentlicht wurden. Unabhängig vom späteren Urteil zeigt das Verfahren um den CIA-Systemadministrator vor allem eines: Die CIA hat ihre Hackinginstrumente sehr schlecht vor illegitimen Zugriffen aus dem eigenen Netz geschützt. Das Passwort für das interne Dokumentationssystem, in dem sich alle Hackingwerkzeuge befanden, lautete 123ABCdef. Dieses Verfahren wird die Schuldigkeit Joshua Schultes klären. Ob die CIA der Verantwortung gewachsen ist, aktive Cyberwaffen zu verwalten, sollte aber auch dringend geklärt werden. Gelesen von Sven Herpig.
▬▬▬▬▬
Diese Studie untersucht die wirtschaftlichen Verflechtungen zwischen den USA und China in der Entwicklung und Produktion von Halbleitern. Da China in vielen Bereichen der Halbleiterproduktion (Chip-Design, IP, Equipment, etc.) stark von US-Technologie abhängig ist, versucht die US-Regierung immer stärker Chinas Zugang zu diesen Technologien zu beschränken, vor allem durch Exportkontrollen. Deshalb unterstützt die chinesische Regierung heimische Unternehmen darin, US-Technologie durch Eigenentwicklungen zu ersetzen. Die Studie analysiert, was die US-Regierung durch verschiedene Strategien und Maßnahmen in diesem Wirtschaftsfeld voraussichtlich für Reaktionen auf Seiten Chinas hervorrufen wird. Sie wurde von der US-amerikanischen Semiconductor Industry Association in Auftrag gegeben, was bei der Bewertung zu bedenken ist. Sie macht aber dennoch deutlich, dass eine weitestgehende Abkapselung der US-Halbleiterindustrie vom chinesischen Markt der amerikanischen Wirtschaft massiv schaden würde. Gelesen von Jan-Peter Kleinhans. 

Überblick: Aktuelle Veröffentlichungen und Medienbeiträge

Prinzipien für die Energiepolitik der Zukunft (Policy Brief): Als Abschluss des Projekts "Digitale Energiewende" haben Fabian Reetz und Céline Göhlich in ihrem Papier Denkmuster der Energiewirtschaft identifiziert, die derzeit dem Erreichen der Pariser Klimaziele im Weg stehen. Sie plädieren darin für eine Umgestaltung des Energiesystems, um neue Möglichkeiten der Digitalisierung zu nutzen und sich den Herausforderungen des Klimawandels anzupassen.
▬▬▬▬▬
Designing Data Trusts. Why We Need to Test Consumer Data Trusts Now (Policy Brief): Mit dem Konzept der Datentreuhänder wird derzeit die Hoffnung verknüpft, die Nutzung von Daten mit den Interessen von Verbraucher:innen verbinden zu können. Ob diese Erwartungen erfüllt werden können, ist noch unklar, denn bisher gibt es keine klare Definition, was genau Datentreuhänder sind, wie sie aufgebaut sind oder was sie leisten können sollen. In ihrem Papier analysiert Aline Blankertz, welche offenen Fragen für die Umsetzung des Konzepts als Erstes zu klären sind und spricht sich für praktische Tests aus. 
▬▬▬▬▬
Towards a European AI & Society Ecosystem (Policy Brief): Europa formuliert den Anspruch, KI vertrauenswürdig und menschenzentriert zu entwickeln und zu nutzen. Aber hat es dafür überhaupt die entsprechenden Fähigkeiten? In ihrem Papier argumentieren Leonie Beining, Peter Bihr und Stefan Heumann, dass die EU-Staaten eine solche Aufgabe nur unter Einbeziehung eines breiten Ökosystems verschiedener zivilgesellschaftlicher Akteure bewältigen können. Sie analysieren den Status Quo des europäischen "AI & Society Ecosystem" und nennen Möglichkeiten, wie Politik und fördernde Stiftungen seine Weiterentwicklung unterstützen können.
▬▬▬▬▬
Julia Schuetze und Julian Jaursch waren als Sachverständige zur öffentlichen Anhörung des Ausschusses für die Angelegenheiten der Europäischen Union des deutschen Bundestages geladen. Ihre Stellungnahmen zum Thema "Wehrhaftigkeit der demokratischen Verfasstheit der Europäischen Union und Integrität von Willensbildungsprozessen" sind hier (Julia Schuetze) und hier (Julian Jaursch) als Text und Video verlinkt. 
▬▬▬▬▬
In einem Podcast, der in Zusammenarbeit mit dem Auswärtigen Amt entstanden ist, stellen Alexander Sängerlaub und Alina Rathke die Veränderungsprozesse medialer Öffentlichkeiten vor und zeigen in vier Folgen, wie der digitale Wandel Desinformation begünstigt, welche Plattformen auf welche Weise betroffen sind, wie einzelne Desinformationskampagnen funktionieren und welche Gegenmaßnahmen helfen.
▬▬▬▬▬
Sven Herpig hat eine Leseliste zusammengestellt, in der sich verschiedene Ressourcen zur sogenannten Aktiven Cyberwehr und "Hack Backs" finden. Sie sind aufgeteilt nach Hintergrundinformationen und Analysen aus Sicht verschiedener Sektorenvertreter:innen. Die Liste findet sich hier.
▬▬▬▬▬
Zur COVID-19-Pandemie kursiert viel Desinformation im Netz. Gerade große Plattformen haben darauf mit diversen Maßnahmen reagiert, etwa mit Warnhinweisen, dem Hervorheben seriöser Quellen und dem Löschen von Inhalten. Dieses Vorgehen ist verbindlicher als bei politischer Desinformation, und im Zuge der weltweiten Gesundheitskrise sinnvoll. Es wirft jedoch auch Fragen zur Macht, zur Verantwortung und zur Rechenschaftspflicht der Plattformen auf, wie Julian Jaursch in einem Gastbeitrag bei Netzpolitik.org schreibt.

Technologische Erinnerungen

1737 – Der französische Ingenieur Jacques de Vaucanson entwickelte einen der ersten Roboter der Welt: Einen mechanischen Flötenspieler, der zwölf verschiedene Lieder spielen konnte. Ein Jahr später stellte er seine mechanische Ente vor, die aus über 400 beweglichen Einzelteilen bestand, laufen, schnattern und sogar "verdauen" konnte: Fütterte man sie mit Körnern, pickte sie diese auf und verarbeitete sie in einer chemischen Reaktion ihres künstlichen Darms aus Gummischläuchen und schied sie in "naturgetreuer Konsistenz" aus. Neben diesen beeindruckenden, aber gänzlich sinnlosen Erfindungen entwickelte de Vaucanson am Hof Ludwig XV. auch den ersten vollautomatischen Webstuhl. Gefunden von Johanna Famulok.