September 2019: Woran die Stiftung Neue Verantwortung aktuell arbeitet

September 2019: Woran die Stiftung Neue Verantwortung aktuell arbeitet

04. Oktober 2019

Woran wir gerade arbeiten

 

In den nächsten Wochen starten unsere Kollegen Jan-David Franke, Thorsten Wetzling und Eric Kind einen englischsprachigen Blog, der sich mit den technologischen, gesellschaftlichen und politischen Entwicklungen rund um Nachrichtendienste in Europa beschäftigen wird. Beginnen wird aboutintel.eu mit Themen wie der Kooperation von europäischen Diensten und ihren Aufsichtsbehörden, neue Nachrichtendienstgesetze und wichtige nationale und europäische Gerichtsverfahren, technologische Entwicklungen im Überwachungsbereich und deren Exportkontrolle sowie die Regulierung von KI-Systemen. Zu den ersten Gastautor:innen zählen Führungspersonen des britischen Geheimdienstes GCHQ, Mitarbeiter:innen der schwedischen Bürgerrechtskanzlei Centrum för Rättvisa, dem Datenanalyse-Unternehmen Palantir sowie der internationalen Menschenrechtsorganisation Privacy International. Wer den Start des Blogs nicht verpassen will, schickt dem Team  hier eine Email.
▬▬▬▬▬
KI-Systeme werden weltweit an immer mehr kritischen Stellen in IT-Systemen großer Unternehmen, Behörden oder dem Militär eingebaut. Leider wird dabei bisher kaum auf Sicherheit geachtet. Es ist davon auszugehen, dass Nachrichtendienste oder kriminelle Hacker-Gruppen dies in den kommenden Jahren ausnutzen werden. Sven Herpig arbeitet deshalb mit einer internationalen Expert:innen-Gruppe von Machine-Learning-Spezialist:innen und IT-Sicherheitsforscher:innen an einer ersten Analyse und Übersicht, welche IT-Sicherheitsrisiken derzeit durch die enorme Verbreitung von KI-Systemen (Fokus auf Machine-Learning) entstehen und mit welchen Schritten Regierungen sich darauf vorbereiten sollten. Sein Papier erscheint voraussichtlich Mitte Oktober. 
▬▬▬▬▬
Falschnachrichten, bewusste Irreführung und hetzerische Inhalte in sozialen Medien und anderen Plattformen einzudämmen, ist keine leichte Aufgabe. Auf der Ebene der Bundesländer, des Bundes und der Europäischen Union wird bereits seit mehreren Jahren versucht, mit verschiedenen Maßnahmen und Gesetzen auf das Desinformationsproblem zu reagieren. Doch wie erfolgversprechend sind die bisherigen oder geplanten politischen Maßnahmen und Regulierungsversuche in Deutschland sowie auf europäischer Ebene? Mit dieser Frage beschäftigt sich derzeit Julian Jaursch. Seine Analyse wird in Kürze veröffentlicht.
▬▬▬▬▬

Angriffe auf kritische IT-Systeme eines Landes, die Manipulation von Wahlen oder der Zugriff von Sicherheitsbehörden auf verschlüsselte Kommunikation – all dies sind Probleme, mit denen sich nicht nur Regierungen beschäftigen, sondern auch unser Expert:innen-Team für internationale Cybersicherheitspolitik. Dieses Team sucht nun Verstärkung. Hier geht es zur Stellenausschreibung.

 

Was wir gerade mit Interesse lesen

Im Umgang mit algorithmischen Systemen und KI wird vermehrt die Forderung gestellt, dass transparent und nachvollziehbar sein muss, wie sie zu ihren Entscheidungen kommen. Oftmals wird dann angemerkt, dass das nur bedingt möglich sei und z.B. nicht erklärt werden könne, wie tiefe neuronale Netze genau funktionieren. Joanna Bryson, die im kommenden Jahr zu Technology & Ethics an der Berliner Hertie School of Governance forschen wird, hat auf ihrem Blog eine Antwort dazu formuliert. Sie sagt einerseits, dass es gar keine technisch schwierigen "deep explanations" braucht, um KI für den gesellschaftlichen Umgang nachvollziehbar zu machen. Außerdem liefert sie fünf konkrete Ansätze, mit denen die Funktionsweisen und Entscheidungswege von KI-Anwendungen auf konstruktive Art erklärt werden können. Gelesen von Leonie Beining.
▬▬▬▬▬
Die Debatte um chinesische Hersteller in der amerikanischen oder europäischen 5G-Infrastruktur hat deutlich gemacht, wie bedeutsam technologische Abhängigkeit in internationaler Politik ist. Das Papier zweier amerikanischer Professoren zeigt, dass der Huawei-Fall nur ein Beispiel einer weitreichenden geopolitischen Veränderung war, bei der Technologie und Infrastruktur als Druckmittel oder als Einfallstor genutzt werden können, um andere Staaten zu einer bestimmten Handlung zu zwingen. Es beschreibt eine spannende, aber auch gefährliche Entwicklung, bei der die globalen Lieferketten von Produkten und Technologien zum Gegenstand nationaler Strategien werden. Gelesen von Jan-Peter Kleinhans.
▬▬▬▬▬
Auf europäischer Ebene wird ab Herbst über neue Regeln für soziale Netzwerke, Suchmaschinen und andere digitale Plattformen diskutiert, um unter anderem zu klären, wer für Inhalte auf Facebook, Twitter und Co. haftet. Die Debatte um Haftungsregeln wird seit Jahren nicht nur in Europa kontrovers geführt. In den USA haben sich die Rechtswissenschaftlerin Danielle Citron und der Journalist Benjamin Wittes in einem Papier mit den amerikanischen Haftungsregeln und einer möglichen Reform auseinandergesetzt. Die Autor:innen schlagen vor, Haftungsfreiheit für Social-Media-Plattformen zu gewähren, wenn diese bestimmte Standards für Inhaltemoderation haben und einhalten. Dies ist auch ein interessanter Vorschlag für die europäische Diskussion – gerade vor dem Hintergrund, dass Alternativen wie Upload-Filter kaum sinnvoll erscheinen. Gelesen von Julian Jaursch.
▬▬▬▬▬
In diesem Artikel geht der Journalist Tim Kirby der These nach, dass geopolitische Macht eines Staates heutzutage nicht mehr nur militärisch erreicht werden kann, sondern auch durch technologische Vorherrschaft. Dafür vergleicht er weltweit die Verteilung von "Hard Power" in Form von Militärstützpunkten und "Soft Power" in Form von Dominanz bei Suchmaschinen, sozialen Netzwerken oder der genutzten Sprache im Internet. Er zeigt, dass dieselben Länder – USA, China und Russland – den militärischen wie den digitalen Raum dominieren. Der Autor plädiert dafür, zukünftig auch die "digitale Front" als geopolitischen Schauplatz ernstzunehmen. Gelesen von Sven Herpig.
▬▬▬▬▬
Der  448 Seiten lange "Mueller Report" zur russischen Einflussnahme während der US-Wahl 2016 enthält wichtige und relevante Details, die leicht zu übersehen sind. Der Podcast "The Report" von Lawfare verbindet Passagen des Berichts mit Einschätzungen und Hintergrundwissen von Expert:innen, sodass die Inhalte zugänglich und nachvollziehbar sind. Obwohl der Mueller-Report bereits im April veröffentlicht wurde, ist er immer noch aktuell: Der amerikanische Wahlkampf für die Wahl 2020 befindet sich nun genau in der Phase, in der die Angriffe bei der vergangenen Wahl stattfanden. Gehört von Julia Schuetze
▬▬▬▬▬
Uber wurde in London von zwei seiner Fahrer verklagt. Beide haben als Selbstständige für den Ride-Sharing-Dienst gearbeitet, sind aber der Ansicht, dass diese Form des Arbeitsverhältnisses illegal war und sie benachteiligt hat. In dem Prozess hat Uber auf der Plattform erhobene Profildaten vorgebracht, um daran zu zeigen, dass der Status der Selbstständigkeit der Fahrer legitim sei – gleichzeitig verwehrte die Plattform Gericht und Klägern aber den Zugriff auf weitere persönliche Daten. Dieser Artikel erläutert die Zusammenhänge zwischen den prekären Arbeitsverhältnissen der "Gig-Economy", für den dieser Rechtsstreit symbolisch steht, und dem darüber hinaus immer intensiver geführten Kampf um den Zugang zu den Daten großer Plattformen. Gelesen von Stefan Heumann.
▬▬▬▬▬
Mit "MS Celeb" gehörte Microsoft ein wichtiger Datensatz, der Fotos von etwa 100.000 Personen enthielt und auf dessen Grundlage viele Gesichtserkennungssysteme trainiert wurden. Nun hat Microsoft diese wertvolle Ressource gelöscht und gleichzeitig öffentlich mehr staatliche Regulierung für derartige Datensätze gefordert, berichtet Nicole Lindsey im CPO Magazin. Gründe für das Löschen gibt Microsoft nicht an, aber "MS Celeb" war aus Datenschutz-Perspektive durchaus in der Kritik, da die enthaltenen Personen der Nutzung nicht zugestimmt hatten. Microsofts Ruf nach mehr Regulierung wirft damit auch die Frage auf, welche Verantwortung Staat und Wirtschaft bei der Bereitstellung und Verwendung solcher Trainings-Datensätze jeweils tragen. Gelesen von Kilian Vieth.
▬▬▬▬▬

Das Klima und unsere Ökosysteme werden sich fundamental verändern. Das ist mittlerweile eine traurige Tatsache. Deshalb gehen viele Aktivist:innen dazu über, nicht mehr vor möglicher Klimaerwärmung zu warnen, sondern zu fordern, dass Vorbereitungen für die bevorstehenden Veränderungen getroffen werden. Viel Aufsehen hatte ein Artikel des US-Schriftstellers Jonathan Franzen ausgelöst, der diese Haltung widerspiegelt, dabei aber nicht konstruktiv ist, sondern vor allem Hoffnungslosigkeit ausstrahlt. In ihrem Blogbeitrag rät die Physikerin und Schriftstellerin Kate Marvel dazu, angesichts Enttäuschungen im Klimaschutz nicht in Trauer zu verfallen oder hoffnungslos zu werden, sondern mutig und aktiv zu werden, um die Folgen des Klimawandels einzudämmen – auch, wenn ein "Happy Ending" aussichtslos ist. Gelesen von Fabian Reetz
▬▬▬▬▬
Wirtschaftsnobelpreisträger Jean Tirole warnt in seinem Artikel "Digital Dystopia" davor, dass Gesellschaften durch zentralisierte, soziale Überwachung gelenkt werden könnten. Er zeigt, dass beispielsweise ein solches System nicht nur die Meinungsäußerung einschränken würde, sondern auch den gesellschaftliche Zusammenhalt schwächt. Tirole beschreibt zudem, wie Politiker:innen geneigt sein können, dem Willen von digitalen Plattformen nachzugeben, wenn diese den direkten Zugang von Politik zu Wähler:innen kontrollieren. Tirole macht mit seinem Artikel noch einmal deutlich,wie wichtig es ist, rechtzeitig Antworten auf die gesellschaftliche Herausforderungen der Datenökonomie zu finden. Gelesen von Aline Blankertz
▬▬▬▬▬
In diesem Report des Center for Democracy and Technology geht der Überwachungsexperte Eric Kind der Frage nach, was verschiedene demokratische Staaten öffentlich zu ihrer Praxis der Fernmeldeaufklärung bekannt gegeben haben. Deutliche Unterschiede bestehen insbesondere in der technischen Umsetzung der Überwachungsmaßnahmen. Kind kommt zu dem Fazit, dass es bereits positive Beispiele gibt, insgesamt aber ein höheres Maß an Transparenz und Kontrolle nötig und realistisch ist. Kind weist damit auch zurück, dass Transparenz über Fernmeldeaufklärung die nationale Sicherheit gefährde, wie es beispielsweise Regierungsvertreter:innen der USA behaupten. Gelesen von Thorsten Wetzling.

 

Überblick: Aktuelle Veröffentlichungen und Medienbeiträge

How to Operationalise a Transatlantic Cyber Policy Research Initiative (TCPRI) (Papier): Die Europäische Union hat sich in den letzten Jahren mit den USA geeinigt, in der Cybersicherheitspolitik stärker zusammenzuarbeiten. Dafür soll die "Transatlantic Cyber Policy Research Initiative (TCPRI)" geschaffen werden, die allerdings sehr theoretisch bleibt. In ihrem Papier für das EU-Project EUCD macht Julia Schuetze konkrete Vorschläge, wie die Initiative umgesetzt werden sollte, um wirksam und erfolgreich zu sein. Ein wichtiger Faktor ist dabei die Stärkung bereits existierender transatlantischer Kooperationen und die Einbindung von Vertreter:innen aus Zivilgesellschaft, Wirtschaft und Wissenschaft.
▬▬▬▬▬
Artificial Intelligence Needs Human Rights (Papier):
Die weltweite Verbreitung von KI-Technologien ist unweigerlich auch mit einer Reihe gesellschaftlicher Risiken verbunden: Geht es um die Frage, wie wir mit Gefahren durch KI-Anwendungen umgehen und welche Regeln notwendig sind, werden bis heute vor allem ethische Debatten geführt, die häufig durch die Sichtweise der USA geprägt sind und in denen Lösungsvorschläge vor allem den beteiligten Unternehmen selbst kommen. Kate Saslow und Philippe Lorenz plädieren in ihrem Papier dafür, die Wirkung von Ethik zum Schutz vor Gefahren und Eingriffen in die Grundrechte nicht zu überschätzen und stattdessen die Zulässigkeit von KI-Anwendungen daran festzumachen, ob sie mit der international anerkannten Menschenrechtskonvention vereinbar sind.  
▬▬▬▬▬

Am 30.09. & 01.10. lud die SNV und das Auswärtige Amt nationale und internationale Expert:innen für eine zweitätige Experten-Konferenz in die Villa Borsig ein, um gemeinsam unter dem Titel “Disinformation & Democracies: Rethinking Discourses in a Digital Structural Transformation of the Public Sphere” interdisziplinär die Herausforderungen der digitalen Öffentlichkeiten für unsere Demokratien zu diskutieren. Mit dabei waren u.a. Ulrik Haagerup (Constructive Institute), Melanie Amann (Der Spiegel), Jenny Sargent (FirstDraft), Martin Fuchs (Politikberater) uvm.

 

Woran wir uns nicht mehr erinnern

1874 – Der Hammelsprung im deutschen Bundestag ist eine althergebrachte, aber auch umständliche Methode, bei unklaren Verhältnissen für genauere Abstimmungen zu sorgen. In anderen Parlamenten, wie dem amerikanischen Repräsentantenhaus, gibt es stattdessen Wahlkarten, mit denen die Abgeordneten abstimmen können. Bereits 1874 war eine solche technische Lösung auch in Deutschland im Gespräch. Die "Ja" oder "Nein"-Knöpfe, die in die Tische des Reichstags eingelassen werden sollten (die Firma Siemens & Halske hätte sie sogar unverbindlich zum Test eingebaut), wurden aber abgelehnt, da diese als "unvereinbar mit der Würde des deutschen Reichstags erachtet wurde". In der Debatte darüber sagte der Zentrums-Politiker Ludwig Windthorst: "Ich bin überhaupt etwas ängstlich, die Telegraphie in den Reichstag hineinzubringen. Ich habe dagegen eine Aversion; es geht ohnehin in vielen Dingen schon rasch genug". Erinnert sich Johanna Famulok.