Woran wir gerade arbeiten: Newsletter September 2020

Sep 22, 2020

An KI-basierte Systeme werden zunehmend Anforderungen gestellt wie etwa Transparenz, Nachvollziehbarkeit, Fairness, Zuverlässigkeit oder Datenschutz. Doch wie kann überprüft werden, ob die Technologie diese Anforderungen erfüllt? Im Rahmen des Projekts „ExamAI – KI Testing und Auditing“ wird die SNV  gemeinsam mit Fraunhofer IESE, dem Algorithm Accountability Lab der TU Kaiserslautern, dem Institut für Rechtsinformatik der Universität des Saarlandes und der Gesellschaft für Informatik untersuchen, wie sinnvolle Test- und Überprüfungsverfahren für KI in den Bereichen Industrieproduktion und Human Resources implementiert werden können. Leonie Beining nimmt ab diesem Monat die Arbeit im Projekt auf, um konkrete politische Handlungsempfehlungen zu identifizieren. Das Projekt wird gefördert durch das Bundesministerium für Arbeit und Soziales.
▬▬▬▬▬
Thorsten Wetzling und Kilian Vieth arbeiten derzeit an einem Index, der systematisch aufzeigt, welche zivilgesellschaftlichen Akteure die Nachrichtendienstkontrolle innerhalb Europas mitprägen und vorantreiben. Gerade wird dieser Intelligence Oversight Index entwickelt und getestet. Dafür haben die beiden zusammen mit einem Team aus dem Wissenschaftszentrum Berlin (WZB) Indikatoren erarbeitet, die nun mit Hilfe von Expert:innen-Befragungen in Deutschland, Frankreich und dem Vereinigten Königreich empirisch erhoben werden.
▬▬▬▬▬
Der Cyber-Veranstaltungskalender des Teams Internationale Cybersicherheitspolitik wurde aktualisiert. Der Kalender bietet einen Überblick über analoge und digitale Veranstaltungen der IT-Sicherheit und Cybersicherheitspolitik für 2020. Um die Veranstaltungen des Kalenders per iCalender direkt in den eigenen Kalender zu integrieren, kann nun dieser Link genutzt werden. Aufgrund einer internen technischen Umstellung muss dieser Vorgang auch dann wiederholt werden, wenn die Integration in den eigenen Kalender bereits in der Vergangenheit erfolgt ist. Der Cyber-Veranstaltungskalender listet Veranstaltungen aus dem Bereich der IT-Sicherheit und Cyber-Sicherheitspolitik in Deutschland und wird regelmäßig aktualisiert. Hinweise und Ergänzungsvorschläge nimmt Rebecca Beigel per E-Mail entgegen.

Was wir gerade mit Interesse lesen

Wenn Sicherheitsbehörden persönliche Daten nutzen möchten, herrschen eigentlich strenge Regeln. Zunehmend kaufen Sicherheitsbehörden jedoch Ortungsdaten von privaten Anbietern und umgehen damit die nötigen Kontroll- und Schutzmaßnahmen wie richterliche Genehmigungen oder Datenschutzkontrollen zur Überwachung von Individuen. Zuletzt bestätigte ein internes Dokument, wie sich der US-amerikanische Secret Service Zugang zu Ortungsdaten verschaffen konnte. Laut einem Vertrag ist die Behörde Kunde der Firma Babel Street. Mit dem von Babel Street erworbenen Tool Locate X konnten Ermittler:innen Ortungsdaten von Mobiltelefonen in einer Region sammeln und deren individuelle Bewegungsprofile auswerten. In diesem Artikel werden außerdem Vorschläge angekündigt, um diese Käufe zu regulieren und die entsprechenden Gesetzeslücken zu schließen. Gelesen von Kilian Vieth
▬▬▬▬▬
Die US-amerikanische Politik versucht vermehrt, Einfluss auf ihre Tech-Giganten zu nehmen und die Macht der Firmen im Silicon Valley zu kontrollieren. Ende Juli hat deshalb eine Anhörung des Kongresses zum Thema Kartellrecht stattgefunden. Die Führungskräfte von Apple, Facebook, Amazon und Google mussten auf die Fragen der Abgeordneten antworten. Ziel der Anhörungen ist es, passende Regulierung zu entwickeln, die die enorme Marktzentrierung der Big Tech-Firmen ins Visier nimmt. Diese Firmen bieten nicht nur Produkte, wie Instagram oder Youtube, die global dominant sind. Auch im Bereich der KI-Forschung und -Entwicklung sind sie tonangebend. Regulierung, die ihre derzeitige Macht eingrenzt, hätte also nicht nur Folgen für die US-amerikanische Wirtschaft und die dortigen Machtverhältnisse, sondern auch für die weltweiten Verflechtungen innerhalb des KI-Ökosystems. Gesehen von Kate Saslow
▬▬▬▬▬
Im militärischen Bereich nimmt Künstliche Intelligenz eine immer wichtigere Stellung ein. Dieser Artikel verdeutlicht, wie das chinesische Militär die Technologie nutzt und wie sich das innerhalb der letzten Jahre verändert hat. Während die USA die Technologien Künstlicher Intelligenz für autonome Waffensysteme nutzt, werden sie in China zur Informationsbeschaffung und -auswertung genutzt. Davon erhofft sich das chinesische Militär einen Wissensvorsprung, der beispielsweise in der strategischen Planung von Angriffen von hohem Nutzen sein kann. Die Komplexität dieser informationsorientierten Militärstrategie resultiert darin, dass andere Staaten, wie etwa die USA, diesen Vorsprung nur wiederum durch den Einsatz von KI abwenden können und somit ein neues Wettrüsten entfachen. Gelesen von Sven Herpig
▬▬▬▬▬
Wenn Nutzer:innen aus der EU Waren über US-amerikanische Plattformen kaufen, oder Social Media und große Cloud-Anbieter nutzen, werden ihre Daten mit den entsprechenden Firmen in den USA geteilt. Damit die personenbezogenen Daten selbst nach der Übermittlung von der EU in die USA noch einem hohen Schutzniveau unterliegen, verhandelten die beiden Mächte das EU-US-Datenschutzschild (Privacy Shield). Wie schon die vorherige Vereinbarung (Safe Harbor) wurde nun vom Europäischen Gerichtshof (EuGH) auch das Privacy Shield für ungültig erklärt. Dem Gericht nach genügen die US-Nachrichtendienstgesetze weder "dem im Unionsrecht geltenden Mindestanforderungen der Verhältnismäßigkeit, noch sind sie auf ein zwingend erforderliches Maß beschränkt". Dieser Blogbeitrag fasst die Situation aus selbstkritischer US-amerikanischer Perspektive zusammen und betont die gegenseitige Anerkennung von Grundrechten als Lösung des Problems. Gelesen von Thorsten Wetzling.
▬▬▬▬▬
Corona machte deutlich, dass es Desinformationen im großen Ausmaß auch im nicht-politischen Bereich gibt. Sie verbreiten sich zunehmend über Messenger wie WhatsApp und Telegram. In Deutschland waren es zwei Sprachnachrichten, die die Bundesregierung dazu bewegten, Gegenmaßnahmen einzuleiten. Das Papier Behind Closed Curtains von Ann Cathrin Riedel nimmt neben Deutschland auch Indien und Brasilien in den Blick und setzt sich mit der Bedeutung der Messenger auseinander. Dieses Thema wird zunehmend relevant, da auch auf Facebook immer mehr über Privatnachrichten und in geschlossenen Gruppen kommuniziert wird. Das erschwert es, gegen Desinformation vorzugehen und verstärkt bestimmte Mechanismen wie zum Beispiel Tribalismus: Oft werden Nachrichten nicht nur geteilt, um die enthaltenen Informationen zu streuen, sondern um eine Gruppenzugehörigkeit zu demonstrieren. Gelesen von Anna-Katharina Meßmer.

 

Überblick: Aktuelle Veröffentlichungen und Medienbeiträge

AI Governance through Political Fora and Standards Developing Organizations (Policy Brief): Das aktuelle Papier von Philippe Lorenz schafft einen Überblick über die aktuelle Landschaft der KI-Governance und stellt die relevanten Akteure und Gremien in der internationalen Debatte zu Ethik von Künstlicher Intelligenz vor. Neben politischen Foren wie den Vereinten Nationen, der EU-Kommission oder der Organisation für wirtschaftliche Zusammenarbeit und Entwicklung (OECD) nehmen hier auch internationale technische Normungsorganisationen eine wichtige Rolle ein. In einem Mapping illustriert Philippe Lorenz die Beziehung zwischen den verschiedenen Akteurskategorien und Gremien. 
▬▬▬▬▬
How Competition Impacts Data Privacy (Policy Brief): Wie wirkt sich Wettbewerb auf Datenschutz aus? In digitalen Märkten, die oft hochkonzentriert sind, kann Datenschutz einer der Bereiche sein, der unter Mangel an Wettbewerb leidet. Aline Blankertz analysiert in ihrem Papier sechs Mechanismen, und wie sich die unterschiedlichen Wettbewerbsszenarien auf den Datenschutz auswirken. Darüber hinaus beschreibt Blankertz, welche Erkenntnisse sich daraus für Wettbewerbsbehörden und Politik ergeben.
▬▬▬▬▬
Die "Unabhängigkeit" des Bundesamtes für Sicherheit in der Informationstechnik (Impuls): In seinem Papier diskutiert Sven Herpig die Eigenständigkeit des Bundesamts für Sicherheit in der Informationstechnik (BSI). Das BSI ist die wichtigste Behörde für IT- und Cybersicherheit in Deutschland. Das Amt kann seine Aufgaben jedoch nur dann richtig erfüllen, wenn es unabhängig agieren kann. Ob diese Voraussetzung zutrifft, ist fraglich, da das BSI innerhalb des Bundesinnenministerium (BMI) angesiedelt ist. Sven Herpig argumentiert, dass diese Struktur aus verschiedenen Gründen zur mangelnden Unabhängigkeit des BSI beiträgt und plädiert mit klaren Empfehlungen an die Bundesregierung für eine Reform.  
▬▬▬▬▬
Japan's Cybersecurity Policy: An Introduction (Impuls): In ihrem Papier analysiert Julia Schuetze die Cybersicherheitsarchitektur Japans. Seit 2015 hat sich Japans Cybersicherheit maßgeblich entwickelt, nicht zuletzt durch die Ausrichtung der Olympischen Spiele in Tokio. Während die gesetzlichen Instrumente grundlegend denen der EU und der USA ähneln, besticht der Fall Japan durch neue Ansätze bei der Ausbildung von Mitarbeiter:innen im Feld der Cybersicherheit. So setzt das Land beispielsweise auf ein Rotationssystem, das es Mitarbeiter:innen aus verschiedenen Ministerien erlaubt, in der Cybersicherheitsbehörde zu hospitieren. Das Papier liefert die Übersicht über japanische Maßnahmen wie diese, die auch als Best Practices in anderen Ländern Anwendung finden könnten. 
▬▬▬▬▬
Beitrag zur Konsultation der Europäischen Kommission zum European Democracy Action Plan: Die EU möchte mit dem Aktionsplan für Demokratie in Europa Regeln für politische Onlinewerbung finden, die die europäische Medienlandschaft stärken und mit den Herausforderungen von Desinformation umgehen. In den vergangenen Wochen bat die Europäische Kommission im Rahmen einer Konsultation um Kommentare zu diesem European Democracy Action Plan (EDAP). Julian Jaursch reichte Feedback ein und beteiligte sich an einem gemeinsamen Arbeitspapier diverser europäischer NGOs, das unter anderem konkrete Vorschläge zu verbesserter Transparenz von Onlinewerbung umfasst. 
▬▬▬▬▬
Beitrag zur Konsultation der Europäischen Kommission zum Digital Services Act: Der geplante Digital Services Act (DSA) könnte eine wichtige Etappe in der Regulierung des Internet darstellen. Die Europäische Kommission möchte mit dem Vorschlag die 20 Jahre alten Regeln für digitale Plattformen aktualisieren. Vorher bat sie dazu in einer öffentlichen Konsultation um Einschätzungen zu Themen wie Inhaltemoderation, Wettbewerb und Onlinewerbung. Aline Blankertz und Julian Jaursch haben die Fragen der Kommission beantwortet und die wichtigsten Punkte in einer Stellungnahme zusammengefasst.
▬▬▬▬▬
Im Hintergrundgespräch zur Kampagne #StopHateForProfit diskutierte Julian Jaursch mit Nandini Jammi, Co-Gründerin der Initiative „Sleeping Giants“, über die Wirksamkeit von Boykotten, um für Veränderungen bei Tech-Firmen zu sorgen. Den Facebook-Werbeboykott #StopHateForProfit hält sie für wichtig, um Aufmerksamkeit für die Problematik von Diskriminierung und Beleidigungen auf der Plattform zu schaffen. Darüber hinaus plädiert Jammi aber für klare Regel: „Boykotte haben keine Auswirkungen auf Firmen wie Google und Facebook. Das sind Firmen, die reguliert werden müssen.“ Die vollständige Aufzeichnung des Gesprächs, sowie die Downloadmöglichkeit von Video und mp3 finden Sie hier
▬▬▬▬▬
Mit der ehemaligen Chefökonomin der britischen Wettbewerbsbehörde und Mitglied der dortigen Expert:innenkommission zur Stärkung des digitalen Wettbewerbs, Amelia Fletcher, diskutierte Aline Blankertz in einem Hintergrundgespräch die Werkzeuge der britischen Wettbewerbspolitik. Darüber hinaus wurde thematisiert, inwiefern diese Instrumente und Befugnisse für die EU-Kommission die richtigen sind, um Wettbewerb und Innovation auf dem digitalen Binnenmarkt bestmöglich zu stärken. Das Gespräch in voller Länge sowie die Möglichkeit des Downloads von Video und Audio gibt es hier.
▬▬▬▬▬
Zunehmend greifen Investigativjournalist:innen in Russland und anderen autokratisch regierten Ländern auf geleakte Datenbanken zurück, um Regierung und mächtige Personen zur Verantwortung zu ziehen. Im Hintergrundgespräch mit Charlotte Dietrich erklärte der russische Journalist Roman Dobrokhotov, wie er mit solchen geleakten Datenbanken arbeitet und warum er, trotz der Gefahren, die sein Job mit sich bringt, weitermacht: Das Video finden Sie auf unserer Webseite
 

Technologische Erinnerungen

1900 - Die Angst, mal nicht erreichbar zu sein und eine Nachricht zu verpassen ist kein Phänomen des Smartphone-Zeitalters. Bereits gute zwanzig Jahre nach der Erfindung des Telefons wurde deshalb auf der internationalen Weltausstellung in Paris einer der ersten Anrufbeantworter vorgestellt, der verpasste Anrufe aufzeichnete. In einem Bericht der London Times dazu wird als Bandansage vorgeschlagen: „Herr ___ ist außer Haus. Das Telefon ist mit einem Telefonografen ausgestattet, welcher automatisch jede Nachricht aufzeichnet, die Sie senden und die Herr ___ bei seiner Rückkehr abhören wird“. Gefunden von Johanna Famulok.


Klicken Sie hier, um alle E-Mails der SNV abzubestellen. Bitte schreiben Sie mir ein kurze Email, wenn Sie nur den Newsletter abbestellen wollen.

Kontakt:
Johanna Famulok

jfamulok@stiftung-nv.de
Beisheim Center
Berliner Freiheit 2
D-10785 Berlin

T. +49(0)30 81 45 03 78 87
F. +49(0)30 81 45 03 78 97