Oktober 2018: Woran die Stiftung Neue Verantwortung aktuell arbeitet

Oktober 2018: Woran die Stiftung Neue Verantwortung aktuell arbeitet

24. Oktober 2018

Woran wir gerade arbeiten

Trotz vieler kontroverser Debatten seit den Enthüllungen Edward Snowdens erlauben Demokratien ihren Nachrichtendiensten weiterhin die massenhafte Kommunikationsüberwachung. Wie auch unlängst der Europäische Gerichtshof in Straßburg betont hat, ist diese Praxis aber nur zulässig, wenn sie einer rigorosen demokratischen Kontrolle unterliegt. Im Rahmen einer umfangreichen Studie haben Thorsten Wetzling und Kilian Vieth in 13 Ländern untersucht, wie die Staaten diese Kommunikationsüberwachung gesetzlich regeln und welche Kontrollmechanismen eingesetzt werden. Das Kompendium erscheint Anfang November.
▬▬▬▬▬
In der internationalen Handelspolitik spielt Künstliche Intelligenz eine zunehmend wichtige Rolle und wird so selbst zum Wettbewerbsfaktor. Sollten KI-Unternehmen deshalb sogar vor strategischen ausländischen Direktinvestitionen (FDI) geschützt werden? Zu diesem Thema erarbeiten Kate Saslow und Philippe Lorenz derzeit ein Papier, das voraussichtlich Ende November erscheinen wird.
▬▬▬▬▬
Eine neue einberufene Enquete-Kommission des deutschen Bundestages hat ihre Arbeit aufgenommen und wird sich bis zum Ende der Legislatur mit den wirtschaftlichen, sozialen, ökologischen und gesellschaftlichen Fragen von Künstlicher Intelligenz befassen. Stefan Heumann wird als Sachverständiger die Arbeit der Kommission unterstützen.
▬▬▬▬▬
In Deutschland entwickelt sich eine immer größere Landschaft zivilgesellschaftlicher Organisationen, die sich im Bereich der Digitalisierung engagieren. Anna Wohlfarth arbeitet derzeit an einer Studie, die einen Überblick über die vielen gemeinnützigen Organisationen ermöglicht, die in Themenbereichen wie dem Zugang zu Technik und digitaler Infrastruktur, dem Schutz der Persönlichkeit im digitalen Raum oder der digitalen Bildung arbeiten.
▬▬▬▬▬
Gemeinsam mit einem Team von Wissenschaftler:innen des King’s College London, der Université de Lyon III, der Sciences Po Paris und des Wissenschaftszentrums Berlin werden Thorsten Wetzling und Kilian Vieth in den kommenden drei Jahren im Rahmen des DFG-geförderten Projekts “Oversight and Intelligence Networks: Who Guards the Guardians?” ihre Analysen zur internationalen Nachrichtendienstkooperation vertiefen. Dafür ist unter anderem ein Index geplant, der vergleichend über die Qualität der Nachrichtendienstkontrolle informieren soll.
▬▬▬▬▬

Was wir gerade mit Interesse lesen

“The present crisis of Western democracy is a crisis of journalism” schrieb Walter Lippmann, amerikanischer Journalist und Medientheoretiker, in seinem 1920 erschienen Buch "Liberty and the News". Seine damalige Medienkritik ist heute im Zeitalter polarisierter Medien-Outlets und Desinformation aktuell wie nie, wie dieser Artikel eindrücklich aufzeigt. Gelesen von Alexander Sängerlaub
▬▬▬▬▬
In einem Podcast von Lawfare spricht Jim Baker, ehemaliger FBI General Counsel, darüber, wie die Vereinigten Staaten in der Künstlichen Intelligenz weltweit führend geworden sind. Außerdem wird die zunehmende Konkurrenz zwischen den USA und China im Wettlauf um die KI-Vorherrschaft behandelt und auch, wie diese Technologie in der gegenseitigen Spionage eingesetzt wird. Gehört von Kate Saslow.
▬▬▬▬▬
Die Diskussion um die Diskriminierung von Menschen durch automatisierte Entscheidungssysteme ist in vollem Gange. Allerdings wird immer deutlicher, dass die Überprüfung und Kontrolle solcher Systeme schwierig ist. Ein Problem besteht in der Frage, welche der vielen verschiedenen Definitionen von “Gleichbehandlung” IT-Systeme umsetzen sollen, wenn es um Gruppen von Menschen geht. Mit diesen Fragen beschäftigen sich Bernhard Waltl (BMW Group) und Matthias Grabmair (Carnegie Mellon University). Das dazugehörige Gutachten wird am 31. Oktober vom Sachverständigenrat für Verbraucherfragen veröffentlicht. Gespannt erwartet von Nicola Jentzsch.
▬▬▬▬▬
Cyberangriffe zielen oft darauf ab, das Vertrauen in Institutionen zu schwächen. Deshalb ist es wichtig, die Gesellschaft durch vertrauensbildende Maßnahmen im Falle solcher Angriffe widerstandsfähig zu machen, damit Hacks oder Leaks nicht das Potential entwickeln, die öffentliche Ordnung zu gefährden. Das ist unter Sicherheitsexpert:innen bereits seit längerem als ein wichtiger Baustein in der Cybersicherheit anerkannt. Der Aufsatz von Guillaume Lasconjarias beschreibt das Thema der Resilienz treffend und ist in seiner Analyse noch immer aktuell. Gelesen von Julia Schuetze.
▬▬▬▬▬
In einem Interview äußert sich der chinesische Investor und Experte für Künstliche Intelligenz Kai-Fu Lee skeptisch gegenüber nationalistisch geprägten Ansätzen zur Erforschung von KI. Seit den Anfängen dieser Disziplin, betont er, sei die Entwickler-Community stets international und offen gewesen. Er glaubt, Europa werde amerikanische KI-Technologie auch zukünftig anwenden (von entwickeln ist keine Rede), während Chinas Einfluss im südostasiatischen und afrikanischen Raum sowie im Nahen Osten durch Technologiepartnerschaften mit lokalen Anbietern steigen werde. Gelesen von Philippe Lorenz.
▬▬▬▬▬
Viele Ansätze des Maschinellen Lernens beruhen auf großen Datensätzen. Zentralisierte Datenbanken sind allerdings aus Datenschutz- und Datensicherheitsaspekten problematisch. Bei dezentralisierten KI-Ansätzen lernen die Algorithmen direkt in unterschiedlichen Datenbanken (dezentral) und nur die Ergebnisse des Lernens werden zusammengeführt. In einem Blogbeitrag erklärt Jesus Rodriguez diese Form von KI und warum sie für die Zukunft dieser Technologie wichtig sein werde. Gelesen von Stefan Heumann.
▬▬▬▬▬
In seinem neuen Buch „21 Lessons for the 21st Century“ zeigt der Historiker Yuval Harari auf, in welcher Weise viele unsere größten gegenwärtigen Krisen mit der technologischen Entwicklung zusammenhängen, andererseits viele der derzeit zu beobachtenden Probleme auch wieder ganz unabhängig davon sind. Die beiden Lehren Hararis: Nicht unsere Systeme, sondern in erster Linie unseren Geist müssen wir fit machen fürs Zeitalter der Künstlichen Intelligenz. Und wir müssen der bestehenden Konzentration von Datenmacht politisch entgegenarbeiten. Seine Thesen sind auch in Kurzform im Magazin The Atlantic erschienen. Gelesen von Tobias Knobloch und Anna Wohlfarth.
▬▬▬▬▬
Cyber-Angriffe stellen für Unternehmen und für Staaten ein hohes Risiko dar. Während in Deutschland noch darüber diskutiert wird, wie der Staat auf Angriffe reagieren kann, hat sich das US-amerikanische Verteidigungsministerium bereits öffentlich zu einem offensiveren Vorgehen im Umgang mit Bedrohungen im Cyberraum bekannt. Sie möchten zukünftig nicht mehr nur passiv auf Angriffe reagieren, in dem sie sich vor ihnen schützen, sondern schließen nun explizit Gegenangriffe als Möglichkeit nicht aus. Gelesen von Sven Herpig.
▬▬▬▬▬

Überblick: Aktuell veröffentlichte Papiere und kommende Veranstaltungen

Erfolgsmessung von KI-Strategien – Mit Indikatoren und Benchmarks die Umsetzung der Strategie erfolgreich steuern (Papier): Gemeinsam mit Nicolas Zahn argumentiert Stefan Heumann dafür, wie wichtig konkret formulierte Zielsetzungen sind, um als Nation im Bereich der Künstlichen Intelligenz anschlussfähig zu bleiben. Das Papier vergleicht dabei verschiedene Methoden, die bei der Formulierung und Umsetzung von Benchmarks verwendet werden. Das Papier ist auf deutsch verfügbar, eine englische Version ist für Oktober geplant.
▬▬▬▬▬
Der Schutz von Wahlen in vernetzten Gesellschaften (Papier): Demokratische Wahlen können auf viele verschiedene Arten digital angegriffen werden: Öffentliche Webseiten mit Wahlinformationen werden gezielt ausgeschaltet, Wahl-Register manipuliert, Wahlkampf-Zentralen ausgespäht oder schädliche Informationen gezielt geleakt. Sven Herpig und Julia Schuetze haben einen umfassenden Überblick darüber erarbeitet, mit welchen Taktiken Angreifer:innen vorgehen, auf welche Daten sie es absehen und welchen Beitrag Behörden und Parteien leisten können, um die Sicherheit von Wahlen zu erhöhen.
▬▬▬▬▬
Transkript: Einsatz von Predictive Policing Software in Deutschland: Tobias Knobloch hat mit Joachim Eschemann ein Hintergrundgespräch zu Vorausschauender Polizeiarbeit in Deutschland geführt. Eschemann war als Referatsleiter in Nordrhein-Westfalen für die Entwicklung des Predictive-Policing-Systems SKALA verantwortlich.
▬▬▬▬▬

Woran wir uns nicht mehr erinnern

1927 – Vor wenigen Wochen wurde der Nobelpreis für Physik verliehen (erst zum dritten Mal ist eine Frau unter den Preisträger:innen, zuletzt wurde eine Frau vor 55 Jahren mit dem Nobelpreis für Physik ausgezeichnet). Im Jahr 1927 erhielt der amerikanische Forscher Arthur Holly Compton die Medaille für die Entdeckung des nach ihm benannten “Compton-Effekt”. Dieser ermöglicht, die Änderung der Wellenlänge von Photonen beim Auftreffen auf Elektronen zu messen und vorherzusagen. Diese “Compton-Streuung” findet heute zum Beispiel in den Ganzkörperscannern Verwendung, die an vielen Flughäfen eingesetzt werden. Erinnert sich Johanna Famulok.