November 2019: Woran die Stiftung Neue Verantwortung aktuell arbeitet

Woran wir gerade arbeiten

Gegen Ende des Jahres möchte die Europäische Kommission einen Maßnahmenkatalog veröffentlichen, mit dessen Hilfe der Umgang der EU-Mitgliedsstaaten mit den verschiedenen 5G-Netzwerkausrüstern geregelt werden soll. Jan-Peter Kleinhans arbeitet derzeit an einem Papier, das Empfehlungen für diese "Toolbox" enthält. Er argumentiert dabei, dass nicht nur aus IT- oder nationaler Sicherheitsperspektive auf das Thema geschaut werden sollte, sondern zentrale industriepolitische und geopolitische Fragen geklärt werden müssen – vorausgesetzt, Europa möchte langfristig bei Telekommunikationstechnologien international noch eine Rolle spielen. 
▬▬▬▬▬
Sind wir gut darin, uns in digitalen Medien zu informieren? Oder fehlen uns die notwendigen Fähigkeiten und Kenntnisse, um beispielsweise Desinformation zu erkennen? Bisherige Studien weisen darauf hin, dass verschiedenen Altersgruppen verschiedene Fähigkeiten fehlen: Kinder haben beispielsweise große Schwierigkeiten, kommerzielle Inhalte von seriösen Nachrichten zu unterscheiden (Stanford), während besonders ältere Menschen anfällig für manipulative Falschinformationen sind (New York University) . Was müssen wir als Bürger:innen wissen, lernen und können, um uns souverän in digitalen Öffentlichkeiten zu bewegen? An diesen Fragen arbeiten ab sofort Dr. Anna-Katharina Meßmer und Alexander Sängerlaub.
▬▬▬▬▬
Die Ressourcen, Befugnisse und technischen Möglichkeiten für nachrichtendienstliche Überwachung sind in den letzten Jahren stets gewachsen. Die Flut der so erhobenen Daten steht durch die internationale Kooperation der Dienste auch vielen ausländischen Partnern zum Teil live zur Verfügung. Die Ausstattung der Kontrollgremien hingegen ist weder technisch, noch durch internationale Vernetzung mit diesen Entwicklungen mitgewachsen, sodass Kontrolleur:innen die Aufsicht zunehmend erschwert wird. Im Vorfeld weiterer Novellierungen des Nachrichtendienstrechts arbeiten Kilian Vieth und Thorsten Wetzling an einem Papier, das sich mit möglichen Innovation der Nachrichtendienstkontrolle befasst. Es wurde gemeinsam mit Mitarbeiter:innen verschiedener europäischer Aufsichtsgremien erarbeitet und enthält auch Vorschläge für effizientere und effektivere Datenschutzkontrollen. Es erscheint voraussichtlich im November.
▬▬▬▬▬
Im Umgang mit algorithmischen Entscheidungssystemen (ADM) wird oft gefordert, diese transparent und nachvollziehbar zu machen, etwa um Kontrolle zu ermöglichen oder das Vertrauen von Menschen in Algorithmen zu stärken. Warum es für die gesellschaftliche Akzeptanz von ADM zentral ist, sie denjenigen Personen verständlich zu machen, die von ihrem Einsatz betroffen sind, welche Schwierigkeiten dabei bestehen und was staatliche Stellen oder Unternehmen beachten sollten, die ADM in sensiblen Bereichen einsetzen, zeigt Leonie Beining in ihrem neuen Papier auf. Es erscheint Ende November.
 

Was wir gerade mit Interesse lesen

Dieser Report der Innovationsabteilung des UN-Flüchtlingskommissars zeigt einige der Möglichkeiten auf, wie Big Data, Data Science und Machine Learning helfen können, humanitäre Krisensituationen vorherzusehen und besser darauf  zu reagieren. Laut des Berichts können beispielsweise Stimmungsanalysen auf sozialen Medien helfen, in bestimmten Situationen die "Bereitschaft zur Flucht" einzuschätzen. Auch können Geodaten und Satellitenbilder ausgewertet werden, um Flüchtlingsbewegungen in Konfliktgebieten zu analysieren oder um Naturkatastrophen zu prognostizieren. Der Bericht ist ein gutes Beispiel dafür, welche humanitären Anwendungsmöglichkeiten für KI und Big Data existieren. Gelesen von Kate Saslow.
▬▬▬▬▬
Nicht nur bei der Social Media-Plattform Twitter beschäftigt man sich derzeit mit dem Umgang mit politischer Werbung. Auch Facebook steht immer wieder unter Beschuss, wie zuletzt in einer Anhörung des US-Kongresses. Die jüngsten Ankündigungen von Mark Zuckerberg waren allerdings wenig überzeugend. Dies zeigten die Reaktionen der eigenen Mitarbeiter:innen: In einem offenen Brief an Zuckerberg, den die New York Times abgedruckt hat, fordern hunderte von ihnen einen besseren Umgang des Unternehmens mit politischer Werbung. Die Facebook-Mitarbeiter:innen liefern auch Vorschläge, wie Regelungen aussehen könnten und fordern zum Beispiel eine bessere visuelle Unterscheidung politischer Werbung von anderen Inhalten, eine Einschränkung der Microtargetingmöglichkeiten in Bezug auf sensible Daten oder bessere Regeln für das Fact-Checking von Inhalten. Gelesen von Alexander Sängerlaub.
▬▬▬▬▬
Um die Bedeutung von Daten für die heutige Wirtschaft zu verdeutlichen, werden immer wieder Vergleiche herangezogen: Daten seien demnach wie Öl, CO2, Grundwasser oder eine Währung. Diese Vergleiche greifen aber zu kurz, weil sie jeweils nur bestimmte Eigenschaften von Daten betonen. In diesem Artikel zeigt Elettra Bieletti, Fellow am Berkman Klein Center for Internet and Society, warum das problematisch ist: Anders als im Handel mit Öl wird beim Geschäft mit persönlichen Daten die Würde der betroffenen Menschen berührt. Anstatt die Debatte um Daten durch solche Analogien als Handelsgut zu deuten, sollten wir darüber sprechen, wie Nutzer:innen mitentscheiden können, wenn es um die Erhebung und Nutzung ihrer Daten geht. Gelesen von Aline Blankertz. 
▬▬▬▬▬
In dieser Folge des amerikanischen Technologie-Podcasts "Reply All" geht es um das "Kapern" von Social Media Accounts. Interviewt wird eine Betroffene, deren Snapchat-Account von Angreifer:innen übernommen wurde. Diskutiert wird darüber, wer hinter den sogenannten 'Doxxing'- Angriffen steckt, warum diese für Betroffene so schwerwiegend sind und welche Möglichkeiten es gibt, sich zu wehren oder dem vorzubeugen. Gehört von Kilian Vieth.
▬▬▬▬▬
Bisher lag der Fokus in der Energiewende in Deutschland vor allem darauf, erneuerbare Energiequellen in das bestehende System zu integrieren. Diese Übersichtstudie der Reiner Lemoine Stiftung fasst zusammen, welche Hemmnisse sich aus dem bisherigen, konventionellen System für die Energiewende ergeben. Sie zeigt, dass der weitere Ausbau der Erneuerbaren nur gelingen kann, wenn eine Transformation des gesamten Energiesystems angestrebt wird. Neben dieser Analyse enthält die Studie auch wertvolle Hinweise darauf, an welchen Stellen sich Reformen des Energiesystems anbieten, damit die Energiewende weiter vollzogen und Klimaziele erreicht werden können. Gelesen von Céline Göhlich. 
▬▬▬▬▬
Vor wenigen Wochen machte Google Schlagzeilen, da das Unternehmen angab, einen Quantencomputer gebaut zu haben, mit dessen Rechenleistung selbst die heute existierenden Supercomputer nicht mithalten können. Extrem hohe Rechenleistungen werden unter anderem dafür benötigt, Fortschritte im Bereich der Künstlichen Intelligenz zu machen. Beginnt mit Googles Quantencomputern deshalb eine neue technologische Ära oder ist es vor allem ein PR-Erfolg? Dieser Podcast der BBC befragt dazu Hartmut Neven, Engineering Director von Google, und Scott Aaronson, Quantenforscher und Professor für Informatik an der University of Texas. Gehört von Philippe Lorenz. 
▬▬▬▬▬
Technologische Entwicklungen sind schnelllebig und ständigen Veränderungen unterworfen. Viele aktuelle gesellschaftliche Probleme, die mit der Digitalisierung verknüpft sind, sind aber nicht neu, sondern sind im Gegenteil seit Jahren dieselben. Dies zeigt das Interview der British Computer Society mit der 2007 verstorbenen Informatikerin Karen Spärck-Jones. Spärck-Jones hat mit ihrer Arbeit zur Sprachverarbeitung seit den 1970ern Grundlagenforschung geleistet, auf der auch heute noch Suchmaschinen und KI-Anwendungen basieren. In dem Gespräch benennt sie pointiert die Zusammenhänge zwischen Informatik und ethischen Abwägungen, die auch in den derzeitigen Debatten um den Einsatz von KI nicht an Gültigkeit verloren haben. Gelesen von Johanna Famulok.
▬▬▬▬▬
Nicht erst durch die Ankündigung des Twitter-Chefs Jack Dorsey, laut dem seine Plattform zukünftig keine politische Werbung mehr schalten wird, stellt sich die Frage danach, welche Regeln für Wahlwerbung auf sozialen Medien bereits gelten oder zukünftig gelten sollten. Gerade im Wahlkampf steht hier die Gefahr der Eingrenzung der Meinungsfreiheit oder gar Zensur den Gefahren von Desinformationskampagnen und Hass im Netz gegenüber. In seinem Artikel analysiert der US-amerikanische Juraprofessor Mark MacCarthy die Debatte um digitale Wahlwerbung, indem er die neuen Werbemöglichkeiten mit klassischer TV-Wahlwerbung vergleicht. Er fordert, dass verbindliche Regeln nötig sind, statt sich allein auf Maßnahmen der Unternehmen zu verlassen. Gelesen von Julian Jaursch.
▬▬▬▬▬
Das amerikanische Militär plant derzeit, KI in Bereichen der nachrichtendienstlichen Analyse, bei autonomen Fahrzeugen, in Waffen oder der Logistik einzusetzen. Damit verknüpft sind enorme Gefahren, denn KI-Anwendungen bergen auch ganz neue Möglichkeiten der Manipulation und Einflussnahme, wie dieser Artikel beschreibt. Das Ziel, besonders präzise, schlagkräftige und mächtige Technik einzusetzen, bedeutet derzeit vor allem, besonders viel Spielraum Angriffsszenarien zu bieten, deren Ausmaß schwer abzusehen ist. Gelesen von Thorsten Wetzling. 
▬▬▬▬▬
Wie die Sicherheit ihrer Telekommunikationsnetzwerke gewährleistet werden kann, ist gerade ein wichtiges Thema innerhalb der Europäischen Union. Bisher wurde dabei vor allem darüber diskutiert, ob chinesische Unternehmen wie Huawei und ZTE aus den Netzen ausgeschlossen werden sollen. Diese Risikoanalyse der NIS Cooperation, die innerhalb der EU an Fragen der Cybersicherheit arbeitet, zeigt, wie viele weitere Herausforderungen gelöst werden müssen, um unsere Netze abzusichern. Ein wichtiger Beitrag, um die Debatte produktiv voranzubringen. Gelesen von Jan-Peter Kleinhans.
▬▬▬▬▬
Die sogenannte "Attribution" oder Zurechnung eines Cyberangriffs ist schwierig und fehleranfällig. Dies zeigt erneut ein Bericht des britischen National Cyber Security Centres (NCSC) und des amerikanischen Auslandsgeheimdienstes NSA. Beschrieben wird ein Fall, bei dem es einer der iranischen Regierung nahestehenden Gruppe gelang, Spionageergebnisse anderer Staaten zu stehlen. Die iranischen Angreifer wurden dann wiederum von der russischen Gruppe "Turla" attackiert, sodass die Spionageergebnisse in russische Hände gerieten. Außerdem konnten auch die russischen Angreifer auf die durch die Iraner kompromittierten Systeme zugreifen und zusätzliche Schadsoftware installieren. Das Abgreifen von Dokumenten, die ein anderer Geheimdienst gestohlen hat, wurde bereits durch die Snowden-Veröffentlichungen als "Fourth Party Collection" bekannt. Gelesen von Sven Herpig.
▬▬▬▬▬
Ein Beratungsgremium der Europäischen Kommission hat im Juni politische Handlungsempfehlungen für einen ethischen Umgang mit KI veröffentlicht. Der britische Rechtswissenschaftler Michael Veale kritisiert in seinem Essay die als "Policy and Investment Recommendations for Trustworthy AI" vorgelegten Ergebnisse unter anderem dafür, dass KI undifferenziert als Lösung propagiert wird, ohne genau zu definieren, zur Bewältigung welcher Probleme sie sich tatsächlich anbietet und wo andere, nicht-technische Ansätze notwendig wären. Zudem kreidet er der Expert:innengruppe an, dass sie Ethik- und Technologieexpert:innen eine zu große Rolle beimisst, statt Menschen einzubeziehen, die Wissen und praktische Erfahrungen aus den Bereichen mitbringen, in denen KI eingesetzt werden soll. Gelesen von Leonie Beining.

Überblick: Aktuelle Veröffentlichungen und Medienbeiträge

Regulatorische Reaktionen auf Desinformation (Papier): Julian Jaursch zeigt in seinem Papier, welche regulatorischen Ansätze in Deutschland und der EU zum Umgang mit Desinformation bestehen und wie erfolgreich diese sind. Eines der Ergebnisse lautet, dass bisher kaum wirksame Maßnahmen existieren und ein koordiniertes Vorgehen gegen Desinformation fehlt. Statt vor allem auf das Löschen von Inhalten und auf die Selbstregulierung der Online-Plattformen zu setzen, sollten Gesetzgebende unter anderem die Aufsicht dieser Unternehmen stärken, Regeln zum Schutz der Privatsphäre durchsetzen und verbindliche Vorgaben für parteipolitische Kommunikation im Netz etablieren.
▬▬▬▬▬
Securing Artificial Intelligence (Papier): Warum die rasante Verbreitung von Maschinellem Lernen – einer Teildisziplin der KI – weitere Risiken für die öffentliche Sicherheit schafft und warum sich dies zu einem ernsthaften Problem von Industrie und Regierungen entwickeln könnte, zeigt Sven Herpig in diesem Papier. Die Analyse enthält auch einen Überblick über mögliche Angriffswege, die Nachrichtendienste oder kriminelle Gruppen ausnutzen könnten. Das Papier ist das Ergebnis einer internationalen Arbeitsgruppe von Machine-Learning-Entwickler:innen, IT-Sicherheitsforscher:innen und Politik-Expert:innen.
▬▬▬▬▬
Global Cyber Resilience: thematic and sectoral approaches (Papier): Dass die Gefahr durch Cyberangriffe nicht nur als technisches Problem verstanden wird, dafür plädiert Kate Saslow in diesem Papier. Um Infrastrukturen zu schützen und im Falle eines Angriffs handlungsfähig zu bleiben, sollte die EU solidarisch handeln und politische Faktoren in eine gesamtheitliche Cybersicherheitsstrategie einfließen lassen. Dabei muss die Resilienz im Cyberspace mitgedacht werden.
▬▬▬▬▬
Raus aus der Black Box. Algorithmen für alle verständlich machen – aber wie? (Veranstaltung): Transparenz und Nachvollziehbarkeit von Algorithmen werden immer häufiger gefordert – sei es, um Diskriminierung aufzudecken oder um Vertrauen in technische Systeme zu schaffen, die in zentralen Bereichen wie Gesundheit, Personalwesen oder Polizeiarbeit eingesetzt werden. Doch wie lässt sich Nachvollziehbarkeit von algorithmischen Systemen in der Praxis umsetzen? Was sind die Schwierigkeiten dabei und wie können technisch komplexe Zusammenhänge auch für Laien verständlich gemacht werden? In einem Hintergrundgespräch am 21. November 2019 um 18:30 Uhr diskutiert Leonie Beining mit Dr. Andreas Dewes über diese Fragen. Die Veranstaltung wird gemeinsam mit der Bertelsmann Stiftung ausgerichtet. Die Anmeldung ist über diesen Link möglich.
▬▬▬▬▬
Wie soziale Medien reguliert werden könnten – Ist Frankreich ein Vorbild? (Veranstaltung): Im Umgang mit Desinformation und Hetze im Netz gehen im europäischen Vergleich die Ideen einer französischen Regierungskommission besonders weit. Sie sehen unter anderem die Schaffung einer Aufsichtsbehörde für soziale Medien vor. Über die französischen Regulierungspläne und inwieweit diese auf Deutschland übertragbar sind, diskutiert Julian Jaursch am 27.11.2019 um 18:30 Uhr mit dem Informatiker Serge Abiteboul, der als Mitglied einer kleinen Expert:innengruppe den französischen Vorschlag mitentwickelt hat. Anmeldung zum Hintergrundgespräch ist über diesen Link möglich. 

Woran wir uns nicht mehr erinnern

262 v. Chr. – Im Oktober wurden die Uhren von Sommer- auf Winterzeit gestellt. Die meisten Geräte machen das heute automatisch, aber Zeitmessung war nicht immer so komfortabel und flexibel. Einer der ältesten Zeitmesser ist die Sonnenuhr, die im wahrsten Sinne des Wortes nicht verstellt werden kann: Eine Sonnenuhr, die im 3. Jahrhundert v. Chr. als Kriegsbeute in die Hände der Römer fiel, wurde von ihrem eigentlichen Standort abtransportiert und vor einem Tempel in Rom platziert. Dort zeigte sie rund 100 Jahre lang die falsche Zeit an, bis der Fehler jemandem auffiel und die Markierungen und Winkel für den Längengrad von Rom angepasst wurden. Erinnert sich Johanna Famulok.