Woran wir gerade arbeiten: Newsletter April 2021

Woran wir gerade arbeiten

In Deutschland werden seit einigen Jahren Maßnahmen zur Plattformregulierung erprobt. Ende 2020 hat auch die Europäische Kommission einen Gesetzesentwurf vorgelegt: das Digitale-Dienste-Gesetz (Digital Services Act, DSA). Viele Punkte zur Plattformregulierung bleiben allerdings offen. Eine entscheidende Frage lautet: Wie soll sichergestellt werden, dass Plattformen die Regeln des EU-Vorstoßes einhalten? Julian Jaursch untersucht aktuell die vorgeschlagene Aufsichtsstruktur auch vor dem Hintergrund deutscher Regelungen und trägt Ideen für eine EU-Aufsichtsagentur zusammen. Sein Papier soll im Mai veröffentlicht werden. 
▬▬▬▬▬
Rebecca Beigel und Julia Schuetze haben sich in den letzten Monaten näher mit dem Instrument der sogenannten Cybersicherheits-Übungen auseinandergesetzt. Solche Übungen werden beispielsweise angewendet, um Policies im Bereich Cybersicherheit zu testen oder zu evaluieren. In einem Überblickspapier, welches diese Woche erscheint, beschäftigen die beiden sich konkret damit, wie verschiedene Cybersicherheits-Übungen in der Policy-Arbeit angewendet werden können.
▬▬▬▬▬
Philippe Lorenz und Kate Saslow beschäftigen sich aktuell mit Fragen der Patentierung von Technologien der Künstlichen Intelligenz (KI) und ihren geopolitischen Auswirkungen. Wie werden KI-Systeme derzeit weltweit patentiert beziehungsweise geschützt? Und welche Auswirkungen haben diese auf den globalen Wettbewerb? Das sind einige der zentralen Fragen, mit denen sich beide dieses Jahr beschäftigen.
▬▬▬▬▬
Unser Team im Bereich Digitale Grundrechte, Überwachung und Demokratie ist gerade beratend in mehreren wichtigen Prozessen bei internationalen Organisationen involviert. Die OECD möchte beispielsweise besser verstehen, welche Regeln und Normen in ihren Mitgliedstaaten gelten, wenn es um den Zugriff auf und die Verarbeitung von personenbezogenen Daten geht, die Firmen oder andere private Akteure erheben. Thorsten Wetzling wurde dafür als Berater eingeladen. Er soll analysieren, was die OECD-Mitgliedstaaten in Sachen Kontrolle, Transparenz oder Schutz von Grundrechten schon heute verbindet.
 

Was wir gerade mit Interesse lesen

Künstliche Intelligenz (KI) entwickelt sich in rasantem Tempo. Daher wird es zunehmend schwierig, die Vielzahl an Trends und Veränderungen zu beobachten und zu verstehen. Dieser Report gibt Hilfestellungen, um KI-Fortschritt zu messen. Angefangen bei der Definition von “KI”, über die Diskussion über unterschiedliche technische Benchmarks bis hin zur Quantifizierung von AI-getriebener Wertschöpfung diskutieren die Autor:innen zentrale Probleme der Forschung in diesem Bereich. Gelesen von Pegah Maham.
▬▬▬▬▬
Das Wissen, inwiefern die großen digitalen Plattformen unsere Wirtschaft, Gesellschaft und Kultur verändern, gilt als wichtige Grundlage für eine angemessene Regulierung. Dieser Artikel von Issie Lapowsky beschreibt, vor welchen Herausforderungen Wissenschaftler:innen jedoch bei der Untersuchung ebenjener Plattformen stehen. In dem Artikel geht es unter anderem um ein Forschungsprojekt, das untersucht, welche politische Werbung bei Facebook auf welche Zielgruppe zugeschnitten ist. Dafür nutzten die Forscher:innen "Data Scraping” – eine Methode, mit der sich automatisiert durch massenhaftes Abrufen öffentlich einsehbare Daten erheben lassen. Facebook und andere Plattformen halten diese Praxis für illegal, wodurch die Forscher:innen riskierten, verklagt zu werden. Doch wie soll die Politik Regeln für Plattformen entwickeln, wenn freie Forschung z.B. zu Targeting verboten wird? Eine Frage, die sich auch bei einem der umfangreichsten Regulierungsvorhaben der EU stellt – dem Digital Services Act (DSA) und dem Digital Markets Act (DMA). Gelesen von Aline Blankertz.
▬▬▬▬▬
Die großen Tech-Firmen standen bereits häufig in der Kritik, sich ethischen Prinzipien zu entziehen und Menschenrechte zu verletzen. Der Mangel an Verantwortung auf Unternehmensseite hat sich als konstante Herausforderung erwiesen – besonders im Rahmen der Nutzung von KI. Die Nutzung von KI und maschinellem Lernen bei der Inhaltemoderation sowie die dort getroffenen Entscheidungen stehen oft in Kontrast zur freien Meinungsäußerung und anderen Grundrechten. Vor diesem Hintergrund ist eine kritische Auseinandersetzung mit der kürzlich von Facebook veröffentlichten Mitteilung und dem Bekenntnis zu Menschenrechten unerlässlich. Es ist beachtlich, dass hier proaktiv eine Selbstverpflichtung zu Menschenrechten stattfindet. Nichtsdestotrotz bedarf es genauer Beobachtung. Gelesen von Kate Saslow.
 

Überblick: Aktuelle Veröffentlichungen und Medienbeiträge

Deutschlands staatliche Cybersicherheitsarchitektur (Impuls, 6. Auflage, deutsch und englisch): Unsere Publikation zur deutschen und europäischen Cybersicherheitsarchitektur wird regelmäßig aktualisiert. Kürzlich erschien das Update von Rebecca Beigel, Christina Rupp und Sven Herpig. Im Rahmen der sechsten Auflage ist erstmals eine englische Übersetzung verfügbar. Darüber hinaus wurde die neue Auflage um die deutsche Kommunalebene und die NATO-Ebene ergänzt.
▬▬▬▬▬
The lack of semiconductor manufacturing in Europe (Policy Brief, englisch): Europa ist schon seit vielen Jahren weit abgeschlagen, was die Fertigung moderner Logik-Chips angeht. Der “2030 Digital Compass”, ein 10-Jahresplan der EU Kommission, sieht nun vor, eine Aufholjagd zu starten und mehrere Milliarden Euro in eine europäische Chip-Fertigung zu investieren. Dabei handelt es sich allerdings nicht um ein erfolgversprechendes Investment. Jan-Peter Kleinhans argumentiert, dass das Geld besser zum Ausbau der europäischen Chip Design-Kapazitäten genutzt werden sollte.
▬▬▬▬▬
„Quelle: Internet“? Digitale Nachrichten- und Informationskompetenzen der deutschen Bevölkerung im Test (Studie, deutsch): Wie gut sind die Deutschen mit Nachrichten im Netz? Dieser Frage sind Anna-Katharina Meßmer, Alexander Sängerlaub und Leonie Schulz nachgegangen. Mit über 4.000 Befragten haben sie weltweit erstmals Daten erhoben, die die Fähigkeiten einer gesamten Bevölkerung in der digitalen Nachrichtenkompetenz erfassen. Die Ergebnisse zeigen, dass sich viele mit Falschinformationen in den sozialen Netzwerken oder der Unterscheidung zwischen Desinformation, Information, Werbung und Meinung sehr schwertun. Insgesamt schneiden die Befragten in fast allen Kompetenz-Bereichen überwiegend mittelmäßig bis schlecht ab. Es fehlt oft an ganz konkreten Kenntnissen und Fähigkeiten. Auf der-newstest.de können Sie sich selbst testen.
▬▬▬▬▬
Scheinlösung Digitalministerium (Impuls, deutsch): Unser Mitglied des Vorstands, Dr. Stefan Heumann, hat in seinem Impulspapier beschrieben, welche tiefgreifenden Reformen von Regierung und Verwaltung für eine erfolgreiche Digitalpolitik nötig sind. Regierung und Verwaltung müssen sich dabei vor allem auf drei Reformbereiche konzentrieren: Aufbau und Entwicklung von Expertise, Öffnung für Austausch und Kollaboration, sowie Vereinfachung der Governance. Im Handelsblatt und der Wirtschaftswoche gibt es Analysen zu den Forderungen. 
▬▬▬▬▬
Who watches the watchmen? In Kooperation mit der Heinrich-Böll-Stiftung haben wir ein neues Online-Tool entwickelt, das internationale Beispiele für bessere Aufsichts- und Kontrollmechanismen über Geheimdienste sammelt. Auf intelligence-oversight.org können Benutzer:innen die Datenbank zu Beiträgen aus bestimmten Ländern oder im Kontext einer bestimmten Phase im Zyklus der Geheimdienstaufsicht suchen. Darüber hinaus besticht die Webseite auch durch ein interaktives Element. Interessierte können Ihre Praxisbeispiele über den “Suggest Good Practice-Button” einreichen und das Wissen über Geheimdienstkontrolle mit der Community teilen. Netzpolitik.org berichtete über das Projekt.

Technologische Erinnerungen

1971 entwickelt der britische Kybernetiker Stafford Beer das “Projekt Cybersyn” für den chilenischen Präsidenten Allende. Das Ziel von Cybersyn war es, die gesamte Wirtschaft des sozialistischen Staates zu steuern: Mithilfe von 400 Fernschreibern, die in die Fabriken des Landes verteilt wurden, sollten sieben Personen im zentralen, futuristisch gestalteten Transaktionsraum in Santiago Prognosen erstellen und Anpassungen vornehmen. Das Projekt war geheim und wurde nie ganz fertiggestellt. Seinen Spitznamen “sozialistisches Internet” erhielt es, weil die Fernschreiber bei einer Straßenblockade 1972 genutzt werden konnten, um Kapazitäten und Routen zu kommunizieren, und so die Lebensmittelversorgung in die Hauptstadt zu gewährleisten. Mit dem Sturz der Allende-Regierung fand auch das Projekt Cybersyn 1973 sein Ende. Gefunden von Johanna Famulok.