Woran wir gerade arbeiten: Newsletter Januar 2020

Digitalisierung wäre ohne Halbleiter unmöglich. In Form von Prozessoren, Speicher-, Mobilfunk- oder WLAN-Chips sind sie in Handys, Fabriken oder in Verkehrsleitsystemen unverzichtbarer Bestandteil unserer Gesellschaft und Infrastrukturen. Sie werden in global verteilten, extrem arbeitsteiligen Produktionsketten hergestellt. Bestimmte Länder, allen voran USA, Südkorea, Japan, Europa und Taiwan haben in bestimmten Chiptechnologien oder Fertigungsschritten Vormachtstellungen, was ihnen auch politisches Gewicht verschafft. In einem neuen Projekt untersucht Jan-Peter Kleinhans diese Lieferketten, um Abhängigkeiten und daraus entstehende geopolitische Machtverhältnisse besser zu verstehen. Dafür sucht er eine:n Projektmanager:in, die Stellenausschreibung gibt es hier.
▬▬▬▬▬
Das Team der Stiftung Neue Verantwortung ist mittlerweile auf 20 Expert:innen gewachsen, die zu verschiedenen Tech- und Politik-Themen arbeiten. Eines unserer Ziele ist es, dass unsere Studien, Analysen und Ideen möglichst vielen Personen in Gesellschaft, Politik, Wirtschaft und Wissenschaft zur Verfügung stehen und von Ihnen genutzt werden können. Dies erfordert intensive Kommunikationsarbeit, für die wir nun Verstärkung suchen. Der Fokus der Stelle liegt auf der Presse- und Öffentlichkeitsarbeit, der Entwicklung und Durchführung von Veranstaltungen, dem Community-Management und der Social-Media-Arbeit. Detaillierte Infos und den Link zur Bewerbung gibt es hier. 
▬▬▬▬▬
In unserem Europäischen Netzwerk Nachrichtendienstkontrolle (EION) bringen wir Vertreter:innen von Nachrichtendienst-Aufsichtsgremien aus neun Ländern mit internationalen Expert:innen aus der Zivilgesellschaft und der Wirtschaft zusammen. Ziel ist es, den Austausch über aktuelle Herausforderungen bei der Kontrolle von Sicherheitsbehörden zu fördern. Ein Beispiel, das uns bei EION derzeit beschäftigt, ist die Frage, wie der Grundrechtsschutz in Europa besser abgestimmt werden kann, damit die Kontrolle auch dann wirksam bleibt, wenn nachrichtendienstliche Überwachung nationale Grenzen überschreitet. Um unsere Arbeit in diesem Bereich zu stärken, suchen wir eine:n Projektmanager:in, die Stellenausschreibung findet sich hier.
▬▬▬▬▬
Die wirtschaftliche Nutzbarkeit von Daten wird heute oftmals im direkten Gegensatz zu dem Schutz der Privatsphäre gesehen. Ein möglicher Ansatz, um beides miteinander zu verbinden, sind Treuhänder, an die Nutzer:innen ihre Datenrechte delegieren können. Die Datentreuhänder vertreten dann gegenüber Firmen die Interessen ihrer Nutzer:innen, verhindern ungewollte Datennutzung und ermöglichen gewünschte Datennutzung. Das Konzept ist vielversprechend, doch bisher gibt es kaum praktische Erfahrungswerte. In ihrem aktuellen Papier stellt Aline Blankertz mögliche Ausgestaltungsformen von Datentreuhändern vor und skizziert, welchen Mindestanforderungen sie in der Umsetzung genügen sollen. Das Papier erscheint im Februar.
▬▬▬▬▬
Versteckte Kündigungs-Buttons, schwer zu verändernde Datenschutz-Einstellungen oder Warnhinweise, die Kund:innen beim Einkauf unter Zeitdruck setzen: Bei Apps oder Websites kommen immer häufiger Design-Techniken zum Einsatz, die Menschen in ihren Entscheidungen einschränken oder beeinflussen. Schwere Formen solcher „Dark Patterns“ stellen nicht nur für den Datenschutz, sondern zunehmend auch für den Verbraucher:innenschutz, den Jugendschutz sowie den wirtschaftlichen Wettbewerb eine Herausforderung dar. Sebastian Rieger arbeitet derzeit an einem Vorschlag, wie politisch auf diese Entwicklung reagiert werden kann. Sein Papier wird im Februar veröffentlicht.
▬▬▬▬▬
Auf der ganzen Welt arbeiten Staaten an einem politischen Rahmen für den Einsatz Künstlicher Intelligenz. In der Europäischen Union möchte man vor allem die Entwicklung vertrauenswürdiger, am Gemeinwohl ausgerichteter Künstlicher Intelligenz fördern, auch durch entsprechende Regulierung. In einem neuen Papier argumentieren Leonie Beining, Peter Bihr und Stefan Heumann, dass es Europa ohne Einbeziehung der Zivilgesellschaft nicht gelingen wird, einen solchen “europäischen Weg” für KI zu entwickeln. Für Maßnahmen, die auch langfristig gesamtgesellschaftliche Interessen im Blick behalten, brauchen die EU-Staaten ein zivilgesellschaftliches Ökosystem, das sie dabei unterstützt. Das Papier analysiert den Status quo des europäischen “AI & Society Ecosystem” und seine Entwicklungspotentiale. Es erscheint voraussichtlich Ende Februar.
▬▬▬▬▬
Die Klimakrise erhöht den Druck auf den Energiesektor, Effizienz zu steigern und den CO2-Ausstoß zu verringern. Doch trotz des Drucks vollzieht sich die Energiewende nur schleppend. Zu sehr ist die Energiewirtschaft geprägt von tief verwurzelten Annahmen und Denkmustern, die dem Wandel entgegenstehen. Gemeinsam mit einer intersektoralen Gruppe an Expert:innen und Projektpartnern haben sich Céline Göhlich und Fabian Reetz in den letzten Monaten der Frage gewidmet, welche Denkmuster das sind, wie sie identifiziert werden können und was an ihre Stelle treten sollte, um die Energiewende zu beschleunigen. Ihr Papier wird Ende Februar erscheinen.

Was wir gerade mit Interesse lesen

In diesem Artikel setzt sich David Karpf, Professor an der George Washington University, mit der Frage auseinander, welchen Einfluss selbst großangelegte Desinformationskampagnen auf die öffentliche Meinungsbildung und die Demokratie haben. Er kommt dabei anhand verschiedener Beispiele zu dem Schluss, dass indirekte Effekte meist sehr viel stärker wirken, als dass eine direkte Beeinflussung der Bürger:innen nachweisbar wäre. Ein solcher indirekter Effekt ist der Vertrauensverlust in die politischen Organe oder Prozesse. Gleichzeitig erwächst der Eindruck, dass es übermächtige "Digitalzauber:innen" gibt, die die Öffentlichkeit mit einem Zaubertrick verführen und politisch beeinflussen könnten. Der Artikel bietet eine interessante Perspektive auf den Themenkomplex Desinformation und fordert dazu auf, Gegenmaßnahmen immer zu hinterfragen: Reagieren sie auf einen Hype oder behandeln sie die tatsächlichen Herausforderungen der digitalen Öffentlichkeit? Gelesen von Julian Jaursch.
▬▬▬▬▬
Geschäfte müssen ihre Kund:innen beim Kauf von Smartphones nicht darauf hinweisen, wenn die Software des Geräts so alt ist, dass es keine Sicherheitsupdates mehr bekommt. Das hat das Oberlandesgericht in Köln entschieden, wie dieser Artikel berichtet. So ist bereits ab Kauf der Zugriff auf intime Teile des Privatlebens der Nutzer:innen möglich, weil Sicherheitslücken ausgenutzt werden können und so Sensoren, Fotos, Bewegungsdaten oder ähnlich sensible Informationen von Angreifern ausgewertet werden können. Das ist als fatales Signal zu werten, weil es bedeutet, dass für die sichere Nutzung von Endgeräten nicht die Hersteller, Industrie oder der Staat verantwortlich gemacht werden, sondern die Verbraucher:innen. Gelesen von Sven Herpig.
▬▬▬▬▬
Die Anschläge rechtsextremer und rassistischer Täter in Halle, Christchurch und El Paso haben gezeigt, dass rechtsradikale Bewegungen heute grundlegend anders funktionieren und organisiert sind, als es ideologisch verwandte Gruppen in der Vergangenheit waren: Statt durch eine strenge Hierarchie und klare Mitgliederverhältnisse definiert sich die Zugehörigkeit etwa zur internationalen "Alt-Right" sehr viel loser und vor allem: fast ausschließlich online. Diese Studie von Bharath Ganesh, Forscher an der Universität Groningen, zeigt, wie wichtig diese Dimension der Memes und Trollkultur ist. Wenn wir den Online-Charakter und die daraus erwachsende internationale Vernetzung und Bezugnahme rechtsradikaler Politik und der "Alt-Right" weiterhin verkennen, werden wir gesellschaftlich und politisch keine zielführenden Gegenmaßnahmen entwickeln können. Gelesen von Anna-Katharina Meßmer.
▬▬▬▬▬
Chris Kubecka, Gründerin und CEO von HypaSec, ist der Cybersicherheits-Community spätestens seit dem Saudi Aramco-Hack von 2012 bekannt. Damals half sie, die IT-Infrastruktur des saudi-arabischen Unternehmens nach dem Shamoon-Angriff wiederherzustellen. Im Humans of Infosec-Podcast spricht Chris Kubecka über ihren Werdegang, der illustriert, wie unkonventionell in diesem Bereich Kompetenzen entstehen und Karrierewege verlaufen können. Kubecka hackte beispielsweise bereits mit 10 Jahren das Department of Justice und wurde mit 18 Jahren bei der United States Air Force angestellt. Dabei hat sie sich ihren Status als Cybersicherheitsexpertin nicht in klassischen Bildungseinrichtungen erarbeitet, sondern durch jahrelange, praktische Erfahrung in kritischen Bereichen. Ein spannender Einblick in eine ungewöhnliche Biografie. Gehört von Rebecca Beigel. 
▬▬▬▬▬
Vorletzte Woche fand die Anhörung zum BND-Gesetz am Bundesverfassungsgericht statt. Die Defizite, die zu diesem Verfahren geführt haben, liegen neben der Ausgestaltung des Rechtsschutzes auch bei der Kontrolle nachrichtendienstlicher Kommunikationsüberwachung. Zu dem Verfahren wurde interessanterweise ein Berater des Kontrollgremiums des Vereinigten Königreichs geladen. Das deutet darauf hin, dass die Richter:innen bei der Urteilsfindung ein besonderes Interesse an der britischen Praxis haben, die durch eine starke juristische Kontrolle geprägt ist. Warum dieses System nur bedingt als Blaupause taugen sollte, zeigt dieser Artikel des Rechtsanwalts Graham Smith. Gelesen von Thorsten Wetzling.
▬▬▬▬▬
Bisher kann man davon ausgehen, dass sich die Leistungsfähigkeit von Prozessoren etwa alle zwei Jahre verdoppelt. Diese als "Moore's Law" bekannte Faustregel trifft seit etwa 50 Jahren zu, allerdings gibt es Anzeichen, dass dieser Zuwachs an Rechenkapazität und Geschwindigkeit zukünftig stark abnimmt und sogar ein Maximum erreicht – mit weitreichenden Auswirkungen auf die Industrie. Der Hardware-Entwickler und Advokat für Open Hardware Andrew Huang argumentiert in diesem Artikel, warum das Ende stetiger Leistungssteigerungen von Halbleitern aber nicht gleichbedeutend mit dem Ende von Innovation und Tech-Entwicklungen sein muss: Wenn Nachfolgemodelle nicht mehr schneller und stärker sind als ein bestehendes IKT-Produkt, lohnt es sich, diese Geräte lange zu supporten und stetig zu verbessern. Für die Umwelt, kleinere Unternehmen und offene Hardware ist es wünschenswert, dass Huang Recht behält. Gelesen von Jan-Peter Kleinhans. 
▬▬▬▬▬
In den USA haben Senator:innen beider Parteien einen Gesetzentwurf vorgeschlagen, der die unklaren Zuständigkeiten im Falle von Cyber-Angriffen systematisieren soll. Der Entwurf sieht vor, dass der Direktor der nationalen Cybersicherheits- und Infrastrukturbehörde Koordinator:innen ernennt, an die sich lokale und bundestaatliche Behörden wenden können. Diese Rolle soll sowohl mit strategischen, als auch mit operativen Befugnissen ausgestattet sein. Um das Konzept zu überprüfen, soll die Arbeit der Koordinator:innen nach einem Jahr durch das Parlament evaluiert werden. Dieser Vorschlag und vor allem die zeitnahe Evaluierung könnten auch als Denkanstoß für Deutschland dienen, wo im Cybersicherheitsbereich eine wachsende Zahl unterschiedlicher Akteure Verantwortlichkeiten untereinander aufteilen. Gelesen von Julia Schuetze.
▬▬▬▬▬
Wenn zwei Menschen sich unterhalten, verwenden sie Argumente, Herleitungen und Begründungen, um sich oder ihre Entscheidungen zu erklären oder um ihr Gegenüber zu überzeugen. Forscher:innen von IBM soll es nun gelungen sein, ein KI-Modell zu entwickeln, das diese hochkomplexe Kommunikationsform aus Argumentieren und Begründen zu beherrschen scheint. Der "Project Debater", der ein neuronales Netz zur Sprachverarbeitung und Textanalyse nutzt, wäre nicht nur aus wissenschaftlicher Sicht eine spannende Entwicklung – technisch wäre es damit möglich, Firmen und Regierungen automatisiert bei Entscheidungen zu beraten oder dabei zu helfen, Desinformation zu erkennen. Aber beim Einsatz automatisierter Systeme in der Strafjustiz sehen wir bereits, dass die gesellschaftlichen Folgen oftmals nicht vorhersehbar sind und je unvollkommener ein algorithmisches System gebaut ist, desto höher sind die potentiellen Gefahren. Gelesen von Kate Saslow.
▬▬▬▬▬
Sogenannter "Dual Use"-Software und Hardware, die sowohl für zivile als auch militärische Zwecke eingesetzt wird, kommt eine besondere wirtschaftliche und politische Bedeutung zu. Viele dieser Technologien werden in Europa entwickelt und von europäischen Unternehmen exportiert – auch an autoritäre Staaten, die sie für die Verfolgung von Minderheiten und politisch Andersdenkenden einsetzen. Daraus ergibt sich eine Reihe von Fragen bezüglich der Verantwortung von Exporteuren und der Wirksamkeit europäischer Handelsregulierung. Dieser Artikel beschreibt den Trilogprozess zwischen Kommission, Parlament und Rat, in dem die EU-Mitgliedsstaaten versuchen, wirtschaftliche Ziele und politische Verantwortung miteinander zu vereinen. Dabei geht es nicht nur um die konkrete Ausgestaltung möglicher Regulierung, sondern auch darum, welches das grundlegende Ziel ist, das durch Ausfuhrkontrollen erreicht werden soll. Gelesen von Jan-David Franke. 
▬▬▬▬▬
Seit einigen Jahren erscheinen täglich zahllose Artikel oder Kommentare zum Thema Künstliche Intelligenz – von der Rolle von KI beim Schutz der Biodiversität, über die Zukunft selbstfahrender Autos bis hin zur Analyse der Ethik-Leitlinien für KI der Europäischen Kommission. Die Fachzeitschrift Nature hat einige Autor:innen nun dazu eingeladen, auf ihre 2019 veröffentlichten Beiträge zurückzuschauen. In dem Artikel reflektieren 23 Wissenschaftler:innen, inwiefern sich die jeweiligen Themen sowie ihre eigenen Ansichten seitdem verändert haben und welche Entwicklungen sie für 2020 erwarten. Gelesen von Leonie Beining.
 

Überblick: Aktuelle Veröffentlichungen und Medienbeiträge

Whom to trust in a 5G world? Policy recommendations for Europe's 5G challenge (Policy Brief): In dieser Woche wurden zwei zentrale Regierungsdokumente veröffentlicht, die für die Europäische 5G-Debatte essenziell sind: die 5G-Toolbox der Europäischen Kommission und die Strategie der britischen Regierung. In den nächsten Wochen soll auch die 5G-Sicherheitsstrategie der Bundesregierung folgen. Jan-Peter Kleinhans hat in seinem Policy Papier Handlungsempfehlungen zusammengefasst, um Europas 5G-Netze sicherer zu machen und argumentiert, dass das ohne ein Mindestmaß an Vertrauen in den Hersteller nicht gehen wird. 
▬▬▬▬▬
Data-driven Intelligence Oversight. Recommendations for a System Update (Policy Brief): Wie lässt sich die Aufsicht von Nachrichtendiensten mit Hilfe effektiver Kontrolltechnik verbessern? In dem Papier machen Kilian Vieth und Thorsten Wetzling sieben Vorschläge, zum Beispiel wie Kontrollgremien ihren direkten Datenbankzugriff zum Erkennen von Missbrauchs-Mustern und riskantem Datenaustausch besser nutzen können. Von effektiveren Kontrollinstrumenten würden dabei sowohl die Kontrolleur:innen, als auch die Kontrollierten profitieren. Das Papier ist Teil der Arbeit von GUARDINT, einem Verbundprojekt der SNV mit mehreren Partnerorganisationen. Neuigkeiten und weitere Infos dazu gibt es auf guardint.org und auf Twitter @guard_int.
▬▬▬▬▬
Die Nachrichtendienstkontrolle muss modernisiert werden (Gastbeitrag): In diesem Gastbeitrag im Vorfeld der mündlichen Anhörung zur Verfassungsmäßigkeit der BND-Reform argumentiert Thorsten Wetzling, dass die Gesetzgebung für deutsche Nachrichtendienstbehörden und ihre Kontrollorgane grundlegend erneuert werden sollte. Das Verfahren in Karlsruhe kann diese notwendige Modernisierung zwar nicht anordnen, aber Parlament und Regierung zur Verantwortung ziehen und so ein zeitgemäßes, grundrechtskonformes Nachrichtendienstrecht befördern.
 

Technologische Erinnerungen

Januar 1754 – Zum ersten Mal wird der Begriff "Serendipität" verwendet. Er beschreibt eine ungeplante, aber nützliche oder interessante Entdeckung, die entsteht, während man eigentlich nach etwas anderem gesucht hat. Auf diese Weise erhielt die Menschheit etwa Röntgenstrahlung oder das Antibiotikum Penicillin. In einer digitalisierten und technisierten Welt steht zwar mehr Information zur Verfügung, die theoretisch zu solchen Zufällen führen könnte, aber die Wege durch den Informationsdschungel werden auch geradliniger: Vom Algorithmus kuratierte Suchergebnisse lassen Serendipität nur wenig Raum. Doch die Fliegenart Semachrysa jade zeigt, dass es auch heute noch möglich ist, zufällig wertvolle Entdeckungen zu machen: Die Florfliegenart wurde nicht durch Feldforschung, sondern auf einem Foto der Plattform Flickr identifiziert. Zufällig gefunden von Johanna Famulok.