Womit wir uns beschäftigen werden: Ausblick auf 2020

Womit wir uns beschäftigen werden: Ausblick auf 2020

06. Januar 2020

Zentrale Entscheidungen für europäische Nachrichtendienste

 

Bestehende Gesetze, die digitale Überwachungstätigkeiten von Nachrichtendiensten regeln, lassen Überwachungsbefürworter:innen wie -kritiker:innen viel Spielraum zur Interpretation. Sie sorgen häufiger für Auseinandersetzungen zwischen Behörden und Politiker:innen, die zusätzliche Überwachungsbefugnisse fordern und Aufsichtsgremien und zivilgesellschaftlichen Gruppen, die darin eine Gefahr für den Schutz der Grundrechte sehen. Bürger:innenvertreter sowohl auf bundesdeutscher als auch auf europäischer Ebene haben in den letzten Jahren eine Reihe von Gerichtsverfahren angestoßen, deren Urteile in 2020 erwartet werden. Ein Beispiel dafür ist die Verfassungsbeschwerde gegen das 2016 verabschiedete BND-Gesetz, die unter anderem von Reporter ohne Grenzen und der Gesellschaft für Freiheitsrechte eingereicht wurde. Ein weiteres Beispiel ist das Verfahren vor dem Gerichtshof der Europäischen Union, das die Regeln der Datenspeicherung im französischen, holländischen und britischen Nachrichtendienstrecht prüft.

Diese und weitere Verfahren können in der Summe dazu führen, dass sich die Gesetzes- und Rechtslage dieses Bereichs im Laufe des Jahres 2020 sowohl in Deutschland, wie auch in Europa verändern werden. Das allein wird eine politische Auseinandersetzung mit den Befugnissen der Nachrichtendienste und die Weiterentwicklung der Kontrolle nicht ersetzen können. Das ist gerade in Zeiten der digitalen Überwachung ungemein wichtig, um das Vertrauen der Bürger:innen in die Sicherheitsvorsorge und die Demokratie zu sichern.

Mehr über unsere Arbeit im Bereich der Grundrechte, Überwachung und Demokratie


Industriepolitik zwischen Trump und Huawei

2019 war geprägt durch die Frage, ob europäische Staaten chinesischen Firmen gestatten sollen, am Ausbau des 5G-Netzwerkes beteiligt zu werden. In der 5G-Debatte ging es nicht nur darum, ob chinesische Hard- und Software ein Sicherheitsrisiko darstellt, sondern auch um die zunehmende wirtschaftliche Abhängigkeit westlicher Staaten von IT-Unternehmen wie Huawei oder ZTE.

2020 wird sich diese Diskussion höchstwahrscheinlich ausweiten: Denn Sicherheitsdenken und wirtschaftliche Abhängigkeiten gibt es nicht nur bei Mobilfunknetzen, sondern auch in der Unterhaltungselektronik oder bei Apps. Produkte chinesischer Firmen wie Tik Tok (einem Äquivalent zu Snapchat, das allein in Deutschland von über 5 Millionen Menschen aktiv genutzt wird) oder DJI (der weltweite Marktführer für privat genutzte Drohnen) sind in Europa und den USA sehr beliebt. Aber auch der Zugriff auf Drohnenbilder oder Social Media-Daten kann sicherheitspolitische Relevanz haben. 

Im Moment sieht es so aus, als würden insbesondere die USA diesen Sicherheitsbedenken mit einem zunehmendem "Decoupling" begegnen – also einer Entflechtung von China im Technologiebereich, in der Hoffnung, so unabhängig und sicher vor geopolitischer Einflussnahme zu sein. Das wäre eine neue Eskalationsstufe der Auseinandersetzungen um die Technologieführerschaft und hätte gewiss nicht nur wirtschaftliche Konsequenzen.

Mehr über unsere Arbeit zur 5G-Debatte und den Umgang mit chinesischen Technologiefirmen


Politischer Umgang mit Künstlicher Intelligenz und Algorithmischen Systemen

In den europäischen KI-Strategien wurde deutlich das Bedürfnis formuliert, durch entsprechende Regulierung ethische Ansprüche wie Transparenz, Fairness oder Nachvollziehbarkeit im Bereich der Künstlichen Intelligenz durchzusetzen. In 2020 werden die ersten Versuche der EU-Kommission erwartet, dieses Vorhaben in die Tat umzusetzen. Beispiele dafür sind das KI-Gesetz, das Ursula von der Leyen für die ersten 100 Tage ihrer Amtszeit als EU-Kommissionspräsidentin angekündigt hat oder die Weiterentwicklung der EU Ethics Guidelines for Trustworthy AI. Die EU-Kommission legt ihren Fokus damit auf staatliche Regulierung, genauer gesagt auf die Regulierung der Ergebnisse von KI-Systemen, statt auf das KI-System selbst. Wenn ein algorithmisches System über die Kreditwürdigkeit eines Menschen entscheidet, darf das System also keine diskriminierenden Ergebnisse hervorbringen. Dieser Regulierungsansatz hat aber den Nachteil, dass es kaum vorausschauende Steuerungswirkung hat: Der Output kann erst dann reguliert werden, wenn bestimmte negative Folgen bereits auftreten und deshalb bekannt sind.

Ein alternativer Ansatz kommt aus der Wirtschaft selbst, die sich auch klare Vorgaben dazu wünscht, was zukünftig im KI-Sektor erlaubt sein soll und was nicht, um Rechtssicherheit zu haben und ihre Forschung entsprechend ausrichten zu können. Sie setzen auf technische Standardisierung, um KI ethischen Regeln zu unterwerfen und Qualitätssicherung zu betreiben. Das ist ein vielversprechender Ansatz, denn statt des Outputs könnte über technische Standardsetzung auch der Input von KI geregelt werden: Das könnten zum Beispiel überprüfbare Vorgaben zu den Datensätzen sein, mit denen ein neuronales Netzwerk trainiert wird. So könnte schon die Entwicklung von KI entsprechend unseres Verständnisses von Fairness und Transparenz erfolgen.

Es ist deshalb wahrscheinlich, dass international ausgehandelte KI-Industriestandards neben der politischen Regulierung und Normsetzung an Bedeutung gewinnen. Ob sie diese vor vollendete Tatsachen stellen wird, ist eine der spannendsten Entwicklungen, die es im kommenden Jahr zu beobachten gilt.

Mehr zu unserer Arbeit im Bereich Künstlicher Intelligenz und Außenpolitik

Mehr zu unserer Arbeit zur Transparenz, Fairness und Nachvollziehbarkeit von Algorithmischen Systemen


Olympia2020: Cybersicherheit von langer Hand geplant

Seit etwa 20 Jahren ist es üblich, bei der Planung von Verkehrsnetzen oder Großveranstaltungen Risiken durch Terrorangriffe vorzubeugen. In Zukunft wird es immer wichtiger werden, nicht nur physischem Terror vorzubeugen, beziehungsweise mögliche Folgen zu minimieren, sondern auch im Cyberraum entsprechende Maßnahmen zu ergreifen. Ein gutes Beispiel dafür sind die Olympischen Spiele, die 2020 in Tokio stattfinden: Die Japaner:innen beschäftigen sich bereits seit 2016 intensiv mit potentiellen Gefahren und haben ein spezielles Cybersicherheitskonzept für Olympia entwickelt. Dabei haben sie auch viele weitere kritische Infrastrukturen im Land unter die Lupe genommen und zum besseren Schutz vor Cyberangriffen auch Gesetzesänderungen erlassen. Zwar wird man erst im Nachhinein beurteilen können, wie erfolgreich die Maßnahmen Japans sein werden – dass aber so vorausschauend über Cybersicherheitskonzepte nachgedacht wird, ist ein positiver Trend.

Mehr zu unserer Arbeit im Bereich Cybersicherheit


Datennutzung, Datenbereitstellung und Datenstrategie

Das bisher ungelöste Dilemma der europäischen Datenökonomie ist es, das Teilen und Bereitstellen von Daten mit dem Schutz personenbezogener Daten zu vereinbaren. Für zahllose Wirtschaftszweige sind der Zugang zu und die Nutzung von Daten von immer größerer Bedeutung. Gleichzeitig müssen Nutzer:innendaten geschützt werden und für ihre Weitergabe sollten klare Regeln gelten. Mit diesem Spannungsfeld haben sich in Deutschland mehrere Kommissionen und Gruppen auseinandergesetzt, etwa die Datenethikkommission oder die Kommission Wettbewerbsrecht 4.0. Auch im Eckpunktepapier zur Datenstrategie der Bundesregierung wird versucht, diese Problematik zu adressieren.

Allerdings bleiben die Lösungsvorschläge bisher sehr theoretisch und weit entfernt von einer praktischen Umsetzung. Aus dem genannten Eckpunktepapier soll die Datenstrategie selbst entwickelt und im Frühjahr 2020 veröffentlicht werden. Auch davon sind vermutlich nicht viele konkrete Lösungen zu erwarten. Dabei könnte die deutsche EU-Ratspräsidentschaft eine günstige Gelegenheit sein, um neue Ansätze für die Datenökonomie auch auf europäischer Ebene auszutesten.

Mehr zu unserer Arbeit im Bereich der Datenökonomie


Klarere Regeln in der Digitalen Öffentlichkeit

Im Bereich der digitalen Öffentlichkeiten haben wir in den vergangenen Jahren viel darüber diskutiert, wem welche Verantwortung zufällt, gegen Desinformation, Hate Speech oder intransparente politische Werbung vorzugehen: Was müssen die Plattformen leisten? Wie kann die Gesetzgebung dafür sorgen, dass Inhalte nicht ihre schädigende Wirkung entfalten? Dieser Aushandlungsprozess wird auch 2020 noch weitergehen. Mittlerweile gibt es auf diesem Gebiet viele interessante Ansätze: Auf EU-Ebene werden beispielsweise Haftungsregeln für soziale Netzwerke diskutiert, zu denen es im Laufe des Jahres erste Entwürfe geben könnte. Dadurch könnte sich das Verhältnis von Facebook, YouTube und Co. und ihren Nutzer:innen bei strafrechtlich relevanten Inhalten ändern. Auch im Bereich der politischen, digitalen Werbung sind Neuerungen aus Brüssel zu erwarten: So hat die neue Kommissionspräsidentin Ursula von der Leyen einer ihrer Kommissarinnen aufgetragen, hierfür Regeln zu entwickeln.

In Deutschland wird der Medienstaatsvertrag in Kraft treten und erstmals überhaupt soziale Netzwerke und Suchmaschinen regulieren. Er wird ermöglichen, dass die Landesmedienanstalten auch im digitalen Raum agieren. Allerdings sind die Regeln dafür sehr vage, einige Definitionen unklar und die genaue Umsetzung deshalb fraglich. Darüber hinaus erhöht die 2021 anstehende Bundestagswahl den Druck, den Online-Wahlkampf, der bisher ungehemmt und weitestgehend unreguliert vonstatten geht, zu reglementieren.

2020 und die darauffolgenden Jahre werden für die politische Gestaltung digitaler Öffentlichkeit also wegweisend sein: Gelingt es der Gesetzgebung, unser Verhältnis von Rede-, Pressefreiheit und Schutzmaßnahmen für Minderheiten oder Jugendliche in den digitalen Raum zu übersetzen?

Mehr zu unserer Arbeit zu Digitalen Öffentlichkeiten und Medienkompetenz


Technologische Erinnerungen

Zukunftsprognosen sind seit Jahrhunderten der Versuch des Menschen, das noch Unbekannte vorherzusehen. Während antike Orakel wie das in Delphi vor allem spiritueller Natur waren, wurden besonders die Vorhersagen im 19. und 20. Jahrhundert immer konkreter und oftmals erstaunlich akkurat: Der Schriftsteller Jules Verne etwa beschrieb schon 1865, wie drei Astronauten mithilfe der "Columbiad"-Kanone zum Mond geschossen wurden. Tatsächlich war etwa hundert Jahre später die "Columbia" als Kommandomodul der dreiköpfigen Apollo 11-Mission Teil der ersten Mondlandung. Andere Einschätzungen über die Entwicklung von Mensch und Technik hätten dafür falscher nicht sein können. Albert Einstein etwa sagte 1932, dass es "nicht den geringsten Hinweis darauf gibt, dass es jemals möglich sein wird, durch Kernspaltung Energie zu gewinnen". Nacherzählt von Johanna Famulok.