Woran wir gerade arbeiten: Newsletter Juli 2020

Woran wir gerade arbeiten

KI „ethisch“ oder „menschenzentriert“ zu entwickeln und einzusetzen ist seit langem der Anspruch der EU. Bisher gab es aber wenig Ideen, wie diese vagen Ziele in konkrete Gesetzgebung und Regulierung übertragen werden könnten. Als ein Weg dafür werden nun Zertifizierung und Standardisierung von KI-Systemen diskutiert. In ihrem Papier, das voraussichtlich im September erscheint, unterzieht Leonie Beining diese Idee einem Realitätscheck, indem sie sich mit den damit verbundenen Herausforderungen und den Potentialen auseinandersetzt.
▬▬▬▬▬
Wenn über KI gesprochen wird, dreht sich die Debatte zumeist um die USA, China und allenfalls noch die Außenseiterrolle Europas. Andere Weltregionen sind nur selten Gegenstand der Betrachtung. Kate Saslow hat sich für unser neues Memo-Format die KI-Landschaft in Afrika angesehen und festgestellt, dass KI dort von Startups oder anderen Technologiefirmen vor allem in der Entwicklungszusammenarbeit eingesetzt wird. Das könnte einen wichtigen Ansatz zur zukünftigen Zusammenarbeit für die europäische auswärtige Politik bilden. Das Memo erscheint in den nächsten Wochen. Unsere Expert:innen im Bereich KI und Außenpolitik, Philippe Lorenz und Kate Saslow, werden zukünftig weitere Kurzanalysen verschiedener Schwerpunkte in diesem Memo-Format veröffentlichen, als nächstes Thema ist die US-amerikanische KI-Politik geplant.
▬▬▬▬▬
Um technologische Entwicklungen und deren gesellschaftlichen Auswirkungen zukünftig auch auf Basis belastbarer Daten bewerten zu können, bereiten wir den Aufbau einer Data-Science-Einheit vor. Sie soll Daten zu laufenden Entwicklungen auswerten und Analysen erstellen, zu denen nicht nur die Politik, sondern genauso zivilgesellschaftlichen Gruppen, Forscher:innen, Journalist:innen sowie die Öffentlichkeit freien Zugang haben. Für den Aufbau dieser Einheit sind wir nun auf der Suche nach einem neuen Teammitglied. Die Stellenausschreibung gibt es hier.
▬▬▬▬▬
Mehr als 2000 Schritte sind nötig, um moderne Halbleiter herzustellen. Dabei ist ein Unternehmen jeweils nur an wenigen Schritten beteiligt, so spezialisiert und arbeitsteilig ist der Prozess. In der Folge ist die Produktion unübersichtlich, aufgrund der Bedeutung dieser Wertschöpfungskette ist es aber gerade für politische Entscheidungsträger:innen wichtig, die Zusammenhänge zu verstehen. Jan-Peter Kleinhans und Nurzat Baisakova arbeiten derzeit an einem Papier, das den Herstellungsprozess von Halbleitern verständlich und nachvollziehbar macht. Dabei gehen sie auf die verschiedenen Produktionsschritte (Chip-Design, -Fertigung, -Zusammenbau und -Test) ein, sowie auf die dafür nötige Software und Maschinen. Die für September geplante Publikation wird den Herstellungsprozess, Marktverhältnisse und Abhängigkeiten erklären und visualisieren. 
▬▬▬▬▬
Was bei der Entwicklung und dem Einsatz von KI möglich ist, kann sowohl politisch als auch durch Industriestandards reguliert werden. Weltweit gibt es zahlreiche verschiedene Organisationen und Gremien, die so an der KI-Regulierung mitwirken. Dazu gehören einerseits politische Akteure, etwa die Organisation für wirtschaftliche Zusammenarbeit und Entwicklung (OECD) und die Global Partnership on AI. Andererseits aber auch Organisationen, die Industriestandards definieren, wie zum Beispiel die Internationale Organisation für Normung (ISO), die Internationale Fernmeldeunion (ITU) und das Europäisches Institut für Telekommunikationsnormen (ETSI). Philippe Lorenz arbeitet an einer Übersicht der einschlägigen internationalen Organisationen. Dieses Stakeholdermapping soll im August veröffentlicht werden.
▬▬▬▬▬
Rebecca Beigel und Julia Schuetze befassen sich derzeit mit der Cybersicherheitspolitik Ruandas. Für ein zukünftiges Projekt analysieren sie vor allem, welche Behörden und Regierungsinstitutionen zuständig sind, welche Gesetzgebung bereits existiert, über welche zukünftige Regulierung nachgedacht wird und wie der öffentliche Diskurs zu Cybersicherheit in Ruanda aussieht. Die beiden freuen sich über Hinweise per Mail mit Quellen oder Expert:innen zu diesem Thema.
 

Was wir gerade mit Interesse lesen

Der Einsatz von Gesichtserkennungstechnologie im öffentlichen Raum ist derzeit ein höchst umstrittenes Thema. Dass die Software von der Polizei bei Demonstrationen eingesetzt wird oder werden könnte, ist derzeit besonders im Zusammenhang mit den Protestbewegungen in den USA und in Hongkong eine berechtigte Sorge. Auch durch die fortschreitende Weiterentwicklung der Technologie (etwa die Echtzeit-Erkennung) ist es dringend geboten, die daraus resultierenden Gefahren gegen potentiellen Nutzen abzuwägen und entsprechende Regulierung voranzubringen. In diesem Artikel wird ausführlich erklärt, wie Gesichtserkennung von Strafverfolgungsbehörden insbesondere in den USA und Europa derzeit bereits eingesetzt wird, welche Gesetzesvorhaben es gibt und dass klare Regulierungen notwendig sind, damit durch den Einsatz der Technologie keine demokratischen Grundwerte verletzt werden. Gelesen von Charlotte Dietrich.
▬▬▬▬▬
In einer Executive Order hat US-Präsident Trump Ende Juni entschieden, vorerst bestimmte Visa für hochqualifizierte Tech-Professionals und Hochschulforscher:innen aus dem Ausland nicht mehr auszustellen. Offiziell begründet wird das als Schutzmaßnahme im Zuge der Corona-Pandemie. Im Rahmen der allgemeinen Strategie der Exportkontrolle und dem Screening ausländischer Direktinvestitionen, die die Trump-Regierung im Tech-Bereich verfolgt, liegt aber der Verdacht nahe, dass Trump auf diesem Wege die amerikanische Wirtschaft gegenüber der chinesischen Konkurrenz zu stärken versucht. Die davon betroffenen Unternehmen, darunter Apple, Google und Twitter gaben jedoch Statements ab, in denen sie die Entscheidung des Präsidenten nicht nur missbilligten, sondern im Gegenteil betonten, dass eine solche Abschottung die wirtschaftliche Stärke des Silicon Valleys bedrohe, wie dieser Artikel zusammenfasst. Gelesen von Philippe Lorenz.
▬▬▬▬▬
Um die Auftragsfertigung von Halbleitern (Pure Play Foundry) innerhalb der USA global wettbewerbsfähig zu machen, haben Mitglieder des US-Senats zwei Gesetzesinitiativen vorgeschlagen. Erließe man diese Gesetze tatsächlich, würden mehr als 35 Mrd. US-Dollar dafür ausgeschüttet werden. Dieser Artikel macht deutlich, dass Subventionen alleine jedoch nicht dafür sorgen werden, dass US-amerikanische Chip-Designer (zum Beispiel Qualcomm oder Nvidia) wieder selbst in den USA herstellen, statt dabei wie derzeit auf taiwanesische (TSMC) oder südkoreanische (Samsung) Firmen zurückzugreifen. Diese asiatischen Firmen verfügen unter anderem über robuste Netzwerke an Zulieferern, die sich nicht allein durch Finanzhilfen, sondern nur durch eine langfristige und strategische Industriepolitik in die USA bringen ließen. Auch für Europa ist diese Erkenntnis relevant, denn durch die starke Konkurrenz zwischen den USA und China bleiben für die EU potentiell nur wenige „Nischen“ der Halbleiter-Lieferkette übrig. Gelesen von Jan-Peter Kleinhans.  
▬▬▬▬▬
Dieser Artikel des Council on Foreign Relations erklärt, dass das Internet – und speziell Internetregulierung – zwar bisher von westlichen, liberalen und demokratischen Werten geprägt ist und warum das zukünftig nicht zwangsläufig so bleiben wird. 2019 hat Huawei die „New IP“-Initiative vorangebracht, die die westliche Vorherrschaft in der Internetregulierung infrage stellt und auch Russland hat sich dafür stark gemacht, die von der EU initiierte „Budapest Convention on Cybercrime“ durch ein neues Abkommen zu ersetzen. Der Autor betont, wie bedeutsam Diplomatie auch im Cyberraum geworden sei: Wenn Europa und die EU den Cyberraum weiterhin nach freiheitlichen und demokratischen Prinzipien gestalten möchten, müssten sie sich strategisch aufstellen und gemeinsam agieren. Dazu passt, dass Deutschland „Cyberdiplomatie“ zu einem der Themen seiner EU-Ratspräsidentschaft machen möchte. Gelesen von Julia Schuetze.
▬▬▬▬▬
Politischer Internet-Aktivismus ist mittlerweile alltäglich. Das öffnet neue Wege der politischen Beteiligung, aber auch Tür und Tor für Trolle, wie dieser Artikel zeigt. Er beschreibt die Entstehung des Hashtags #EndFathersDay, den 2014 Trolle der Alt-Right geschaffen haben. Sie gaben sich dabei aber als Schwarze Feminist:innen aus, um diese zu diskreditieren. Viele Medien nahmen die Geschichte auf und empörten sich über die vermeintliche Forderung, den Vatertag abzuschaffen. Eine koordinierte Recherche (echter) Schwarzer Feminist:innen deckte die gefälschte Hashtag-Bewegung auf, lange bevor solche Aktivitäten und Gegenmaßnahmen im Zuge der US-Wahl 2016 weltweit Aufmerksamkeit erregten. Heute gibt es zwar ein stärkeres Bewusstsein von Plattformen wie Twitter und Facebook für solche Arten der Desinformation, die gerade Minderheiten ins Visier nehmen. Dennoch bleibt der Umgang von Plattformen und Politik mit Desinformation besonders bei politisch umkämpften Themen oder in Wahlkämpfen ausbaufähig. Gelesen von Julian Jaursch.
▬▬▬▬▬
Wenn Firmen Daten gestohlen werden, folgen daraus für sie hohe finanzielle Schäden: Nicht nur Anwaltskosten kommen sie teuer zu stehen, auch das Vertrauen in sie und der Wert ihrer Marke sinken – so zumindest die Annahme. In diesem Arbeitspapier untersucht der Autor Christos Makridis, welche Auswirkungen Data Breaches tatsächlich auf die Markenkraft und Bekanntheit eines Unternehmens haben können. Er hat dafür 43 börsennotierte US-Firmen von 2002 bis 2018 untersucht und festgestellt, dass Data Breaches nur in den extremsten Fällen nachteilig für die betroffenen Firmen seien, in weniger gravierenden Fällen sei laut Makridis eine beachtliche Zunahme der Markenmacht zu beobachten. Das wäre nicht nur kontraintuitiv, sondern auch gefährlich: Dass Data Breaches einer Firma nützen könnten, schafft ein vollkommen falsches Anreizsystem, um Daten vor illegalen Zugriffen zu schützen. Gelesen von Rebecca Beigel. 

Überblick: Aktuelle Veröffentlichungen, Veranstaltungen und Medienbeiträge

In den kommenden Wochen wird es drei digitale Hintergrundgespräche geben. Am kommenden Dienstag, den 21. Juli um 16h spricht Julian Jaursch mit Nandini Jammi. Sie ist Sie ist Co-Leiterin der Initiative „Sleeping Giants“, die die Kampagne #StopHateForProfit und damit den größten Werbeboykott in der Geschichte der sozialen Medien ins Leben gerufen hat. Das zivilgesellschaftliche Bündnis dahinter hat hunderte Unternehmen dazu gebracht, ihre Werbeausgaben auf Facebook auszusetzen. (Link zur Anmeldung)

Aline Blankertz spricht am 11. August mit der Forscherin Amelia Fletcher. Sie ist die ehemalige leitende Ökonomin der britischen Wettbewerbsbehörde und Mitglied der britischen Expert:innenkommission für digitalen Wettbewerb. Eine Einladung mit Anmeldelink folgt in Kürze.

Am 19. August lädt Charlotte Dietrich den russischen Investigativjournalisten Roman Dobrokhotov zum Gespräch ein. Dobrokhotov hat maßgelblich zur Aufklärung des Skripal-Falls beigetragen, unter anderem, indem er geleakte Datensätze auswertete, die in Russland auf dem Schwarzmarkt gehandelt werden. Auch hier wird in den nächsten Tagen eine Einladung folgen.
▬▬▬▬▬
Für Bürger:innen ist es schwieriger geworden, online verlässliche Informationen zu suchen und zu finden. Gleichzeitig steigt die Gefahr, auf Desinformationen oder Meinungsmache hereinzufallen – eine enorme gesellschaftliche Herausforderung. In ihrem Papier “Verstehen, was ist. Auf dem Weg in die nachrichtenkompetente Gesellschaft” erklären Anna-Katharina Meßmer und Alexander Sängerlaub, warum Bürger:innen in digitalen Öffentlichkeiten zum Teil völlig neue Fähigkeiten benötigen, um informiert zu bleiben und veranschaulichen, woraus sich Online-Nachrichtenkompetenz zusammensetzt.
▬▬▬▬▬
Parteien, Kandidierende und andere politische Organisationen stecken mittlerweile Millionenbeiträge in Onlinewerbung, um ihre Botschaften zu verbreiten. Diese Art der bezahlten politischen Kommunikation funktioniert online anders als offline, unterliegt aber weitgehend veralteten, unpassenden Regeln der analogen Welt. Das kann dazu führen, dass durch politische Werbung etwa in sozialen Netzwerken Diskussionen verzerrt werden und finanzstarke Kampagnen andere Meinungen verdrängen. Was Gesetzgebende in Deutschland und der EU unternehmen könnten, um solche Gefahren zu mindern, hat Julian Jaursch in seinem Papier beschrieben. Dazu gehört es zum Beispiel, klare gesetzliche Transparenz- und Rechenschaftspflichten für Plattformen und politische Werbetreibende zu schaffen. Zudem sollte es Regeln dafür geben, welche persönlichen Verhaltensdaten für politische Onlinewerbung genutzt werden dürfen.
▬▬▬▬▬
Nach dem Karlsruher Urteil zum BND-Gesetz von 2016 bedarf es jetzt einer grundlegenden Reform der Rechtsgrundlagen für die Arbeit des Bundesnachrichtendienstes sowie eines deutlichen Ausbaus seiner Kontrolle. Thorsten Wetzling und Daniel Moßbrucker haben in ihrem Papier den Richterspruch auf die Frage hin untersucht, wie das aussehen kann. Um die BND-Überwachung mit dem Grundgesetz in Einklang zu bringen, schlagen sie unter anderem eine Ende-zu-Ende Kontrolle vor, die ein Kontrollrat und der Bundesdatenschutzbeauftragte verantworten.
▬▬▬▬▬
Kilian Vieth, Charlotte Dietrich und Sven Herpig habe eine Stellungnahme zum „Entwurf eines Gesetzes zur Anpassung des Verfassungsschutzrechts“ des Bundesministeriums des Innern, für Bau und Heimat verfasst. Der Entwurf ist vom 13.06.20 und sieht unter anderem verschiedene Änderungen des Artikel 10-Gesetzes vor. Die Stellungnahme im Rahmen der Verbändeanhörung fokussiert sich auf die G10-Kommission als zentrales Kontrollgremium für G10-Beschränkungsmaßnahmen sowie auf fehlende bzw. ergänzende Schutz- und Transparenzmaßnahmen, um einen wirksamen Grundrechtsschutz zu realisieren.

Technologische Erinnerungen

1911 – der britische Physiker Reginald Victor Jones wird geboren. Er ist während des zweiten Weltkriegs einer der führenden Expert:innen zum militärischen Nachrichtenwesen und hat durch seine Arbeit beim britischen Geheimdienst unter anderem dafür gesorgt, dass die Radiokommunikation der deutschen Luftwaffe so massiv beeinträchtigt wurde, dass viele ihrer Bomben monatelang auf Felder, statt auf Städte abgeworfen wurden. Neben dieser ehrenhaften Tätigkeit hat er aber auch ein weniger ruhmvolles Erbe hinterlassen: Er gilt auch als der Erfinder des Telefonstreichs. 1933 gab er sich als Telefon-Ingenieur aus und brachte seinen Gesprächspartner unter anderem dazu, auf einem Bein zu hüpfen und laut ins Telefon zu singen. Gefunden von Johanna Famulok.