Woran die Expert:innen der SNV diesen Herbst/Winter arbeiten
25. Oktober 2022
Seit 2018 hat Deutschland eine KI-Strategie – von „Künstlicher Intelligenz made in Germany“ und einer gesamtgesellschaftlichen Aufgabe ist da die Rede sowie davon, dass Deutschland zum führenden KI-Standort werden soll.
Woran es aber mangelt, sind belastbare, datenbasierte Analysen, wie es um das KI-Ökosystem hierzulande tatsächlich bestellt ist. Diese Lücke will ein Team bestehend aus Stefan Heumann, Pegah Maham, Laurenz Hemmen und Wiebke Denkena füllen, indem es den KI-Talentfluss von und nach Deutschland genauer unter die Lupe nimmt.
Die Fähigkeit, junge KI-Expert:innen anzuziehen und im Land zu halten, ist ein entscheidender Faktor im internationalen Wettbewerb. Anhand eines selbst entwickelten Datensatzes zu Doktorand:innen an führenden deutschen KI-Instituten lässt sich untersuchen, wie sich Deutschland im Wettstreit um die klügsten Köpfe schlägt. Erste Ergebnisse dieses Projekts stellen wir demnächst vor.
Was uns sonst noch beschäftigt und woran die Expert:innen der SNV derzeit arbeiten, habe ich Ihnen im Folgenden zusammengestellt. Und wie immer haben wir auch ein paar Lese- und Hörempfehlungen für Sie.
Herzliche Grüße!
Überblick
Woran wir gerade arbeiten
Empfehlungssysteme und wie sie sich überprüfen lassen
Das Digitale-Dienste-Gesetz („Digital Services Act“, DSA) verpflichtet Plattformen dazu, die Funktionsweise ihrer algorithmischen Systeme transparenter zu machen. Unter anderem sieht das EU-Regelwerk vor, dass Plattformen ihre Empfehlungsalgorithmen einer Risikobewertung unterziehen. Allerdings definiert der DSA nur sehr vage, welche Risiken gemeint sind und wie die Bewertung genau vonstattengehen soll; ebenso unklar ist, von wem solche Risikobewertungen unabhängig überprüft werden sollen. Anna-Katharina Meßmer und Martin Degeling arbeiten an einem Tool, das dabei helfen soll, den vom DSA vorgesehenen Auditierungsprozess in möglichst konkrete Szenarien, Risikoeinschätzungen und Maßnahmen zu übersetzen. Hierzu wird demnächst ein Papier erscheinen.
Um ihre Ideen zu testen, haben die beiden in einem ersten Schritt konkrete Überlegungen dazu angestellt, wie sich ein Auditierungsprozess für die Social-Media-Plattform TikTok aufsetzen ließe. Eine Auskoppelung ihrer Arbeit – eine interaktive Grafik, die zeigt, welche Themen bei TikTok besonders beliebt sind – ist bereits jetzt auf unserer Website zu finden.
▬▬▬▬▬
Umsetzung des DSA in den EU-Mitgliedstaaten
Der DSA hat das Potenzial, das digitale Umfeld von Millionen von Menschen in der EU zu prägen. Mit der Frage, wie sich das Regelwerk in Deutschland und in den anderen Mitgliedsländern um- und durchsetzen lässt, befasst sich derzeit Julian Jaursch. Soeben hat er ein Papier zur Ausgestaltung des „Digital Services Coordinator“ – kurz DSC – veröffentlicht, in dem er eine starke, unparteiische und eigenständige deutsche Koordinierungsstelle fordert; mehr darüber erfahren Sie unter Publikationen.
Einen weiteren Schwerpunkt seiner Arbeit bildet die Debatte über geplante EU-Regeln zu politischer Werbung. Die Europäische Kommission will sogenanntes Microtargeting bei politischer Onlinewerbung strenger regulieren. Julian Jaursch hat den Brüsseler Gesetzesentwurf analysiert und eine Reihe von Schwachstellen gefunden (mehr dazu in diesem Gastbeitrag).
▬▬▬▬▬
Paradigmenwechsel in der Informationsbeschaffung
Thorsten Wetzling und Charlotte Dietrich liegen in den letzten Zügen einer Studie zum käuflichen Erwerb von Daten und Open-Source-Intelligence (OSINT) durch Nachrichtendienste. Die Zunahme dieser Beschaffungsformen markiert einen Paradigmenwechsel; beides wird derzeit allerdings ohne ausreichende Gesetzesgrundlage praktiziert. Das Papier, das in Kürze hierzu erscheinen wird, beleuchtet ein Thema, das in Deutschland bislang kaum im öffentlichen Bewusstsein angekommen ist. Es zeigt, warum es dringenden Handlungsbedarf gibt, und enthält konkrete Empfehlungen für Gesetzgeber und Aufsichtsgremien.
Thorsten Wetzling unterstützt zudem die Staaten der Organisation für wirtschaftliche Zusammenarbeit und Entwicklung (OECD) bei der Suche nach gemeinsamen Standards für den sicherheitsbehördlichen Zugriff auf personenbezogene Daten im Privatsektor. Ziel dieses Prozesses ist eine gemeinsame Resolution. Charlotte Dietrich arbeitet in Kooperation mit dem Geneva Centre for Security Sector Governance (DCAF) an einem Papier zu den Auswirkungen von Digitalisierung im Sicherheitssektor, das demnächst erscheinen wird.
▬▬▬▬▬
Neue Arbeitsgruppe zu IT-Sicherheit bei freier Software
Im Rahmen des seit 2017 bestehenden Transatlantic Cyber Forums, einem Netzwerk von Cybersicherheitsexpert:innen und -praktiker:innen, stellt Sven Herpig derzeit eine neue Arbeitsgruppe zum Thema „Die Rolle des Staates in der Förderung von IT-Sicherheit bei freier Software“ zusammen. Diese Arbeitsgruppe, der amerikanische und europäische Expert:innen aus Wirtschaft, Wissenschaft und Zivilgesellschaft angehören werden, soll in den kommenden Monaten in interdisziplinärer Zusammenarbeit konkrete Handlungsempfehlungen erarbeiten. Die Ergebnisse werden voraussichtlich im Mai 2023 vorgestellt.
▬▬▬▬▬
Wege aus dem cyberdiplomatischen Stillstand
Nationale Maßnahmen reichen oft nicht aus, um Cybersicherheitsbedrohungen abzuwehren. Allerdings herrscht in der internationalen Zusammenarbeit weitgehend Stillstand. Zwar gibt es Versuche, etwa auf UN-Ebene, die Kooperation oder wenigstens Abstimmung in Fragen der Cybersicherheit voranzutreiben. Doch die Fortschritte sind minimal; immer stärker hinkt die Cyberdiplomatie den drängenden Problemen hinterher. In ihrem neuen Projekt widmen sich Alexandra Paulus und Christina Rupp deshalb der Frage, wie eine neue, effektivere Cyberdiplomatie aussehen könnte. Sie konzentrieren sich dabei zunächst auf ein Fallbeispiel – die Sicherheit von Software-Lieferketten – und mögliche Politikinstrumente in diesem Bereich. Eine entsprechende Studie soll im Frühjahr 2023 erscheinen.
▬▬▬▬▬
Venture Capital in der Halbleiter-Industrie
In Zusammenarbeit mit unserem Data-Science-Team um Pegah Maham beschäftigen sich Jan-Peter Kleinhans und Julia Hess aktuell mit der Rolle von Venture Capital in der globalen Halbleiter-Industrie. Insbesondere interessiert sie, woher und wohin in diesem Industriezweig das Geld fließt, welche Arten von Start-ups mit Blick auf die Wertschöpfungskette am stärksten gefördert werden – etwa im Bereich Chipdesign, Fertigung und Materialien – und ob Investor:innen eher nationale und regionale Start-ups finanzieren oder global agieren. Erste Ergebnisse werden diesen Winter veröffentlicht.
Zusammen mit der Rhodium Group hat Jan-Peter Kleinhans die neuesten US-Exportkontrollen für Halbleiter analysiert. „Freeze-in-Place: The Impact of US Tech Controls on China“ gibt einen Überblick über die Kontrollen und erste Einschätzungen zu den unmittelbaren und langfristigen Kosten. Vor Kurzem haben Jan-Peter Kleinhans und Julia Hess außerdem eine dreiteilige Reihe zur Rolle von Regierungen in der globalen Halbleiter-Wertschöpfungskette veröffentlicht – mehr dazu finden Sie in dem Abschnitt Publikationen.
Was wir gerade lesen und hören
Warum Ortungsdaten Grundrechte gefährden können
Ortungsdaten, die im großen Stil gesammelt und analysiert werden – und eine Firma, die ein Tool entwickelt hat, mit dem Strafverfolgungsbehörden nach bestimmten Gebiete und Geräten suchen können: Die Electronic Frontier Foundation hat hierzu ein investigatives Dossier veröffentlicht. Der Bericht ist umso beunruhigender, als gleich mehrere US-amerikanische Polizeibehörden zu den Käufern gehören. Warum solche Tools Grundrechte gefährden, wird spätestens klar, wenn es um Gebiete geht, in denen Demonstrationen stattfinden oder in denen es „Planned Parenthood“-Kliniken gibt, die neben anderen medizinischen Diensten und Beratung auch Abtreibungen anbieten. Das Dossier zeigt eindrucksvoll, was mit Daten möglich ist, die von App-Anbietern für Werbezwecke gesammelt und weiterverkauft werden, und gibt Tipps, wie man sich schützen kann. Empfohlen von Charlotte Dietrich.
▬▬▬▬▬
Tech-Lobbying in Brüssel
Riesige Budgets für Lobbyist:innen, glamouröse „Infoveranstaltungen“ für Abgeordnete, verdeckte Unterstützung vermeintlich unabhängiger Organisationen: Tech-Konzerne wie Meta, Google und Apple ziehen in Brüssel sämtliche Register, um digitalpolitische Entscheidungen der EU in ihrem Sinne zu beeinflussen. Georg Riekeles, Associate Director des European Policy Center, hat lange bei der Europäischen Kommission gearbeitet und miterlebt, mit welchen Mitteln Big Tech versucht, das eigene Geschäftsmodell zu schützen. Seine Beobachtungen – und Vorschläge, wie sich die Lobby-Aktivitäten der Tech-Konzerne besser kontrollieren ließen – hat er hier veröffentlicht. Ein spannender Erfahrungsbericht aus dem digitalpolitischen Maschinenraum, gelesen von Julian Jaursch.
▬▬▬▬▬
Wie Empfehlungssysteme unsere Vorlieben beeinflussen
Welchen Einfluss die Empfehlungssysteme sozialer Medien auf die Gesellschaft und den öffentlichen Diskurs haben, beschäftigt nicht nur uns bei der SNV. Der Podcast „Recsperts“ stellt in jeder Folge die Empfehlungssysteme einer bestimmten Plattform vor, erklärt ihre Funktionsweise und zeigt, wie solche Algorithmen unser Leben beeinflussen – auch unseren Musikgeschmack. In Episode 2 wird etwa der Empfehlungsalgorithmus von Spotify besprochen und wie er sich auf Musikindustrie, -verlage und insbesondere Künstler:innen und ihr musikalisches Schaffen auswirkt. Anhand konkreter Beispiele und im Gespräch mit interessanten Expert:innen zeigt der Podcast, wie Technologie und menschliches Verhalten ineinandergreifen. Gehört von Anna-Katharina Meßmer und Martin Degeling.
▬▬▬▬▬
Risikoverteilung in der Chipindustrie
Nachfrageschwankungen in der Chipindustrie wurden lange fast vollständig an die Hersteller weitergegeben – ein strukturelles Problem, das Produzenten immer wieder in Bedrängnis brachte. Als zum Beispiel im ersten Quartal 2020 Analyst:innen warnten, dass wegen Corona kaum noch Autos verkauft würden, stornierten viele Autobauer ihre Bestellungen bei den Halbleiterherstellern. Zuletzt verlagerte sich das unternehmerische Risiko; wegen Chipknappheit und fehlender Fertigungskapazitäten schlossen die Hersteller und Auftragsfertiger fast nur noch nicht-stornierbare Verträge oder langfristige Abnahmeabkommen ab. Der Marktanalyst Doug O’Laughlin beschreibt diese Entwicklung in seinem Blog „Fabricated Knowledge“ und zeigt, dass die Neuverteilung des Risikos notwendig ist, um künftig besser auf Knappheiten vorbereitet zu sein. Empfohlen von Jan-Peter Kleinhans.
▬▬▬▬▬
Über die Aussagekraft von KI-Modellen
Künstliche Intelligenz (KI) und Maschinelles Lernen (ML) kommen in immer mehr gesellschaftlichen Bereichen zum Einsatz – sie können sogar, wie dieser Artikel des Portals Heise Online beschreibt, zur Vorhersage von Kriegen und gewaltsamen Konflikten herangezogen werden. Wie sinnvoll der Einsatz solcher Vorhersagemodelle ist und wie gut sie tatsächlich funktionieren, lässt sich nicht immer leicht beantworten: Vereinfachte Aussagen zu ihrer Leistungsfähigkeit können falsche Erwartungen wecken, komplexe Aussagen werden schnell zu technisch und damit unverständlich. Wie eine angemessene Bewertung von ML-Vorhersagemodellen aussehen könnte, zeigt die britische Organisation „What Works for Children’s Social Care“ am Beispiel der Jugendsozialarbeit. Wie gut funktionieren die Modelle wirklich, wo liegen ihre Grenzen und wie lassen sie sich nachvollziehbar bewerten? Gelesen von Pegah Maham.
Veranstaltungen
Jetzt anmelden: Virtuelle Diskussion zum AI Act mit Markus Anderljung, Alex C. Engler und Pegah Maham
Noch immer wird in Brüssel an einem Gesetzesentwurf zur Regulierung von Künstlicher Intelligenz (AI Act, oder AIA) gefeilt. Dabei handelt es sich um den weltweit ersten Rechtsrahmen für Künstliche Intelligenz (KI) und eines der wichtigsten digitalpolitischen Vorhaben der EU. Noch streiten die Gesetzgeber über grundlegende Definitionen, begonnen hat aber auch schon eine Debatte darüber, ob das KI-Gesetz außerhalb der EU Nachahmer finden und so globale Standards setzen könnte.
Wie realistisch ist ein solcher „Brüssel-Effekt“? Über den Entwurf und eine mögliche Vorreiterrolle der EU diskutieren am 9. November zwei ausgewiesene Experten: Alex C. Engler ist Fellow bei der Brookings Institution, Markus Anderljung ist Research Fellow beim Center for the Governance of AI. Beginn der circa einstündigen Zoom-Veranstaltung ist um 17.30 (MEZ). Moderiert wird die Debatte von Pegah Maham, Lead Data Scientist bei der SNV.
Hier können Sie sich anmelden.
Publikationen
Was taugen die Kriseninstrumente des EU Chips Act?
Selten hat sich die Anfälligkeit der globalen Halbleiterlieferkette so deutlich gezeigt wie in den letzten zwei Jahren, als es zu massiven Lieferengpässen kam. Mit dem Chips Act schlägt die EU Instrumente vor, die im Krisenfall die Versorgung europäischer Anwenderindustrien sicherstellen sollen. Doch lassen sich Maßnahmen wie Exportrestriktionen überhaupt passgenau auf diesen speziellen Sektor anwenden? Jan-Peter Kleinhans und Julia Hess gehen dieser Frage in ihrem dritten Papier zur Rolle von Regierungen in der Halbleiter-Wertschöpfungskette nach und kommen zu dem Schluss: Die vorgeschlagenen Werkzeuge sind ungeeignet – viel sinnvoller wäre es, langfristig in Krisenprävention zu investieren. (Hier finden Sie Teil I und Teil II der Reihe „Governments' Role in the Global Semiconductor Value Chain“.)
▬▬▬▬▬
Data Science in Politik und Verwaltung
Zurzeit entstehen in allen Bundesministerien und im Kanzleramt Datenlabore, die dazu beitragen sollen, datenbasierte Methoden in der öffentlichen Verwaltung zu etablieren. Das Potenzial ist enorm, doch ebenso groß ist die Komplexität des Unterfangens. Rechtliche, praktische und kulturelle Hürden können die Integration von Data-Science-Teams in Behörden erschweren. Herausfordernd ist auch das Recruiting, weil Data Scientists in diesem Sektor weit mehr mitbringen müssen als nur technisches Knowhow. In ihrem aktuellen Papier geben Pegah Maham und Andy Wang Empfehlungen, wie die Einbindung von Datenlaboren in Politik und Verwaltung gelingen kann.
▬▬▬▬▬
Cybersicherheitsarchitektur liegt in 9. Auflage vor
Die von Sven Herpig und Christina Rupp herausgegebene Publikation zur Cybersicherheitsarchitektur Deutschlands ist in neuer Auflage auf unserer Website erschienen – auf Deutsch und Englisch. Wie die vorherigen Ausgaben bietet sie einen umfassenden Überblick über das komplexe Ökosystem der deutschen Cybersicherheitspolitik. Sie finden darin aktualisierte Akteursprofile und neue Akteure auf Bund- und Länderebene. Anna Semenova und Pegah Maham haben auch die interaktive Visualisierung entsprechend angepasst und ein neues Feature integriert: Unterhalb des Schaubilds lassen sich nun die vollständigen Profile aller Akteure anzeigen.
▬▬▬▬▬
Mit Cybersicherheitsübungen den Ernstfall proben
Weltweit müssen sich Staaten auf Cybervorfälle vorbereiten, die sich etwa gegen kritische Infrastrukturen wie Kraftwerke oder Krankenhäuser richten. Ein Instrument, das dabei helfen kann, den Ernstfall zu proben, sind Cybersicherheitspolitik-Übungen. Julia Schuetze und Rebecca Beigel haben im Rahmen eines Projekts mit der Gesellschaft für Internationale Zusammenarbeit (GIZ) eine Reihe solcher Übungen designt und in insgesamt acht Ländern durchführt, teils vor Ort, teils virtuell. Welche Erfahrungen sie dabei gemacht haben und unter welchen Bedingungen länderspezifische Übungen gelingen, fassen sie in ihrem Papier „Cybersecurity Policy Exercises in Practice“ zusammen.
▬▬▬▬▬
Wie sollte der „Digital Services Coordinator“ aussehen?
Die Bundesregierung wird demnächst einen Koordinator bestimmen, der den Digital Services Act in Deutschland umsetzen soll. Diese Stelle wird mit nationalen Behörden sowie der Europäischen Kommission zusammenarbeiten und teils auch selbst Aufsichtspflichten wahrnehmen. Doch wer kann diese Aufgabe übernehmen, und welche Umbauten und Expertise sind hierfür nötig? In seinem neuen Papier zeigt Julian Jaursch, wie eine starke deutsche Plattformaufsicht aussehen könnte – unabhängig davon, für welche Behörde sich die Bundesregierung letztlich entscheidet.