Algorithmen fürs Gemeinwohl

Das digitale Zeitalter ist das Zeitalter der Algorithmen. Algorithmisch gesteuerte Entscheidungsprozesse sind derzeit in vielen Lebensbereichen auf dem Vormarsch.  Solche Entscheidungssysteme werden mittlerweile zunehmend kritisch reflektiert. Häufig wird gefragt, wie wir Algorithmen kontrollieren können und ob wir die Anwendungsbereiche von Algorithmen eingrenzen müssen. Vor allem werden Wege gesucht, die „Black Box Algorithmus“ zu öffnen und dadurch Überprüfbarkeit sicherzustellen. Tatsächlich zeigen viele aktuelle Beispiele, wie unfair und problematisch algorithmische Entscheidungsfindung sein kann. Deswegen ist es zweifelsohne wichtig, sich mit den Schwächen und Herausforderungen algorithmischer Systeme zu befassen.

Allerdings bergen Algorithmen für die Objektivierung von Entscheidungen und die Lösung von Problemen auch große Potenziale. Denn von Menschen getroffene Entscheidungen sind üblicher Weise mit erheblichen Schwächen behaftet, weil Menschen von subjektiven Einschätzungen geleitet werden, oder weil die Komplexität einer Sachlage schlicht die zeitlichen oder kognitiven Kapazitäten von Personen übersteigt.

Das Kooperationsprojekt zwischen der Stiftung Neue Verantwortung und der Bertelsmann Stiftung verfolgt daher eine zu den verbreiteten kritischen Ansätzen komplementäre Strategie, indem es das gesellschaftliche Potential von algorithmischen Systemen in einem Bottom-up-Ansatz ins Zentrum der Projektarbeit stellt. Anhand einer Analyse von Anwendungsbereichen, in denen das Potential algorithmischer Entscheidungsfindung besonders groß ist, soll geklärt werden, wie algorithmische Systeme per Design gemeinwohlorientiert gestaltet werden können. Ziel ist es, Prinzipien zu formulieren, über die bereits in der konzeptionellen und technischen Entwicklungsphase sichergestellt wird, dass Algorithmen ihr gesellschaftliches Verbesserungspotenzial voll entfalten können, ohne negative Effekte, wie die systematische Benachteiligung einzelner Personen oder Gruppen, über Skaleneffekte auf weite gesellschaftliche Teile auszudehnen.

Workshops

 

Workshop #1 – Auftaktworkshop zum Projekt „Algorithmen fürs Gemeinwohl“

26. Januar 2018

Im ersten Workshop, zu dem 25 Fachexperten aus allen Sektoren und von unterschiedlichen Zuständigkeitsebenen eingeladen waren, wurde zunächst ein Überblick über das Projektdesign gegeben. Dann haben die Teilnehmenden gemeinsam ein Chancen-Mapping vorgenommen und besonders vielversprechende Beispiele identifiziert. Zuletzt wurden fünf dieser Beispiele in Gruppen näher aufbereitet und vorgestellt.

PDF iconEinführung (PDF)

PDF iconErgebnisse (Fotos, PDF)

 

Workshop #2 – Predictive Policing

20. April 2018

In ersten thematischen Vertiefungsworkshop haben wir uns mit dem auch in Deutschland populärer werdenden Thema vorausschauende Polizeiarbeit auseinandergesetzt. Mit Vertretern aus vier der sechs Bundesländer, die bereits Predictive-Policing-Systeme nutzen, sowie mit Systemanbietern, Menschenrechtlern, Datenschützern und weiteren Vertretern der Zivilgesellschaft haben wir zunächst den Aufbau, die Wirkungsweise und Effektivität national und international gebräuchlicher Systeme analysiert. Dann haben wir überlegt, wie man die Modellierung sowie die institutionelle und soziale Implementierung so gestalten kann, dass der Einsatz von Predictive-Policing-Software zu mehr öffentlicher Sicherheit führt und dieses Gut gesellschaftlich gleich verteilt.

PDF iconEinführung (PDF)

PDF iconErgebnisse (PDF)

 

Außer der Reihe (1): Workshop zur Künstliche-Intelligenz-Strategie der Europäischen Union

27. April 2018

Anlässlich des Besuchs von Andrus Ansip, Vizepräsident der Europäischen Kommission, in Berlin haben wir die EU-Strategie für Künstliche Intelligenz in einem hochkarätigen Expertenkreis diskutiert. Vorbereitung, Einladung und Durchführung haben in Zusammenarbeit mit der Europäischen Kommission stattgefunden.

PDF iconErgebnisse (PDF)

 

Außer der Reihe (2): Workshop zu Chancen & Risiken smarter Assistenzsysteme bei der Pflege älterer Menschen

04. Juli 2018

Mit dem SNV-Kollegen Jan-Peter Kleinhans und in externer Kooperation mit der Universität Siegen haben wir im Kreis von rund 20 Experten in einem Mapping zunächst Stakholder, Chancen und Risiken von AAL-Systemen erfasst. Dann haben wir gemeinsam überlegt, ob ein Katalog von Gütekriterien für die Entwicklung solcher Systeme aus Gemeinwohlperspektive zielführend sein könnte, und welche anderen Maßnahmen nötig sind, um die Chancen einzulösen und den Risiken zu entgehen.

PDF iconErgebnisse (PDF)

 

Workshop #3 – Robo Recruiting (algorithmische Systeme bei der Personalauswahl)

05. Juli 2018

Das zweite inhaltliche Vertiefungsthema des Projekts war die Unterstützung der Rekrutierung von Personal durch algorithmische Systeme, die auch in Deutschland in diesem Bereich bereits vielfältig zum Einsatz kommen. Im Kreis von etwa 25 Experten aus den relevanten Bereichen (Systemanbieter, Systemnutzer, Arbeitgeberverband, Gewerkschaft, Datenschützer, Personalberater) haben wir uns zunächst einen Überblick über das Feld verschafft. Dann haben wir die zentralen Herausforderungen identifiziert, haben uns gefragt, wie solche Systeme angesichts dessen modelliert werden müssten und was bei der Implementierung und Evaluierung zu beachten ist.

PDF iconEinführung (PDF)

PDF iconErgebnisse (PDF)

WeiterlesenSchliessen