Gesund dank Algorithmen?

Policy Brief

Gesamtes Papier als PDF herunterladen

Algorithmen sind schon längst Teil unseres Alltags. Sie suchen uns die schnellste Route von A nach B aus, schlagen uns Filme auf Netflix oder den nächsten Einkauf auf Amazon vor. Doch algorithmische Systeme können mehr als unser Leben bequemer machen: Sie können Muster in großen Datenmengen erkennen, wenn wir Menschen den Überblick verlieren, effizient berechnen, wofür wir Menschen viel mehr Zeit bräuchten, konsistent entscheiden, wo wir Menschen mit Vorurteilen kämpfen. Wenn wir Algorithmen richtig einsetzen, können sie uns zu einer besseren und menschlicheren Gesellschaft verhelfen. Um diese Chancen zu nutzen, müssen wir uns zugleich der Grenzen dieser Technologie bewusst werden. Sie ist kein Allheilmittel und wird nie fehlerfrei sein. Diskriminierende Muster können sich über die Daten, die Programmierung, ihre Ziele oder die Art und Weise, wie sie genutzt werden, einschleichen. Dann drohen algorithmische Systeme – im Gegenteil – soziale Ungleichheit zu reproduzieren und gar zu verstärken. 

Die gute Nachricht ist: Ob sich die Chancen oder die Risiken algorithmischer Systeme verwirklichen, liegt an uns. Wir als Gesellschaft müssen uns unserer Verantwortung stellen: Wir müssen dem Einsatz der Systeme klare Schranken setzen und zugleich ihre gemeinwohlorientierte Nutzung fördern. Doch leider dominieren im öffentlichen Algorithmendiskurs die Extreme, seien es Verheißungsszenarien auf der einen oder vor allem Schreckensszenarien auf der anderen Seite. 

Unser Kooperationsprojekt „Algorithmen fürs Gemeinwohl“ verfolgt daher bewusst einen komplementären Weg, der die gesellschaftlichen Chancen algorithmischer Entscheidungsfindung ins Zentrum des Interesses stellt, ohne vor den Risiken die Augen zu verschließen. Anhand einer Analyse von exemplarischen Anwendungsbereichen, die auf das Leben der Menschen besonders großen Einfluss haben, soll geklärt werden, wo genau die Chancen und Risiken liegen und wie algorithmische Systeme gemeinwohlorientiert gestaltet werden können. Hierfür bewegt sich das Projekt vom Konkreten zum Allgemeinen: Durch den Blick auf spezifische Anwendungsbeispiele identifizieren wir wichtige Handlungsfelder der Algorithmengestaltung, vergleichen diese miteinander und abstrahieren so übergreifende Erkenntnisse und Handlungsbedarfe. 

Wir haben in drei Themenfeldern über Sektorengrenzen hinweg die transdisziplinäre Problemanalyse geschärft und den unmittelbaren Austausch über die gemeinwohlorientierte Gestaltung algorithmischer Systeme ermöglicht. Der erste intersektorale Workshop fand im April 2018 statt und widmete sich dem Thema „Vorausschauende Polizeiarbeit“ (Predictive Policing). Im Juli 2018 kamen Entwickler:innen, Personalmanager:innen, Wissenschaftler:innen, Vertreter:innen von Arbeitgeber:innen und des öffentlichen Sektors sowie Akteur:innen der Zivilgesellschaft zu einem zweiten Workshop zum Thema automatisierte Personalauswahl (Robo Recruiting) zusammen. Beim dritten Workshop im November 2018 standen Gesundheits-Apps im Mittelpunkt. Die im vorliegenden Papier aufgezeichneten Erkenntnisse und Empfehlungen gehen sowohl auf die Ergebnisse dieser Veranstaltung als auch auf Recherchen und weitere Gespräche mit Expert:innen zurück.

Gesundheits-Apps überschwemmen regelrecht den unregulierten Teil des Gesundheitsmarktes. Fast jede:r zweite Deutsche nutzt bereits mobile Anwendungen zum Monitoring oder der Verbesserung der eigenen Gesundheit. Ihren größten Nutzen könnten algorithmische Systeme aber vor allem im regulierten Bereich des Gesundheitsmarktes entfalten. Während blindes Vertrauen gegenüber Gesundheits-Apps unangebracht ist, kann ein maßvoller und regulatorisch eingerahmter Einsatz positive Effekte für die Gesundheitsversorgung, die Gesundheitsaufklärung, das medizinische Fachpersonal und das Gesundheitssystem nach sich ziehen. Das Hauptaugenmerk dieses Papiers liegt dabei auf den positiven Wirkungen sowie den Risiken von Gesundheits-Apps für Patient:innen.

Wie alle algorithmischen Entscheidungssysteme leiten Gesundheits-Apps aus Datenanalysen Handlungsempfehlungen ab. Die Qualität und Verlässlichkeit dieser Empfehlungen hängt wesentlich von den zugrunde liegenden Daten ab: Wie groß, wie hochwertig, wie repräsentativ ist die Datenbasis? Das sind hier die entscheidenden Fragen. Bedeutend ist auch, wie von welchen Datenmustern auf welche medizinischen Befunde geschlossen wird. Dieser Weg muss transparent sein und die Datenhoheit stets bei den Patient:innen liegen. Datensicherheit sollte angesichts der Sensibilität solcher Daten einen hohen Stellenwert einnehmen. Deshalb werden am Ende des vorliegenden Papiers vor allem Empfehlungen ausgesprochen, die auf Qualitätssicherung, Transparenz, wirksame Kontrolle und einen breiten Kompetenzaufbau abzielen.

Gesundheits-Apps machen Patient:innen zu Gesundheitsexpert:innen. Nicht im Sinne des medizinischen Fachpersonals, weil ihnen dazu viel Experten- und Einordnungswissen fehlt, aber doch in einzelnen Bereichen, die sie persönlich betreffen. Dies stellt das Fachpersonal, aber auch die institutionalisierten Abläufe im Gesundheitssystem vor die Aufgabe, dieses neue Expertenwissen geschickt in die Versorgung zu integrieren, ohne es zu überhöhen oder gar zum Anlass zu nehmen, Fachpersonal einzusparen. Denn mit einer App lässt sich bislang keine Krankheit vollständig heilen.

Die ersten beiden Kapitel dieses Papiers bieten eine Einführung in die Thematik und stecken den Rahmen ab. Das dritte Kapitel, in dem Chancen und Risiken abgewogen werden, ist ein Scharnier zu den folgenden Kapiteln, in denen aufgezeigt wird, was zu tun ist, um die gemeinwohlförderliche Wirkung von Gesundheits-Apps zu sichern. Letztlich ist die Grenze zwischen Heilung und Optimierung fließend. Wir alle müssen uns im Zeitalter des technologischen Wandels daher fragen: „Optimieren wir nur oder heilen wir noch?“

Erschienen bei: 
Stiftung Neue Verantwortung & Bertelsmann Stiftung
05. November 2019
Autoren: 

Anita Klingel

Ansprechpartner: