Dark Patterns: Design mit gesellschaftlichen Nebenwirkungen

Policy Brief

Zusammenfassung

Wie reibungslos es auf der Website eines Online-Shops möglich ist, das passende Buch zu finden und zu bestellen, wie intuitiv sich ein Karten- oder Navigationsdienst im Alltag nutzen lässt oder wie aufwendig es ist, einen Kund:innen-Account für einen Car-Sharing-Dienst einzurichten, kann heute erheblichen Einfluss darauf haben, welche Umsätze ein Produkt erzielt oder welche Marktanteile ein Dienst erreicht. Nicht nur Betreiber großer Internetplattformen, sondern Unternehmen in immer mehr Branchen der Online-Wirtschaft investieren daher zunehmend erhebliche Summe, um die Benutzeroberflächen ihrer Plattformen, Apps oder Software so zu designen, dass sie sich leicht, intuitiv und möglichst schnell nutzen lassen. 

Dieser als nutzerzentriertes Design (UX-Design) bezeichnete Ansatz der Produktentwicklung basiert darauf, detailliert das Verhalten von Menschen bei der Interaktion mit einer App oder Website zu beobachten, Prototypen zu entwickeln und diese in Experimenten zu testen. Methoden des UX-Designs werden dabei nicht nur eingesetzt, um die Bedienungsfreundlichkeit zu erhöhen. Anbieter gestalten und optimieren die Oberflächen ihrer Websites oder Apps dabei genauso, um bestimmte unternehmerische Kennzahlen zu verbessern – sei es, die Anzahl an Nutzer:innen zu erhöhen, die sich als neue Kunden registrieren, das Umsatzvolumen je Nutzer:in zu steigern oder möglichst viele Benutzer:innen dazu zu bewegen, persönliche Daten zu teilen.

UX-Design sowie das intensiven Testen und Optimieren von Benutzerschnittstellen ist damit zu einem Standard in der heutigen digitalen Produktentwicklung und zu einem wichtigen Wachstumstreiber vieler Unternehmen geworden. Allerdings hat diese Entwicklung auch einen Nebeneffekt: Da Unternehmen und Nutzer:innen bezüglich des Designs von Apps oder Websites zum Teil unterschiedliche Interessen und Bedürfnisse haben, werden zunehmend auch Benutzeroberflächen entwickelt, die zwar aus Sicht des Anbieters effektiv sind, um bestimmte Geschäftsziele zu erreichen. Für Verbraucher:innen können sie aber problematisch sein. 

Hierzu zählen beispielsweise Warnungen und Countdowns, die in einem Online-Shop Kund:innen bei Kaufentscheidungen zeitlich unter Druck setzen, Einstellungs-Fenster, die es Nutzer:innen schwer machen, Datenschutzeinstellungen zu aktivieren oder Website-Architekturen, die es ohne Grund enorm aufwendig machen, einen Account bei einem Anbieter zu löschen. Sie werden als sogenannte „Dark Patterns“, „Deceptive Design“ oder „Unethical Design“ bezeichnet und sind Design-Praktiken, die Menschen in ihrem Verhalten oder ihren Entscheidungen so beeinflussen, dass ihnen Nachteile entstehen. 

Bei den meisten Dark Patterns handelt es sich um sanfte Formen der Einflussnahme, die kaum zu nennenswerten Nachteilen oder Schäden für Verbraucher:innen führen. Sie sind häufig Bestandteil prinzipiell vertretbarer Marketing- und Verkaufspraktiken. Allerdings existieren genauso Dark Patterns, die den Effekt haben, dass Verbraucher:innen ungewollt höhere Kosten entstehen, Nutzer:innen unwissend dem Verkauf persönlicher Daten zustimmen oder es erheblich erschweren, die eigene Rechte als Konsument wahrzunehmen. Die zum Teil hohe Wirksamkeit und massenhafte Verbreitung von Dark Patterns stellt mittlerweile nicht nur ein Problem dar, mit dem jede:r einzelne Nutzer:in im digitalen Alltag zu kämpfen hat, sondern führt auch zu einer Reihe von Herausforderungen für politische Entscheidungsträger:innen:

  • Dark Patterns stellen heute ein flächendeckendes Problem für den Schutz der Privatsphäre dar, weil digitale Oberflächen so designt werden, dass Nutzer:innen dazu gebracht werden, möglichst viele persönliche Daten mit Unternehmen zu teilen. Gleichzeitig werden Design-Praktiken eingesetzt, die es erschweren, personenbezogene Daten zu schützen. Hinzu kommt, dass Dark Patterns insbesondere in Europa dazu beitragen, dass Datenschutzgesetze in der Praxis an Wirkung verlieren, da sie zum Teil von der Einwilligung der einzelnen Nutzer:innen abhängen, Einwilligungen aber so gestaltet werden, dass sie Nutzer:innen dazu bewegen, den niedrigst möglichen Datenschutzeinstellungen zuzustimmen.
     
  • Dark Patterns sind zu einem systematischen Problem für den Verbraucherschutz geworden, da bestimmte Design-Praktiken Nutzer:innen irreführen, ihre Rechte einschränken oder sie zu unüberlegten Kaufentscheidungen drängen. Dark Patterns wurden bisher vor allem im E-Commerce-Bereich untersucht und als flächendeckendes Problem erkannt, können aber potentiell überall dort auftreten, wo Verkäufe getätigt oder Verträge abgeschlossen werden. Sie finden sich genauso in Computerspielen mit Bezahlelementen, auf Reiseportalen, in den Kundenportalen von Telekommunikationsanbietern oder bei den Buchungswebseiten von Fluggesellschaften.
     
  • Problematische Design-Praktiken stellen eine zusätzliche Herausforderung für den immer wichtigeren Bereich der Medien- und Plattformregulierung dar. Ein Beispiel dafür ist das Netzwerkdurchsetzungsgesetz, welches 2017 in Kraft trat und große Soziale Netzwerke unter anderem verpflichtete, einen Meldeweg für rechtswidrige Inhalte in die Benutzeroberflächen zu integrieren. Vereinzelt wurden Meldeformulare jedoch so designt, dass diese für Millionen von Nutzer:innen kaum auffindbar waren und das Regulierungsvorhaben dadurch an Wirkung verlor. Ähnliche Probleme könnten bei zukünftigen Regulierungsvorhaben relevant werden, die beispielsweise versuchen, Plattformen zu verpflichten, Algorithmen für Nutzer:innen nachvollziehbarer zu machen oder politische Werbung zu kennzeichnen.
     
  • Die Fragen, ob und welche Relevanz es für den wirtschaftlichen Wettbewerb hat, wenn dominante, aber auch kleinere Marktakteure manipulative Design-Praktiken einsetzen und wie Wettbewerbspolitik und Wettbewerbshüter auf die Herausforderungen digitaler Märkte reagieren können, werden immer häufiger gestellt. Beispielsweise stellt sich die Frage, ob sich Marktteilnehmer:innen mit Hilfe manipulativer oder irreführender Design-Taktiken einen relevanten Vorteil gegenüber Wettbewerbern verschaffen können.
     
  • Dark Patterns stellen ebenfalls für den Jugendschutz eine Herausforderung dar, weil Kinder und Jugendliche besonders schutzbedürftig sind, jedoch trotzdem die gleichen Benutzeroberflächen nutzen, wie Erwachsene.

Um den Einsatz und die zunehmende Verbreitung problematischer Design-Praktiken zu verringern, ist es notwendig, dass Unternehmen beim Design digitaler Dienste und Plattformen stärker die Interessen und Rechte von Verbraucher:innen berücksichtigen. Wollen politische Entscheidungsträger:innen hierauf Einfluss nehmen und Fortschritte erzielen, sollte sie zuallererst den Einsatz besonders schwerer Formen von Dark Patterns sanktionieren. Dies geschieht bisher kaum. Regulierungsbehörden und andere relevante Organisationen sollten daher beginnen, mit Beschwerden, Verfahren oder Gerichtsprozessen aktiv gegen Anbieter vorzugehen, die Design-Praktiken einsetzen, die eine erheblich negative Wirkung auf eine große Anzahl an Menschen haben oder die dazu führen, dass bestehende Gesetze systematisch unterwandert werden. 

Dafür sind ein einem ersten Schritt keine neuen Gesetze oder Gesetzesänderungen nötig. Gesetzliche Regelungen, die genutzt werden können, existieren zum Teil bereits. Allerdings wird bisher noch zu selten versucht, diese auf Dark Patterns anzuwenden und durchzusetzen. Datenschutzbehörden, Jugendschützbehörden, Verbraucherschützer:innen oder auch Wettbewerbsbehörden sollten daher testen, welche unterschiedlichen gesetzlichen Regelungen geeignet sind, um gegen extreme Formen von Dark Patterns erfolgreich vorzugehen. Wichtig wäre es dabei auch, problematische Design-Praktiken und ihre negative Wirkung auf Nutzer:innen in den Mittelpunkt von Verfahren oder Gerichtsprozessen zu stellen, um Präzedenzfälle zu schaffen und ein stärkeres Problembewusstsein für schädliche Design-Techniken zu fördern. Voraussetzung für ein solches Vorgehen wäre die Bereitstellung finanzieller Mittel, da entsprechende Verfahren oder Gerichtsprozesse Ressourcen erfordern.

Ein aktives Vorgehen von Behörden und anderen Organisationen mit öffentlichem Auftrag ist ein geeignetes Mittel, um gegen existierende Probleme vorzugehen. Gleichzeitig sollten politische Entscheidungsträger:innen erkennen, dass digitales Produktdesign ein neues und zunehmend wichtiges Regulierungsfeld darstellt, in dem Regierung und Verwaltung Expertise aufbauen sollten. Dies ist wichtig, da in den kommenden Jahren viele weitere Gesetzgebungsprozesse und Regulierungsvorhaben anstehen, bei denen die Bedeutung des Designs digitaler Plattformen und Dienste berücksichtigt werden sollte. Expertise wird aber auch benötigt, damit Regulierer in der Lage sind, mit Unternehmen auf Augenhöhe über Lösungen zu diskutieren und um selbst wirksame, praxistaugliche und maßvolle Gegenmaßnahmen zu entwickeln.

Erschienen bei: 
Stiftung Neue Verantwortung
13. Mai 2020
Autoren: 

Sebastian Rieger (srieger@stiftung-nv.de)
Caroline Sinders (csinders@gmail.com)

Ansprechpartner: