KI in der Industrie absichern & prüfen. Was leisten Assurance Cases?

Der Einsatz von KI in der Industrieproduktion hat das Potenzial Abläufe in einer Fabrik flexibler und effizienter zu gestalten. Doch es entstehen mitunter auch Risiken, zum Beispiel für die Sicherheit von Industriearbeiter:innen. Die zentrale Frage, die sich auch im Kontext der aktuellen Regulierungsvorschläge für den Einsatz von KI in Europa stellt, lautet daher: Wie kann gewährleistet werden, dass KI-gestützte Maschinen keine Gefahr für diejenigen darstellen, die mit ihnen zusammenarbeiten?  

Das vorliegende Papier stellt das Konzept der Assurance Cases vor, eine mögliche Methode zur Absicherung und Prüfung von sicherheitskritischer KI in der Industrie. Es diskutiert die Stärken und Schwächen des Ansatzes, bindet dabei die Perspektiven von Herstellerunternehmen, Prüforganisationen und der Marktüberwachung ein und skizziert Handlungsempfehlungen für seine Weiterentwicklung und Implementierung. 

Das Papier erscheint als Teil des Forschungsprojekts ExamAI – KI Testing & Auditing, das sich der Erforschung geeigneter Test- und Auditierungsverfahren für KI-Anwendungen widmet. Es steht unter der Leitung der Gesellschaft für Informatik e.V., wird von einem interdisziplinären Team bestehend aus Mitgliedern der TU Kaiserslautern, der Universität des Saarlandes, des Fraunhofer-Instituts für Experimentelles Software Engineering IESE, der Stiftung Neue Verantwortung getragen und im Rahmen des Observatoriums Künstliche Intelligenz in Arbeit und Gesellschaft (KIO) der Denkfabrik Digitale Arbeitsgesellschaft des Bundesministeriums für Arbeit und Soziales (BMAS) gefördert.