Sicherheit und Resilienz von Maschinellem Lernen

Zwischen Regierungen und auf internationalen Konferenzen wird derzeit viel über die Sicherheit von Künstlicher Intelligenz gesprochen, wie zum Beispiel kürzlich auf dem AI Safety Summit in Bletchley Park. Der Name dieses Gipfels deutet schon an, was hier und auch anderswo meist gemeint ist: der Safety-Aspekt. Safety bedeutet in diesem Zusammenhang, dass eine Anwendung, die auf maschinellem Lernen basiert (ML-Anwendung), unfallfrei das tut, was sie tun soll. Ein auf dem Parkett der internationalen Politik deutlich seltener beleuchteter Punkt ist jedoch die Sicherheit im Sinne von Security. Security beschreibt die Sicherheit von ML-Anwendungen – Foundation Models und anderen – vor böswilligen Dritten, die Modelle unberechtigt kopieren (und weiternutzen) oder manipulieren wollen. Kriminelle, Nachrichtendienste und andere böswillige Akteure versuchen dies beispielsweise über Data Poisoning, Model und Data Extraction, Backdooring oder Prompt Injection zu erreichen.