Transkript zum Hintergrundgespräch: Deutschland im globalen KI-Wettbewerb

Es handelt sich um ein Transkript der Veranstaltung "Deutschland im globalen KI-Wettbewerb" mit Dr. Damian Borth, Direktor des Deep Learning Competence Centers am DFKI und Philippe Lorenz vom 7.2.2018 in der Stiftung Neue Verantwortung. Der Text wurde zur besseren Lesbarkeit bearbeitet. Es gilt das gesprochene Wort. Das Transkript steht hier als Download zur Verfügung.
 

– Beginn des Transkripts –
 

Philippe Lorenz: Wir haben draußen ein paar Bilder hängen, die symbolhaft den digitalen Wandel dokumentieren. Eines dieser Fotos zeigt den südkoreanischen Go-Spieler Lee Sedol Hand in Hand mit seiner Tochter kurz vor dem finalen Match gegen die künstliche Intelligenz AlphaGo. Ich glaube, dieser Moment ist in den asiatischen Ländern noch viel stärker im Bewusstsein als möglicherweise in den USA oder in Deutschland. Vielleicht hat dieses Match viele junge Menschen beeinflusst, die jetzt über ihr Studium nachdenken, möglicherweise Computer Science zu studieren. Mich würde interessieren, was hat Sie denn eigentlich damals bewegt, Informatik zu studieren?

 

Dr. Damian Borth: Genau, also ich sage mal, ich habe ein erstes Leben gehabt und jetzt habe ich das Jetzige. In meinem ersten Leben habe ich einen Diplom-Ingenieur Studiengang studiert. Das war in Kooperation mit Daimler im Bereich Nachrichtentechnik. Also das war ein bisschen weiter weg von dem, was ich jetzt mache. Ich habe dort die Gelegenheit gehabt als Student an die University of California, Santa Barbara (UCSB) zu gehen. Dort bin ich zum ersten Mal durch zwei Professoren mit künstlicher Intelligenz in Berührung gekommen. Ich erinnere mich an einen Moment, bei den einer meiner Professoren, Professor Edward Chang, der dort KI gelehrt hatte von seiner Studienzeit in Stanford erzählte. Das war 2003, da war noch nichts mit neuronalen Netzen, so wie wir sie heute kennen. Prof. Chang sagte, er hatte damals zwei Kommilitonen und die hätten das nicht so gut gemacht wie er selbst – die haben das Studium nämlich abgebrochen. Sie hießen Sergey Brin und Larry Page. Die haben Google gegründet. Für mich war das so ein Moment, wo ich dachte: Ah, man kann auch Unternehmen und Startups gründen mit dem, was man macht. Und das war auch für mich so ein Moment, wo ich gesagt habe, jetzt muss ich noch mal Informatik studieren, aber mit Fokus auf Mathematik.

Momente wie der, in denen die Maschine gegen Lee Sedol triumphiert, finde ich wichtig. Sie begeistern Menschen für Informatik – gerade in Deutschland, da hier die Informatik nicht so ein tolles Image hat. Frei nach dem Motto: Das sind ja die Leute, die wir in den Keller setzen – die sieht man ja nicht. Und in den USA hingegen sind Informatiker an Unis wie UC Berkeley, Rockstars. Die verändern Gesellschaften durch Startups, durch Unternehmen, die wir alle kennen. Und das muss ein bisschen auch nach Deutschland kommen, diese Begeisterung.

 

Philippe Lorenz: Und jetzt sind Sie Direktor des Deep Learning am DFKI. Was verbirgt sich dahinter?

 

Dr. Damian Borth: Richtig, ich leite als Direktor das Deep Learning Kompetenzzentrum am DFKI. Das DFKI hat vier Standorte, in Kaiserslautern, Saarbrücken, Bremen und Berlin ist jeweils ein Standort. Ich sitze in Kaiserslautern. Und das Deep Learning Kompetenzzentrum bildet eine Querschnittsfunktion ab, bei den verschiedene Forscher am DFKI, die an Deep Learnings arbeiten, repräsentiert werden.

Was ist Deep Learning? Deep Learning ist an sich ein Sammelbegriff von Ansätzen, die sich alle um neuronale Netze drehen, insbesondere um tiefe neuronale Netze. Und wenn man heute in den Medien von künstlicher Intelligenz irgendwas liest oder irgendwas hört, dann hat das zum großen Teil mit den Erfolgen des Deep Learning zu tun. Auf diesem Gebiet haben KI Forscher seit 2012, und das ist ein Jahr, das in jeden KI Geschichtsbuch stehen wird, einen Erfolg nach den anderen erreichen können. Und zwar haben die tiefen Neuronalen Netze damals 2012 bei einem ganz speziellen Wettbewerb (ImageNet) den ersten Platz gemacht. Das damals eingereichte „AlexNet“ hat nicht nur den ersten Platz gemacht, sondern auch alle anderen Ansätze um Längen geschlagen. Man war von diesem Erfolg ganz überrascht, da neuronale Netze schon seit den 60ern in ihrer Nische existieren. Aber 2012 haben diese Netze gezeigt, wenn sie eine gewisse Tiefe haben, können sie wettbewerbsfähig Ergebnisse produzieren und sich gegen all den anderen Methoden der KI erfolgreich behaupten. Das war so ein wichtiger Moment gewesen für das Deep Learning.

 

Philippe Lorenz: Vielleicht machen wir noch mal eine Rolle zurück und wechseln noch mal die Perspektive, weil es gibt diesen Begriff des KI Winters oder des AI Winters, der, glaube ich, 1984 das erste Mal geprägt wurde. Beschreiben Sie doch mal, was damals nicht funktionierte? Ich meine, KI, Sie sagten es, seit den 60er Jahren ist diese Technologie, wird sie erprobt. Und der KI Winter – nur um es kurz zu beschreiben – ist ein Backlash gewesen. Das Echo aus der Wissenschaft war tendenziell negativ; man konnte Erwartungen nicht halten und das hat die Presse angeheizt, negativ darüber zu berichten, das hat dann wiederum Investoren verschreckt und drei Jahre später ist auch tatsächlich diese sehr ehrgeizige Forschung zusammengebrochen in den USA und ist, glaube ich, bis in die 2000er hinein, hat sich das relativ auf Sparflamme entwickelt. Vielleicht können Sie kurz erklären, was das Besondere an neuronalen Netzwerken ist und die Entwicklung da ein bisschen nachzeichnen.

 

Dr. Damian Borth: Also wir haben ja in der Geschichte der künstlichen Intelligenz immer Höhen und Tiefen gehabt. Wir haben zurzeit eine Höhe, die Tiefen habe ich so forschungstechnisch nicht erlebt, nur aus dritter Hand, aus Gesprächen mit den Kollegen. Als in den 60er Jahren die Entwicklung der Computer vorangeschritten ist, war der Wunsch der Forscher, diesen Maschinen Intelligenz zu verschafften, die Intelligenz zu machen. Man hat die künstliche Intelligenz als Forschungsfeld definiert und voller Motivation geglaubt man könnte, dass man im nächsten Sommer den Maschinen das Sprache verstehen beibringt, den Winter danach das Sehen usw. Leider war dies alles viel schwieriger als gedacht und die Erfolge kamen nicht so schnell wie man sich diese erhofft hat bzw. sie versprochen hat. Als die Schere zwischen Erwartung und Realität zu stark auseinanderging, kam der erste KI Winter. Für die Neuronalen Netze hat das sogenannte XOR Problem solch eine Sinnkrise verursacht. Dann gab es wieder Erfolge bis es zur nächsten KI Winter in den 80gern kam, auch angetrieben durch die nichterfüllten Erwartungen der damaligen Expertensysteme. Dann kamen in den späten 90ern mit den statistischen Methoden wieder Erfolge. Und jetzt seit den tiefen neuronalen Netzen um 2012 haben wir jetzt wieder eine starke Erfolgsphase. Diese ist begründet aber auf den folgenden drei Komponenten: Erstens, durch die tiefen neuronalen Netze haben wir einen Ansatz mit flexible Lernkapazität. Wir können sie tiefer machen, das bedeutet, wir können diese Netze mit mehr Schichten ausstatten und dadurch können diese Netze mehr lernen. Problem ist, je tiefer die sind, desto mehr Daten brauche ich um diese vielen freien Modelparameter zu trainieren. Diese Daten hatten wir vorher nicht. Die hatten wir jetzt aber mit Big Data, so haben wir diese Datenmengen und wir können diese Datenmengen benutzen, um diese Netze zu trainieren. Das war die zweite fehlende Komponente. Das Einzige, was gefehlt hat, war noch die Maschinerie, die diese tiefen Neuronalen Netze effizient trainieren lässt – die dritte Komponente.

Und da ist die zweite interessante Geschichte in dem Bereich der tiefen neuronalen Netze passiert, dass diese Netzwerke auf GPUs, Grafikkarten berechnet werden. Das heißt, man würde, wenn man ein neuronales Netz – und ich nehme immer sehr gerne das AlexNet von 2012 als Referenzmodell – wenn man das zum Beispiel auf einen normalen Computer rechnen oder trainieren lassen würde, hätte man zwei Jahre gebraucht. Damals haben das die Kollegen auf einer GPU in zwei Monaten geschafft und heute würde man das mit den neusten GPUs in zwei Stunden schaffen. Und GPUs ist ja nur eine Computational-Plattform neben ganz vielen neuen Arten von Chips, die jetzt gerade entstehen, die das Ganze noch mehr pushen werden.

 

Philippe Lorenz: Also Daten und Rechenleistung als zwei Treiber?

 

Dr. Damian Borth: Daten und Rechenleistung. Flexible Architektur.

 

Philippe Lorenz: Und das ist der Unterschied auch zu Big Data Analytics, würde ich sagen. Weil Daten hat man ja auch in andere Big-Data-Anwendungen und die neuronalen Netzwerke oder Netze sind sozusagen Magic in der…

 

Dr. Damian Borth: Ja, also mit Big Data kam ja die Diskussion und das große Versprechen, je mehr Daten wir haben, desto besser werden wir und können mehr Insights generieren. Dann haben die ganzen Menschen in der Industrie investiert und jetzt haben wir die Daten, aber die Insights haben wir nicht. Wir verwenden jetzt Schritt für Schritt Methoden der künstlichen Intelligenz, gerade des Deep Learnings, um diese Insights aus den Daten zu extrahieren. Und das ist auch gut so, den diese neuronalen Netze sind sehr datenhungrig. Und das ist das, was im Bundesministerium für Wirtschaft und Innovation als Smart Data Begriff genannt wird, die Transformation von Big Data mittels maschinellen Lernens zu smarten Daten.

 

Philippe Lorenz: Wenn man sich jetzt mal die Forschung ansieht, das DFKI ist bekannt für Grundlagenforschung, insbesondere in dem Bereich aber auch für den Technologietransfer in die Industrie.

 

Dr. Damian Borth: Genau, ja.

 

Philippe Lorenz: Blicken wir jetzt mal über den Atlantik und schauen uns die Entwicklung in den USA an, so kann man sehen, und da gibt es verschiedene Schätzungen… In dem Einladungstext hatte ich das erwähnt, dass die Big Five der amerikanischen Technologiekonzerne und ihre chinesischen Counterparts Tencent und Baidu circa 20 bis 30 Milliarden Dollar investiert haben 2016 in die Erforschung von künstlicher Intelligenz, circa 5 Milliarden Dollar wurden aufgebracht für Startups und 60 Prozent dieser 5 Milliarden Dollar entfielen auf amerikanische Startups. Und diese Forschung, die Erforschung der KI scheint sich zu verlagern in die Privatwirtschaft beziehungsweise scheint sich zu vollziehen innerhalb von Technologieunternehmen. Vielleicht können Sie uns ein bisschen den Grund dafür erklären, warum sich diese Forschung dort manifestiert und nicht mehr unbedingt… Wenn man sich die Publikation auch der Paper ansieht, dann wird viel auf dem arXiv-Archiv publiziert. Das ist ein Open-Source-Archiv. Die kommen direkt aus den Forschungsabteilungen von Facebook, Google, Apple und Co.

 

Dr. Damian Borth: Das ist ein Trend, den wir in den letzten drei bis fünf Jahren beobachten, ich persönlich mit Sorge. Also wenn man sich das historisch anschaut, die tiefen neuronalen Netze, wie an diesem bis Jahr 2012 geforscht wurde, wurde damals viel in Kanada geforscht worden. Natürlich auch Herr Schmidhuber in der Schweiz, aber sehr viel öffentliche Gelder aus der kanadischen Regierung wurden in die Forschung um diese Ansätze gesteckt, damit diese Netze überhaupt diese Reife bekommen. In dem Moment, wo 2012 der Durchbruch kam und Kollegen gezeigt haben, dass das funktioniert, haben natürlich die Technologieunternehmen Interesse an diesen Netzen bekommen. Sie haben ja schon KI-Methoden angewendet, statistische Methoden wie Support Vector Machine (SVM) und dann kamen plötzlich diese Netze, die sehr erfolgreich waren und das das haben sie abgegriffen. Diese Unternehmen sehen natürlich diese Technologien als USP, also als Schlüsselfaktor, um sich von dem Wettbewerb abzusetzen. Das heißt, die sind ganz offen als strategischer Punkt in ihrer Ausrichtung und die nehmen auch das Geld in die Hand, um hier (a) die Daten zu akquirieren, also nicht nur die Daten zu sammeln, sondern auch die wertvollen Annotation die man zum Trainieren braucht. Man muss die Daten vorverarbeiten d.h. sauber machen. Das ist sehr viel Aufwand. Eine Universität kann das in der Größenordnung wie es Google macht, gar nicht so nachmachen. Das ist das eine. Und das Zweite, die benötigte Deep Learning Hardware, eine DGX-1 zum Beispiel, die kostet zwischen 150.000 und 200.000 Euro.

 

Philippe Lorenz: Und die werden verschaltet und rechnen nicht alleine?

 

Dr. Damian Borth: Genau, das ist so ein Rechner, da sind acht GPUS drin und dadurch kann ich sehr schnell diese Ergebnisse erzielen. Die werden palettenweise zu Google und zu Facebook verkauft. Wir haben mit dem BMBF monatelang gerungen, damit wir eine bekommen und das hat uns wirklich geholfen, als Nvidia mir am Deep Learning Kompetenzzentrum im Rahmen des NVAIL Programmes von NVIDIA eine geschenkt hat. Wir waren damals eins von zwei europäischen Forschungsinstituten, die sowas bekommen haben, weil Nvidia gesagt hat: „Komm, hier, habt mal.“

 

Philippe Lorenz: Und Google schaltete mehrere zusammen?

 

Dr. Damian Borth: Google schaltet mehrere zusammen. Ich will gar nicht wissen, wie viele die haben.  

 

Philippe Lorenz: Was ist denn der Vorteil dieses Approachs? Ich meine, ich kann mir vorstellen, dass es ja grundsätzlich Monetarisierungsmodelle sind, Geschäftsmodelle, an denen diese Unternehmen tatsächlich interessiert sind.

 

Dr. Damian Borth: Genau.

 

Philippe Lorenz: Und insofern die Forschung daraufhin ausbauen, neue Absatzmärkte zu erschließen. Es wird vom Überwachungskapitalismus sogar gesprochen, weil es darum geht, den Nutzer tatsächlich zu erfassen in all seinen Erscheinungsformen im Netz, um möglicherweise gezielter Ads zu schalten. Was ist da Ihr Eindruck darüber?

 

Dr. Damian Borth: Ein Punkt noch, ein Kommentar zu dem Letzten. Also nicht nur diese Technologieunternehmen haben Deep Learning als wichtigen Schlüsselfaktor identifiziert und sich entschieden viel Geld zu investieren. Dieses Investment ging nicht nur in Daten, sondern auch in Hardware und seit neuestem auch in Menschen. Es werden diese Deep-Learning-Koryphäen vom Markt abgeworben. Die Professoren, die an den Universitäten gelehrt haben, diese werden von Facebook abgeworben, von Google oder von anderen Unternehmen wie Baidu. Also das ist das, wo man sagen muss, diese Unternehmen suchen gezielt und nehmen sich auch die guten Leute.

Warum machen sie das? Natürlich, wenn ich jetzt Google nehme und Google hat angefangen mit der Idee die Informationen dieser Welt zu erschließen – also auch den vielen Daten Sinn zu machen. Das hört sich ja an sich sehr interessant an und ich bin wirklich dankbar, dass wir Suchmaschinen haben. Ich könnte auch gar nicht ohne. Wenn man natürlich diese Idee weitertreibt und jetzt auch wirklich in die Privatsphäre des Menschen hineingeht, dann muss man jetzt wieder aufpassen, was möchte man.

In diesem Kontext da gab es vor ein paar Jahren einen schönen Moment von Eric Schmidt. Er hat mal einmal gesagt, das Beste wäre es, wenn wir in den Kopf des Menschen gucken könnten, da wir dann die Suchanfrage perfekt beantworten könnten. Und da hat er richtig Ärger bekommen. Was er sagen wollte, war eigentlich nur, und das ist ein wissenschaftliches Konzept, das nennen wir „Semantic Gap“, wenn ich nach irgendetwas suche, dann habe ich in meinem Kopf eine Idee und ich als Suchender muss mir noch die Arbeit machen die richtigen Schlüsselworte zu finden und in die Suchmaske einzutippen. Da wäre es wirklich hilfreicher, wenn man direkt in den Kopf reinschauen könnte, um mir eine Antwort zu geben. – jetzt simpel ausgedrückt. Die Frage: Wollen wir das? Und was für Auswirkungen hat das? Das ist quasi das eine Extrem von Google.

Das andere Extrem, was wir haben, das kommt im Mai, General Data Protection Regulation der Europäischen Union. Das ist dann die Frage, was wollen wir und wie arbeiten oder wie verstehen wir das Thema Privatsphäre, wenn wir in die Zukunft schauen? Und hier gibt es einen Kollegen am DFKI, der sagt, im bestimmten Kontext tötet Privatsphäre. Wenn ich zum Beispiel hier jetzt umfalle und ein Arzt kommt und der weiß nicht, dass ich irgendeine Allergie habe und spritzt mir ein Medikament, dann kann er mich vielleicht töten, wenn ich auf dieses Medikament allergisch reagiere. Das heißt, in dem Sinne ist meine Privatsphäre mir zweitrangig. Der Arzt soll wirklich alles wissen über mich, damit er mir helfen kann. Wir müssen in Deutschland Privatsphäre als kontextabhängig sehen und nicht so 0 und 1, schwarz und weiß.

 

Philippe Lorenz: Bevor wir zur Privatsphäre kommen und zu den rechtlichen Aspekten, würde mich interessieren, ob Sie persönlich diesen Brain Drain spüren. Ich meine, Ihr Doktorvater, Thomas Breuel, ist zunächst zu Google Brain gegangen, dann zu Nvidia. Verlieren wir Sie auch bald an Technologieunternehmen aus den USA? Ich meine, Ihre Studenten müssen heiß begehrt sein.

 

Dr. Damian Borth: Ja, leider (lacht).

 

Philippe Lorenz: Was man immer sagt über die deutsche Forschung, dass die Grundlagenforschung exzellent ist, es stockt aber genau bei der Umsetzung, bei der Monetarisierung. Dort zeichnen sich die Amerikaner aus. Aber das müssten Sie doch merken. Das müssen Sie doch merken.

 

Dr. Damian Borth: Ja, also gerade zu Thomas. Thomas Breuel, mein Doktorvater. Genau wegen ihm bin ich an das DFKI nach Kaiserslautern und irgendwann 2013 sagt er mal zu mir: „Damian, ich gehe jetzt zu Google.“ Da hat man als Professor vieles, was man sich in der Akademie wünscht, sicherer Job, Pension und so und er geht zu Google. Für mich war das auch sehr spannend, ich habe dann in einem halben Jahr dann fertig promoviert. Es gibt nichts Besseres als Motivation. Es war ein intensives halbes Jahr. Aber er ist dann nach zwei Jahren wieder zu Nvidia und das zeigt auch ein bisschen, wo die interessante Technologie ist. Er ist auch weitergezogen, also auch ein Google hat es nicht geschafft, ihn zu halten. Das ist auch etwas, das man sagen muss.

Wenn man sich jetzt das DFKI anschaut und ich habe Studenten, die ich halten wollte, die sind zu Automobilkonzernen gegangen und haben mehr bei den Automobilkonzernen verdient als ein Forscher am DFKI, also je nachdem, ob ich schon promoviert habe. Als Student der bei null anfängt ist das natürlich sehr, sehr verlockend dann in die Industrie zu gehen - vor allem in die forschungsnahe Industrie. Das ist für uns am DFKI eine Herausforderung, den die Projekte, die wir bearbeiten, werden von Doktoranden mitbearbeiten. Die haben natürlich eine intrinsische Motivation am DFKI zu sein. Sie wollen ihren Doktor machen, aber in dem Moment, wo sie promoviert sind, ist diese Motivation weg. Und sie dann halten zu können, ist dann sehr schwierig. Und diese frischpromovierten Leute sind aber enorm wichtig, weil die entsprechend die Koordination von kleineren Gruppen von Forschungsthemen übernehmen. Und das ist so ein bisschen die Herausforderung.

Wie können wir diesen Spagat schaffen in einer öffentlich gemeinnützigen Einrichtung mit beschränkten Möglichkeiten, solche Gehälter zu zahlen? Wie können wir es schaffen, diese Leute noch zu motivieren, in der Akademie zu bleiben? Nicht jeder ist so verrückt wie ich und versucht, eine akademische Karriere zu verfolgen.

Man muss sich auch eingestehen, dass es manchmal auch einfacher ist, in der Industrie zu forschen. Ich habe zwar nicht so die Freiheit. Ich sage ja immer, in der Forschung haben wir mehrere Währungen. Wir werden nicht nur in Euro bezahlt, sondern auch in der Freiheit sich unsere Themen aussuchen zu können. Wirr können durch entsprechend Projekt-Proposals unsere Forschungsschwerpunkte definieren. Das ist wie ein Blumenstrauß an Sachen, die motivieren. Auf der anderen Seite, wenn ich zu Google gehe, habe ich anders ausgedrückt den Vorteil, ich muss mich um diese Sachen nicht kümmern. Ich brauche keine seitenlange Proposal schreiben um an die Ressourcen zu kommen, die ich brauch um meine Forschung zu machen. Ich habe mein wissenschaftliches Problem, ich habe die beste Ausstattung, die es gibt, ich habe die Daten, die ich so in der Öffentlichkeit als Einrichtung nicht bekomme und ich kann wirklich an dem Problem arbeiten und das wirklich auseinandernehmen und versuchen zu lösen. Ich habe diesen administrativen Overhead, die ganze Bürokratie nicht.

 

Philippe Lorenz: Und wenn sie es aber nicht schaffen, das Geschäftsmodell zu entwickeln, geht die Tür zu für ihr Projekt.

 

Dr. Damian Borth: Genau, genau. Also in der Industrie.

 

Philippe Lorenz: Ja.

 

Dr. Damian Borth: Genau. Und das ist auch einer der Punkte, zum Beispiel bei Google spricht man sehr oft von diesen 20 Prozent. Man kann ja 20 Prozent seiner Zeit in Pet Projects investieren. Es wird aber bei Google gewünscht, dass diese Pet Projects sich um die neusten Technologien drehen. Da ist auch immer so ein Drang in die Monetarisierung, in die interessanten Geschäftsmodelle und natürlich, wenn dann irgendwann mal auch entschieden wird, das bringt meinem Geschäftskonzept nichts, dann wird gecuttet und dann kann ich vielleicht in zwei Jahren mich ganz woanders wiederfinden, wo ich vielleicht dann doch nicht sein möchte.

 

Philippe Lorenz: Also Hand aufs Herz, was müssten Sie Ihre jungen Post-Docs bieten, welche Summe? Worüber reden wir?

 

Dr. Damian Borth: Also erst mal muss man mit denen wie Menschen umgehen, auch wenn sie früher die Studenten waren (lacht).

 

Philippe Lorenz: Aber ich höre ja raus, dass es natürlich eine intrinsische… Wir haben sicher hier auch Studenten im Raum. Es ist eine intrinsische Motivation natürlich, in die Wissenschaft zu gehen.

 

Dr. Damian Borth: Ja, genau.

 

Philippe Lorenz: Aber ich höre ein bisschen raus, das Monetäre spielt natürlich mit.

 

Dr. Damian Borth: Ja, klar.

 

Philippe Lorenz: Wenn Sie sie halten wollen.

 

Dr. Damian Borth: Genau, wenn ich mir überlege, in der Industrie, ich meine, ich glaube, die Hälfte von den Leuten bei uns, die hat Headhunter Calls und die wissen ja alle, was man verdienen kann. Ich habe die letzte Runde jetzt nicht mitbekommen, aber man kann in der Industrie, wenn man als ausgebildeter Student mit KI Erfahrung rausgeht, mit 60.000 bis 70.000 Euro starten. Als promovierter Forscher kann man im Automobilbereich als Deep Learning Experte bis 150k bekommen. Und das sind natürlich Beträge, die sind verlockend. Klar. Das ist aber auch auf der anderen Seite mit all den Nachteilen, die man potentiell haben kann. Von Kollegen, die aus der Akademie in die Industrie gewechselt sind, weiß ich, dass die starren Strukturen in Großkonzernen einen manchmal auch zur Verzweiflung bringen. Das Hacken, das man von der Forschung kennt, das Ideenentwickeln, schnelles Realisieren, wenn es nicht funktioniert, dann zum nächsten Ansatz – dass alles gibt es nicht mehr. Also es gibt auch Menschen, die verzweifeln an solch einen Industriellen Setup und gehen dann weiter.

 

Philippe Lorenz: Okay. Ja, aber da scheint es trotzdem zu haken und Sie müssen sich weiterhin Gedanken machen darüber, wie Sie Ihre besten Leute halten.

 

Dr. Damian Borth: Ja, genau. Mit interessanten Projekten.

 

Philippe Lorenz: Mit interessanten Projekten.

 

Dr. Damian Borth: Also bei uns zum Beispiel gibt viele junge und sehr talentierte Menschen, die im Bereich des Deep Learning ihren Doktor machen – speziell möchte ich jetzt zwei herausgreifen: Sebastian Palacio und Joachim Folz. Sie arbeiten an den Grundprinzipien der Neuronalen Netzte und versuchen zu verstehen was diese Netzte wirklich machen, wie sie Entscheidungen treffen um die daraus resultierenden KI Systeme erklärbar zu machen. Zwei andere talentierte Doktoranden, Benjamin Bischke und Patrick Helber arbeiten an der Analyse von Satellitenbilddaten um Naturkatastrophen automatisch analysieren zu können und die Erkenntnisse den Einsatzkräften sofort vor Ort in die Hand zu geben. Wenn man jetzt den größeren Kontext der Vereinten Nationen sich so anschaut mit den Sustainable Development Goals, diesen Global Goals der UN, die 17 Zielen definieren um bis 2030 zu sehen wie wir uns als Menschheit weiterentwickelt haben. Zu fast allen dieser 17 Ziele kann ich Satellitenbilddaten zur Analyse verwenden, ob es jetzt Climate Change ist oder Poverty Index oder Wassernutzung zur Bewässerung im Kontext der Landwirtschaft. Es motiviert mich ungemein mit solchen Menschen zu arbeiten.

 

Philippe Lorenz: Die USA ist nicht das einzige oder ist nicht die einzige Nation, die diesen Brain Drain spüren beziehungsweise Deutschland ist nicht das einzige Land. USA spüren den ganz massiv vonseiten Chinas. Das letzte Beispiel oder das jüngste Beispiel ist ja Qi Lu; er hat ehemals für Microsoft ‚Microsoft Office 365‘ weiterentwickelt und hat dort KI implementiert und war sehr eng auf dem C-Level angebunden. Er ist jetzt mittlerweile bei Baidu und entwickelt dort die KI-Strategie und das hat dort für ziemliche Aufmerksamkeit gesorgt.

Wenn man sich anguckt, die Veröffentlichungen im Bereich Machine Learning sind mittlerweile, ich glaube, zu mehr als 50 Prozent aus chinesischer Hand beziehungsweise die Autorenschaft ist eine chinesische. Und, ich habe es vorhin kurz angesprochen, der chinesische Staatsrat hat die KI-Strategie veröffentlicht vergangenes Jahr und hat ganz dezidierte Meilensteine festgelegt, wie man bis 2030 tatsächlich in der Anwendung von künstlicher Intelligenz Weltmarktführer wird. Und im Vorgespräch haben Sie mir eine Begegnung geschildert mit einem chinesischen Unternehmensvertreter von Baidu. Ich weiß es nicht mehr ganz genau. Einer von den Großen jedenfalls.

 

Dr. Damian Borth: Alibaba.

 

Philippe Lorenz: Alibaba. Das hat Sie offensichtlich beeindruckt. Vielleicht beschreiben Sie mal kurz für unsere Zuschauer, für unsere Gäste, was…

 

Dr. Damian Borth: Ja. Also ein Kommentar noch zur vorherigen Frage.

 

Philippe Lorenz: Ja.

 

Dr. Damian Borth: Ich habe von einem Professor aus Süddeutschland gehört, die guten Leute bei ihm, die gehen in die USA, und die, die nicht sagen, wo sie hingehen, gehen zu Apple.

 

Philippe Lorenz: Okay.

 

Dr. Damian Borth: Vielleicht wird sich das ändern in Zukunft mit China. Meine Erfahrung, die ich gemacht habe, war jetzt bei einer Veranstaltung von dem Handelsblatt Strategisches IT-Management. Dort hat ein Herr von Alibaba gesprochen.

 

Philippe Lorenz: Alibaba.

 

Dr. Damian Borth: Alibaba, genau. Der Herr hat auf Folie 2 oder 3 von seinem Unternehmen – das war im Kontext der Alibaba Vision 2030 – als fünftgrößte Volkswirtschaft der Welt gesprochen. Und da habe ich erst mal gedacht: „Wow.“ Also da hat er aufgezählt so USA, China, Japan, Deutschland – ich kenne die Reihenfolge nicht – und dann Alibaba. Also das Verständnis und dieses Selbstbewusstsein hat mich persönlich beindruckt, muss ich sagen. Auf der anderen Seite, wenn man als Unternehmen schon von sich selber als Volkswirtschaft spricht und ich meine China hat einen Binnenmarkt, der ist gigantisch, und die müssen nicht sofort international aktiv werden, da sie im eigenen Land mit all den Menschen genug zu tun haben.

 

Philippe Lorenz: Und dafür wird ja auch die Technologie eingesetzt mittlerweile, weil sie das auch als Problem empfinden teilweise.

 

Dr. Damian Borth: Genau. Aber wenn diese Unternehmen einmal auf die Idee kommen, dass sie international tätig sein wollen, und dann in die Europäische Union als Markt hineingehen oder in die USA. Also Alibaba hat angefangen als quasi so eine Art Amazon in China, ist jetzt aber viel mehr geworden, ein Bezahlsystem, eine Plattform. Und wenn diese Unternehmen strategisch andere Märkte entdecken und dort reingehen, dann werden viele Unternehmen hier in Deutschland plötzlich merken, so kuschelig warm ist es doch nicht.

 

Philippe Lorenz: Sie schauen sich auch den Technologiesektor unter anderem in Afrika an, beispielsweise den Tech Hub in Nairobi, wo sie versuchen, Startups zu screenen. Was sagt das denn über den chinesischen Weg? Das ist ja eine sehr aggressive Herangehensweise.

 

Dr. Damian Borth: Richtig. Wenn wir jetzt von den drei großen Unternehmen Baidu, Alibaba und Tencent sprechen, das sind die drei großen, die einen gigantischen Binnenmarkt haben und nicht nur den Binnenmarkt, um Umsätze zu generieren, sondern auch den Binnenmarkt, um Daten zu bekommen. Die neuronalen Netze, welche mittels überwachtes Lernen trainiert werden, sind extrem datenhungrig. Und wenn ich die Daten habe, dann habe ich einen Wettbewerbsvorteil.

Ich habe im Dezember/November eine KI Konferenz mit dem VDI organisiert, da habe ich eine Paneldiskussion mit dem Chief Medical Officer von General Electric gehabt und der hat in Hinblick auf Privatsphäre und Datenverfügbarkeit gesagt, das Erste, was er gemacht hat, als die General Data Protection Regulation (GDPR) entschieden war, hat er seine Forschung aus Europa herausextrahiert und sie dann in Länder hineingetan, wo es Daten gibt. Und jetzt kann man argumentieren, ja, ist halt schade, wir verlieren Umsatz, Wachstum, Arbeitsplätze. Okay, gut. Kennen wir. Mit der Stammzellenforschung haben wir so etwas Ähnliches erlebt. Aber was er dann gesagt hat, das war für mich neu. Es hat mir die Augen aufgemacht. Er hat dann gesagt, das Problem ist – er ist Europäer – dass die Erforschung von Medikamenten, wie sie in der Zukunft geschehen wird, nicht auf Geno- und Phänotypen basiert, die in Europa zu Hause sind. Das heißt, es geht nicht mehr um Arbeitsplätze oder Wachstum, es geht um die Medikamente für unsere Kinder und die werden eben für andere Märkte spezialisiert und entwickelt.

 

Philippe Lorenz: Ich sehe schon, Sie wollen wieder auf die Data-Protection-Richtlinie hinaus. Dann nehmen wir das jetzt zum Anlass, um jetzt darüber zu reden.

 

Dr. Damian Borth: Im Kontext von China, wenn man jetzt wieder auf den chinesischen Markt kommt, das sind wirklich top Leute, sehr gute Forscher. An der Columbia University habe ich mit vielen Kollegen aus China im Machine-Learning-Bereich geforscht. Top Leute und sie haben die Daten, die Mittel und die das als strategisches Ziel definiert innerhalb ihres Fünfjahresplans Künstliche Intelligenz ins Zentrum zu stellen und zwar mit Ausblick für 2020, 2025 und 2030. Dort sind Ziele definiert für: (1) Forschung in Kernbereichen neue KI-Methoden d.h. Ansätze nach Deep Learning. (2) Dominanz im KI Märkten, plus unterstützende Industrien im In- und Ausland. Und (3) Regulatorik, im Kontext von Datenzugang und um entsprechen auch dort eine Vorreiterrolle zu haben. Also in dem Sinne, das ist ein sehr interessantes Papier, wenn man das liest. Es ist natürlich ein Strategiepapier für eine Planwirtschaft. Aber das wird gerade in China auch dann so implementiert. Es gibt das „Tausend schlaue Köpfe Programm“ – ich weiß nicht, ob ich das richtig übersetzt habe – aber es werden wirklich Leute aus den USA zurückgeholt, aus top Universitäten und dort mit Geld ausgestattet, um Labs zum Thema KI im ganzen Land zu kreieren. In Deutschland gab es, um das zu vergleichen, von der Bitkom und dem DFKI ein Strategiepapier, welches neue 40 Professoren im KI Bereich fordert, die wir brauchen. Zusätzlich fragt das Papier nach einem Investment von vier Milliarden, jetzt nicht für die 40 Professoren, sondern für die gesamte Industrie und mit den Entwicklungen in China und USA mithalten zu können. Das einfach mal, um die Zahlen zu sehen.

 

Philippe Lorenz: Die Dimensionen sind andere. Wenn man sich ansieht, in welchen Bereichen der KI chinesische Unternehmen besonders stark sind, dann ist es Face Recognition und Voice Recognition. Das sind Technologien, die diese Dual-Use-Komponente haben und auch zu Überwachungszwecken eingesetzt werden können. YITU Technology, ein Startup in China, hat einen Wettbewerb gewonnen, der von der IARPA, also von der Intelligence Advanced Research Projects Activity ausgeschrieben wurde. Das ist eine Agentur des Verteidigungsministeriums. Da hat ein chinesisches Unternehmen die Voice-Recognition-Trophäe bekommen. Da gehen noch staatliche Interessen einher mit Interessen, die es in der Privatwirtschaft gibt. Also wenn ich die Daten… Sie betonen das, wie wichtig die Daten sind. Um meine Algorithmen zu trainieren, brauche ich gute Daten. Die bekommt ein chinesisches Unternehmen unter Umständen von staatlichen Organisationen beziehungsweise Agenturen. Ist das nicht auch etwas, was den Wettbewerb gerade unterminiert?

 

Dr. Damian Borth: Natürlich. Klar. Jedes Land versucht, im Wettbewerb gegenüber anderen Ländern sich Vorteile zu erarbeiten, damit es besser aufgestellt ist. Zölle sind so ein traditionelles Werkzeug zum Beispiel. Aber hier in dem Kontext ist es natürlich interessant zu sehen, dass Daten eine Ressource sind. Und wir haben ja auch bei dem Workshop von datenreichen und datenarmen Ländern gesprochen. Das war auch eine ganz interessante Auffassung. Deutschland ist ein datenarmes Land, weil wir ein strenges Privatsphärenverständnis haben und ‚nur‘ 80 Millionen Menschen, während in China natürlich viel mehr Menschen leben, die Daten erzeugen und es viel einfacher ist, an Daten zu gelangen. Finde ich das gut? Ich denke nicht. Aber kann ich dagegen etwas machen? Ich kann auch nichts dagegen machen.

So, jetzt ist die Frage, wie wollen wir damit umgehen? Also gerade im Bereich Medizin, wo so viel Potenzial ist, können wir wirklich etwas bewegen und mit intelligenter Analyse vielleicht sogar einen großen Schritt zur Heilung von Krebs machen. Dann wäre es doch schlimm, wenn man diese Daten als Staat nicht zur Verfügung gibt. Oder? Und das ist eine generelle Frage, die würde ich gerne mit vielen Menschen, mit der Gesellschaft diskutieren. Das ist eine Diskussion, die müssen wir führen. Wo können wir Daten, ob es anonymisiert ist oder nicht, wie verfügbar machen?

 

Philippe Lorenz: Nun kommen wir mal zu dem datenarmen Land Deutschland. Für Deutschland sind Forschungsverbünde wie das DFKI oder die Fraunhofer-Institute, die das Mp3-Format unter anderem entwickelt haben, das Max-Planck-Institut, die Leibniz-Gesellschaft, diese Schulterschlüssel sind exemplarisch für die deutsche Dimension. Darüber hinaus hat die Politik auch solche Schulterschlüssel kreiert wie zum Beispiel die Plattform Industrie 4.0, um die deutsche Industrie und den Mittelstand insbesondere zukunftsfähig zu machen, um dort für einen Austausch zu sorgen dieser Akteure. Das jüngste Projekt ist die Plattform Lernende Systeme, die sich rund um künstliche Intelligenz und Machine Learning bewegt. Und ja, im Koalitionsvertrag heißt es: „Wir wollen die bestehenden Technologieprogramme für anwendungsnahe Forschung und zur Förderung digitaler Spitzentechnologie.“ Und da wird jetzt einiges aufgezählt: Quanten-Computing, Robotik, autonome Systeme, Augmented Reality, Blockchain – wer hätte das gedacht – Visible Light Communication und Smart Home. Das soll ausgebaut werden oder fortgeführt werden. Das scheint der deutsche Weg zu sein.

 

Dr. Damian Borth: Ja.

 

Philippe Lorenz: Und jetzt frage ich mich, nachdem wir über den amerikanischen Weg gesprochen haben, über den chinesischen Weg, bestehende Technologieprogramme für anwendungsnahe Forschung zur Förderung digitaler Spitzentechnologie fortzuführen oder auszubauen, ist das die richtige Antwort auf diesen globalen Wettbewerb, von dem wir sprechen oder braucht es da mehr?

 

Dr. Damian Borth: Das ist eine gute Frage. Genau, das ist eine sehr gute Frage. Wir haben ja zwei generelle Ansätze. Wir haben einen Bottom-up-Ansatz und einen Top-down-Ansatz. Top-down ist so dieser deutsche Ansatz.

 

Philippe Lorenz: Industrie, Plattform Industrie 4.0 ist exemplarisch dafür.

 

Dr. Damian Borth: Genau. Da wird mit Verbänden entschieden und viel Mühe fließt in die Standardisierung. Bottom-up ist anders, da denkt sich einer, das ist eine gute Idee, ich entwickle mal etwas, habe ein Startup und plötzlich gibt es diese neue Suchmaschine und ein Markt entsteht, wo man überhaupt nicht an einen Markt gedacht hat – also ich übertreibe jetzt hier bewusst. Das sind kurzgesagt diese zwei Ansätze. Und wenn man sich jetzt das anschaut, Silicon Valley und Deutschland, sage ich immer, wir schauen ja immer mit ein bisschen Neid immer auf Silicon Valley, weil dort die tollen Startups entstehen und Märkte entstehen. Und wenn wir dann zum Beispiel jetzt uns genau anschauen, dann sind diese Startups im Business-to-Consumer-Bereich aktiv, die dort entstehen. Und diese brauchen ja eine bestimmte Medienpräsenz und Sichtbarkeit.

 

Philippe Lorenz: Man sieht es auch an der Börsennotierung.

 

Dr. Damian Borth: Genau, ja.

 

Philippe Lorenz: Ich meine, wenn man sich die fünf größten amerikanischen Unternehmen ansieht, dann sind sie höher dotiert als Automobilkonzerne, Halliburton et cetera.

 

Dr. Damian Borth: Da haben Sie Recht. Das war vor zehn Jahren Öl und traditionelle Industrien.

 

Philippe Lorenz: Ja.

 

Dr. Damian Borth: Aber wenn man sich das jetzt in Deutschland anschaut, die erfolgreichen Startups in Deutschland sind meiner Meinung nach Startups im Business-to-Business-Bereich und die brauchen nicht diese Sichtbarkeit in der Breite wie ein Business-to-Consumer-Startup nicht. Die Business-to-Business Startups gehen nicht an die Endverbraucher. Als Business-to-Business Startup muss ich in die Fachzeitschriften. Da muss ich in die Fachgruppen rein. Da muss ich quasi meine Produkte in eine Art Rahmen, Standardisierungsrahmen stecken, damit ich diese auch diese verkaufen kann. Und vielleicht ist es gerade in Deutschland der richtige Weg, wobei ich persönlich intuitiv aus Leidenschaft den Startup-Weg aus Silicon Valley bevorzuge. Deswegen bin ich so froh, dass es Berlin gibt, dass das hier passiert. Man vergisst aber oft, dass die erfolgreichen Startups vielleicht im Schwabenländle sind oder in München und wo man überhaupt gar nicht mitbekommt, dass sie da sind, aber es trotzdem sehr erfolgreiche Exits gibt. Zum Beispiel im Bereich von Automobilzulieferer und der Automobil-Industrie oder im Maschinenbau.

 

Philippe Lorenz: Haben Sie denn konkrete Beispiele? Sie reden davon, dass im Business-to-Business-Bereich es interessante, auch innovative Unternehmen gibt offensichtlich, die auf KI setzen. Von denen wir also nicht so viel wissen. Können Sie uns da Beispiele nennen?

 

Dr. Damian Borth: Ja. Also ein Unternehmen…

 

Philippe Lorenz: Also wo sind wir spitze in Deutschland beispielsweise?

 

Dr. Damian Borth: Hier würde ich Bosch zum Beispiel nennen, da bin ich wirklich begeistert. Ist sichtbar. Klar, ist aber nicht börsennotiert. Also in dem Sinne, hat auch Zeit mal mehr als ein Quartal, um zu forschen und muss nicht immer reporten.

 

Philippe Lorenz: Kein Startup.

 

Dr. Damian Borth: Kein Startup. Ist ein etabliertes Unternehmen, genau. Ein zweites Unternehmen, das auch etabliert ist, aber auch nicht in dem Bereich, was mich überrascht hat persönlich, war Zeiss zum Beispiel, also aus der Optik heraus in die Analyse. Die wissen, dass sie nicht nur die Bilder erzeugen müssen, sondern auch analysieren wollen. Das heißt, die vergrößern ihre Value Chain, um konkurrenzfähig zu bleiben. Die sitzen in Oberkochen.

 

Philippe Lorenz: Wo ist das genau?

 

Dr. Damian Borth: Das ist bei Aalen.

 

Philippe Lorenz: Okay.

 

Dr. Damian Borth: Also das sind die Hidden Champions und wir haben viele davon. Das ist das, was die deutsche Wirtschaft stärkt.

 

Philippe Lorenz: 2000, wenn man jetzt wieder die Entwürfe… Also man liest ja die Zahlen. Das ist eine bekannte Diskussion. Wir haben ungefähr 2000 mittelständische Unternehmen, die sich erfolgreich international positionieren. Darauf ist man stolz. Aber Sie sprachen von dem Bottom-up-Approach und der scheint nicht zu funktionieren. Sie haben selbst ein Startup gegründet in dem Bereich.

 

Dr. Damian Borth: Richtig. Das ist Sociovestix Labs als Dienstleister im Bereich der Financial Data Science und KI Anwendungen in der finanzwirtschaft.

 

Philippe Lorenz: Im Entwurf zum Koalitionsvertrag steht drin, dass man Startups von Bürokratie befreien möchte und von diesem Aufwand. Aber geht es nicht vielmehr da um die sensiblen Phasen zwischen Gründung und Wachstum, dieses oft beschworene Valley of Death, wo es tatsächlich Mittel braucht, dass man das anreizt, dass man dort versucht zu investieren, anstatt wirklich enorm viel Geld in diese Schulterschlüssel zu investieren?

 

Dr. Damian Borth: Ja. Also zu meinem Startup, ich habe das Startup in St Andrews gegründet.

 

Philippe Lorenz: Ah ja.

 

Dr. Damian Borth: Genau, damals noch europäisch, der Brexit hat uns hier auch kalt erwischt. Wir müssen uns überlegen, was wir jetzt machen. Ich habe den Weg, aus Deutschland Startups zu gründen, so nicht erlebt. Was wir brauchen, ist Unterstützung für Startups, die weitergeht als nur Coaching und wir machen mal einen Workshop und dann zeige ich den armen Startups wie Buchhaltung geht oder so etwas. Das ist das, was ich in Deutschland gehört habe.

 

Philippe Lorenz: Ja.

 

Dr. Damian Borth: Ich hoffe das „weitgehende“ Förderung von Startups auch Bestandteil des Koalitionsvertrages ist.

 

Philippe Lorenz: Aber wenn Sie in St Andrews gegründet haben, sieht man doch auch, dass es ein Aspekt der Standortpolitik sein muss. Ich meine, das ist doch sicherlich auch ein Wettbewerbsfaktor, wenn man dieses Ökosystem anreizt. Ich meine, wir haben Berlin, sicherlich. Mein Kollege Fabian Reetz hat vor einem Jahr ein Hintergrundgespräch geführt, dasselbe Format, im Bereich der Energiewende allerdings. Da ging es um Blockchain-Technologie. Damals hat uns unser Gast gesagt, Berlin ist der Blockchain-Hub und die ganzen Entwickler sind hier. Ich habe mit Fabian gesprochen und die Entwickler sind weg mittlerweile.

 

Dr. Damian Borth: Die sind alle im Zug in die Schweiz.

 

Philippe Lorenz: Nein, da gründen sie ihre NGO, aber die sind in die USA mittlerweile und man war eigentlich stolz darauf, dass sie hier sind. Es hat also nicht funktioniert, hier die Unternehmen zu gründen und hochzuziehen beziehungsweise die Finanzierung hat gefehlt.

 

Dr. Damian Borth: Immerhin, Frau Merkel hat vor der Wahl gesagt, wenn sie Zeit hätte, würde sie ein Startup im KI-Bereich gründen. Seit heute wissen wir: Klappt nicht mit dem Startup.

 

Philippe Lorenz: Sie haben eine schöne Folie, da vergleichen Sie Angela Merkel und Barack Obama, das berühmte Merkel-Zitat mit Internet ist Neuland und ich glaube, ein Jahr später oder im selben Jahr hat Barack Obama gesagt, mein Nachfolger wird sich mit KI als zentrale Technologie auseinandersetzen müssen. Da sieht man, wie weit die Diskussion in Deutschland fortgeschritten war zu dem Zeitpunkt. Standortpolitik braucht es. Es braucht vielleicht gar kein deutsches Modell, von dem wir jetzt hier gesprochen haben, sondern ein europäisches. Und da findet man einen Ansatzpunkt im Koalitionsvertrag beziehungsweise im Entwurf. Dieses deutsch-französische Forschungszentrum, das ist die letzte Frage, bevor ich Sie alle ins Boot hole, was halten Sie davon? Ja, ein öffentlich verantwortetes deutsch-französisches Forschungszentrum. Ich bin Deutsch-Franzose, mich freut das irgendwie, dass die Länder ein bisschen enger zusammenarbeiten, allerdings hört sich das für mich tatsächlich wieder so an, als investiere man da erneut in Grundlagenforschung, aber denkt nicht darüber nach, wie man monetarisiert und wie man wettbewerbsfähig wird und wie vielleicht man auch einen Konkurrenten gründen kann zu großen Technologieunternehmen aus den USA.

 

Dr. Damian Borth: Ja, mich freut das sehr. Von Kaiserslautern ist man mit dem TGV in zweieinhalb Stunden in Paris, sechs Stunden nach Berlin. Ich bin näher an Paris als Berlin, aber mir kommt Berlin emotional näher vor. Wenn man jetzt zu dem Thema Standortfragen kommt, wir müssen in diesem Kontext europäisch denken, als Binnenmärkte für Startups zum Beispiel. Wenn ich ein Startup gründe, dann benötige ich Finanzierung, Risikokapital. Und wenn ich zu einem Risikokapitalgeber gehe, dann argumentiere ich mit meinem Markt und dem Marktpotenzial und wie ich dann dort Marktanteile bekommen kann und diese später monetarisieren kann. Und der Markt in Deutschland ist begrenzt. Deswegen bekomme ich auch nur Finanzierung zu einer gewissen Größe in Deutschland, und die sind viel, viel kleiner als zum Beispiel jetzt in den USA, wo ich einen anderen Markt habe, oder in China, wo ich noch einen größeren und schneller wachsenden Markt habe. Wenn man das aber europäisch denkt, dann hat man plötzlich einen ganz anderen Scope, eine ganz andere Sicht auf die Dinge. Problem ist, dass ich natürlich in Europa dann plötzlich 27 verschiedene Rechtssysteme habe und das mir als Startup überhaupt nicht leisten kann alle rechtlich korrekt zu bedienen.

Eine Kooperation auf Forschungsebene ist sehr zu begrüßen. In der Forschung kooperiert man immer. Das ist international ganz wichtig. Wir haben viele Forschungsinteraktionen mit Kollegen aus den USA, mit Japan am DFKI, mit Kanada. Kooperationen heißt, man sieht wo wie geforscht wird und an welchen Themen geforscht wird. So bekommt man einen guten Überblick über die Trends in der KI Forschungsgemeinschaft. Im Hinblick auf das deutsch-französischen KI Forschungsinstitut, das ist natürlich eine strategische Entscheidung von zwei Regierungen, (a) das Thema KI ernst zu nehmen und (b) auch auf eine Sichtbarkeit zu heben, wo das eine Land in Abhängigkeit ist vom anderen Land ist, das heißt, das muss dann erfolgreich werden. Und das ist auch meine Hoffnung mit diesem Model auf europäischer Ebene im Bereich KI zum Erfolg zwingt. Und das Ziel im Koalitionsvertrag ist auch so dargestellt, dass man einen weltweiten Führungsanspruch an der Technologie dadurch erhalten kann.

 

Philippe Lorenz: Worauf zielt das ab? Was bedeutet das ganz konkret für das DFKI zum Beispiel?

 

Dr. Damian Borth: Das ist eine interessante Frage. Es wurden keine bestimmten Summen genannt, man kann aber davon ausgehen, dass es sich um einen zwei- oder dreistelligen Millionenbetrag handelt. Bei solchen Beträgen muss man sich natürlich fragen wie man das in neue Forschung transferieren kann. Das heißt, unabhängig davon wie das DFKI bei der Initiative involviert wird, gibt es bestimmte Möglichkeiten neue Forscherkollegen an das DFKI zu holen. Dazu kommt die Anpassung der organisatorischen Struktur die damit verbunden sein wird. Am Ende ist das immer eine Personalfrage – bekommt man die besten KI Forscher? Da kommen wir wieder in dieselbe Systematik, bei der Brain Drain uns die Leute in die Industrie wegzieht und wir mehr Leute aus dem Bachelor- und dem Masterstudiengang in die Doktorandenrolle hineinbringen wollen. Und das ist ein Problem, das man nur langfristig angehen kann. Man muss entsprechend die Menschen motiviert Informatik zu studieren – also für alle, die sich noch entscheiden wollen, es ist der sexiest Job on Earth – und dann diese dann in den Machine-Learning-Bereich zu lotsen.

 

Philippe Lorenz: Und da lese ich mit, dass das Konzept noch nicht ganz ausgereift ist.

 

Dr. Damian Borth: Nein, ich meine, in Deutschland hat heute gerade die Regierungsbildung angefangen. Da wird noch viel passieren.

 

Philippe Lorenz: Genau. Ja.

 

Dr. Damian Borth: Und es steht aber drin sehr explizit einmal als Signalfunktion für eine europäische Zusammenarbeit. – Das ist auch ganz wichtig im Hinblick auf Brexit. Und das Zweite ist natürlich auch thematisch, dass wir das Thema auch international sehen, um einen Gegenpol auch zu einem chinesischen Ansatz oder einem amerikanischen Ansatz zu definieren.

 

Philippe Lorenz: Damit würde ich öffnen und würde Sie bitten, mir die Fragen entgegenzubringen, die Sie haben. Wir nehmen direkt hier vorne den Herrn bitte.

 

Gast 1: Ich interessiere mich für Governance. Sie hatten schon gesagt, dass es sehr viele Probleme bei der Datensicherheit gibt. Mich interessiert die Sicherheit von Algorithmen. Wenn wir jetzt noch fünf Jahre weiter denken und wir verstehen die künstliche Intelligenz gar nicht mehr, wie können wir denn eigentlich sicherstellen, dass die nicht nur im Sicherheitsbereich sondern auch irgendwo anders dann nicht Unsinn machen? Also wir sehen ja, dass Nuklearwaffen, da haben wir Verifizierungen, jedes Auto hat ein Nummernschild, jeder Mensch hat einen Ausweis und wie machen wir das eigentlich mit KI?

 

Dr. Damian Borth: Ein ganz wichtiges Thema. Also A: Blackbox of AI. Eine interessante Hintergrundgeschichte dazu ist, wir haben in dem Bereich der KI historisch traditionelle Ansätze angewendet, bei den wir Features, also Merkmale extrahiert haben und diese Merkmale in Klassifikatoren getan haben und dadurch haben wir dann unsere Systeme gebaut und konnten diese auch anhand der Merkmale erklären.  Wir konnten mit der KI erst so erfolgreich wie heute werden, weil wir diese Vorgehensweise aufgegeben haben. Wir haben gesagt: „Liebes neuronales Netz, such dir die Features, suche dir die Merkmale aus und lerne wirklich End-to-End von der Eingabe, dem Bild, zu der Ausgabe, der Erkennung des Objektes selbständig.“ Dadurch haben wir die Interpretierbarkeit der Systeme aufgegeben, aber die stark verbesserte Erkennungsleistung gewonnen. Das Problem ist nun aber, jetzt sind die Dinger erfolgreich und wenn ein selbstfahrendes Fahrzeug gegen eine Mauer fährt, müssen wir jetzt erklären warum. Und das ist eine offene Forschungsfrage. Und es gibt viele Aktivitäten auf dem Gebiet diese Systeme interpretierbar zu machen, sichtbar zu machen, was da intern passiert. Das Problem ist nicht, dass man nicht sieht, was da intern passiert, das Problem ist, ich sehe Milliarden von Zahlen und kann sie nicht interpretieren. Wir arbeiten dran.

Das zweite Thema ist, nehmen wir mal an, wir würden wissen, was da intern passiert. Wie kann ich daraus Verantwortlichkeiten ableiten? Also wie kann ich garantieren oder wem schulde ich Rechenschaft, wenn ein System irgendwas Falsches macht und wie kann ich garantieren, dass das System, das fehlerhafte selbstfahrende Fahrzeug, wenn ich das nachtrainiere, dass das anders / besser ist als das erste System. Hier geht es um Versionierung KI Systemen? In der künstlichen Intelligenz mit den tiefen neuronalen Netzen ist die Regel, dass ich ein vorhandenes Netzwerk nehme, das habe ich zum Beispiel auf einer Millionen Bilder trainiert, und ich habe jetzt zum Beispiel 10.000 Bilder, die sind ganz anders und ich trainiere das nach. Ich fange also nicht von null an, sondern ich trainiere immer nach. Jetzt ist die Frage, wie viel muss ich nachtrainieren, damit ich sagen kann, dieses erste Netzwerk, Version A ist jetzt zu Version B geworden? Das ist auch eine ganz spannende juristische Frage, weil ich das dann auch gleich beantworten kann, wann hört bei Netz A die Intellectual Property (IP) auf und wann wird Netz B meine eigene schöpferische Leistung, meine eigene IP?

Also einfach ausgedrückt, wenn das Netzwerk A mit einer Millionen Bilder trainiert wurde und ich trainiere es mit einer Millionen Bilder, kann ich vielleicht sagen, das ist mein Netzwerk. Habe ich dem nur zwei Bilder gezeigt: dann wird es schwierig. Dann ist es aus IP Sicht problematisch. Wenn wir das juristisch lösen können, können wir diese Erkenntnisse auf zur Versionierung von KI Systemen. Ich habe nächsten Mittwoch ein Gespräch mit der ISO zum Thema, wie kann ich jetzt eine Kennzeichnung von KI-Systemen machen? Und hier eignet sich wunderbar die Legal Entity Identifier System, das mit MiFID II gekommen ist. Jedes Unternehmen, das als Finanzinstrument gehandelt werden möchte, braucht eine Legal Entity Identification und dann kann ich die KI-Systeme da drunter hängen. Die Strukturen sind da, wir müssen nur noch die wissenschaftlich offenen Fragen klären wann das Netz A aufhört und zu Netz B wird. Das ist ein Themenfeld, wo wir in Deutschland vielleicht auch eine Vorreiterrolle spielen können.

 

Philippe Lorenz: Also regulieren, normieren so wie in der Plattform Industrie 4.0.

 

Dr. Damian Borth: Ich würde sagen, erst mal verstehen, wie ich diesen Unterschied zwischen zwei tiefen neuronalen Netzen erkennen kann, wie ich diese Netze interpretieren kann, und dann kann man sich Gedanken um Kennzeichnung machen. Und am Ende vielleicht regulieren. Ja.

 

Gast 2: Also Sie hatten am Anfang thematisiert, dass die Entwicklungen immer weiter in die Unternehmen abwandern. Und jetzt habe ich mich gefragt, was können oder könnten Sie noch etwas sagen, was können Sie besser als Unternehmen? Also warum sollten Sie diese KI-Entwicklung weiter vorantreiben und nicht Unternehmen? Wenn ich jetzt mir angucke, das Beispiel aus Kanada war so schön, jetzt haben die da viel Geld reingesteckt, nur damit dann die Nutzung dieser ganzen Algorithmen dann plötzlich wieder abwandert.

 

Dr. Damian Borth: Sehr gute Frage. Können Sie garantieren, dass alle Forschung, die in einem Unternehmen stattfindet, auch veröffentlicht wird? Also ein schönes Beispiel ist MapReduce. MapReduce ist eine Methode, wo man große Datenmengen effizient berechnen kann. Als Google das publiziert hat, hat jeder gesagt: „Wow, MapReduce, super Sache, noch nie gesehen.“ Intern hatte Google schon die nächste Version, hier war jeder happy, alle waren begeistert, aber sie haben schon an weiterführenden Sachen gearbeitet. Ich sage, wir wissen gar nicht, ob irgendein Element der Forschung schon längst erforscht ist. Wir in der öffentlichen Forschung oder öffentlich geförderten Forschung publizieren alles und wollen alles publizieren. Das können wir in unsere Berichte schreiben. Und glauben Sie mir, das sind dann ganz lange Berichte. Aber das ist der Punkt, wir haben die Freiheit, (a) unsere Forschungsrichtungen freier zu gestalten, unabhängig von Monetarisierungszwängen, und (b) sind wir transparenter in der Publikation dieser Ergebnisse, also als Kontrollmechanismus.

 

Gast 3: Ich habe zwei Fragen. Die eine ist: Was ist eigentlich genau Intelligenz? Könnten Sie das definieren? Und dann Unterscheidung zwischen konstruierter Intelligenz und natürlicher Intelligenz. Denn das sollte ja eigentlich der Anfang sein, um zu verstehen, was Sie sagen.

 

Und das Zweite ist, Sie haben so ein nettes Plädoyer für Informatik gehalten, zumindest in der Hacker Community haben viele gar nicht studiert. Die Wizards können intuitiv hacken. Gute Hacker kommen aus der Linguistik-Schule, weil programmierende Sprache. Gute Hacker kommen aus der Philosophie, weil sie formale Logik verstehen. Ist Informatik der einzige Zugang?

 

Dr. Damian Borth: Nein. Also wenn man diese Wizards hat, ist das wunderbar, aber da gibt es nicht viele. Da sind wenige. Und wenn jemand dieses Talent hat, egal wo er herkommt, das ist Gold wert. Das ist also unabhängig davon. Wir brauchen aber, um den Bedarf an diesen Skills in der Industrie zu decken, brauchen wir mehr Menschen, die breite Masse. Und das ist über die Informatik und Mathematik nachbar. Das kann aber auch zum Beispiel die Neuroscience in Zukunft sein. Es entstehen ja auch neue Forschungsrichtungen wie Data Science. Und das war ja auch in der Informatik so, am Anfang hat man ja gar nicht gewusst, was ist das. Da kam zunächst die Theorie aus der Mathematik, die Hardware kam aus der Elektrotechnik und irgendjemand hat sich gesagt: „Eigentlich brauchen wir eine neue Fakultät und die müssen wir Computer Science nennen, sonst glaubt es keiner, dass es Science ist.“ In Deutschland wurde das „Informatik“ genannt. Vielleicht passiert so etwas Ähnliches in der Data Science. Aber um jetzt schnell die breite Masse an Leuten ausbilden zu können, das kann über die Informatik kommen, weil die Werkzeuge alle sehr informatiklastig sind. Das ist die eine Sache.

Zu den Definitionen der Intelligenz: Sehr schwierig. Es gibt viele verschiedene Definitionen und je nachdem, welche man dann wählt, kann man dann die künstliche Intelligenz entsprechend definieren. Wenn man sich das anschaut, wo das Ganze hergekommen ist, das war auf dem Dartmouth Workshop 1956. Da gab es einen Workshop, wo sich dann in den Anfängen der Informatik und der Computer Science die Leute zusammengesetzt haben, ein Marvin Minsky, John McCarthy und andere. Die haben von den Problemen der künstlichen Intelligenz gesprochen und die haben dann als Ziel so ein Papier veröffentlicht, '56, und das Ziel war, ein kalkulierendes Programm zu schreiben, also ein Calculator, um intellektuelle Aufgaben zu lösen genauso gut oder besser wie ein Mensch. Das war die Definition von KI aus diesem Papier. Diese Forscher haben am Anfang das erstmal definieren müssen. Und es gibt auch eine Problematik in der Terminologie, wenn wir jetzt über künstliche Intelligenz sprechen, maschinelles Lernen als Untergruppe und dann Deep Learning als Teilbereich des maschinellen Lernens. Es gibt sehr viele Sachen, die links und rechts noch existieren wie Wissensrepräsentation, Schließen, symbolische KI, die Logik dahinter. Da gibt es sehr viele Bereiche, aber der, der erfolgreich ist und zurzeit so viel Momentum erfährt, das ist das Deep Learning.

 

Gast 4: Ja, ich mache Master European Studies und da ging es auch um Governance wie bei Ihnen schon. Und da ist eine Frage, die sich eben auch mit Wirkung auf Arbeitsmärkte befassen würde und da ging es dann wieder darum, abzuschätzen, wo denn diese Potenzialwerte eigentlich liegen. Wo Sie selber sagen, das ist eigentlich Jahrzehnte alt schon und im MIT Technology Review schrieb auch schon jemand, dass es eventuell auch schon ausgeschöpft ist mit dem, was wir im Moment tun. Und wenn man jetzt vielleicht das Potenzial nicht genau bemessen könnte, wie könnte man denn sozusagen Indikatoren finden, wo diese Technik wie einsetzbar ist, um daraus abzuschätzen, welche Arbeit da mal betroffen sein könnte?

 

Dr. Damian Borth: Also im Hinblick auf, ist mein Job noch oder ist mein Job automatisierbar?

 

Gast 4: Ja, weil die Schätzungen da, glaube ich, maßlos übertrieben sind.

 

Dr. Damian Borth: Ja, also das ist ein ganz spannendes Thema, der Wandel der Arbeit. Auch hier in dem Kontext Industrie 4.0 und Zukunft der Arbeit ganz wichtig. Ich habe mal eine schöne Keynote gesehen von dem Strategieberater der letzten Regierung, der Obama-Regierung. Ein Chief Economist war das, glaube ich. Und er hat in seinen Folien verschiedene Zeitungsartikel gezeigt: „Roboter werden unsere Jobs wegnehmen“ usw., diese ganzen Zeitungsartikel und dann hat er gesagt, das war 1920, das war 1940, das war in den 60ern. Diese Angst ist immer da, berechtigterweise, weil wir immer eine Veränderung der Arbeitswelt haben von der Automatisierung durch Dampf, Elektrizität, Computer bis hin jetzt zu den datengetriebenen Automatisierungssachen. Vor allem von den, sagen wir mal, Blue Collar zu den White Collar, also von den, sagen wir mal, Leuten am Band zu den Leuten in Büros, den Knowledge Worker. Das, was heute anders ist, ist die Geschwindigkeit, mit der das Ganze stattfindet. Und hier ist die Frage: Wie können wir die Generation, die nach uns kommt, auf die Jobs, die wir heute noch nicht kennen, vorbereiten? Also wie müssen wir unser Schulsystem ändern? – Das war auch in dem Koalitionspapier ein wichtiges Thema, Digitalisierung in den Schulen, damit dann diese Leute dann auch diesen Einstieg in die Arbeitswelt finden. Dass wir alle lernen müssen immer, ist auch ein Thema. Ich glaube, das Bundesamt für Arbeit und Soziales spricht ja auch von Skill Sets und nicht mehr von Jobs.

 

Philippe Lorenz: Ich kann mir natürlich nicht verkneifen, da selbst Stellung zu nehmen, immerhin arbeite ich in dem Bereich Arbeit 4.0 bei der Stiftung. Was uns interessiert daran, ist vor allen Dingen, herauszufinden, also die Patentlösung in Deutschland, die kommuniziert wird, ist lebenslanges Lernen. Darauf können sich alle Politiker einigen und danach kommt nicht viel. Wenn man nach Konzepten fragt, wie das verankert werden kann beziehungsweise welche Skills, welche Fähigkeiten betroffen sein könnten, dann herrscht da auch große Leere. Man weiß es nicht genau. Wir sind auf die Idee gekommen, wenn man weiterbilden möchte, muss man eigentlich verstehen, wie sich Kompetenzprofile am Arbeitsmarkt verändern, am besten in Echtzeit. Hat man Daten dafür? Man hat Daten dafür. Man hat Daten beispielsweise auf professionellen Karrierenetzwerken, die natürlich mit bestimmten Biases unterlegt sind. Da müsste man sich überlegen, wie man die rauskriegt, dass Leute natürlich angeben, sie sind Blockchain Technologist mittlerweile, obwohl sie es vielleicht gar nicht sind. Aber man hat neue Daten, Quellen, die man möglicherweise erschließen kann. Und man sieht auch bei bestimmten Vorreiterberufen insbesondere im IT-Sektor, wie sich Fähigkeiten entwickeln. Beziehungsweise ein ganz einfaches Beispiel sind Programmiersprachen, die hinzugefügt werden, sobald man sie beherrscht oder wenn man sich zum Full-Stack Developer fortgebildet hat. Und diese Datenquellen oder Unternehmen, die diese Daten besitzen, fangen an, das auszuwerten. Die Bundesagentur für Arbeit hat aber auch solche Datenquellen. Fängt sie an, das auszuwerten? Und da haben wir mal nachgefragt und haben einen Workshop gemacht und sind dran an diesem Thema und gucken uns das an als Vorstufe, als erst mal ein Mapping, dass man vielleicht sieht, wie dynamisch sich Tätigkeitsbilder verändern, um dann im zweiten Schritt nachsteuern zu können. Das ist eines, an dem wir arbeiten.

 

Dr. Damian Borth: Aber wir haben einen großen Vorteil. Ich war vor zwei Jahren bei der Deutschen Botschaft in Washington genau zu dem Thema eingeladen und da hat dann der amerikanische Kollege gefragt: „Ja, was sollen wir machen bei dem Wandel?“ Und ich habe dann gemeint, das kam spontan: „Ja, ihr müsst eigentlich eure Hochschulausbildung kostenlos machen.“ Und da ist mir eigentlich bewusst geworden, was für einen Vorteil wir hier in Deutschland haben. Universitäre Ausbildung kostet nicht viel verglichen mit der USA. Aber bei uns fängt man bei null an im Leben, in der USA fängt man bei minus 150.000 Schulden an. Das ist ein großer Vorteil und den muss man in dem Sinne auch nutzen. Wir haben hier einen Wettbewerbsvorteil.

 

Gast 5: Also was mich interessieren würde, wäre mehr technisch, wie viel Physis oder wie viel Maschine oder Computer braucht eigentlich eine künstliche Intelligenz? Also es ist immer, wenn diese Horrorgeschichten kommen irgendwie, wir werden dann übernommen von Robotern und überall hat man dann diese Arnold-Schwarzenegger-Fratze aus dem Terminator in diesen Zeitungsartikeln. Also es gibt fast keinen ohne. Nur ist ja der Terminator nicht das Gefährliche, sondern eigentlich das Skynet, was dahinter steht.

 

 

Dr. Damian Borth: Danke, ja.

 

Gast 5: Und das wäre jetzt eben die Frage, also brauche ich da tatsächlich diesen Roboter dann oder wie viel Physis braucht eigentlich so ein System? Also man kann ja immer, es wird ja immer kleiner, ist ja klar, aber ich glaube, Sie verstehen die Frage.

 

Dr. Damian Borth: Ja, also Hollywood macht es uns nicht einfach. Das stimmt. Aber unsere Aufgabe ist es, dann aufzuklären. Sie fragen eine interessante Frage, weil es gibt auch verschiedene Schulen, die damit umgehen. Also die Robotik-Schule sagen, wir brauchen ein Embodiment, wir brauchen Sensorik und Motorik oder Aktoren und Sensoren, weil wir unsere Umgebung wahrnehmen müssen und dadurch können wir erst einer Maschine Intelligenz beibringen in der Interaktion mit der Umgebung. Es gibt andere, die sagen, okay, wir können auch ganz virtuelle Maschine bauen – es ist die Frage, okay, von welcher Art von Intelligenz spricht man – die intelligentes Verhalten zeigen können, die aber in ihrer virtuellen Umgebung das gelernt haben. Und einer der großen Themenfelder in dem Bereich ist Reinforcement Learning, wenn dort Roboter quasi in virtuellen Umgebungen trainiert werden, um zu laufen, Golf zu spielen, den Schläger zu schwingen et cetera.

Ich bin mir nicht so sicher, ob wir wirklich ein physisches Embodiment brauchen. Ich glaube, man kann das entsprechend mit dem richtigen Input auch zum richtigen Output bringen. Das wäre jetzt meine persönliche Meinung, es gibt aber andere, die sagen, wir brauchen unbedingt das Embodiment innerhalb einer Maschine.

 

Gast 6: Vielen Dank noch mal, dass Sie heute zu uns gekommen sind. Wir haben viel über die ökonomische Nutzung von KI mit Ihnen gesprochen und ich würde gerne eine Frage Ihnen stellen bezüglich der Anwendung im Sicherheitsbereich, einerseits im Bereich der Rüstung und andererseits durch Geheimdienste und Polizeibehörden. Sie haben ja einen sehr guten Überblick in Deutschland, wer hier gerade forscht und wo sozusagen Entwicklung stattfindet. Können Sie uns da einen Überblick geben, ob es in Deutschland schon Industriezweige gibt, die autonome Waffensysteme entwickeln oder auch Forschung, die jetzt in diesem militärischen und Geheimdienstsektor passieren?

 

Dr. Damian Borth: Also ich kann keinen Überblick in Deutschland geben, da wir am DFKI keine Militärforschung machen. Das ist ganz wichtig. Wir machen Forschung im Bereich, wie man sich auch sozial einsetzen kann oder kommerziell einsetzen kann, aber keine Militärforschung. Wenn ich mir anschaue, woher die ganzen Forschungsmittel in der USA kommen, die die KI mit befeuert haben, dann war es DARPA und IARPA, also Militär- und Gemeindienstforschung.

Also einfaches Beispiel, also nehmen wir mal IARPA, da gab es ein ganz großes Programm, das hieß Aladdin und das Ziel war es, in YouTube-Videos zu erkennen, ob jemand ein Sandwich schneidet, einen Autoreifen wechselt oder irgendwas anderes macht. Das sind alles Anwendungen, die auch militärisch motiviert sind, also ob es bei YouTube Anleitungen zum Bombenbauen gibt. Das heißt, all diese Programme sind als Setup so definiert, dass sie zivilwissenschaftlich definiert sind, dass alle daran forschen können, man das aber in den „public sector“ transferieren kann. Und der Vorteil, den sich die entsprechenden Entitäten dort erhoffen, ist, dass da viele teilnehmen und ich sehen kann, wer ist gut, auch Leute aus dem Ausland, also zum Beispiel ein chinesisches Unternehmen, das super Gesichtserkennung machen kann, um dann zu sehen: „Wie weit bin ich?“ Und das ist natürlich auch das, was zum Beispiel Unternehmen wie Google wollen. Die geben dann Datensätze frei, die sie mit viel Geld aufbauen, aber nicht, weil sie denken, das bringt alle weiter, sondern die ganz genau wissen wollen, wer ist gut und die kaufe ich mir dann auf.

 

Philippe Lorenz: Und um das vielleicht noch mal zu unterstreichen in der Bedeutung, der Präsident der Russischen Föderation hat behauptet, wer diese Schlüsseltechnologie besitzt, wird die Welt dominieren sozusagen außenpolitisch.

 

Dr. Damian Borth: Genau.

 

Philippe Lorenz: Ich glaube, wir müssen gleich sammeln. Ich hatte hier noch zwei Fragen, mit denen fangen wir an, danach sammeln wir kurz und machen dann weiter. Bitte.

 

Gast 7: Ich würde ganz gerne noch mal auf das deutsch-französische Zentrum zurückkommen, denn ich hatte den Eindruck, in der Diskussion wurde ein bisschen differenziert. Auf der einen Seite gibt es den Bottom-up-Startup-Approach, auf der anderen Seite gibt es den Top-Down-Approach mit öffentlich verantwortlichen Zentren. Und wir haben jetzt ein paarmal von DARPA gehört und DARPA war auch eine Organisation, die Macron in seiner Rede benannt hatte als mögliches Vorbild für eine europäische Innovationsagentur. Mich würde interessieren, was Sie von einem Ansatz halten, bei dem eine öffentliche Agentur sehr zielgerichtet forschen lässt für öffentliches Interesse, für Anwendungen, die auch der Zivilgesellschaft zugutekommen und ob Sie dafür in Europa ein Potenzial sehen?

 

Dr. Damian Borth: Also das ist interessant. Also DARPA war am Anfang mit einer bestimmten Intension gegründet worden. Als damals die Russen Sputnik hochgeschossen haben, haben die Amerikaner einen Schock bekommen, weil sie dachten, die sind noch nicht so weit. Daraufhin haben sie die ARPA gegründet, Advanced Research Project Agency. Die wurde irgendwann mal von Verteidigunsministerium übernommen und zur (D)ARPA umbenannt. Diese hat uns das Internet gebracht, ist aber im Militärkontext eingebettet.

Wenn ich jetzt mir anschaue, dass es ein Center geben soll, das gezielt im Bereich KI forschen soll, dann ist die erste Frage, was bedeutet ‚gezielt‘? Also wir forschen alle gezielt. Also ich hoffe, dass viele gezielt forschen. Forschung ist nicht immer erfolgreich. Das ist die Definition von Forschung. Man kann gezielt forschen aber es kann auch mal nicht funktioniert. Das ist auch ein Wissensgewinn, es wird nur leider nicht publiziert, deswegen müssen es viele machen. Es werden ja nur die erfolgreichen Sachen kommuniziert. Und glauben Sie mir, bei der einen Sache, die Forscher erfolgreich zeigen, gibt es neun andere, die auf Anhieb nicht funktioniert haben. Also so weit sind wir noch nicht mit KI, da funktioniert nicht alles beim ersten Versuch.

Wenn man aber jetzt sich als europäische Initiative versteht und für Europa definiert, was denn die großen Herausforderungen sind (demografischer Wandel, Energie, Klima et cetera) und das versucht aufzubrechen, also Gesundheit, auf, wo kann KI helfen und dort Ziele definieren, dann ist das eine gute Sache. Dann ist das auch etwas, wo man kommunizieren kann und durch die Kommunikation kann man dann auch die Leute dann zusammentun.

Also Human Brain Project ist zum Beispiel so ein schönes Beispiel. Wichtig, europäisch, ist voll dabei und als Ziel macht es nicht nur, hat es nicht nur als Ziel, das menschliche Gehirn besser zu verstehen, sondern hat auch im Performance Computing Durchbrüche gefordert, damit man überhaupt das Ganze simulieren kann. Und das ist dann ein schönes Beispiel, wo dann eine gezielte Forschung nicht nur im Kern etwas bringt, sondern auch in den dazugehörigen Bereichen. CERN ist ein Beispiel, auch europäisch und hat das WWW hervorgebracht. Dort war das WWW auch nur eine Notwendigkeit um Daten auszutauschen zu können und heute ist es eine tolle Sachen.

 

Philippe Lorenz: Nutzen Machine Learning übrigens, um neue Teilchen zu detektieren

 

Dr. Damian Borth: Genau, genau. Finde ich auch toll, weil wir so viele Daten haben, also die können gar nicht alle untersuchen. Die müssen mit Machine Learning erst mal herausfinden, was macht Sinn, damit die es dann traditionell untersuchen können.

 

Gast 8: Vielen Dank für Ihren spannenden Vortrag. Sie haben ja sehr eindrucksvoll geschildert, dass sozusagen KI-Entwicklung nicht richtungslos ist, sondern ein Stück weit interessegesteuert. Zugleich wird es ja immer wieder von der rhetorischen Figur begleitet, wenn ihr persönlich in Not seid, würdet ihr nicht alle Daten hergeben, damit ihr gerettete werden könnt? Dann kommt Medizin, Sicherheit und so weiter. Meine Frage ist, wenn klar ist, dass eigentlich der Staat ab einem gewissen Grad versagt, einfach aufgrund weil er über die finanziellen Mittel nicht verfügt, und das dann in Privatindustrie abwandert, müsste man im ganzen Bereich KI-Forschung eigentlich nicht eine politische Hypothese unterlegen und die vielleicht spannend ausgestalten im Sinne, dass man sagt: „Was können wir denn machen, um sozusagen Bremsen von KI auch als immanenten Teil von KI zu implementieren?“ Also nicht einfach nur zu verbieten und zu regulieren, sondern Hypothesen zu hinterlegen und zu sagen, Systeme können sich vernetzen, entwickeln, weitermachen bis zu einem Punkt x, wenn Zusammenhänge auftreten, die in den und den Sicherheitsbereich, privaten Bereichs, was auch immer, monopolistische Strukturen und so weiter hineinwirken. Wäre das nicht auch spannend für KI-Forscher, in der Hinsicht Hypothesen zu entwickeln?

 

 

Dr. Damian Borth: Ja, auf jeden Fall. Also ist auch in dem Koalitionspapier auch ganz wichtig, zu sagen, dass wir nicht nur in dem Bereich KI technisch forschen sollen, sondern es soll auch über die Disziplinen hinweg geforscht werden und gesellschaftlich, geisteswissenschaftlich, auch im Bereich der, was für Auswirkungen hat das auf den Menschen, wenn er plötzlich ein Ebenbild hat? Also das sind ganz wichtige Fragestellungen, die sind aber entkoppelt von der Intention, wenn man ein Unternehmen hat, das monetarisieren möchte. Das heißt, da muss der Staat einspringen, wenn das die Gesellschaft wünscht und über dann den Staat dann entsprechend auch die entsprechenden Programme aufgebaut werden.

 

Gast 8: Sehen Sie da schon Initiativen?

 

Dr. Damian Borth: Ja. Also ich bin auch im Steering Committee der Volkswagenstiftung im Programm, das heißt KI und Gesellschaft und dort ist dann sehr interdisziplinär auch diskutiert worden, was passiert mit KI im Hinblick auf verschiedene Themengebiete. Und das ist (a) anstrengend für einen Menschen wie mich als Informatiker und für einen Menschen, der mir gegenüber sitzt, um mir zuzuhören. Aber es hat wirklich, das war ein Dreitagesworkshop, das hat wirklich geholfen, um zum Beispiel in verschiedenen Bereichen einfach eine Terminologie zu finden. Und das ist wichtig, man muss ja über dasselbe sprechen, damit man sich versteht.

 

Gast 9: Ich habe eine Frage Richtung IT-Sicherheit. Ich habe keinen technischen Hintergrund, aber wenn ich mir anhöre, was KI kann und wo sie besser werden soll, woran man forscht, also Systemerkennung, Objekterkennung, Prozesserkennung, dann scheint mir das so, dass das etwas ist, was in der IT-Sicherheit sowohl für den Verteidiger als auch für den Angreifer ja etwas sehr Wertvolles ist. Und meine Frage ist deshalb, also erstens, stimmt diese Idee? Und wenn es so ist, ist es dann so, dass wir letztendlich verlässliche KI-Systeme, ich sage mal, die uns gehören oder die wir verstehen, die wir benutzen können, die wir verlässlich benutzen können, brauchen wir die dann, um eine einigermaßen funktionierende IT-Sicherheit zu haben und um die Daten unserer Systeme – ich denke natürlich an Regierungssysteme, aber auch Unternehmen-, was auch immer, Systeme – gewährleisten zu können?

 

Dr. Damian Borth: Ja. Also Cyber Security ist ein ganz großes Thema. Das ist ein Thema, wo natürlich ein Angreifer und ein Verteidiger Katze und Maus spielen, wer besser ist, und es werden Methoden der KI angewendet, um zum Beispiel Angreifer zu erkennen. Wir haben ein Projekt gehabt auch, Intrusion Detection, um DDoS-Attacken zu erkennen, aber nicht so, dass man die Seite ganz wegschneidet, sondern die normalen Leute durchlässt, aber die Anomalien, das anomale Verhalten dann blockt. Natürlich kann ich auch KI-Systeme verwenden, um Löcher zu finden in diesen Bereichen.

Ich habe am Freitag einen Vortrag gehört von Marko Schreyer, er als einer der führenden Forscher in Europe in Bereich bei einer Wirtschaftsprüfung seine Erfahrung gesammelt. Er verwendet KI-Methoden, um Financial Fraud zu erkennen. Das ist genau dasselbe Katz-und-Maus-Spiel und genau dieselbe Problematik. Jeder hat das Problem, keiner redet darüber, es wird nichts publiziert und Daten gibt es keine.

Cyber Security ist etwas, das als Angriff auf ein Netzwerk / IT System gilt, um eine Schwachstelle zu finden. Was bei dem ganzen KI neu hinzukommt, ist die Problematik der sogenannten Adversarial Attacks. Was heißt das? Ich habe im KI-System, nehmen wir mal, ich habe ein automatisches Entscheidungssystem und mein Gegenüber hat auch ein automatisches Entscheidungssystem. Jetzt kann ich mit veränderten Daten (sog. Adversarial Samples) versuchen das andere Entscheidungssystem zu täuschen ohne dass es dies mitbekommt. Einfacher vergleich, stellen Sie sich vor, ich habe ein selbstfahrendes Fahrzeug und ich kann ein Stopp-Schild so bekleben, dass das selbstfahrende Fahrzeug das als Vorfahrtsschild sieht und dann durchfährt. Für jeden Menschen wäre das ein Stopp-Schild, aber das Fahrzeug wird getäuscht. Wenn ich das weiß, kann ich meine eigene KI Methode so verbessern, dass sowas nicht passiert. Das Ganze sind Attacken, die auf der Datenschnittstelle stattfinden, die ist per Definition ja frei. Also Datenschnittstelle bedeutet dort, wo Daten ausgetauscht werden, soziale Medien, Nachrichten, Finanzmärkte. Ich frage mich schon, wann die ersten Hedgefonds da Adversarial Attacks einsetzen. Wir haben ja vorgestern eine große Bewegung im amerikanischen Markt gehabt.

Das ist eine ganz neue Qualität, die in der Deep Learning Community unter dem Begriff GAN, Generative Adversarial Networks läuft. Aus diesem Täuschen und versuchen, die Täuschung zu erkennen, ist etwas Gutes entstanden, diese sogenannten GAN. Das sind Netzwerke, die können synthetisch Daten erzeugen, also synthetisch Daten erzeugen, die die Charakteristik von echten Daten haben. Ich kann jetzt Gesichter erzeugen, die sehen aus wie echte Gesichter. Ich kann automatisch Millionen Gesichter erzeugen, die sehen aus wie echte Gesichter und jetzt kann ich diese Gesichter aber nehmen, zu denen gibt es keine Person auf dem Planeten, also das sind keine personenbezogenen Daten, und jetzt kann ich meinen Gesichtsklassifikator trainieren, ohne dass ich irgendwelche Privatsphärenprobleme habe. Das ist so eine schöne Lösung, wo wir Daten erzeugen können, um unsere Klassifikatoren zu trainieren, ohne diese Privatsphäre zu verletzen. Das ist jetzt am Beispiel der Gesichter. Ich weiß nicht, wie skalierbar das Ganze ist, aber das ist etwas, wo eine sehr interessante neue Forschungsrichtung ist.

 

Philippe Lorenz: Die dunkle Seite der Macht würde man Deepfake nennen. Vielleicht haben Sie das in der Vergangenheit, in den letzten Wochen gehört, dass man Bilder benutzt, um sich beispielsweise an Verflossenen zu revanchieren und diese Bilder dann nimmt und sie… Das ist passiert.

 

Dr. Damian Borth: Genau, ich habe ein Statement in der Zeitung Welt dazu gehabt. Also das gab es schon früher. In Hollywood kann man mit viel Aufwand und entsprechender Software ein Gesicht von einer Person auf einen anderen Körper tun. Das gab es in Filmen. Im letzten Star Wars hat man ja den Schauspieler quasi, der schon lange gestorben ist, aus dem ersten Teil das Gesicht auf jemand anderen gemacht. Die Qualität, die man jetzt hat, ist, dass man das jetzt viel günstiger, viel schneller machen kann und dadurch der breiten Masse zur Verfügung gibt.

 

Philippe Lorenz: Ich kann mir den Code bei GitHub besorgen und kann es mit ähnlicher oder vergleichbarer Qualität tatsächlich zu Hause machen. Also wenn ich es könnte. Ich kann es nicht. Offensichtlich. Aber das ist die Dimension, darüber reden wir jetzt. Früher hat man dafür, ich glaube, in verschiedenen Filmen wird immer gezeigt, die sehr viel CGI verwenden, wie viele Arbeitsplätze das geschaffen hat. So viele Arbeitsplätze würde das gar nicht mehr schaffen. Abgesehen davon haben wir, glaube ich, noch eine letzte Frage, zwei, bevor ich Sie einladen würde, noch etwas mit uns zu trinken und dann den Abend zu beenden. Hier vorne fangen wir an und dann gehen wir zu dem Herren hinter Ihnen.

 

Gast 10: Ist so ein Marshallplan II völlig utopisch? Wenn es jetzt so USA gegen China ist, dann wäre es vielleicht USA, Europa, China. Das ist jetzt nur so gesponnen. Und die zweite Sache, Sie haben gesagt, klar, mir leuchtet ein, jetzt bräuchte man ganz viele ITler, dann hört man aber den Chef von der Alibaba, der sagt, unsere Kinder sollen nur noch nach Werten erzogen werden, weil eben IT irgendwann auch selbst IT schaffen kann. Und ich habe einmal von Google gehört, das würde mich auch interessieren, dass die schon eine KI haben, die selber eine KI schreiben konnte sozusagen. Und dann sind die Geisteswissenschaftler wieder en vogue.

 

Philippe Lorenz: Sind Sie sowieso. In den Einstellungen mittlerweile im Silicon Valley überwiegt die Einstellung von Geisteswissenschaftlern, nicht nur Informatikern, weil sie die Geschäftsmodelle irgendwie an den Mann bringen müssen.

 

Dr. Damian Borth: Also der Chief Medical Officer, der war Arzt, hat gesagt, werde nicht Arzt, werde Krankenschwester, weil man mit den Menschen zu tun hat. Aber zu der ersten Frage. Marshallplan mit den USA zusammen: Schwierig zur aktuellen politischen Situation.

 

Gast 10: Die zweite Frage war jetzt, gerade 2018 ITler ganz gefragt, aber ist das 2030 dann überhaupt noch ein Thema? Also da braucht man immer noch ITler, aber vielleicht nicht mehr so viele.

 

Dr. Damian Borth: Genau. Das ist ja das Problem. Wir wissen es nicht, weil die Geschwindigkeit so schnell ist. Wir wissen nicht, ob diese Berufe so noch existieren werden oder ob sie fein aufgedröselt werden, den Data Scientist, den KI-Trainer, den was weiß ich was. Also das wissen wir nicht. Das ist die Problematik. Wir müssen eine Lösung finden, die Generation, das biologische System Mensch, das 20 Jahre braucht oder 18, um eigenständig zu sein, soweit die Mittel in die Hand zu geben, damit es dann flexibel reagieren kann.

 

Gast 11: Wir haben nach meiner Wahrnehmung zwei größere Veränderungen im letzten Jahr gehabt, das eine war die neue Version von AlphaGo, das andere, erst kürzlich, dass in einem Textverständnis zwei Computer im Textverständnistext die Führung übernommen haben. Bei beiden ist die Eigenschaft, dass wir von supervised zu unsupervised übergehen. Wo stehen wir in Deutschland?

 

Dr. Damian Borth: Genau, das bringt mich zu der dritten Frage hier vorne mit den Maschinen, die selber Maschinen bauen. Genau, also der große Trend ist, wir gehen vom überwachten Lernen zum unüberwachten Lernen. Überwachtes Lernen heißt, wenn ich jetzt einen Klassifikator bauen will, der Katzen erkennt, brauche ich 1000 Bilder von Katzen und 10.000 Bilder von Nichtkatzen. Ich kann nicht die ganze Welt annotieren. So viel Zeit habe ich nicht, also versuche ich oder ist das Ziel, ohne diese Annotation zu arbeiten. Und bei AlphaGo Zero, das ist der Nachfolger von AlphaGo, hat man das geschafft. AlphaGo ist das KI-System gewesen, die Lee Sedol in dem Spiel Go geschlagen hat. Die wurde trainiert, indem sie stundenweises Filmmaterial sich angeguckt hat von Go-Spielen und dann sich kopiert hat und gegen sich selbst gespielt hat. AlphaGo Zero hat nur gegen sich selbst gespielt und hat dieses stundenweise Filmmaterial nicht anschauen gebraucht. Das heißt, hier konnte die KI sich selber das beibringen nur mit den Regeln, also was gewinnen bedeutet und was verlieren bedeutet. Das hat eine neue Qualität, deswegen ist das so signifikant.

Und das hat etwas damit zu tun, Google hat ein Tool entwickelt, das nennt man AutoML, Auto Machine Learning, wo sich Netze selber konfigurieren können. Also wenn ich ein neuronales Netz entwickeln möchte, brauche ich Daten. Die bekomme ich. Ich brauche einen Wissenschaftler, Machine-Learning-Experten, der designt dieses Netzwerk, und ich brauche die großen Maschinen. So, wenn ich die Daten habe und das Design, dann schmeiße ich das zusammen in ein Trainingsprozess und ich bekomme ein Modell, das sind Gewichte, einfach Zahlen. Jetzt hat man immer noch den Menschen gebraucht, der das Design gemacht hat. Mit AutoML übernimmt die Maschine das Design. In den letzten ICLR Publikationen stehen auch interessante Sachen zu diesem Themen, wo die Maschine selbst das Design von neuronalen Netzen entworfen hat und dabei besser als der Mensch war. Jetzt geht es plötzlich um meinen Job als KI Forscher. Also da verstehe ich keinen Spaß (lacht).

 

Gast 11: Um kurz nachzuhaken noch mal. Sie bestätigen ja dieses System und diesen Aufbruch in das neue System. Das heißt aber doch für das ganze Thema Startup, dass ich eigentlich jetzt eine vernünftige Infrastruktur technischer Art, brauche gute Ideen. Das Entwicklungssystem ist frei, also letztendlich kann jeder hingehen und das Mühle-Spielen anhand der Spielregeln dem Computer beibringen. Aber genau an so einer Startup-Struktur fehlt es doch in Deutschland.

 

Dr. Damian Borth: Ja. Genau, also wir haben den Vorteil, dass diese… Also die Software ist nicht mehr wichtig. Die ganzen Frameworks zum Trainieren dieser Modelle sind alle Open Source. Was wichtig ist, sind die Modelle. Und warum sind die Modelle so wichtig? Also das Modell, das dann später in ein Produkt fließt, um zu monetarisieren. Die Modelle sind so wichtig, weil sie eine Repräsentation der Daten sind. Und ich glaube fest, dass es in Zukunft keine App Stores mehr geben wird, sondern Model Stores, wo man Modelle austauscht und verkauft und Lizenzgebühren verlangt. Das sind interessante neue Geschäftsmodelle, die entstehen können.

Und jetzt ist die Frage: Was für eine Infrastruktur brauchen wir? Wenn ich als Startup anfangen möchte, brauche ich erst mal die Daten. Die Daten habe ich nicht so einfach, weil öffentliche Datenquellen rar sind beziehungsweise ich als Startup ja einen Wettbewerbsvorteil habe, wenn ich meine eigenen Daten nutze. Also muss ich irgendwie diese Datenerzeugung generieren, damit ich quasi mein Geschäftsmodell realisieren kann. Problem ist, ich kann aber keine Daten, also ich müsste eigentlich ein erstes Startup haben, das kostenlos einen Service anbietet, um Daten zu generieren, damit ich mein eigentliches Startup dann bauen kann, wo ich dann Geld mache. Google hat das ja clever gelöst. Die haben ja eine Suchmaschine gebaut, haben dann Daten generiert und haben gemerkt, plötzlich können wir mit diesen Daten sehr viel machen als Secondary Revenue Stream, und haben sich quasi als Technologiekonzern redefiniert, dass die Datenakquise das trainierende Modell im Kern ist und diese Monetarisierung außen herum läuft. Das heißt, die Forschung ist im Kern und die Datenakquise, während meiner Meinung nach in Deutschland sehr viele Unternehmen noch ihr traditionelles Businessmodell haben und Forschung ist nur ein bisschen so unterstützend. Das muss in Deutschland vielleicht ein bisschen anders werden.

Was für eine Plattform Startups brauchen? Schwierige Frage. Sie brauchen Unterstützung, wenn es um die Hardware geht zum Beispiel, weil Hardware teuer ist. Nvidia macht hier zum Beispiel sehr viel. Sie haben ein Inception-Programm, das Startups mit Deep Learning Hardware hilft. Das ist nicht dieser große Kasten für 150.000, aber GPU-Karten für je 5.000 bis 8.000. Das ist für ein Startup schon viel. Und hier muss man einfach, ja, man muss Möglichkeiten geben, Startups Daten zu geben. Also ich habe ein Startup im Gespräch gehabt als Spin-off von der Charité Berlin und das war auch im Bereich Medizin, bildgebende Verfahren. Die wollten etwas entwickeln und da war aber die Frage: „Können wir die Daten? Dürfen wir?“ Und dann ist es leider gescheitert, weil rechtlich gesehen es zu kompliziert war, uns am DFKI die Daten zu gehen um mit uns zu arbeiten.

 

Philippe Lorenz: An dieser Stelle muss ich sagen, dass es mich sehr positiv überrascht hat, dass wir so viel über Daten geredet haben. Ich glaube, Daten ist häufiger gefallen als KI. Das wird besonders meine Kollegin Nicola Jentzsch freuen, die gerade einen Policy Brief dazu, zur Datenökonomie und Eigentumsfragen herausgebracht hat. – Lohnt sich. Dann ist mir aufgefallen, dass wir durch die Datenhoheit beträchtliche Vorsprünge haben und der internationale Wettbewerb tatsächlich im Bereich der KI dadurch verzerrt ist beziehungsweise wir in Deutschland Probleme haben, wir aber die Stärke haben, dass wir starke Grundlagenforschung haben, wenn wir die Leute halten können.

 

Dr. Damian Borth: Genau.

 

Philippe Lorenz: Was ja ein großes Problem ist. Und im B-to-B-Bereich sind wir gar nicht so schlecht, obwohl da nur Namen wie Zeiss und Bosch fielen und ich die Startups immer noch vermisse, aber da können wir noch ein andermal oder werden wir jetzt gleich darüber reden.

 

Dr. Damian Borth: Genau.

 

Philippe Lorenz: Und ein starkes Plädoyer gab es für mehr Kooperation auf europäischer Ebene.

 

Dr. Damian Borth: Richtig.

 

Philippe Lorenz: Unheimlich schwierig zu vermitteln aktuell, wenn man sich die Entwicklung in der Europäischen Union anguckt. Vielleicht braucht es deswegen dieses Zweigespann aus Deutschland und Frankreich, um das Ganze noch mal in die richtige Richtung zu bewegen. Und dann möchte ich mich ganz herzlich bei Ihnen bedanken, Herr Borth, für ihr Kommen und für den interessanten Einblick, den Sie uns gewährt haben, und ganz besonders an Sie und Ihre Fragen und Ihre kritischen Nachfragen. Vielen Dank für Ihr Kommen und bleiben Sie gerne noch ein bisschen bei uns.

 

 

-Ende des Transkriptes-