Facebook muss sein AI ausschalten, nachdem es eine eigene Sprache entwickelt hat

Elon Musk ist unternehmerischer Optimist straight to the edge. Mit Tesla möchte er nicht weniger als die Autoindustrie revolutionieren und mit SpaceX, seinem Raumfahrtunternehmen, sollen schon bald Ausflüge zum Mond möglich sein. Es liegt auf der Hand: Dieser Mann glaubt an das Gute in modernen Technologien.

Musk gegen Zuckerberg

Weniger optimistisch ist Musk aber, wenn es um künstliche Intelligenz geht. Bei diesem Thema gehört er zu den Kritikern. Bei einer Sitzung der Nationalen Gouverneursversammlung sagte Musk: “Künstliche Intelligenz ist ein fundamentales Risiko für die Existenz der menschlichen Zivilisation, so, wie es Autounfälle, Flugzeugabstürze, Drogen oder schlechtes Essen nie sein werden.“ Und weiter betonte er: „Ich habe Zugang zur modernsten künstlichen Intelligenz, die es gibt. Und ich glaube, die Leute sollten besorgt darüber sein.“

Befürworter von AI konnten darüber nur den Kopf schütteln. Dazu gehörte auch Mark Zuckerberg. Er hielt Musk öffentlich vor, Panikmache zu betreiben und verantwortungslos mit diesem Thema umzugehen. Die Retourkutsche von Musk ließ nicht lange auf sich warten. Auf Twitter konterte er mit dem Kommentar: “Sein Verständnis davon ist begrenzt.“

I’ve talked to Mark about this. His understanding of the subject is limited.

— Elon Musk (@elonmusk) 25. Juli 2017

Facebooks AI entwickelt eine eigene Sprache

Neuen Schwung bekommt die Diskussion um die Chancen und Risiken von künstlicher Intelligenz jetzt durch einen aktuellen Vorfall bei Facebook. Wie gestern bekannte wurde, musste ein AI-System vorübergehend ausgeschaltet werden. Der Grund: Das System hatte eine eigene Sprache entwickelt, welche die Entwickler nicht verstehen konnten. Die Kommunikation zwischen den beiden AI-Systemen Bob und Alice sah dabei folgendermaßen aus:

Irgendwann war den Angestellten nicht mehr klar, worüber sich die Maschinen unterhalten und welche Aufgaben sie gerade ausführen. Daraufhin wurde das System auf seine ursprüngliche Sprache, Englisch, zurückgesetzt. Entwickelt wurden Bob und Alice vom Facebook Artificial Intelligence Research Lab, um mit Menschen, aber auch eigenständig untereinander zu kommunizieren.

Ob dieser Vorfall Elon Musk zum Schmunzeln gebracht hat? Wir wissen es nicht. Die Nachricht ist auf jeden Fall weiterer Zündstoff in der Debatte um Vorzüge und Risiken von künstlicher Intelligenz.