Interview: Was ist das Gefährlichste an der KI?

Helga Nowotny ist emeritierte Professorin der ETH Zürich. Die Soziologin studierte unter anderem beim berühmten Wissenschaftsforscher Robert Merton. In ihrem neuen Buch „In AI We Trust“ (Polity Books, 22,60€) warnt sie vor blindem Vertrauen in Künstliche Intelligenz und Algorithmen.

Amazon hat gerade einen neuen Heimroboter namens Astro vorgestellt. Die Reaktionen waren eher spöttisch. Das Gerät wirkt unbeholfen. Würden Sie Astro in Ihr Haus lassen?

Ja, doch nur um selbst zu sehen, was er (nicht) kann. Ansonsten ist mir der echte Astro Boy, die Manga-Serie von Osamu Tezuka aus den 50er und 60er Jahren, lieber.

Wie groß sollte unsere Sorge sein, die KI könnte uns eines Tages unterwerfen?

Die Menge der Dinge vor denen wir uns fürchten können ist unerschöpflich, doch die Sorge einer möglichen Unterwefung unter KI ist wahrlich nicht meine größte.

Was halten Sie denn für das größte Risiko Künstlicher Intelligenz?

Den militärischen Einsatz autonomer Waffensysteme, die sich (fast) zur Gänze auf KI verlassen.

Sie schreiben von einer Spiegelwelt, in der wir sozusagen Zwillinge aus digitalen Daten haben. Könnten die eines Tages gegen uns rebellieren, sich für das bessere Ich halten?

Das glaube ich nicht, da ein digitaler Zwilling nur die Information widerspiegelt, die in unseren Daten enthalten ist. Da wir jedoch mit der digitalen Spiegelwelt interagieren, wirkt sie auf uns zurück und verändert unsere Identität, genau so wenn wir uns in den Spiegel sehen und darin sehr viel mehr zu sehen vermeinen, als das bloße Spiegelbild.

Die Menschen kreieren den Zwilling freiwillig. Brauchen wir ihn sogar?

Er kann sehr nützlich sein. Seit längerem werden zum Beispiel Prototypen von Geräteteilen angefertigt, die eventuell bei Raumflügen repariert werden müssen. So kann man ausprobieren, was wie geht. Aber auch unser digital gespeichertes Genom oder andere Datenzwillinge können in ähnlicher Weise nützlich sein.

Wenn Daten immer mehr Persönliches über uns offenbaren, sie aber zugleich Konzernen wie Google oder Facebook gehören, wohin wird das führen?

Das führt uns in eine noch größere Abhängigkeit von diesen internationalen Konzernen. Daher muss der Staat endlich regulieren, was diese mit unseren Daten machen dürfen, wofür Eigentum an Daten steht und wie es zu schützen ist.

Also alle Daten vergesellschaften?

Sicher nicht, dann wären wir wieder bei ‚Big Brother’ angelangt.

Ein Ergebnis der Regulierung sind die Zustimmungsregeln bei Web-Cookies, die wir auf jeder Internetseite jetzt bestätigen müssen. Viele sind davon genervt, klicken ohne Nachdenken. Frustrierend, oder?

Finde ich auch.

Wie könnte unsere Einwilligung in Datennutzung sinnvoller gestaltet werden?

In der Europäischen Kommission wird zur Zeit an einem umfasenden Entwurf einer Regulierung gearbeitet. Die Einwilligung zur Datennutzung ist nur ein Aspekt dessen, was alles bei der Nutzung von KI reguliert werden soll – sinnvoll ist das alles nur auf europäischer Ebene, selbstverständlich unter Einbezug der Mitgliedstaaten und der Nutzer:innen.

Dabei sollen unter anderem Social Scoring-Systeme verboten werden. In China sind sie aber im Einsatz. Wird sich das Verbot in der EU durchsetzen lassen?

Die Europäische Kommission hat einen sogenannten risk-approach Ansatz gewählt, also eine Vorgangsweise, die in Abstufungen anzeigt wie hoch das Risiko ist, dass beim Einsatz gewisse Grundprizipien und europäische Werte verletzt werden. Statt auf absolute Verbote zu setzen, die dann schwer durchzusetzen sind, ist vorgesehen, die Risikoeinschätzung jeweils im konkreten Anwendungsfall zu überprüfen und dann entsprechend zu reagieren. Mir scheint das eine vernünftige Vorgangsweise zu sein, da wir dann alle sehen können – Achtung, hier bewegen wir uns auf die rote Zone zu.

Zuletzt gab es Fortschritte bei sogenannten neuromorphen Systemen, also KI, die mehr an die Struktur unserer Hirne angelehnt ist. Wird diese einen entscheidenden Sprung ermöglichen?

Es hat sich gezeigt, dass es frappierende strukturelle Ähnlichkeiten zwischen dem menschlichen Gehirn und der Architektur von neuronalen Netzwerken in einem Computer gibt.

Doch das heißt noch lange nicht, dass wir das ‚komplexeste Organ’ besser verstehen oder gar, dass wir dabei sind die KI so zu gestalten, dass sie das Fernziel von ‚General Artificial Intelligence’ also einer KI, die den kognitiven menschlichen Fähigkeiten gleicht, auch nur ansatzweise erreicht. Ob dies jemals geschehen wird, ist eine offene Frage.

Reden wir im öffentlichen Diskurs zu optimistisch über KI? Oder sind die Befürchtungen überzogen?

Bei jeder neuen Technologie, noch dazu bei einer, die sich so rasant entwickelt wie KI, gibt es unglaublich viel Hype und übertriebene Erwartungen. Gleichzeitig ruft sie aber auch dystopische Befürchtungen hervor.

Dem öffentlichen Diskurs würde mehr kritische Refexion gut tun, die auf soldien Grundkenntnissen, also einer KI literacy, beruht. Das würde uns helfen, sowohl die Grenzen realistischer einzuschätzen wie die neuen Möglichkeiten erkennen und für unser Wohl zu nützen. Das ist das Ziel eines ‚digitalen Humanismus’ oder von ‚menschen-zentrierter KI’.

Künstliche Intelligenz verbinden viele bis heute mit der Idee menschenähnlicher Roboter, wie C3PO aus Star Wars. Wundert Sie das?

Nein. Ein menschenähnlicher Roboter macht uns die Technik vertrauter, doch es wird unheimlich, wenn die Ähnlichkeit zu groß wird.

Hätten Sie sich vor 30 Jahren vorstellen können, auf welchem Stand KI heute ist?

Nein, doch ich überlasse auch die Vorstellung über den Stand der Technik in den kommenden 30 Jahren lieber der Science-Fiction.