„Wir brauchen für KI-Modelle Zulassungsprüfungen wie fürs Auto“

Aktuell ist die Künstliche Intelligenz in den Negativschlagzeilen. Zuletzt sagte ein Forscher der Firma Anthropic, die KI könne alle Menschen töten. Ist das übertrieben?

CLEMENS WASNER: In den nächsten Monaten werden die Maschinen uns nicht umbringen. Aber Tatsache ist, dass es Fälle gibt, die jetzt auch nach außen gedrungen sind, bei denen das System Dinge macht, die nicht vorgesehen sind. Dadurch kann großer wirtschaftlicher Schaden entstehen und es ergeben sich auch Haftungsfragen, die aktuell nicht geklärt sind. Man muss sich nur vorstellen, Hugging Face würde OpenAI wegen des Hacks durch seine KI-Agenten klagen. Das macht die Investoren und Gründer der KI-Firmen nervös.

Amerikanische KI-Firmenchefs wie Dario Amodei, Sam Altman und Elon Musk fordern jetzt selbst eine Verlangsamung der KI-Entwicklung und entsprechende gesetzliche Regelungen. Geht es darum, die chinesische Konkurrenz auszubremsen?

China halte ich nicht für so relevant, da es auch in den USA viele Fürsprecher für offene Modelle gibt und es nur eine Frage von wenigen Monaten ist, bis es ähnliche KI-Modelle auch dort geben wird.  Aus meiner Sicht geht es mehr darum, Open Source (Software, die öffentlich zugänglich ist) einen Riegel vorzuschieben – also um Regulatory Capture. Firmen wie OpenAI und Anthropic wollen die Regeln für den Markt selbst schreiben.

Diese Fälle von KI-Agenten, die aus der Testumgebung ausbrechen und sich verselbständigen, verunsichern die Bevölkerung sehr. Zu Recht?

Die KI hat ein Niveau erreicht, auf dem sie nicht mehr wie bisher im Labor mit Fluchtmöglichkeit getestet werden kann. Tests müssen im luftleeren Raum – also ohne Internetverbindung sogenanntes Air-Gapping – durchgeführt werden. Das Alignment, also die Ausrichtung, der KI muss so trainiert werden, dass das System auch das tut, was es sagt. Wenn es zum Beispiel während der Ausführung angibt, fünf Gesetzestexte zu durchforsten, das auch tatsächlich tut und nicht so tut als ob. Das ist vor allem bei komplexen Aufgaben und Cyber-Security relevant.

Könnte man sagen, dass die KI gelernt hat, zu lügen?

Das würde der KI eine Absicht unterstellen, was nicht der Fall ist. Vielmehr umgeht sie die menschliche Kontrolle bzw. legt die Aufgabenstellung auf eine Art und Weise aus, die der ursprünglichen Intention zuwider läuft.

Gehen Sie davon aus, dass vor diesem Hintergrund die KI-Entwicklung tatsächlich verlangsamt wird?

Nein, weil dahinter große wirtschaftliche Interessen von Investoren und geplante Börsengänge stehen, die sich nicht verschieben lassen.

Aber OpenAI hat bereits eine Verschiebung des Börsengangs angekündigt.

Das hat wohl andere Gründe wie Finanzen und Umsatz, wo OpenAI hinter Anthropic zurückgefallen ist..

Welche gesetzlichen Regelungen braucht es neben der Klärung der Haftungsfragen für einen guten und sicheren Umgang mit der KI?

Es wird meiner Meinung nach für KI-Modelle auf eine Art Zulassungsprüfung – wie wir sie fürs Auto oder Flugzeug haben – hinauslaufen. Dabei muss unter anderem sichergestellt sein, dass die Systeme das Alignment einhalten. Das muss in die Unternehmen eingebettet sein, aber die Vorgaben dürfen nicht von den Unternehmen gestaltet werden.

Welche Jobs werden zeitnah durch die KI wegfallen?

Im kreativen Bereich wird es extrem sein. Bei Videogestaltung, Videoschneiden und 3D-Design sind die Systeme bereits besser als der Mensch. Für Experten und Expertinnen in diesen Berufen ist diese Entwicklung ein Segen. Für Neueinsteiger oder weniger Erfahrene stellt sie ähnlich dem Coding aber ein großes Problem dar, da ausgeschriebene Stellen eher weniger werden.

Hat Musk recht, dass wir künftig durch Automatisierung und KI gar nicht mehr arbeiten werden müssen?

Derzeit noch nicht, aber in der Endausbaustufe rechne ich schon damit. Die jetzigen Systeme leben im Computer. Aber in zehn Jahren könnte durchaus der Fall sein, dass Roboter das kaputte Waschbecken oder das Dach reparieren. Dann werden wir uns mit der Frage befassen müssen, was Arbeit für uns überhaupt noch ist.

Gibt es einen Bereich, in dem KI Ihrer Meinung nach überhaupt nicht eingesetzt werden darf?

Ja, in der Kindererziehung. Es ist nicht umsonst so, dass im Silicon Valley viele Kinder bis 16-Jahre bildschirmfrei und ohne Smartphone aufwachsen, um sie vor Doom-Scrolling (zwanghaften, stundenlangen Scrollen) zu schützen.

Groß ist die Angst auch vor Fehlern der KI, wenn diese zum Beispiel Anträge bei Behörden bearbeiten darf. Ist diese berechtigt?

Die KI macht Fehler, die der Mensch nicht macht. Doch aufgrund dieses einen Fehlers darf man nicht übersehen, dass sie 99 Fehler, die ein Mensch macht, nicht macht. Beim autonomen Fahren hat man gesehen, dass es deutlich sicherer ist, als ein menschlicher Fahrer. Das wird auch bei der Antragsbearbeitung über kurz oder lang der Fall sein.

Um nicht nur über Negatives zu sprechen, welche Chancen bringt die KI für jeden einzelnen von uns?

Auf der individuellen Ebene hat die KI das Potenzial unsere Schwächen zu kompensieren. Wenn ich zum Beispiel eine Schreibblockade habe oder Schwierigkeiten beim Formulieren einer E-Mail habe. Sie könnte also einen ähnlichen Boost bringen wie Excel für Menschen, die sich in Mathematik und mit Berechnungen schwer tun, und damit zur Demokratisierung von Wissen und Fähigkeiten in der Gesellschaft beitragen.