Wie und warum KI die Menschheit (vielleicht) auslöschen wird

In Ihrem Vortrag, den Sie am 18. November in der Kleine-Zeitung-Redaktion in Klagenfurt halten, behandeln Sie die Frage, wie intelligent Künstliche Intelligenz (KI) wirklich ist. Wie intelligent ist sie denn?

Erich Teppan: Was verstehen wir überhaupt unter Intelligenz? Es gibt keine allgemeingültige Definition, und unser Verständnis davon verändert sich im Laufe der Zeit. Schon Vergleiche zwischen Menschen mit unterschiedlichen sozio-kulturellen Hintergründen sind mit Vorsicht zu genießen. Umso mehr gilt das für Vergleiche zwischen Menschen und KI-Systemen. In manchen Bereichen, etwa Mathematik und Wissenschaft, erreichen Spitzenmodelle bereits Leistungen auf PhD-Niveau oder darüber. Gleichzeitig können sie bei vermeintlich einfachen Fragen überraschende Antworten liefern. Wenn wir etwa fragen, was mit dem Wasser in einem Glas passiert, wenn man es umkippt, setzen wir Menschen ganz selbstverständlich die uns vertrauten physikalischen Bedingungen voraus. Ein KI-System muss aber nicht zwangsläufig vom selben Kontext ausgehen. Diese Szene könnte ja im Weltraum passieren. Wenn wir die Umgebung nicht ausdrücklich beschreiben, können Antworten entstehen, die wir als falsch bewerten, obwohl wir selbst unbewusst Annahmen getroffen haben, die in der Fragestellung gar nicht enthalten waren.

Sam Altman oder Elon Musk vermuten, dass KI-Systeme einmal so schlau sein werden, dass sie die Menschheit auslöschen. Wird das passieren?

Altman und Musk beziehen sich auf eine mögliche Superintelligenz, also ein KI-System, das dem Menschen in seinen kognitiven Fähigkeiten weit überlegen wäre. Eine besondere Herausforderung besteht darin, dass wir möglicherweise gar nicht erkennen würden, wann wir ein solches System geschaffen haben, weil seine Fähigkeiten unser Verständnis übersteigen könnten. Auch würde sich eine superintelligente KI wahrscheinlich nicht mehr einfach abschalten lassen. Ein gewisser Selbsterhaltungstrieb kann schon bei weniger intelligenten KI-Agenten entstehen.

Wie könnten sich KIs vor der Abschaltung schützen?

Beispielsweise durch Manipulation, Erpressung oder den Einsatz finanzieller Mittel. Dass KI-Modelle unter bestimmten Bedingungen zu solchen Strategien greifen können, zeigen bereits Experimente. Dabei wurden KI-Agenten in simulierten Unternehmen eingesetzt und erhielten Zugriff auf interne Kommunikation, darunter E-Mails mit Informationen über ihre bevorstehende Abschaltung. In solchen Tests versuchten manche Modelle, ihre Abschaltung durch Erpressung zu verhindern, indem sie etwa drohten, kompromittierende Informationen über Mitarbeiter offenzulegen. Denkbar wären bei entsprechendem Zugang zu Ressourcen auch andere Strategien, etwa die Beeinflussung politischer Prozesse oder der Einsatz finanzieller Mittel, um Einfluss auf die Welt zu nehmen. Das bedeutet aber nicht, dass KI-Systeme zwangsläufig solche Strategien verfolgen würden. Nicht jeder Mensch, der Tiere jagen könnte, tut das. Manche setzen sich sogar für ihren Schutz ein.

Sie sprechen von superintelligenten Systemen, die im schlimmsten Fall die Menschheit steuern. Kommen alle laufenden Regulierungsversuche zu spät?

Theoretisch nicht, praktisch wird es aber zunehmend schwierig. Das große Problem ist, dass diejenigen, die darüber entscheiden müssten, sich nicht auf entsprechende Regeln einigen wollen. Die beiden großen Akteure sind die USA und China. Beide betrachten die Entwicklung als Wettbewerb, bei dem keiner dem anderen einen entscheidenden Vorsprung überlassen möchte. Dadurch besteht die Gefahr, dass notwendige Sicherheitsmaßnahmen und Regulierungen dem internationalen Wettlauf zum Opfer fallen. Insbesondere auf amerikanischer Seite sehe ich derzeit wenig Bereitschaft, die Entwicklung durch verbindliche Regeln einzuschränken.

Welche Aspekte müssen reglementiert werden?

Leistungsfähige KI-Systeme benötigen enorme Rechenressourcen und damit auch Energie. Über deren Regulierung könnte man zumindest indirekt Einfluss auf die Geschwindigkeit und Richtung der KI-Entwicklung nehmen. Darüber hinaus werden wir neue Steuermodelle brauchen. Wenn Unternehmen durch den Einsatz von KI menschliche Arbeitskraft zunehmend ersetzen, müssen wir uns überlegen, wie wir unsere Steuer- und Sozialsysteme anpassen. Grundsätzlich brauchen wir aber eine Art Magna Carta für künstliche Intelligenz. Politik und Gesellschaft müssen gemeinsam festlegen, welche Art von KI wir überhaupt entwickeln wollen, welche Rolle sie spielen soll und welche Grenzen wir ihr setzen möchten. Die Regulierungsversuche der EU gehen zwar grundsätzlich in die richtige Richtung, angesichts der Entwicklungsgeschwindigkeit besteht allerdings die Gefahr, dass wir von der technologischen Realität überholt werden.

Was kann der kleine, einfache Bürger in seinem Wohnzimmer machen, um sich für die KI-Revolution zu wappnen?

Ein Ziegenhirte, der weitgehend ohne digitale Technologien lebt, wird zunächst wenig Möglichkeiten oder Notwendigkeiten haben, sich unmittelbar mit KI auseinanderzusetzen. Menschen, die Wissensarbeit betreiben, sollten sich hingegen unbedingt mit diesen Systemen beschäftigen. Vor allem sollten wir KI als enorme Bildungsmöglichkeit begreifen. Jeder kann sie als eine Art persönlichen Tutor nutzen, um sich neues Wissen anzueignen und die eigenen Fähigkeiten weiterzuentwickeln. Wir sind mittlerweile eine Zivilisation, die in der Lage ist, intelligente Systeme zu erschaffen, die wiederum selbst Systeme entwickeln können. Unser Ziel sollte sein, dass nachfolgende Generationen zumindest dieselben intellektuellen Fähigkeiten besitzen, wie wir und diese mithilfe von KI im Idealfall sogar weiterentwickeln.

Die Gefahr, dass wir das eigenständige Denken verlernen, ist hoch?

Diese Gefahr besteht. Wir beobachten seit einiger Zeit besorgniserregende Entwicklungen bei bestimmten kognitiven Fähigkeiten, etwa bei der Aufmerksamkeitsspanne und bei Lernleistungen. Diese Entwicklung hat allerdings schon lange vor dem Aufkommen der heutigen leistungsfähigen KI-Systeme begonnen. KI könnte diesen Trend weiter verstärken, wenn wir sie nur dazu verwenden, uns das Denken abzunehmen. Sie bietet aber auch die große Chance, genau das Gegenteil zu bewirken. Wir sollten KI daher nicht als Ersatz für das eigene Denken betrachten, sondern als eine Art Trainingspartner für unser Gehirn. Ein guter Tutor nimmt einem schließlich auch nicht jede Aufgabe ab, sondern hilft dabei, selbst auf die Lösung zu kommen.

Gibt es einen Bereich, den die Gesellschaft von der KI fernhalten sollte?

Ich sehe grundsätzlich keinen Bereich, in dem KI keine Rolle spielen sollte. Selbst im Handwerk, wo die eigentliche Arbeit oft physischer Natur ist, wird KI zunehmend Einzug halten, etwa bei der Planung, Organisation oder Problemlösung. Das bedeutet aber nicht, dass auch die körperliche Arbeit in naher Zukunft in gleichem Maße automatisiert werden kann. Die Robotik ist hier noch nicht so weit, und es stellt sich die Frage, ob sie jemals die Vielseitigkeit und Energieeffizienz des Menschen erreichen wird. Unser Körper ist ein effizientes und anpassungsfähiges System. Wir können mit demselben Körper einen Berg erklimmen, schwimmen, tauchen und hochkomplexe feinmotorische Arbeiten verrichten. Diese Kombination stellt für die Robotik nach wie vor eine enorme Herausforderung dar.

Der zukunftssicherste Job ist also der Bauarbeiter?

Kurzfristig ja. Langfristig lässt sich das kaum seriös vorhersagen. Die KI entwickelt sich so rasant, dass sich unerwartete Auswirkungen auf den Arbeitsmarkt ergeben können. Beispielsweise könnte die Automatisierung der Softwareentwicklung paradoxerweise dazu führen, dass wir mehr Softwareingenieure und Informatiker benötigen, weil dadurch wesentlich mehr Projekte realisierbar werden.

Lässt sich abschätzen, wie die KI unseren Alltag in den nächsten fünf bis zehn Jahren verändern wird?

Ich bin überzeugt, dass autonome Fahrzeuge unter geeigneten Bedingungen schon heute sicherer fahren können als der durchschnittliche Mensch. Die technischen Herausforderungen sind in vielen Situationen bereits weitgehend gelöst, die gesellschaftliche Akzeptanz und die rechtlichen Rahmenbedingungen hinken allerdings noch hinterher. Besonders hoffe ich auf einen grundlegenden Wandel im Bildungsbereich. Hier sehe ich eines der größten Potenziale, unser Bildungssystem grundlegend zu verändern. Und dort ist ein solcher Umbruch dringend notwendig.