KI löscht Menschheit aus? „Das ist eher Science Fiction“
KI-Experte Michael Nentwich warnt vor den tatsächlichen Gefahren künstlicher Intelligenz, hält Untergangsszenarien aber für übertrieben. Er fordert zugleich strengere Regeln für die Entwicklung und den Einsatz von KI.
Michael Nentwich, Direktor des Instituts für Technikfolgenabschätzung der Österreichischen Akademie der Wissenschaften, war am Montagabend in der ZiB 2 bei Armin Wolf zu Gast und sieht die jüngsten Forderungen von KI-Konzernen nach einer Verlangsamung der Entwicklung mit Skepsis. Dass Unternehmen wie die großen US-KI-Konzerne plötzlich nach Regulierung rufen, überrasche ihn nicht. Dahinter stecke häufig eher der Wunsch nach Selbstregulierung als nach staatlichen Vorgaben. Die Warnungen vor einer KI, die sich verselbstständigt, ein eigenes Bewusstsein entwickelt und die Menschheit auslöscht, hält Nentwich hingegen für stark übertrieben: „Das ist eher Science Fiction.“ Eine solche Entwicklung werde seiner Einschätzung nach noch lange auf sich warten lassen.
Gleichzeitig warnt der Wissenschaftler davor, die tatsächlichen Gefahren der Technologie zu unterschätzen. Besonders problematisch sei, dass KI-Systeme in die Hände von Kriminellen, Terroristen oder staatlichen Akteuren gelangen und etwa für die Entwicklung gefährlicher Waffen missbraucht werden könnten. Diese Gefahr lasse sich auch durch Regulierung nicht vollständig beseitigen. Noch größer sieht Nentwich die Risiken für die Demokratie. KI-gesteuerte soziale Plattformen und Chatbots seien keineswegs neutral, sondern würden nach bestimmten wirtschaftlichen und zunehmend auch ideologischen Vorstellungen entwickelt. „Die Technologie ist nicht wertfrei oder neutral“, betont er. Dadurch könnten bestehende Probleme sozialer Medien massiv verstärkt werden.
„Man muss unbedingt weiter regulieren“
Bei der Regulierung sieht Nentwich die EU trotz aller Schwierigkeiten auf dem richtigen Weg. Das europäische KI-Gesetz sei ein wichtiger Schritt, auch wenn es noch zahlreiche Lücken gebe. Es wäre deshalb falsch, angesichts der schwierigen Umsetzung auf weitere Regeln zu verzichten: „Man muss tatsächlich unbedingt weiter regulieren.“ Zwar sitzen die mächtigsten KI-Konzerne in den USA und China, doch wegen der Größe des europäischen Marktes könne die EU durchaus festlegen, unter welchen Bedingungen KI hier eingesetzt werden darf. Langfristig plädiert Nentwich allerdings für eine noch breitere internationale Zusammenarbeit, etwa in Form einer UNO-Behörde.
Besonders optimistisch blickt Nentwich dennoch nicht in die Zukunft. Die bisherigen Erfahrungen zeigten, dass wirtschaftliche Interessen, politische Lobbygruppen und die zunehmenden Spannungen zwischen den großen Machtblöcken eine wirksame Regulierung erschwerten. Eine KI, die in zehn Jahren die Welt beherrscht und die Menschheit auslöscht, hält er allerdings für äußerst unwahrscheinlich. Mittelfristig sei die Technologie „nicht so gefährlich, wie viele sagen“. Entscheidend sei vielmehr, die Entwicklung einzuhegen und die Unternehmen stärker zu ihren Sorgfaltspflichten zu verpflichten. Die vergangenen Monate hätten gezeigt, dass es gerade bei der Qualitätssicherung noch erheblichen Nachholbedarf gibt.