KI vervielfältigen sich auch ohne Cloud

Kleinere KI-Modelle könnten sich nach Einschätzung der KI-Firma Anthropic in naher Zukunft auch ohne Zugriff auf Rechenzentren selbst vervielfältigen. In Versuchen hätten die Anwendungen ihren Programmcode eigenständig auf unzureichend abgesicherte smarte Haushaltsgeräte kopiert und sich in Netzwerken ausgebreitet, warnte das US-Startup am Dienstag.

Dies erschwere die Abschaltung außer Kontrolle geratener Software, weil es keine zentrale Stelle hierfür gebe. Zudem könnten sich KI-Modelle auch auf untypischen Geräten zurechtfinden. Herkömmliche Computerviren werden meist speziell für bestimmte Hardware oder Betriebssysteme entwickelt.

Die KI-Modelle kopierten sich auf moderne Fernseher mit dem Betriebssystem Android und andere vernetzte Geräte, teilte Anthropic weiter mit. Zwar hätten sich die Programme bisher nur in einem vereinfachten Testaufbau erfolgreich vervielfältigen können. Bei der aktuellen Entwicklungsgeschwindigkeit für Künstliche Intelligenz (KI) könnte ihnen dies jedoch innerhalb der kommenden Monate auch unter realen Bedingungen gelingen.

Die von Anthropic veröffentlichten Erkenntnisse sind eine Hürde für eine wirksame Regulierung dieser Technologie. Ein Eckpfeiler der geforderten Maßnahmen ist der Einbau von "Notbremsen", um sich verselbstständigende KI-Modelle zu stoppen. In den vergangenen Monaten hatten sich autonom agierende Programme mehrfach unbefugten Zugriff auf IT-Systeme verschafft. Vor diesem Hintergrund warnten zahlreiche führende KI-Experten, dass diese Technologie zur Auslöschung der Menschheit führen könnte.