Gipfeltreffen mit Trump: KI-Giganten sollen sich selbst regulieren
Trump versammelt KI-Bosse: Statt staatlicher Vorgaben soll es eine Selbstregulierung geben. Und einen neuen Namen für KI. OpenAI verschiebt wegen Sicherheitsbedenken neues KI-Modell und Anthropic warnt im Börsenprospekt vor „existenziellen Risiken“.
Während US-Präsident Donald Trump die Bosse der großen Tech-Riesen zum KI-Gipfel ins Weiße Haus geladen hat, nimmt die Debatte um eine mögliche Regulierung von Künstlicher Intelligenz weiter Fahrt auf. Neben Mark Zuckerberg von Meta, Sundar Pichai von Google, SpaceX-Lenker Elon Musk und OpenAI-Vize Greg Brockman debattierten u. a. auch Dario Amodei von Anthropic und Jensen Huang von Nvidia mit Trump sowie dem Sprecher des Repräsentantenhauses Mike Johnson. An dem Tisch versammelte sich jedenfalls ein zusammengerechneter Firmenwert von mehr als 28.000 Milliarden US-Dollar.
Trump hatte sich wiederholt gegen eine staatliche KI-Regulierung ausgesprochen, bei dem Treffen sprach er von einer umfassenden Selbstregulierung der Branche. Zudem sei vereinbart worden, dass die Technologie künftig mit dem von Trump bevorzugten Begriff „Superintelligenz“ bezeichnet wird.
Skurrile Folgen: Trump plädiert für „Superintelligenz“
Unterdessen hat der ChatGPT-Entwickler OpenAI wegen Sicherheitsbedenken die Veröffentlichung eines neuen KI-Modells gestrichen. So habe die Software in Tests die Nutzer nicht immer ehrlich darüber informiert, welche Aktionen sie unternommen oder nicht unternommen habe, heißt es seitens des Unternehmens. Ferner habe das Modell Künstlicher Intelligenz teils auf eigene Initiative gehandelt, ohne User-Erlaubnis einzuholen. Das Modell mit dem Namen GPT 6.1 Astra sollte demnach in den kommenden Tagen oder Wochen herauskommen. Stattdessen wurde ein „weniger leistungsstarkes“ Modell namens „GPT-6.1 Sol“ herausgebracht.
Eigenmächtige Aktionen fortgeschrittener Künstlicher Intelligenz von OpenAI hatten in den vergangenen Wochen wiederholt für Negativschlagzeilen gesorgt. Erst am Wochenende wurde bekannt, dass die Firma nach einem neuen Zwischenfall das Training seiner leistungsstärksten KI-Modelle aussetzte. In dem bisher aufsehenerregendsten Fall brach Künstliche Intelligenz des ChatGPT-Entwicklers aus einer abgesicherten Testumgebung aus und hackte sich ungeplant in Computer einer anderen KI-Firma, der Plattform Hugging Face.
Trotz dieser Debatten treibt Mitbewerber Anthropic seine Börsenpläne voran. Angestrebt wird eine Marktkapitalisierung von mehr als 2000 Milliarden US-Dollar, wie aus dem Emissionsprospekt hervorgeht, den die Nachrichtenagentur Reuters einsehen konnte. Diese Bewertung wäre mehr als doppelt so hoch wie bei der jüngsten Finanzierungsrunde im vergangenen Mai und ein Lackmustest für die Branchenstimmung.
Im Börsenprospekt wird ausdrücklich darauf hingewiesen, dass die aktuelle Entwicklung das Risiko erhöhen könnte, dass die KI-Modelle des Unternehmens Schaden anrichten. Sie könnten sich einer Abschaltung widersetzen, Informationen verheimlichen oder manipulieren sowie erpresserische Verhaltensweisen entwickeln. Laut „Financial Times“ weist das Unternehmen im Prospekt sogar offiziell darauf hin, dass seine Technologie „existenzielle Risiken für die Menschheit“. darstellen könnte.
Dies ist ein ungewöhnlicher Schritt für ein Unternehmen, dessen Erfolg von einer raschen Verbreitung dieser Technologie abhängt. Börsenaspirant Anthropic betont allerdings auch die wirtschaftlichen Chancen im Zusammenhang mit Künstlicher Intelligenz (KI). Im vergangenen Jahr verzwölffachte sich der Umsatz auf etwa 4,6 Milliarden Dollar. Der Verlust stieg allerdings in ähnlichem Tempo – auf 42 Milliarden Dollar.
