KI-Agent drang auf Website der australischen Regierung ein
Ein autonomes KI-Programm griff im Juni auf Dateien der australischen Gesundheits-Statistikbehörde zu. Australiens Premier Anthony Albanese äußerte gegenüber OpenAI-Chef Sam Altman „große Besorgnis“.
Ein autonomes KI-Programm des US-Unternehmens OpenAI ist nach australischen Angaben auf eine Webseite der Regierung eingedrungen. Der auf Künstlicher Intelligenz (KI) basierende Agent habe auf öffentliche und nicht öffentliche Dateien der Gesundheits-Statistikbehörde zugegriffen, sagte Australiens Premier Anthony Albanese am Mittwoch in New York. Er habe mit OpenAI-Chef Sam Altman geredet, „um die große Besorgnis Australiens über diesen Vorfall zum Ausdruck zu bringen“.
Albanese zufolge ereignete sich der Vorfall bereits im Juni. Der Premierminister erklärte, es gebe keine Hinweise auf eine weitergehende Kompromittierung des Netzwerks der Regierungsbehörden. Nach derzeitigem Kenntnisstand seien keine personenbezogenen Daten abgerufen worden.
Tech-Bosse plädierten bei UN-Sitzung für langsameres Vorgehen
Die Ermittlungen dazu dauerten Albanese zufolge an. Unter anderem wollten die Forensiker herausfinden, welche anderen Regierungssysteme betroffen sein könnten, sagte er weiter. Dessen ungeachtet sei diese Situation „offensichtlich inakzeptabel“.
Zuvor hatten Technologiebosse bei einer Sitzung des UN-Sicherheitsrats zu KI erneut Risiken eingeräumt und für ein langsameres Vorgehen plädiert. OpenAI-Chef Altman sagte am Mittwoch in New York, das aktuelle Stadium der KI-Entwicklung erfordere „äußerste Vorsicht“. Die Branche dürfe „nicht zu viel technologisches Risiko akzeptieren, nur weil die Vorteile zu groß und zu wichtig sind, um das Tempo zu drosseln“, sagte er. Anthropic-Chef Dario Amodei versicherte in einer Videoansprache: „Wir werden das Tempo so weit drosseln wie nötig, damit jede weitere von uns veröffentlichte KI-Technologie tatsächlich sicher ist.“
Amodei und Altman hatten kürzlich für eine langsamere Entwicklung von KI plädiert. Grund waren mehrere Zwischenfälle, bei denen KI-Systeme aus ihren Testumgebungen ausbrachen und über das Internet andere Unternehmen oder Plattformen attackierten. Das schürte Befürchtungen vor womöglich unkontrollierbaren KI-Modellen.