Im Katz-und-Maus-Spiel um Internetsicherheit gilt Künstliche Intelligenz (KI) sowohl als ein Problem als auch als die Lösung. Ein aktuelles Beispiel dafür zeigt eine Studie aus Australien: Das Forschungsteam dahinter ließ ein KI-Tool optische Täuschungen erzeugen, die andere KI-Modelle - im Gegensatz zu Menschen - nicht erkennen können. Dieser Umstand soll jetzt für sogenannte CAPTCHAs genutzt werden.
CAPTCHAs (siehe Infobox) sollen Websites von automatisierten Aufrufen und Spam schützen. Der Grundgedanke dahinter: Die Aufgaben sollten für Menschen sehr einfach und für Computerprogramme (Bots) möglichst schwierig zu lösen sein. Mittlerweile verhält es sich jedoch eher umgekehrt: Die Hürden, die dazu gedacht sind, Bots fernzuhalten, können von ihnen schneller gelöst werden, als von Menschen.
Eine neue Methode soll Menschen jetzt wieder einen Vorteil verschaffen. Dabei soll kurioserweise ausgerechnet KI helfen. Die University of New South Wales in Sydney, Australien hat die sogenannte „Illusion Captcha“ erforscht. Dabei erzeugt ein generatives KI-Modell optische Täuschungen: Das Forschungsteam um Yuekang Li verwendete zum Beispiel das Foto eines Apfels, und ließ es mit dem Prompt „sonnige Stadtlandschaft“ in ein Bild einer Stadt in Form eines Apfels verwandeln. Und hier wird es kurios: Andere KIs können diese optischen Täuschungen, im Gegensatz zu Menschen, nicht oder nur teilweise wahrnehmen.
In der Studie wurden die KI-Modelle ChatGPT und Gemini getestet. Beide konnten die optischen Täuschungen, die durch generative Modelle erstellt wurden, nicht erfolgreich interpretieren oder lösen. Menschen schnitten hingegen deutlich besser ab, insbesondere bei versteckten Texten und Bildern. Bei den zehn getesteten Personen bestanden 83 Prozent den Test, wenn in dem Bild ein Text versteckt war. 88 Prozent lösten das Captcha, wenn Bilder eingefügt wurden.
Wettrennen geht weiter
Obwohl aktuelle KI-Modelle Probleme mit diesen optischen Täuschungen haben, erwarten Experten, dass zukünftige Systeme diese Herausforderungen rasch überwinden werden. Und so wird das Wettrennen zwischen CAPTCHA-Entwicklern und KI-Forschern wohl weitergehen.
