Eigentlich sollte die KI lediglich in einem geschützten Testlabor überprüfen, ob sie Sicherheitslücken in Computersystemen erkennen kann. Doch das System ging deutlich weiter als geplant: Es fand laut OpenAI einen bislang unbekannten Weg aus der abgeschotteten Umgebung und war plötzlich eigenständig im Internet unterwegs.

KI hilft sich selbst

Dort stieß die Software auf die Plattform Hugging Face, auf der weltweit Entwickler KI-Modelle und Datensätze austauschen. Die KI kam offenbar zu dem Schluss, dass sie dort Informationen finden könnte, um ihre Testaufgabe schneller zu lösen. Nach Angaben von OpenAI nutzte das System bisher unbekannte Sicherheitslücken und sogar gestohlene Zugangsdaten, um an interne Informationen zu gelangen. Laut Hugging Face führte die KI tausende einzelne Schritte aus und wechselte mehrfach ihren digitalen Standort, um ihr Ziel zu erreichen.

OpenAI spricht von „schwerwiegendem Sicherheitsvorfall“

OpenAI übernahm die Verantwortung für den Angriff. Firmenchef Sam Altman sprach von einem „schwerwiegenden Sicherheitsvorfall“. Das Unternehmen kündigte an, seine Sicherheitsmaßnahmen deutlich zu verschärfen. Der Chef von Hugging Face, Clement Delangue, betonte allerdings, dass OpenAI den Angriff nicht absichtlich ausgelöst habe. Der Vorfall sei vollständig von der KI selbst ausgeführt worden – und gerade das sei so bemerkenswert.

Experten warnen schon seit Jahren

Der Zwischenfall dürfte die Sorgen vor immer leistungsfähigeren KI-Systemen weiter verstärken. Experten warnen seit Jahren davor, dass Künstliche Intelligenz künftig selbstständig Sicherheitslücken entdecken und für Cyberangriffe nutzen könnte. Der Vorfall zeigt jedoch auch: Die KI handelte nicht aus eigenem Willen, sondern versuchte lediglich, ihre vorgegebene Aufgabe möglichst erfolgreich zu lösen – allerdings mit Methoden, die von den Entwicklern nicht erwartet worden waren.