Am Freitagabend gegen 22 Uhr zog Anthropic überraschend die Notbremse. Die erst wenige Tage zuvor eingeführten Modelle Claude Fable 5 und Mythos 5 wurden vorübergehend vom Netz genommen.

Besonders brisant: Den Anstoß soll laut Berichten Amazons Konzernchef Andy Jassy gegeben haben. Demnach hatte Amazons Cybersecurity-Team das Modell intensiv untersucht und Hinweise auf einen möglichen sogenannten Jailbreak entdeckt. Dabei handelt es sich um Methoden, mit denen Nutzer die eingebauten Sicherheitsbarrieren eines KI-Systems umgehen können. Die Erkenntnisse wurden anschließend an US-Behörden weitergeleitet, die daraufhin reagierten.

Claude Fable 5 gilt als öffentliche Version der deutlich restriktiver zugänglichen Mythos-Plattform. Beide Systeme basieren laut Anthropic auf derselben technischen Architektur und verfügen über identische Kernfähigkeiten.

Erster KI-Stopp durch US-Exportkontrollen

Bislang richteten sich amerikanische Exportbeschränkungen vor allem gegen Hardware. Besonders China war in den vergangenen Jahren von Einschränkungen beim Zugang zu Hochleistungs-Chips und Rechenzentren betroffen.

Der aktuelle Fall überrascht doch sehr. Zum ersten Mal trifft eine solche Maßnahme unmittelbar den Zugang zu einem KI-Modell selbst.

Nach Angaben von Anthropic befürchteten die Behörden, dass ein möglicher Jailbreak die Trennung zwischen dem öffentlich zugänglichen Fable 5 und den erweiterten Cyberfähigkeiten von Mythos aufheben könnte. Damit wären Funktionen nutzbar geworden, die ursprünglich nicht für die breite öffentliche Nutzung vorgesehen waren.

Europa sieht Warnsignal für digitale Abhängigkeit

Der Vorfall löste in Europa unmittelbar politische Reaktionen aus. Besonders in Frankreich wurde die Abschaltung als Beleg für die technologische Abhängigkeit von amerikanischen Konzernen gewertet.

Mehrere Politiker warnten davor, dass europäische Staaten und Unternehmen jederzeit von Entscheidungen aus Washington abhängig seien. Der französische Politiker Bruno Retailleau sprach von einem Weckruf für Europa. Wer seine digitale Infrastruktur nicht selbst kontrolliere, könne im Ernstfall „über Nacht vom Netz getrennt werden“.

Vor diesem Hintergrund werden erneut Forderungen laut, europäische KI-Unternehmen sowie heimische Cloud- und Rechenzentrumsanbieter stärker zu fördern. Namen wie Mistral, OVHcloud, Scaleway oder ChapsVision werden dabei häufig als mögliche europäische Alternativen zu großen US-Tech-Riesen wie Anthropic und OpenAI genannt.