Zwei Tage nach Marktstart: US-Regierung stoppt neue Claude-KI weltweit

Erst vor wenigen Tagen hatte Anthropic mit Claude Fable 5 sein bislang leistungsfähigstes KI-Modell vorgestellt. Nun ist die Anwendung bereits wieder vom Markt verschwunden. Wie das Unternehmen mitteilt, wurde die weltweite Nutzung von Fable 5 und dem ebenfalls neu vorgestellten Mythos 5 auf Anweisung der US-Regierung ausgesetzt.

Die Maßnahme betrifft sämtliche Nutzer, unabhängig davon, in welchem Land sie sich befinden. Auch bestehende Chats mit Fable 5 werden beendet. API-Anfragen an das Modell liefern stattdessen Fehlermeldungen. Nutzer sollen auf andere Claude-Modelle ausweichen.

Anthropic erklärt, die entsprechende Anordnung nur zwei Tage nach Marktstart erhalten zu haben. Die US-Regierung berufe sich dabei auf nationale Sicherheitsinteressen. Konkrete Details zu den Bedenken seien dem Unternehmen jedoch nicht mitgeteilt worden.

Streit um angebliche Sicherheitslücke

Nach Angaben von Anthropic geht es offenbar um eine Methode, mit der sich Schutzmechanismen des Modells teilweise umgehen lassen sollen. Das Unternehmen spricht von einem sogenannten Jailbreak. Dabei werde das Modell dazu gebracht, Antworten zu liefern, die eigentlich durch Sicherheitsvorkehrungen eingeschränkt werden sollten.

Anthropic widerspricht jedoch der Einschätzung der Behörden. Die bislang bekannten Umgehungsmethoden hätten lediglich einige wenige, bereits bekannte Schwachstellen offengelegt. Zudem seien vergleichbare Ergebnisse auch mit anderen öffentlich verfügbaren KI-Modellen möglich.

Besonders deutlich fällt die Kritik des Unternehmens an der Begründung der Maßnahme aus. Anthropic verweist darauf, dass Fable 5 vor seiner Veröffentlichung über Tausende Stunden hinweg gemeinsam mit Regierungsstellen, Sicherheitsexperten und externen Prüfern getestet worden sei. Dabei habe niemand eine universell einsetzbare Methode gefunden, um die Schutzmechanismen des Modells umfassend auszuhebeln.

• Vibecoding: Claude hat uns für 18 Euro zehn Mac-Apps programmiert

Das Unternehmen betont zudem, dass vollkommene Sicherheit gegen Jailbreaks derzeit bei keinem KI-Anbieter garantiert werden könne. Stattdessen habe man auf ein mehrstufiges Sicherheitskonzept gesetzt, das erfolgreiche Angriffe erschweren und deren Entdeckung beschleunigen solle.

Erste Rückrufaktion für ein KI-Modell?

Besonders bemerkenswert ist die Reichweite der Anordnung. Laut Anthropic dürfen selbst ausländische Staatsangehörige innerhalb des Unternehmens nicht mehr auf Fable 5 und Mythos 5 zugreifen. Die Auswirkungen reichen damit weit über die Vereinigten Staaten hinaus.

Erst Anfang der letzten Woche hatte Anthropic die beiden Modelle vorgestellt und dabei vor allem die Fortschritte bei Programmierung, Forschung, Bildanalyse und komplexen Wissensaufgaben hervorgehoben.

Anthropic kündigt an, weitere Informationen zu den Hintergründen der Entscheidung veröffentlichen zu wollen. Man gehe derzeit davon aus, dass ein Missverständnis vorliege, und arbeite daran, die Freigabe der Modelle wiederherzustellen.