Anthropic muss Claude Fable 5 abrupt abschalten
Zwei Tage nach Marktstart: US-Regierung stoppt neue Claude-KI weltweit
Erst vor wenigen Tagen hatte Anthropic mit Claude Fable 5 sein bislang leistungsfähigstes KI-Modell vorgestellt. Nun ist die Anwendung bereits wieder vom Markt verschwunden. Wie das Unternehmen mitteilt, wurde die weltweite Nutzung von Fable 5 und dem ebenfalls neu vorgestellten Mythos 5 auf Anweisung der US-Regierung ausgesetzt.
Die Maßnahme betrifft sämtliche Nutzer, unabhängig davon, in welchem Land sie sich befinden. Auch bestehende Chats mit Fable 5 werden beendet. API-Anfragen an das Modell liefern stattdessen Fehlermeldungen. Nutzer sollen auf andere Claude-Modelle ausweichen.
Anthropic erklärt, die entsprechende Anordnung nur zwei Tage nach Marktstart erhalten zu haben. Die US-Regierung berufe sich dabei auf nationale Sicherheitsinteressen. Konkrete Details zu den Bedenken seien dem Unternehmen jedoch nicht mitgeteilt worden.
Streit um angebliche Sicherheitslücke
Nach Angaben von Anthropic geht es offenbar um eine Methode, mit der sich Schutzmechanismen des Modells teilweise umgehen lassen sollen. Das Unternehmen spricht von einem sogenannten Jailbreak. Dabei werde das Modell dazu gebracht, Antworten zu liefern, die eigentlich durch Sicherheitsvorkehrungen eingeschränkt werden sollten.
Anthropic widerspricht jedoch der Einschätzung der Behörden. Die bislang bekannten Umgehungsmethoden hätten lediglich einige wenige, bereits bekannte Schwachstellen offengelegt. Zudem seien vergleichbare Ergebnisse auch mit anderen öffentlich verfügbaren KI-Modellen möglich.
Besonders deutlich fällt die Kritik des Unternehmens an der Begründung der Maßnahme aus. Anthropic verweist darauf, dass Fable 5 vor seiner Veröffentlichung über Tausende Stunden hinweg gemeinsam mit Regierungsstellen, Sicherheitsexperten und externen Prüfern getestet worden sei. Dabei habe niemand eine universell einsetzbare Methode gefunden, um die Schutzmechanismen des Modells umfassend auszuhebeln.
Das Unternehmen betont zudem, dass vollkommene Sicherheit gegen Jailbreaks derzeit bei keinem KI-Anbieter garantiert werden könne. Stattdessen habe man auf ein mehrstufiges Sicherheitskonzept gesetzt, das erfolgreiche Angriffe erschweren und deren Entdeckung beschleunigen solle.
Erste Rückrufaktion für ein KI-Modell?
Besonders bemerkenswert ist die Reichweite der Anordnung. Laut Anthropic dürfen selbst ausländische Staatsangehörige innerhalb des Unternehmens nicht mehr auf Fable 5 und Mythos 5 zugreifen. Die Auswirkungen reichen damit weit über die Vereinigten Staaten hinaus.
Erst Anfang der letzten Woche hatte Anthropic die beiden Modelle vorgestellt und dabei vor allem die Fortschritte bei Programmierung, Forschung, Bildanalyse und komplexen Wissensaufgaben hervorgehoben.
Anthropic kündigt an, weitere Informationen zu den Hintergründen der Entscheidung veröffentlichen zu wollen. Man gehe derzeit davon aus, dass ein Missverständnis vorliege, und arbeite daran, die Freigabe der Modelle wiederherzustellen.
Das kann noch was werden, wenn weitere Flagship Modelle auch aus Asien in Zukunft mehr und mehr hinter Export Control zurückgehalten werden…
Ja. Befürchte ich auch. Und sich selber stark weiter entwickeln und die „Schöpfer“ selber keine Kontrolle mehr haben werden.
Hihi – erst herum „prahlen“ wie ach so gefährlich das neue Modell so ist und sich dann wundern wenn jemand sagt, dass es so gefährlich ist und stillgelegt werden muss. ;)
Sie selbst haben nicht rumgeprahlt wie gefährlich das Modell sein soll. Das haben andere getan….
Ist das nicht eher eine Art Rache, weil Anthropic nicht der US-Regierung sämtliche Freiheiten für die militärische Nutzung geben wollte?!
Das ist eine vollkommene Spekulation ohne jedwede Belege. Warum setzt man sich hin und verbreitet einfach so seine Verschwörungstheorien? Hast du sonst niemand im Leben, der dir zuhört? Es gibt doch auch Leute, die deine möglicherweise unwahren Äußerungen jetzt lesen und dann weitergeben. Wenn wir so inflationär mit der Wahrheit umgehen, müssen wir uns nicht wundern, wenn Desinformation und Halbwahrheiten zum Standard unserer Gesellschaft werden. Ich bitte dich, solche Sachen einfach für dich zu behalten. Und iFun könnte auch überlegen, ob man sowas löscht. Das Verbreiten von haltlosen Verschwörungstheorien, ohne Belege oder Quellen, ist keine freie Meinungsäußerung. Sorry für den Ausbruch.
Oh man, er hat ein Frage gestellt, sowas kann man auch als Diskussions Einstiegs-Thema bezeichnen. Aber du bist eher einer der die Moralkeule schwingt.
Viel Text für …. nix. Das ist keine VT, das ist unter dieser US-Regierung absolut vorstellbar, eben weil sich Antrophic gegen das Verteidigungsministerium der USA gestellt hat.
Mehr dazu hier „Streit um KI-Einsatz im Militär: Anthropic bricht mit US-Kriegsministerium“:
https://www.ifun.de/streit-um-einsatz-von-ki-im-militaer-anthropic-bricht-mit-us-kriegsministerium-275274/
Da sieht man wieder, wie wichtig europäische Lösungen sind
+1
Ihr solltet deutlicher hervorheben, dass die US-Regierung angeordnet hat, den Zugang für Ausländer (auch innerhalb der USA) zu beschränken. Alleine diese Tatsache zeigt, dass es hier eher um eine Machtdemonstration geht, als um Sicherheitsbedenken.
Danke, haben wir im Text bereits berücksichtigt.
@bjöern, auch mein Gedanke.
Sollen Sie Ihren Standort von USA nach Europa verlegen. Alles abreisen und in Europa immigrieren.
Dann haben wir unsere Leistungsstarke KI. ;-)
Die Geister die ich rief…