KI-Bosse sind sich einig
ChatGPT und Claude: KI-Entwicklung soll jetzt gebremst werden
Anthropic-Chef Dario Amodei fordert eine deutlich vorsichtigere Entwicklung leistungsfähiger KI-Systeme. Nach seiner Einschätzung reicht es nicht mehr, zusätzliche Sicherheitsmechanismen einzubauen. Auch das Tempo neuer Fähigkeiten müsse sinken, damit Prüfverfahren und Schutzmaßnahmen Schritt halten können. Unterstützung hat Amodei von OpenAI-Chef Sam Altman und Elon Musk erhalten.
Anthropic-Chef Dario Amodei und OpenAI-CEO Sam Altman | KI-Illustration
Der frühere OpenAI- und Anthropic-Mitarbeiter Jacob Coxon hatte öffentlich vor Szenarien gewarnt, in denen leistungsfähige Systeme für Cyberangriffe, Biowaffen oder Angriffe auf Infrastruktur missbraucht werden könnten. Anthropic selbst berichtet von Versuchen, Claude für schädliche Aktivitäten einzusetzen.
Externe Prüfer sollen dauerhaft mitlesen
Amodei schlägt ein dreistufiges Modell vor. Anbieter leistungsfähiger KI sollen unabhängigen Prüfern zunächst dauerhaften Zugang zu internen Abläufen geben. Anthropic will diesen Schritt selbst umsetzen. Darüber hinaus sollen sich Unternehmen in demokratischen Staaten auf gemeinsame Sicherheitsstandards verständigen. Langfristig hält Amodei auch Absprachen mit autoritär geführten Staaten für nötig.
Die Forderung knüpft an eine Debatte an, die sich bereits im Sommer verschärft hatte. Ende Juli hatten mehr als 1.200 Beschäftigte führender KI-Unternehmen Instrumente für eine gezielte Verlangsamung gefordert. Der Vorstoß kommt nun direkt aus der Führungsebene.
OpenAI verschiebt den geplanten Börsengang
Auch bei OpenAI bleiben die Sicherheitsbedenken nicht ohne geschäftliche Folgen. Sam Altman will den seit Längerem vorbereiteten Börsengang 2026 nicht mehr angehen. Gegenüber Fortune bezeichnete er die aktuelle Lage als ungünstigen Zeitpunkt. Zudem deutete er an, dass führende KI-Unternehmen kurz vor einer Vereinbarung über ein langsameres Entwicklungstempo stehen könnten.
Die Tagesschau verweist derweil auf den politischen Widerstand in den USA. Die Regierung von Donald Trump setzt weiter auf einen möglichst schnellen Ausbau der eigenen KI-Fähigkeiten. Im Kongress werden zugleich schärfere Eingriffe diskutiert.
Das wird auf keinen Fall passieren, denn China wird nicht pausieren und ein Wettbewerbsnachteil nimmt man natürlich nicht in Kauf
So ist es
War auch mein erster Gedanke
Gut dass wir dich zur Einordnung haben
Genau das war auch mein Gedanke
Es geht ja auch um Sicherheitsaspekte. Meine Hoffnung wäre, dass wir als demokratische Staaten zwar langsamer in der Umsetzung von Sicherheitsmaßnahmen sind, aber wir gemeinsam mit den Herstellern der KIs einen wirksameren Schutz erschaffen.
Vielleicht sind Staaten, die sich und ihre Systeme nicht ausreichend schützen, weil sie blindlings voranschreiten, dann auch die ersten, die von unkontrollierter KI empfindlich getroffen werden.
Bin mir nicht sicher. Der entsprechende chinesische Minister hat sich auch bereits mit ähnlichen Hinweisen gemeldet. Kann natürlich Taktik sein, aber vielleicht haben sie sich Bedenken, dass sie die Kontrolle verlieren könnten. Und das ist für China das allerschlimmste.