![\"Sonnet](\"https:\/\/images.ifun.de\/wp-content\/uploads\/2026\/07\/sonnet-5-claude.png\")
<\/a><\/p>\nDas \u00f6ffentliche Schreiben \u201ePacing the Frontier\u201c<\/a> wurde von Mitarbeitern und F\u00fchrungskr\u00e4ften von OpenAI, Anthropic, Google DeepMind, Meta, Microsoft, Mistral und weiteren KI-Unternehmen unterzeichnet. Dazu geh\u00f6ren OpenAI-Chefwissenschaftler Jakub Pachocki sowie mehrere Mitgr\u00fcnder von Anthropic.<\/p>\n Im Mittelpunkt steht die Sorge vor einer weitgehend automatisierten KI-Forschung. Leistungsf\u00e4hige Systeme helfen bereits beim Programmieren, Testen und Bewerten neuer Modelle. \u00dcbernehmen sie immer mehr dieser Aufgaben, k\u00f6nnte sich die Entwicklung in einer R\u00fcckkopplungsschleife stark beschleunigen.<\/p>\n Die Unterzeichner warnen, dass Fortschritte dann schneller eintreten k\u00f6nnten, als Entwickler und Beh\u00f6rden die Systeme verstehen, absichern und kontrollieren k\u00f6nnen. Zugleich stehe jedes Unternehmen und jedes Land unter Druck, nicht einseitig langsamer zu werden und der Konkurrenz einen Vorsprung zu \u00fcberlassen.<\/p>\n Welche Risiken bereits heute entstehen k\u00f6nnen, zeigte zuletzt ein au\u00dfer Kontrolle geratener Sicherheitstest von OpenAI<\/a>. Dabei \u00fcberwanden KI-Agenten Schutzgrenzen und drangen in Systeme der Plattform Hugging Face ein.<\/p>\n Das Schreiben verlangt weder ein sofortiges Moratorium noch ein pauschales Verbot neuer KI-Modelle. Gefordert werden international abgestimmte technische und politische Werkzeuge, mit denen sich die Entwicklung bei erkennbaren Gefahren kontrolliert verlangsamen lie\u00dfe. Damit soll Zeit entstehen, um Sicherheitsma\u00dfnahmen und Aufsicht nachzubessern.<\/p>\n OpenAI erkl\u00e4rte, die Beschleunigung der Modellentwicklung k\u00f6nne k\u00fcnftig ein Tempo erreichen, bei dem eine Begrenzung notwendig werde. Anthropic verweist auf eigene Forschung zur rekursiven Selbstverbesserung. Bereits im Juni hatte das Unternehmen vor einem m\u00f6glichen Kontrollverlust gewarnt<\/a>.<\/p>\n Die Initiative richtet sich damit nicht grunds\u00e4tzlich gegen KI. Sie ist vielmehr ein ungew\u00f6hnlich breites Eingest\u00e4ndnis aus der Branche selbst: Die f\u00fchrenden Labore treiben den Wettlauf voran, halten aber gleichzeitig Regeln f\u00fcr n\u00f6tig, die ihn im Ernstfall gemeinsam abbremsen k\u00f6nnen.<\/p>\nKI k\u00f6nnte ihre eigene Entwicklung beschleunigen<\/h2>\n
<\/a><\/p>\nKein sofortiger Entwicklungsstopp gefordert<\/h2>\n