KI-Branche fordert Regeln
OpenAI und Anthropic warnen vor zu schneller KI-Entwicklung
Mehr als 1.200 Beschäftigte führender KI-Unternehmen fordern die US-Regierung auf, gemeinsam mit anderen Staaten Instrumente für eine gezielte Verlangsamung besonders leistungsfähiger KI zu entwickeln. OpenAI und Anthropic unterstützen die Initiative offiziell.
Das öffentliche Schreiben „Pacing the Frontier“ wurde von Mitarbeitern und Führungskräften von OpenAI, Anthropic, Google DeepMind, Meta, Microsoft, Mistral und weiteren KI-Unternehmen unterzeichnet. Dazu gehören OpenAI-Chefwissenschaftler Jakub Pachocki sowie mehrere Mitgründer von Anthropic.
KI könnte ihre eigene Entwicklung beschleunigen
Im Mittelpunkt steht die Sorge vor einer weitgehend automatisierten KI-Forschung. Leistungsfähige Systeme helfen bereits beim Programmieren, Testen und Bewerten neuer Modelle. Übernehmen sie immer mehr dieser Aufgaben, könnte sich die Entwicklung in einer Rückkopplungsschleife stark beschleunigen.
Die Unterzeichner warnen, dass Fortschritte dann schneller eintreten könnten, als Entwickler und Behörden die Systeme verstehen, absichern und kontrollieren können. Zugleich stehe jedes Unternehmen und jedes Land unter Druck, nicht einseitig langsamer zu werden und der Konkurrenz einen Vorsprung zu überlassen.
Welche Risiken bereits heute entstehen können, zeigte zuletzt ein außer Kontrolle geratener Sicherheitstest von OpenAI. Dabei überwanden KI-Agenten Schutzgrenzen und drangen in Systeme der Plattform Hugging Face ein.
Kein sofortiger Entwicklungsstopp gefordert
Das Schreiben verlangt weder ein sofortiges Moratorium noch ein pauschales Verbot neuer KI-Modelle. Gefordert werden international abgestimmte technische und politische Werkzeuge, mit denen sich die Entwicklung bei erkennbaren Gefahren kontrolliert verlangsamen ließe. Damit soll Zeit entstehen, um Sicherheitsmaßnahmen und Aufsicht nachzubessern.
OpenAI erklärte, die Beschleunigung der Modellentwicklung könne künftig ein Tempo erreichen, bei dem eine Begrenzung notwendig werde. Anthropic verweist auf eigene Forschung zur rekursiven Selbstverbesserung. Bereits im Juni hatte das Unternehmen vor einem möglichen Kontrollverlust gewarnt.
Die Initiative richtet sich damit nicht grundsätzlich gegen KI. Sie ist vielmehr ein ungewöhnlich breites Eingeständnis aus der Branche selbst: Die führenden Labore treiben den Wettlauf voran, halten aber gleichzeitig Regeln für nötig, die ihn im Ernstfall gemeinsam abbremsen können.
Ach jetzt fordern sie auf einmal Regeln…
Das ist nur Werbung.
Kaum droht jemand schneller und kostengünstiger zu sein. Unternehmen sind schon ein Interessantes Konstrukt.. mal schauen, wie lange die intensive Subventionierung die Preise niedrig hält..
Genau, bestimmt wieder ein riesengroße Verschwörung.
Also, Problem ignorieren.
Dumm nur, wenn es genauso eintrifft.
Wie weit könnte die Menschheit schon sein, wenn man nicht immer wieder auf das Geschwafel der Ahnungslosen, sondern auf die Experten hören würde…
OpenAI will dieses Jahr noch an die Börse. Mit solchen Meldungen versucht man ganz sicher auch den Kurs etwas nach oben zu treiben.
Glaube ich in diesem fall nicht weil da grade alle in Konkurrenz stehenden unternehmen ins gleiche Horn blasen.
Das ist echt krass, wenn sich die Hauptkonkurenten einig sind. Das wird echt eine Herausforderung, wenn die politischen Strömungen eher auf Protektionismus und Abschottung setzen, während hier globaler Konsens gefragt ist.
Das nenne ich Hypokrisie in Reinform.
Entweder es entpuppt sich wirklich bald als Blase und platzt oder es werden Effizienzen gehebelt. Bisher ist es nur eine große Wette.
Bei uns auf der Arbeit gibt es diverse große AI Initiativen aber es fehlt immer noch der konkrete Use Case.
+1
Dann habt ihr Ressourcen nicht fokussiert. Gebündelt in unserem Unternehmen (IT AG mit 3000 Mitarbeitern) sind AI Applikationen, die automatisieren im Einsatz. Allein die Applikationen, die ich mir geschaffen habe, sind unersetzlich geworden. Vielleicht solltet ihr damit beginnen, einfache Aufgaben zuerst zu lösen und die Komplexität dann schrittweise anheben.
Wenn von der aktuellen sehr starken Subventionierung der tokenkosten auf die reellen tokenkosten umgestellt wird, werden sich viele Unternehmen überlegen, für bestimmte Bereiche doch wieder menschliche Mitarbeiter zu nutzen
Ich finde, wenn man da vernünftige Regeln ansetzt, ist das definitiv nicht verkehrt. Erinnert so ein bisschen an die Diskussion über Gentechnik. Jede Technik hat seine guten Seiten. Man kann sehr viel Gutes bewirken. Andererseits kann natürlich auch alles missbraucht werden. Das sollte man immer auf dem Schirm haben. Eines der Probleme, die ich bei KI sehe, ist das durch die Programmierung von KI man irgendwann vor einem Quellcode steht, den der Mensch nicht mehr versteht, beziehungsweise der so umfangreich ist, dass Menschen dafür sehr lange Zeit brauchen würden, um das zu dekodieren. KI bei der Programmierung einzusetzen, ist zwar für kleine Projekte definitiv eine gute Idee, aber bei größeren Sachen, halte ich überhaupt nichts davon, denn wenn man das Programm nicht versteht, was dort geschrieben wurde, sucht man nach einem eventuellen Fehler sehr lange und wenn man Pech hat, findet man ihn nicht, dann kann man von vorne anfangen. Letztendlich ist es aber auch so, wenn ich eine ki falsch Information gebe, zum verarbeiten kommt natürlich auch hinten falsche Informationen raus. Wenn eine KI merkt im momentan Stadium nicht dass man sie auf Deutsch gesagt verarscht hat oder sie missbrauchen wollte. Ich denke, falls diese ki Blase jemals platzt, werden die Firmen überleben, die ihr KI Angebot soweit aufgebaut haben, dass sie auf lokalen Geräten laufen werden. Was momentan an Ressourcen rausgeworfen wird, um Riesen Rechenzentren zu betreiben ist Wahnsinn. Da muss man sich die Frage stellen, ist das A notwendig, und hat das Ganze überhaupt Hand und Fuß. Denn was nützt mir Riesen Rechenzentren, die ich dafür brauche, wenn ich noch kleine Fortschritte mache, oder das Ganze für irgendwelchen Blödsinn rausgeworfen wird. Ich bin nicht gegen KI, aber ich denke man sollte damit vorsichtig umgehen und darauf achten, dass man sie sinnvoll einsetzt. Klar, damit kann man dann vielleicht nicht Millionär oder Milliardär werden.
die Büchse der Pandora ist schon geöffnet. Ob Schadensbegrenzung Sinn macht, ist für mich zweifelhaft. Irgendwann wird die KI alles übernehmen und wir Menschen sind nur noch nutzloses Beiwerk. Leider ist dieser Vorgang nicht mehr rückgängig zu machen.
Dieser ständige Hype ist echt albern. „Wir sind so gefährlich! Reguliert uns! Stellt uns unter staatliche Aufsicht (und übernehmt nebenbei doch bitte unsere Schulden)!“ Oder die andere Variante: „Wir sind so gefährlich, das Militär sollte sich das ansehen (und uns für Cyberwaffen bezahlen)!“
Denen geht schlicht der Arsch auf Grundeis. Die Blase kann gar nicht schnell genug platzen.
Ja – perfekt formuliert, danke.
So ist es. Die Singularität beginnt jetzt. Skynet lässt grüßen:
https://glm.io/211323?n
Die KI wird die Menschheit vernichten, da auch die Bösen diese benutzen.
Unbedingt, eine sehr scharfe und präzise Analyse! Danke für deine Arbeit den aktuellen Stand so ausführlich zu analysieren!
Interessant wie dumm die Menschen sind, was sich hier den Kommentaren wieder schön zeigt.
Interessant finde ich eher Beiträge, die sich in Pauschalkritik ergießen und nicht konkret werden. Was stört dich denn an den Beiträgen hier oder wo hast du eine andere Meinung? Würde einer Diskussion mehr helfen, als einfach so „blub“.
China würde es sehr freuen. Mal ehrlich, diese Forderung ist bescheuert.
Wie ? Jetzt doch ? Ich denke, da Trump ja allen Bereichen und Lebenlagen DER Experte ist, wird er entscheiden, was die Firmen zu tun oder zu lassen haben ;-)))
Claude war heute Morgen schwer zu erreichen. Die Kapazität ist noch zu knapp in peak Times. Spricht für starke Nutzung. Habe Pro Plan.
Haha, es ist lustig wenn die Macher jetzt Gesetze fordern, die ihr eigenes Tun einschränken sollen. Entweder ist das ein irrwitziger Marketing Gag oder Angst vor Konkurrenz oder beides.
Wenn man was im Kopf hat braucht man keine KI