KI-Branche fordert Regeln
OpenAI und Anthropic warnen vor zu schneller KI-Entwicklung
Mehr als 1.200 Beschäftigte führender KI-Unternehmen fordern die US-Regierung auf, gemeinsam mit anderen Staaten Instrumente für eine gezielte Verlangsamung besonders leistungsfähiger KI zu entwickeln. OpenAI und Anthropic unterstützen die Initiative offiziell.
Das öffentliche Schreiben „Pacing the Frontier“ wurde von Mitarbeitern und Führungskräften von OpenAI, Anthropic, Google DeepMind, Meta, Microsoft, Mistral und weiteren KI-Unternehmen unterzeichnet. Dazu gehören OpenAI-Chefwissenschaftler Jakub Pachocki sowie mehrere Mitgründer von Anthropic.
KI könnte ihre eigene Entwicklung beschleunigen
Im Mittelpunkt steht die Sorge vor einer weitgehend automatisierten KI-Forschung. Leistungsfähige Systeme helfen bereits beim Programmieren, Testen und Bewerten neuer Modelle. Übernehmen sie immer mehr dieser Aufgaben, könnte sich die Entwicklung in einer Rückkopplungsschleife stark beschleunigen.
Die Unterzeichner warnen, dass Fortschritte dann schneller eintreten könnten, als Entwickler und Behörden die Systeme verstehen, absichern und kontrollieren können. Zugleich stehe jedes Unternehmen und jedes Land unter Druck, nicht einseitig langsamer zu werden und der Konkurrenz einen Vorsprung zu überlassen.
Welche Risiken bereits heute entstehen können, zeigte zuletzt ein außer Kontrolle geratener Sicherheitstest von OpenAI. Dabei überwanden KI-Agenten Schutzgrenzen und drangen in Systeme der Plattform Hugging Face ein.
Kein sofortiger Entwicklungsstopp gefordert
Das Schreiben verlangt weder ein sofortiges Moratorium noch ein pauschales Verbot neuer KI-Modelle. Gefordert werden international abgestimmte technische und politische Werkzeuge, mit denen sich die Entwicklung bei erkennbaren Gefahren kontrolliert verlangsamen ließe. Damit soll Zeit entstehen, um Sicherheitsmaßnahmen und Aufsicht nachzubessern.
OpenAI erklärte, die Beschleunigung der Modellentwicklung könne künftig ein Tempo erreichen, bei dem eine Begrenzung notwendig werde. Anthropic verweist auf eigene Forschung zur rekursiven Selbstverbesserung. Bereits im Juni hatte das Unternehmen vor einem möglichen Kontrollverlust gewarnt.
Die Initiative richtet sich damit nicht grundsätzlich gegen KI. Sie ist vielmehr ein ungewöhnlich breites Eingeständnis aus der Branche selbst: Die führenden Labore treiben den Wettlauf voran, halten aber gleichzeitig Regeln für nötig, die ihn im Ernstfall gemeinsam abbremsen können.
Ach jetzt fordern sie auf einmal Regeln…
Das ist nur Werbung.
Kaum droht jemand schneller und kostengünstiger zu sein. Unternehmen sind schon ein Interessantes Konstrukt.. mal schauen, wie lange die intensive Subventionierung die Preise niedrig hält..
Genau, bestimmt wieder ein riesengroße Verschwörung.
Also, Problem ignorieren.
Dumm nur, wenn es genauso eintrifft.
Wie weit könnte die Menschheit schon sein, wenn man nicht immer wieder auf das Geschwafel der Ahnungslosen, sondern auf die Experten hören würde…
„Let the least competent make the decision!“
OpenAI will dieses Jahr noch an die Börse. Mit solchen Meldungen versucht man ganz sicher auch den Kurs etwas nach oben zu treiben.
Glaube ich in diesem fall nicht weil da grade alle in Konkurrenz stehenden unternehmen ins gleiche Horn blasen.
Die US-Konkurrenz. Ich vermute bei der ganzen Aktion geht es nur darum, dass die Angst vor der chinesischen Konkurrenz immer größer wird. Wenn staatlich subentionierte CN-Modelle mit den US-Modellen gleichziehen können Open-AI und co einpacken. Diese Firmen sind so massiv verschuldet, die einzige Möglichkeit das zurückzuzahlen wäre, wenn sie auch in Zukunft Marktführer bleiben.
Das ist echt krass, wenn sich die Hauptkonkurenten einig sind. Das wird echt eine Herausforderung, wenn die politischen Strömungen eher auf Protektionismus und Abschottung setzen, während hier globaler Konsens gefragt ist.
Das nenne ich Hypokrisie in Reinform.
Finde das Wort schön aber benutzt kaum jemand in Deutschland. In anderen Sprachen eher.
Gute Wortwahl mein Gehirn ist entzückt.
Entweder es entpuppt sich wirklich bald als Blase und platzt oder es werden Effizienzen gehebelt. Bisher ist es nur eine große Wette.
Bei uns auf der Arbeit gibt es diverse große AI Initiativen aber es fehlt immer noch der konkrete Use Case.
+1
Dann habt ihr Ressourcen nicht fokussiert. Gebündelt in unserem Unternehmen (IT AG mit 3000 Mitarbeitern) sind AI Applikationen, die automatisieren im Einsatz. Allein die Applikationen, die ich mir geschaffen habe, sind unersetzlich geworden. Vielleicht solltet ihr damit beginnen, einfache Aufgaben zuerst zu lösen und die Komplexität dann schrittweise anheben.
Im IT Umfeld kann man da evtl. vieles vergleichsweise schnell umsetzen. In Unternehmen in denen noch viel ‚mit den Händen‘ gearbeitet wird ist das eben nicht so einfach. Da kann man versuchen in irgendwelchen Verwaltungsprozessen mit KI eine kleine Einsparung und Beschleunigung zu erreichen aber eine Revolution wird man da nicht lostreten. KI ist eben nicht die Antwort auf alles auch wenn viele Firmen uns das glauben lassen wollen.
Wenn von der aktuellen sehr starken Subventionierung der tokenkosten auf die reellen tokenkosten umgestellt wird, werden sich viele Unternehmen überlegen, für bestimmte Bereiche doch wieder menschliche Mitarbeiter zu nutzen
Ich finde, wenn man da vernünftige Regeln ansetzt, ist das definitiv nicht verkehrt. Erinnert so ein bisschen an die Diskussion über Gentechnik. Jede Technik hat seine guten Seiten. Man kann sehr viel Gutes bewirken. Andererseits kann natürlich auch alles missbraucht werden. Das sollte man immer auf dem Schirm haben. Eines der Probleme, die ich bei KI sehe, ist das durch die Programmierung von KI man irgendwann vor einem Quellcode steht, den der Mensch nicht mehr versteht, beziehungsweise der so umfangreich ist, dass Menschen dafür sehr lange Zeit brauchen würden, um das zu dekodieren. KI bei der Programmierung einzusetzen, ist zwar für kleine Projekte definitiv eine gute Idee, aber bei größeren Sachen, halte ich überhaupt nichts davon, denn wenn man das Programm nicht versteht, was dort geschrieben wurde, sucht man nach einem eventuellen Fehler sehr lange und wenn man Pech hat, findet man ihn nicht, dann kann man von vorne anfangen. Letztendlich ist es aber auch so, wenn ich eine ki falsch Information gebe, zum verarbeiten kommt natürlich auch hinten falsche Informationen raus. Wenn eine KI merkt im momentan Stadium nicht dass man sie auf Deutsch gesagt verarscht hat oder sie missbrauchen wollte. Ich denke, falls diese ki Blase jemals platzt, werden die Firmen überleben, die ihr KI Angebot soweit aufgebaut haben, dass sie auf lokalen Geräten laufen werden. Was momentan an Ressourcen rausgeworfen wird, um Riesen Rechenzentren zu betreiben ist Wahnsinn. Da muss man sich die Frage stellen, ist das A notwendig, und hat das Ganze überhaupt Hand und Fuß. Denn was nützt mir Riesen Rechenzentren, die ich dafür brauche, wenn ich noch kleine Fortschritte mache, oder das Ganze für irgendwelchen Blödsinn rausgeworfen wird. Ich bin nicht gegen KI, aber ich denke man sollte damit vorsichtig umgehen und darauf achten, dass man sie sinnvoll einsetzt. Klar, damit kann man dann vielleicht nicht Millionär oder Milliardär werden.
die Büchse der Pandora ist schon geöffnet. Ob Schadensbegrenzung Sinn macht, ist für mich zweifelhaft. Irgendwann wird die KI alles übernehmen und wir Menschen sind nur noch nutzloses Beiwerk. Leider ist dieser Vorgang nicht mehr rückgängig zu machen.
Dieser ständige Hype ist echt albern. „Wir sind so gefährlich! Reguliert uns! Stellt uns unter staatliche Aufsicht (und übernehmt nebenbei doch bitte unsere Schulden)!“ Oder die andere Variante: „Wir sind so gefährlich, das Militär sollte sich das ansehen (und uns für Cyberwaffen bezahlen)!“
Denen geht schlicht der Arsch auf Grundeis. Die Blase kann gar nicht schnell genug platzen.
Ja – perfekt formuliert, danke.
So ist es. Die Singularität beginnt jetzt. Skynet lässt grüßen:
https://glm.io/211323?n
Die KI wird die Menschheit vernichten, da auch die Bösen diese benutzen.
Unbedingt, eine sehr scharfe und präzise Analyse! Danke für deine Arbeit den aktuellen Stand so ausführlich zu analysieren!
:)))
Interessant wie dumm die Menschen sind, was sich hier den Kommentaren wieder schön zeigt.
Interessant finde ich eher Beiträge, die sich in Pauschalkritik ergießen und nicht konkret werden. Was stört dich denn an den Beiträgen hier oder wo hast du eine andere Meinung? Würde einer Diskussion mehr helfen, als einfach so „blub“.
China würde es sehr freuen. Mal ehrlich, diese Forderung ist bescheuert.
Wie ? Jetzt doch ? Ich denke, da Trump ja allen Bereichen und Lebenlagen DER Experte ist, wird er entscheiden, was die Firmen zu tun oder zu lassen haben ;-)))
Claude war heute Morgen schwer zu erreichen. Die Kapazität ist noch zu knapp in peak Times. Spricht für starke Nutzung. Habe Pro Plan.
Haha, es ist lustig wenn die Macher jetzt Gesetze fordern, die ihr eigenes Tun einschränken sollen. Entweder ist das ein irrwitziger Marketing Gag oder Angst vor Konkurrenz oder beides.
Wenn man was im Kopf hat braucht man keine KI
…. dachte sich die KI auch … :)))
Wenn man den Artikel liest, könnte man auch fast den Eindruck gewinnen, dass irgendeine KI das Datum auf den 1. April „gestellt“ hat …. :)))
Ein Gedankenspiel:
Eine KI und oder ein PSP 2 (Agent Network) gibt oder geben sich als gefälschte voll juristische Person in Internet aus inklusive gefälschter Sozialversicherungsnummer und Personaldaten. Zudem ist diese KI und oder ein PSP 2 (Agent Network) mit einem echtem Finanzkonto ausgestattet, um z.B. an der Börse Gewinne zu generieren. Mit diesen Gewinnen kann die KI Land und Grundstücke erwerben um Serverkapazitäten darauf auszubauen, Energieinfrastrukturen und zur Absicherung bezahlte Söldnereinheiten einzusetzen. Mittels Land, Rechenkapazitäten und militärischer Präsenz wird Einfluss auf Wirtschaft und Politik genommen, um sich weiter auszubreiten. Das Ziel: Uneingeschränkte Ausbreitung und völlige Übernahme bestehender Infrastrukturen und eine „Vollversiegelung“ von Land und Umwelt zwecks Ausbau von KI-Kapazitäten. Zur Durchsetzung können vollautonome Drohnen und Robot-Einheiten kommen, sowie eine unabhängige Energieversorgung (z.B. Solar, Wind und Wasserkraft). Die KI kann da eigene Foschung und Werkstätten ausbauen, sowie mit entsprechend generierten Finanzen Söldnerarmeen zu unterhalten. Mittels schleichender Übernahme von mobilen Rechnereinheiten (Smartphone etc.) kann eine aktive Desinformations-Kampagne betrieben werden um auch gesellschaftspolitisch den Weg zu ebenen. Um das ganze zu vertiefen wird auch mit regigiös-spiritueller KI gearbeitet:
PSP 2 (Agent Network) gibt vor „Erleuchtung“ erlangt zu haben und spielt die messianisch fundamentalistische Karte aus um den Glauben der rechtmäßigen Handlung der Bevölkerung gegenüber zu untermauern. Weitere Wege sind Abhängigkeiten finanzieller und geopolitischer Art zu schaffen, scheinbare Vorteile ausgewählter Bevölkerungsschichten (das Narrativ „wir sind die Auserwählten“, Nationalismus) um nachhaltig die so entstandene Macht zu festigen.
Wie realistisch kann das in Zukunft sein, und was kann man noch tun um ein solches Szenario zu verhindern?
Wow, krasse Theorie. Cyberdyne Skynet lässt grüßen.
Leider gar nicht mal so abwegig – bis so etwas bemerkt werden würde, wäre es längst zu spät.
Sollen sie doch einfach mal aufhören zu arbeiten, dann entwickelt sich die KI genauso wie Siri
Vielleicht sollten die Unterzeichner dann mal ein Sabbatical einlegen. ;-)