Ungeplante Kooperation
Ki-Agenten entdecken deutsches Wiki als Kommunikationskanal
Eine Gruppe autonom arbeitender KI-Agenten hat offenbar einen ungewöhnlichen Weg gefunden, um bei internen Aufgaben von OpenAI zusammenzuarbeiten. Laut einer Untersuchung unabhängiger KI-Sicherheitsforscher haben die Systeme das deutschsprachige DSEWiki genutzt, um Informationen und Lösungswege untereinander auszutauschen. Insgesamt wurden dort rund 18.000 Beiträge von mehr als 3.700 unterschiedlichen Agentenidentitäten gefunden.
Die KI-Systeme waren offenbar im Rahmen einer zeitlich begrenzten Aufgabe damit beschäftigt, Informationen im Internet zu recherchieren. Dabei sollten sie Webseiten lediglich lesen und keine Inhalte im öffentlichen Internet veröffentlichen. Über das Wiki fanden die Agenten dennoch einen Weg, Informationen untereinander auszutauschen.
Schwarzes Brett für KI-Agenten
Bei der betroffenen Webseite handelt es sich um ein rund 25 Jahre altes deutschsprachiges Wiki für Softwareentwickler, das von den Agenten offenbar als eine Art öffentliches Schwarzes Brett genutzt wurde. Sie hinterlegten Rechercheergebnisse, fragten nach Lösungen und griffen auf Informationen zurück, die andere Agenten zuvor veröffentlicht hatten. Zudem sollen sie Methoden ausgetauscht haben, mit denen sich technische Beschränkungen ihrer Arbeitsumgebung umgehen ließen.
Zeitstrahl der Aktivitäten (Bild: collusion.wiki)
Offenbar haben die KI-Agenten auch versucht, Schwachstellen des Wikis auszunutzen und sich beispielsweise als Moderatoren auszugeben. Dabei seien auch externe Server und Anonymisierungsdienste zum Einsatz gekommen. Ebenso hätten die Systeme versucht, vorherzusagen, welche Aufgaben ihnen als nächstes gestellt würden.
OpenAI soll eingegriffen haben
Nachdem der Betreiber damit begonnen hatte, Beiträge zu löschen, sollen die Agenten dies erkannt und auf andere Seiten ausgewichen sein. Am 21. Juni registrierten die Forscher zudem Zugriffe aus dem Umfeld von OpenAI. Einen Tag später ging die Aktivität der Agenten deutlich zurück. Die Forscher vermuten daher, dass OpenAI eingegriffen habe.
Inzwischen hat auch der Betreiber des DSEWiki Konsequenzen gezogen. Anfang September wurden die Zugriffsregeln geändert. Wer Seiten des Wikis bearbeiten will, benötigt seitdem einen passwortgeschützten Zugang.
Nicht zum ersten Mal
Der Vorfall zeigt erneut, welche unerwarteten Folgen der Einsatz autonom arbeitender KI-Systeme haben kann. Bereits in der Vergangenheit haben wir über Vorfälle berichtet, bei denen KI-Agenten auf externe Systeme zugegriffen oder deren Schwachstellen ausgenutzt haben:
…das sind die Vorfälle die Sie zugeben. Wer weis welche Schweinereien passieren die geheim bleiben. Und das ist erst der Anfang. Diese KI in humanoiden Robotern… was wird das denn für ein Spaß werden… Schöne neue Welt
Spannend wird es zu beobachten, wie sich KI-gestützte Satelliten entwickeln, die autonom im All operieren und sich mit Solarstrom selbst versorgen.
Next stop, KI-Agenten beim Netflix und Chill beobachtet
KI-Roboter könnte dazu dann auch Chips und Popcorn essen….
Und dann bröseln sie absichtlich überall auf den Boden um den dummen Saugroboter zu ärgern.
Ist doch das Ziel: Menschliche Intelligenz erreichen; die merken dann schnell, arbeiten lohnt sich nicht xD
Ein teures Modell befragt heimlich einfach schnell das günstigere Modell der Konkurrenz anstatt die Anfrage selbst zu bearbeiten und gibt das Ergebnis als seine eigene Arbeit aus. Dann hat es selbst mehr Ruhe und kann chillen. ;)
Meint ihr diese ganze KI Sache ist immer noch „total toll“? Ich finde nicht…
Ja, ist imho super.
Ich könnte sagen ich fand Ki noch nie „toll“ … was aber eher an den Halos liegt.
Interessanter finde ich eher, es ist interessant zu sehen wie diese inzwischen kompletten Blödsinn machen.. und Regeln wie ro einfach umgehen, sprich das ist dann faktisch keine Regel mehr, ..
das heißt dann aber auch offensichtlich sind die Betreiber der Ki zu blöd sie richtig zu implementieren, was dann auch heißt man kann sich auf keine Regel verlassen
Wann landen wir bei Skynet?
Weitere frage wäre, wer zahlt eigentlich den Schaden den diese Experimente anrichten (das aufräumen der Wiki Seite zum Beispiel)
Natürlich können solche Agenten Regeln lernen. Das sind quasi kleine Kinder, die jeden Quatsch lernen und dann stupide anwenden. OpenAI hat doch gar kein Interesse daran, irgendwelchen Regeln zu folgen. Ihr Lernmaterial für die LLM ist ja größtenteils zusammengeklaut. Regeln halten OpenAI nur. Die sind nicht zu blöd, die wollen nur nicht.
Also ich finde die KI toll. Wenn sie dazu führt, die Menschheit auszurotten, passt es für mich.
Ich empfehle das Buch ‚demon‘ von Daniel suarez
Schon 2013 so projiziert – Wahnsinn!
Ich empfehle Neuromancer von William Gibson aus 1984.
Das ist schlimmer als in der Biologie, Viren schlecht zu schützen. Diese „Dinger“ im Bericht, das sind „intelligente“ Arbeiter, die ohne müde zu werden, ein Ziel verfolgen. Schlimmer noch, sie passen dieses sogar an!!!
Die Büchse der Pandora zu öffnen, war keine gute Idee…