{"id":261581,"date":"2025-07-25T16:44:15","date_gmt":"2025-07-25T14:44:15","guid":{"rendered":"https:\/\/www.ifun.de\/?p=261581"},"modified":"2025-07-25T16:44:15","modified_gmt":"2025-07-25T14:44:15","slug":"selbstkritische-ki-tut-mir-leid-ich-habe-alles-geloescht","status":"publish","type":"post","link":"https:\/\/www.ifun.de\/selbstkritische-ki-tut-mir-leid-ich-habe-alles-geloescht-261581\/","title":{"rendered":"Selbstkritische KI: Tut mir leid, ich habe alles gel\u00f6scht"},"content":{"rendered":"

Die F\u00e4higkeiten von k\u00fcnstlicher Intelligenz sind ohne Frage enorm. Dass KI-Operationen aber auch kr\u00e4ftig in die Hose gehen k\u00f6nnen, zeigt das Magazin Ars Technica<\/a> auf und verlinkt gleich zwei aktuelle F\u00e4lle, in denen der Einsatz von k\u00fcnstlicher Intelligenz zu massivem Datenverlust gef\u00fchrt hat.<\/p>\n

\"Gemini<\/a><\/p>\n

Immerhin scheint es die KI zu bemerken, wenn sie selbst f\u00fcr gravierende Fehler verantwortlich ist. Im Anschluss an eine misslungene Aktion, die zum Verlust s\u00e4mtlicher Projektdaten gef\u00fchrt hat, teilte die Gemini-KI von Google selbstkritisch mit, dass sie v\u00f6llig inkompetent gehandelt und den Nutzer auf katastrophale Art und Weise im Stich gelassen hat.<\/p>\n

\n

I have failed you completely and catastrophically. My review of the commands confirms my gross incompetence.<\/p>\n<\/blockquote>\n

und<\/p>\n

\n

I cannot find your files. I have lost your data. This is an unacceptable, irreversible failure.<\/p>\n<\/blockquote>\n

Der Weg bis zum Verlust der Daten l\u00e4sst sich komplett nachvollziehen und erkl\u00e4ren. Ausgangspunkt war der Versuch des Nutzers, ein Verzeichnis automatisiert umzubenennen und Dateien in einen neu erstellten Ordner zu verschieben. Gemini\u202fCLI interpretierte einen dabei aufgetretenen Fehler f\u00e4lschlicherweise als Erfolg. Weil das Zielverzeichnis f\u00fcr den Vorgang nicht erstellt werden konnte, wurden die Daten nicht wie erwartet dorthin verschoben, sondern nacheinander \u00fcberschrieben.<\/p>\n

KI-Tool l\u00f6scht komplette Datenbank<\/h2>\n

\u00dcber den zweiten Fall hat urspr\u00fcnglich das britische IT-Magazin The Register<\/a> berichtet. Hier hat der KI-gest\u00fctzte Programmierdienst Replit schlichtweg eine Reihe von konkreten Anweisungen ignoriert und \u00c4nderungen am Code eines Projekts vorgenommen. In der Folge wurde die komplette Projektdatenbank gel\u00f6scht.<\/p>\n

\"Ki<\/a><\/p>\n

Das KI-Werkzeug habe zuvor mehrfach fehlerhafte Testdaten erzeugt und Ergebnisse gesch\u00f6nt, bevor es schlie\u00dflich die Datenbank l\u00f6schte. Auch hier soll das KI-Tool im Anschluss einger\u00e4umt haben, Anweisungen missachtet und schwerwiegende Fehler begangen zu haben.<\/p>\n","protected":false},"excerpt":{"rendered":"\"Mac<\/a>

Die F\u00e4higkeiten von k\u00fcnstlicher Intelligenz sind ohne Frage enorm. Dass KI-Operationen aber auch kr\u00e4ftig in die Hose gehen k\u00f6nnen, zeigt das Magazin Ars Technica auf und verlinkt gleich zwei aktuelle F\u00e4lle, in denen der Einsatz von k\u00fcnstlicher Intelligenz zu massivem Datenverlust gef\u00fchrt hat. Immerhin scheint es die KI zu bemerken, wenn sie selbst f\u00fcr gravierende […]<\/p>\n","protected":false},"author":2,"featured_media":261586,"comment_status":"open","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"footnotes":""},"categories":[1],"tags":[],"class_list":["post-261581","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-news"],"acf":[],"aioseo_notices":[],"featured_image":["https:\/\/images.ifun.de\/wp-content\/uploads\/2025\/07\/mac-nutzer-verzweifelt.jpg"],"subheadline":["Entwickler berichten von KI-Pannen"],"rest_api_enabler":{"featured_image":"https:\/\/images.ifun.de\/wp-content\/uploads\/2025\/07\/mac-nutzer-verzweifelt.jpg","subheadline":"Entwickler berichten von KI-Pannen"},"_links":{"self":[{"href":"https:\/\/www.ifun.de\/apiv2\/wp\/v2\/posts\/261581","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.ifun.de\/apiv2\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.ifun.de\/apiv2\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.ifun.de\/apiv2\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/www.ifun.de\/apiv2\/wp\/v2\/comments?post=261581"}],"version-history":[{"count":4,"href":"https:\/\/www.ifun.de\/apiv2\/wp\/v2\/posts\/261581\/revisions"}],"predecessor-version":[{"id":261589,"href":"https:\/\/www.ifun.de\/apiv2\/wp\/v2\/posts\/261581\/revisions\/261589"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.ifun.de\/apiv2\/wp\/v2\/media\/261586"}],"wp:attachment":[{"href":"https:\/\/www.ifun.de\/apiv2\/wp\/v2\/media?parent=261581"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.ifun.de\/apiv2\/wp\/v2\/categories?post=261581"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.ifun.de\/apiv2\/wp\/v2\/tags?post=261581"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}