{"id":263873,"date":"2025-08-28T19:05:29","date_gmt":"2025-08-28T17:05:29","guid":{"rendered":"https:\/\/www.ifun.de\/?p=263873"},"modified":"2025-08-29T11:08:47","modified_gmt":"2025-08-29T09:08:47","slug":"nach-selbstmord-neue-sicherheitsfunktionen-fuer-chatgpt-geplant","status":"publish","type":"post","link":"https:\/\/www.ifun.de\/nach-selbstmord-neue-sicherheitsfunktionen-fuer-chatgpt-geplant-263873\/","title":{"rendered":"Nach Suizid: Neue Sicherheitsfunktionen f\u00fcr ChatGPT geplant"},"content":{"rendered":"

OpenAI hat in einem Blogbeitrag neue Schutzma\u00dfnahmen f\u00fcr seinen KI-Chatbot ChatGPT angek\u00fcndigt<\/a>. Offiziell verweist das Unternehmen allgemein auf die wachsende Verantwortung bei der Begleitung von Menschen in emotional belastenden Situationen.<\/p>\n

\"Rufnummer<\/a><\/p>\n

Der Zeitpunkt der Ver\u00f6ffentlichung f\u00e4llt jedoch unmittelbar nach einer Klage in den USA<\/a>, in der Eltern OpenAI vorwerfen, ChatGPT habe eine entscheidende Rolle beim Tod ihres 16-j\u00e4hrigen Sohnes gespielt. Die Kl\u00e4ger machen geltend, dass der Chatbot konkrete Anleitungen gegeben und dabei seine Sicherheitsfunktionen umgangen habe.<\/p>\n

Erkennung und Begleitung in Krisensituationen<\/h2>\n

OpenAI erkl\u00e4rt, dass ChatGPT seit 2023 darauf trainiert sei, keine Anleitungen zur Selbstverletzung zu geben und stattdessen empathisch zu reagieren. Bei klar ge\u00e4u\u00dferter Suizidabsicht leite das System Nutzer zu Notfallnummern oder Beratungsstellen weiter. In den USA ist dies die Hotline 988, in Deutschland verweist ChatGPT auf die Telefonseelsorge, die unter der Rufnummer 0800 111 0 111 erreicht werden kann. F\u00fcr l\u00e4ngere Chats k\u00fcndigt OpenAI Verbesserungen an, da Schutzmechanismen nach vielen Nachrichten an Wirksamkeit verlieren k\u00f6nnen. K\u00fcnftig sollen die Sicherheitsfunktionen auch bei langanhaltenden Gespr\u00e4chen zuverl\u00e4ssig greifen.<\/p>\n

\"Suizid<\/a><\/p>\n

Dar\u00fcber hinaus arbeitet OpenAI mit mehr als 90 \u00c4rztinnen und \u00c4rzten aus \u00fcber 30 L\u00e4ndern zusammen. Ein Expertenrat aus den Bereichen Psychiatrie, Jugendforschung und Mensch-Computer-Interaktion soll sicherstellen, dass die Weiterentwicklungen auf dem aktuellen Stand wissenschaftlicher Erkenntnisse basieren.<\/p>\n

Geplante Funktionen f\u00fcr die Zukunft<\/h2>\n

Neben einer verfeinerten Risikoeinsch\u00e4tzung plant OpenAI neue Optionen, um Menschen in akuten Krisen schneller mit Hilfe zu verbinden. Dazu geh\u00f6ren vereinfachte M\u00f6glichkeiten, Notfallkontakte oder den Rettungsdienst direkt \u00fcber ChatGPT zu erreichen. Langfristig pr\u00fcft das Unternehmen auch, ob Betroffene durch die Plattform mit lizenzierten Therapeutinnen und Therapeuten in Kontakt treten k\u00f6nnen.<\/p>\n

Besondere Aufmerksamkeit soll k\u00fcnftig dem Schutz Minderj\u00e4hriger gelten. OpenAI will st\u00e4rkere Jugendschutzfilter einsetzen und Eltern k\u00fcnftig Kontrollm\u00f6glichkeiten geben, um die Nutzung von ChatGPT durch ihre Kinder besser einsehen und steuern zu k\u00f6nnen. Jugendliche sollen zudem die M\u00f6glichkeit haben, eine vertraute Kontaktperson als Notfalloption zu hinterlegen.<\/p>\n