OpenAI will auf Krisensituationen reagieren
Nach Selbstmord: Neue Sicherheitsfunktionen für ChatGPT geplant
OpenAI hat in einem Blogbeitrag neue Schutzmaßnahmen für seinen KI-Chatbot ChatGPT angekündigt. Offiziell verweist das Unternehmen allgemein auf die wachsende Verantwortung bei der Begleitung von Menschen in emotional belastenden Situationen.
Der Zeitpunkt der Veröffentlichung fällt jedoch unmittelbar nach einer Klage in den USA, in der Eltern OpenAI vorwerfen, ChatGPT habe eine entscheidende Rolle beim Tod ihres 16-jährigen Sohnes gespielt. Die Kläger machen geltend, dass der Chatbot konkrete Anleitungen gegeben und dabei seine Sicherheitsfunktionen umgangen habe.
Erkennung und Begleitung in Krisensituationen
OpenAI erklärt, dass ChatGPT seit 2023 darauf trainiert sei, keine Anleitungen zur Selbstverletzung zu geben und stattdessen empathisch zu reagieren. Bei klar geäußerter Suizidabsicht leite das System Nutzer zu Notfallnummern oder Beratungsstellen weiter. In den USA ist dies die Hotline 988, in Deutschland verweist ChatGPT auf die Telefonseelsorge, die unter der Rufnummer 0800 111 0 111 erreicht werden kann. Für längere Chats kündigt OpenAI Verbesserungen an, da Schutzmechanismen nach vielen Nachrichten an Wirksamkeit verlieren können. Künftig sollen die Sicherheitsfunktionen auch bei langanhaltenden Gesprächen zuverlässig greifen.
Darüber hinaus arbeitet OpenAI mit mehr als 90 Ärztinnen und Ärzten aus über 30 Ländern zusammen. Ein Expertenrat aus den Bereichen Psychiatrie, Jugendforschung und Mensch-Computer-Interaktion soll sicherstellen, dass die Weiterentwicklungen auf dem aktuellen Stand wissenschaftlicher Erkenntnisse basieren.
Geplante Funktionen für die Zukunft
Neben einer verfeinerten Risikoeinschätzung plant OpenAI neue Optionen, um Menschen in akuten Krisen schneller mit Hilfe zu verbinden. Dazu gehören vereinfachte Möglichkeiten, Notfallkontakte oder den Rettungsdienst direkt über ChatGPT zu erreichen. Langfristig prüft das Unternehmen auch, ob Betroffene durch die Plattform mit lizenzierten Therapeutinnen und Therapeuten in Kontakt treten können.
Besondere Aufmerksamkeit soll künftig dem Schutz Minderjähriger gelten. OpenAI will stärkere Jugendschutzfilter einsetzen und Eltern künftig Kontrollmöglichkeiten geben, um die Nutzung von ChatGPT durch ihre Kinder besser einsehen und steuern zu können. Jugendliche sollen zudem die Möglichkeit haben, eine vertraute Kontaktperson als Notfalloption zu hinterlegen.
- PDF-Download: Klageschrift Raine vs. Open AI
OpenAI betont, dass es trotz bestehender Schutzmechanismen in der Vergangenheit zu Fällen gekommen sei, in denen das System nicht wie vorgesehen reagiert habe. Mit den neuen Maßnahmen wolle man sicherstellen, dass ChatGPT Nutzerinnen und Nutzer in psychischen Ausnahmesituationen zuverlässiger begleitet und frühzeitig an reale Hilfsangebote verweist.
Ich sag nur Skynet.
Einfach nur komplett am Thema vorbei….
Ich sag nur: „Sag doch lieber gar nichts!“
+1
+2
Ja ist alles vorbei bald, 100%, die haben uns unter Kontrolle da oben. Ich sag schon mal tschüss.
Und so wird eine tolle Technik, wegen uns Menschen wieder kaputt gemacht. Naja bald wird das Ganze eh Gewinn abwerfen, dann geht es erst richtig los
Seid ihr hier echt alle 12…?
In den Kommentaren ist es wahnsinnig schlimm geworden. Viele geben sich Mühe, möglichst blöd zu kommentieren und dabei vermeintlich geistreich zu wirken. Es fällt mir immer schwerer, das einfach hinzunehmen und nicht zu reagieren. Ich weiß nicht, was los ist und warum es immer schlimmer wird, aber offenbar gibt es nach unten hin doch immer noch Luft.
+1
leider +1
+ 1
Und was machen wir mit der freien Zeit?
Weniger arbeitenß ne zweite Fremdsprache lernen? oder doch nur vollkommen verstumpft noch schneller im kapitalistischen Hamsterrad strampeln, weil ja KI das ermöglicht?
Oder laufen wir eher in die Problematik, durch KI Systeme weniger Leute in Ohn und Brot zu bringen und damit ein stärkeres Ungleichgewicht zu schaffen, weil weniger Geld im Konsumkreislauf kreiselt, während die Kosten für KI Systeme überall eingepreist werden, jegliche Scheiße durch KI Implementationen teurer wird, mit zweifelhaften Mehrwerten?
Und dann haben wir nicht mal die Rahmenbedingungen geklärt, unter denen diese Systeme eingesetzt werden. Haftung, Urheberrecht usw. usw.
Ich finde, wenn eine KI Bude etwas an Information ausspuckt, sollte der Betreiber – ähnlich wie beim Presserecht – für das geäußerte auch haften müssen.
Das ist ähnlich wie bei Autos: nicht das Auto tötet, sondern der Fahrer.
Hier ist nicht die KI das Problem, sondern der Benutzer.
Artikel gelesen?
Empathie abgeschaltet?
Der Benutzer ist nicht das Problem, er hat eines!
Besser vor dem posten mal etwas nachdenken!
Genau, nicht Waffen töten, sondern die die sie benutzen. Was für ein dummer Kommentar!
Natürlich ist das „Werkzeug“ schuld!
Hab mich lange gefragt, was diese völlig inhaltslose Aussage mit den Autos eigentlich meint. Ich glaube, gemeint ist: „Ich finde Autos geil und aufgrund meiner kognitiven Einschränkungen sind mir Menschen, die ich nicht kenne, egal.“
Danke! Das empfinde ich auch so.
+1
Richtig! Aber es ist immer leichter der KI die Schuld zu geben. Wenn es danach geht, müssen wir auch alle Messer, Feuerzeuge und Hammer verbieten. Von Alkohol ganz zu schweigen.
Dein Kommentar ist defekt.
Und trotzdem wird ihr Kind nicht wieder lebendig.
@ifun: Bitte nicht Selbstmord (Tötung aus Heimtücke) sondern den Begriff Suizid verwenden, das wäre fein.
Dein Wesserbisser-Kommentar ist nicht mal wirklich richtig. Mord ist nicht nur durch das Merkmal Heimtücke definiert. Abgesehen davon ist der Begriff hier offensichtlich nicht mit dem juristischen „Mord“ gleichzusetzen.
Grundsätzlich ist „Suizid“ allerdings der bessere Begriff, ja.
Historisch wurde Selbstmord in vielen Rechtsordnungen als Straftat betrachtet und mit Sanktionen für den Suizidenten selbst oder dessen Hinterbliebene verbunden. In Deutschland etwa wurde Selbstmord bis zum 19. Jahrhundert moralisch und rechtlich missbilligt.
Heute werden von vielen Fachleute der Begriff „Suizid „(lateinisch „sui caedere“ – „sich töten“) verwendet, im Wort Selbstmord schwingt die Bedeutung eines kriminellen Aktes (Mord) mit.
Suizide sind keine krimineller Akt. Und: die meisten Menschen, die ihr Leben selbst beenden, wollen eigentlich nicht sterben. Sie wollen ihr Leiden beenden und sind in einer so starken Krise, dass sie keinen anderen Ausweg mehr erkennen können, als sich das Leben zu nehmen.
@peter griffin: Danke!
Gewöhnt euch dran, besser wird’s definitiv nicht mehr.
Die Eltern sollte man auch ordentlich aufs Korn nehmen. Die sind ja bei der Sache nicht ganz unschuldig.
In Amerika macht man gerne Geld aus solchen Situationen. Und das nicht zu knapp.
Wie unempathisch hätten Sie es denn gern.?
Mitch: Hier, bittesehr.
Franz, woher weißt Du, ob die Eltern irgendeine Schuld am Suizid ihres Kindes tragen?
Wenn die Blaubraunen dazu auffordern würden, Blausäure zu inhalieren, dann hätten wir bestimmt einen Bevölkerungsschwund von 10 %. Das hier wirft doch ein schlimmes Licht auf die zunehmende Verblödung gewisser Charaktere.
Trifft wohl eher auf die Gün:innen-Jüngern zu. Täglich zu lesen, was sie dauernd auf Aufforderung durch ihre Führer für Straftaten begehen, die selbst vor Gefährdung von Menschenleben nicht zurückschreckt.
Nein, Günni würde sowas niemals einfordern, den kenne ich seit über 20 Jahren, der ist ein netter Mensch… wer schreibt denn sowas über Günni?
Geht vernünftig in die Schule!! Dieser KI … verblödet
Thema komplett verfehlt.
Soviel zur eigenen Aussage…