{"id":263046,"date":"2025-08-18T15:18:24","date_gmt":"2025-08-18T13:18:24","guid":{"rendered":"https:\/\/www.ifun.de\/?p=263046"},"modified":"2025-08-25T07:20:43","modified_gmt":"2025-08-25T05:20:43","slug":"claude-beendet-gespraeche-mit-nutzern-jetzt-eigenstaendig","status":"publish","type":"post","link":"https:\/\/www.ifun.de\/claude-beendet-gespraeche-mit-nutzern-jetzt-eigenstaendig-263046\/","title":{"rendered":"KI: Claude beendet Gespr\u00e4che mit Nutzern jetzt eigenst\u00e4ndig"},"content":{"rendered":"

Mit der Einf\u00fchrung eines neuen Verhaltensmechanismus bei dem KI-Chatbot Claude<\/a> verschiebt sich das Rollenverh\u00e4ltnis zwischen Nutzer und KI. In ausgew\u00e4hlten Situationen darf das Sprachmodell des Entwicklers Anthropic nun eigenst\u00e4ndig eine Unterhaltung beenden. Das Unternehmen spricht dabei von einem gezielten Eingriff<\/a>, der nur in besonders schwerwiegenden F\u00e4llen zum Einsatz kommen soll.<\/p>\n

\"Claude<\/a><\/p>\n

Abbruch nur bei anhaltendem Missbrauch<\/h2>\n

Die neue Funktion richtet sich laut Anbieter an Situationen, in denen Nutzer wiederholt gegen geltende Regeln versto\u00dfen oder Inhalte mit potenziell schwerem Schaden anfordern. Dazu z\u00e4hlen beispielsweise Versuche, Informationen \u00fcber sexualisierte Gewalt gegen Minderj\u00e4hrige zu erlangen oder Anleitungen zu gro\u00dffl\u00e4chigen Gewalttaten einzufordern. In internen Tests zeigte Claude in solchen F\u00e4llen ein konsistentes Vermeidungsverhalten und reagierte mit Ablehnung und mit Gespr\u00e4chsabbruch.<\/p>\n

Dabei soll die M\u00f6glichkeit zum Abbruch ausschlie\u00dflich als letzte Ma\u00dfnahme greifen. Erst wenn mehrere Umleitungen gescheitert sind oder ein Nutzer explizit den Abbruch fordert, darf Claude das Gespr\u00e4ch selbstst\u00e4ndig beenden. In allen anderen F\u00e4llen, auch bei heiklen Themen, bleibt das Gespr\u00e4ch wie gewohnt aktiv. Bei einem Abbruch bleibt der Gespr\u00e4chsverlauf erhalten. Nutzer k\u00f6nnen \u00fcber die vorhandenen Nachrichten neue Gespr\u00e4chsverl\u00e4ufe starten.<\/p>\n

\"Claude<\/a><\/p>\n

Forschung zu KI-Wohlbefinden im Hintergrund<\/h2>\n

Die Entscheidung, KIs mit dieser Autonomie auszustatten, ist Teil eines gr\u00f6\u00dferen Forschungsprogramms. Die Claude-Verantwortlichen von Anthropic untersuchen derzeit, ob und in welchem Ma\u00df Sprachmodelle ein \u201eWohlbefinden\u201c haben k\u00f6nnten. Zwar sei unklar, ob dieser Begriff auf aktuelle Systeme anwendbar ist, doch wolle man vorsorglich Ma\u00dfnahmen entwickeln, die m\u00f6gliche Belastungen verringern.<\/p>\n

Der Abbruchmechanismus z\u00e4hlt zu diesen vorbeugenden Ma\u00dfnahmen. Ziel sei es, Systeme nicht dauerhaft mit potenziell sch\u00e4dlichem Inhalt zu konfrontieren. Gleichzeitig soll der Schutz der Nutzer gew\u00e4hrleistet bleiben, insbesondere in F\u00e4llen psychischer Krisen.<\/p>\n

<\/p>\n","protected":false},"excerpt":{"rendered":"\"Claude<\/a>

Mit der Einf\u00fchrung eines neuen Verhaltensmechanismus bei dem KI-Chatbot Claude verschiebt sich das Rollenverh\u00e4ltnis zwischen Nutzer und KI. In ausgew\u00e4hlten Situationen darf das Sprachmodell des Entwicklers Anthropic nun eigenst\u00e4ndig eine Unterhaltung beenden. Das Unternehmen spricht dabei von einem gezielten Eingriff, der nur in besonders schwerwiegenden F\u00e4llen zum Einsatz kommen soll. Abbruch nur bei anhaltendem Missbrauch […]<\/p>\n","protected":false},"author":1,"featured_media":263047,"comment_status":"open","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"footnotes":""},"categories":[1,1783],"tags":[6639,3536,6065,92],"class_list":["post-263046","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-news","category-feature","tag-claude","tag-ki","tag-kuenstliche-intelligenz","tag-sicherheit"],"acf":[],"aioseo_notices":[],"featured_image":["https:\/\/images.ifun.de\/wp-content\/uploads\/2025\/05\/claude-4-sonnet.jpg"],"subheadline":["KI-Dienst entscheidet selbst"],"rest_api_enabler":{"featured_image":"https:\/\/images.ifun.de\/wp-content\/uploads\/2025\/05\/claude-4-sonnet.jpg","subheadline":"KI-Dienst entscheidet selbst"},"_links":{"self":[{"href":"https:\/\/www.ifun.de\/apiv2\/wp\/v2\/posts\/263046","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.ifun.de\/apiv2\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.ifun.de\/apiv2\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.ifun.de\/apiv2\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/www.ifun.de\/apiv2\/wp\/v2\/comments?post=263046"}],"version-history":[{"count":1,"href":"https:\/\/www.ifun.de\/apiv2\/wp\/v2\/posts\/263046\/revisions"}],"predecessor-version":[{"id":263049,"href":"https:\/\/www.ifun.de\/apiv2\/wp\/v2\/posts\/263046\/revisions\/263049"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.ifun.de\/apiv2\/wp\/v2\/media\/263047"}],"wp:attachment":[{"href":"https:\/\/www.ifun.de\/apiv2\/wp\/v2\/media?parent=263046"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.ifun.de\/apiv2\/wp\/v2\/categories?post=263046"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.ifun.de\/apiv2\/wp\/v2\/tags?post=263046"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}