{"id":289492,"date":"2026-09-23T17:58:48","date_gmt":"2026-09-23T15:58:48","guid":{"rendered":"https:\/\/www.ifun.de\/?p=289492"},"modified":"2026-09-23T17:58:57","modified_gmt":"2026-09-23T15:58:57","slug":"ki-unter-kontrolle-staaten-fordern-verpflichtende-sicherheitstests","status":"publish","type":"post","link":"https:\/\/www.ifun.de\/ki-unter-kontrolle-staaten-fordern-verpflichtende-sicherheitstests-289492\/","title":{"rendered":"KI unter Kontrolle: Staaten fordern verpflichtende Sicherheitstests"},"content":{"rendered":"

W\u00e4hrend OpenAI und Anthropic gerade mit GPT-6 und Claude Opus 5.5 die n\u00e4chste Modellrunde eingel\u00e4utet haben<\/a>, w\u00e4chst auch auf politischer Ebene der Druck auf die KI-Anbieter. Deutschland und zahlreiche weitere Staaten unterst\u00fctzen eine internationale Initiative, die st\u00e4rkere Kontrollen besonders leistungsf\u00e4higer KI-Modelle fordert.<\/p>\n

\"Claude<\/a><\/p>\n

Der von Finnland und Norwegen angesto\u00dfene \u201eCall for Control of Frontier AI Models\u201c<\/a> richtet sich speziell an sogenannte Frontier-Modelle, also besonders leistungsf\u00e4hige und universell einsetzbare KI-Systeme. Die Unterzeichner argumentieren, dass deren F\u00e4higkeiten schneller wachsen k\u00f6nnten als die M\u00f6glichkeiten, daraus entstehende Risiken zuverl\u00e4ssig zu kontrollieren.<\/p>\n

Tests vor der Ver\u00f6ffentlichung<\/h2>\n

Konkret sollen KI-Unternehmen transparente Sicherheitskonzepte entwickeln und ihre leistungsf\u00e4higsten Modelle vor einer Ver\u00f6ffentlichung verpflichtend testen lassen. Dabei sollen auch unabh\u00e4ngige Experten ausreichend Zugriff erhalten, um m\u00f6gliche Risiken selbst bewerten zu k\u00f6nnen.<\/p>\n

Zudem wollen die beteiligten Regierungen gemeinsame Standards entwickeln und schwere Sicherheitsvorf\u00e4lle l\u00e4nder\u00fcbergreifend melden. Als Beispiele f\u00fcr m\u00f6gliche Gefahren nennt die Erkl\u00e4rung KI-Systeme, die Schutzma\u00dfnahmen umgehen, Sicherheitsl\u00fccken ausnutzen oder sich unberechtigt Zugang zu realen Computersystemen verschaffen.<\/p>\n

\"Gpt<\/a><\/p>\n

Internationale Kontrollinstanz im Gespr\u00e4ch<\/h2>\n

Langfristig geht der Vorsto\u00df noch einen Schritt weiter. Die UN-Mitgliedstaaten sollen pr\u00fcfen, ob eine internationale Institution geschaffen werden kann, die gemeinsame Standards festlegt, deren Einhaltung \u00fcberpr\u00fcft und bei \u00dcberschreiten bestimmter Leistungsgrenzen Gespr\u00e4che zwischen Staaten einleitet.<\/p>\n

Unterst\u00fctzt wird die Erkl\u00e4rung unter anderem von Deutschland, Kanada, Australien, D\u00e4nemark, Spanien, Singapur und den Vereinigten Arabischen Emiraten sowie von der Europ\u00e4ischen Kommission. Die USA und China geh\u00f6ren bislang nicht zu den Unterzeichnern. Weitere Staaten k\u00f6nnen sich der Initiative allerdings noch anschlie\u00dfen.<\/p>\n

Rechtlich bindend sind die Forderungen zun\u00e4chst nicht. Sie zeigen jedoch, dass die Diskussion um das Tempo der KI-Entwicklung zunehmend auf internationaler Ebene gef\u00fchrt wird. Die zentrale Forderung der Unterzeichner lautet dabei, dass k\u00fcnstliche Intelligenz auch bei weiter steigenden F\u00e4higkeiten unter menschlicher Aufsicht und Kontrolle bleiben soll.<\/p>\n

<\/p>\n","protected":false},"excerpt":{"rendered":"\"Google<\/a>

W\u00e4hrend OpenAI und Anthropic gerade mit GPT-6 und Claude Opus 5.5 die n\u00e4chste Modellrunde eingel\u00e4utet haben, w\u00e4chst auch auf politischer Ebene der Druck auf die KI-Anbieter. Deutschland und zahlreiche weitere Staaten unterst\u00fctzen eine internationale Initiative, die st\u00e4rkere Kontrollen besonders leistungsf\u00e4higer KI-Modelle fordert. Der von Finnland und Norwegen angesto\u00dfene \u201eCall for Control of Frontier AI Models\u201c […]<\/p>\n","protected":false},"author":30,"featured_media":261889,"comment_status":"open","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[1],"tags":[6984,6006,6639,6317],"class_list":["post-289492","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-news","tag-anthropic","tag-chatgpt","tag-claude","tag-openai"],"aioseo_notices":[],"aioseo_head":"\n\t\t\n\t\n\t\n\t\n\t\n\t\n\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t