KI unter Kontrolle: Staaten fordern verpflichtende Sicherheitstests

Während OpenAI und Anthropic gerade mit GPT-6 und Claude Opus 5.5 die nächste Modellrunde eingeläutet haben, wächst auch auf politischer Ebene der Druck auf die KI-Anbieter. Deutschland und zahlreiche weitere Staaten unterstützen eine internationale Initiative, die stärkere Kontrollen besonders leistungsfähiger KI-Modelle fordert.

Der von Finnland und Norwegen angestoßene „Call for Control of Frontier AI Models“ richtet sich speziell an sogenannte Frontier-Modelle, also besonders leistungsfähige und universell einsetzbare KI-Systeme. Die Unterzeichner argumentieren, dass deren Fähigkeiten schneller wachsen könnten als die Möglichkeiten, daraus entstehende Risiken zuverlässig zu kontrollieren.

Tests vor der Veröffentlichung

Konkret sollen KI-Unternehmen transparente Sicherheitskonzepte entwickeln und ihre leistungsfähigsten Modelle vor einer Veröffentlichung verpflichtend testen lassen. Dabei sollen auch unabhängige Experten ausreichend Zugriff erhalten, um mögliche Risiken selbst bewerten zu können.

Zudem wollen die beteiligten Regierungen gemeinsame Standards entwickeln und schwere Sicherheitsvorfälle länderübergreifend melden. Als Beispiele für mögliche Gefahren nennt die Erklärung KI-Systeme, die Schutzmaßnahmen umgehen, Sicherheitslücken ausnutzen oder sich unberechtigt Zugang zu realen Computersystemen verschaffen.

Internationale Kontrollinstanz im Gespräch

Langfristig geht der Vorstoß noch einen Schritt weiter. Die UN-Mitgliedstaaten sollen prüfen, ob eine internationale Institution geschaffen werden kann, die gemeinsame Standards festlegt, deren Einhaltung überprüft und bei Überschreiten bestimmter Leistungsgrenzen Gespräche zwischen Staaten einleitet.

Unterstützt wird die Erklärung unter anderem von Deutschland, Kanada, Australien, Dänemark, Spanien, Singapur und den Vereinigten Arabischen Emiraten sowie von der Europäischen Kommission. Die USA und China gehören bislang nicht zu den Unterzeichnern. Weitere Staaten können sich der Initiative allerdings noch anschließen.

Rechtlich bindend sind die Forderungen zunächst nicht. Sie zeigen jedoch, dass die Diskussion um das Tempo der KI-Entwicklung zunehmend auf internationaler Ebene geführt wird. Die zentrale Forderung der Unterzeichner lautet dabei, dass künstliche Intelligenz auch bei weiter steigenden Fähigkeiten unter menschlicher Aufsicht und Kontrolle bleiben soll.