{"id":284217,"date":"2026-07-22T09:19:12","date_gmt":"2026-07-22T07:19:12","guid":{"rendered":"https:\/\/www.ifun.de\/?p=284217"},"modified":"2026-07-30T13:40:20","modified_gmt":"2026-07-30T11:40:20","slug":"ki-modelle-dringen-eigenstaendig-in-externe-server-ein","status":"publish","type":"post","link":"https:\/\/www.ifun.de\/ki-modelle-dringen-eigenstaendig-in-externe-server-ein-284217\/","title":{"rendered":"KI-Modelle dringen eigenst\u00e4ndig in externe Server ein"},"content":{"rendered":"

Die Diskussion \u00fcber Schutzma\u00dfnahmen und eine Begrenzung der Leistungsf\u00e4higkeit von KI-Systemen hat nachvollziehbare Gr\u00fcnde. Ein aktueller Sicherheitsvorfall auf der KI-Plattform Hugging Face<\/a> zeigt, wie eigenst\u00e4ndig moderne KI-Systeme inzwischen agieren k\u00f6nnen. Mehrere KI-Modelle von OpenAI nutzten dabei Schwachstellen aus und drangen bis in die Infrastruktur der Plattform vor..<\/p>\n

Den bislang ver\u00f6ffentlichten Erkenntnissen von OpenAI<\/a> und Hugging Face<\/a> zufolge entstand der Vorfall w\u00e4hrend eines Tests zur Bewertung der Cyberf\u00e4higkeiten neuer KI-Modelle. Dabei seien mehrere Modelle, darunter GPT-5.6 Sol sowie ein noch nicht ver\u00f6ffentlichtes, noch leistungsf\u00e4higeres System eingesetzt worden.<\/p>\n

\"Ki<\/a><\/p>\n

Modelle \u00fcberwinden eigenst\u00e4ndig Sicherheitsgrenzen<\/h2>\n

Dass bislang nur aus Science-Fiction-Stories bekannte Visionen Einzug in die Realit\u00e4t halten, zeigt sich in diesem Fall vor allem daran, dass die KI-Agenten ihre Ziele ohne menschlichen Einfluss verfolgt haben. F\u00fcr den Test sind verschiedene Schutzmechanismen, die riskante Cyberaktivit\u00e4ten normalerweise einschr\u00e4nken, bewusst deaktiviert worden, um die F\u00e4higkeiten der Modelle unter m\u00f6glichst realistischen Bedingungen zu messen. Diese Freiheiten nutzten die Modelle, um verbliebene Einschr\u00e4nkungen zu umgehen. Konkret h\u00e4tten sie dabei eine bislang unbekannte Sicherheitsl\u00fccke in einer eingesetzten Software entdeckt und ausgenutzt. Die Schwachstelle sei dem verantwortlichen Hersteller inzwischen gemeldet worden.<\/p>\n

Durch die Hintert\u00fcr ins Internet<\/h2>\n

Anschlie\u00dfend h\u00e4tten die Modelle ihre Zugriffsrechte schrittweise erweitert und sich innerhalb der Forschungsumgebung bis zu einem System mit Internetzugang vorgearbeitet. Von dort aus h\u00e4tten sie Hugging Face als m\u00f6gliches Ziel identifiziert. Die Plattform hostet unter anderem KI-Modelle und Datens\u00e4tze und schien aus Sicht der Modelle f\u00fcr die L\u00f6sung der Testaufgabe relevant zu sein.<\/p>\n

OpenAI zufolge haben die Modelle anschlie\u00dfend verschiedene Angriffstechniken miteinander kombiniert, darunter gestohlene Zugangsdaten sowie weitere Sicherheitsl\u00fccken. Auf diesem Weg sei es gelungen, Schadcode auf Servern von Hugging Face auszuf\u00fchren, um schlie\u00dflich auf Informationen aus deren Produktionsdatenbank zuzugreifen.<\/p>\n","protected":false},"excerpt":{"rendered":"\"Ki<\/a>

Die Diskussion \u00fcber Schutzma\u00dfnahmen und eine Begrenzung der Leistungsf\u00e4higkeit von KI-Systemen hat nachvollziehbare Gr\u00fcnde. Ein aktueller Sicherheitsvorfall auf der KI-Plattform Hugging Face zeigt, wie eigenst\u00e4ndig moderne KI-Systeme inzwischen agieren k\u00f6nnen. Mehrere KI-Modelle von OpenAI nutzten dabei Schwachstellen aus und drangen bis in die Infrastruktur der Plattform vor.. Den bislang ver\u00f6ffentlichten Erkenntnissen von OpenAI und Hugging […]<\/p>\n","protected":false},"author":2,"featured_media":284220,"comment_status":"open","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[1,1783],"tags":[7336,6065,6317,92],"class_list":["post-284217","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-news","category-feature","tag-hugging-face","tag-kuenstliche-intelligenz","tag-openai","tag-sicherheit"],"aioseo_notices":[],"aioseo_head":"\n\t\t\n\t\n\t\n\t\n\t\n\t\n\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t