Vorwürfe zu KI-generierten Missbrauchsbildern
Offener Brief an Apple: US-Senatoren fordern Sperre von X und Grok
Drei US-Senatoren haben Apple und Google in einem offenen Brief aufgefordert, die Apps X und Grok vorübergehend aus ihren App-Stores zu entfernen. Anlass sind Vorwürfe, dass das in X integrierte KI-Werkzeug Grok in großem Umfang nicht einvernehmliche, sexualisierte Bilder von Frauen und Kindern erzeugt habe.
Grok in der Kritik: Auch Tim Cook lässt sich in einen Bikini stecken
In dem Schreiben wird beschrieben, dass Nutzer reale Fotos so verändern ließen, dass Betroffene in erniedrigenden oder gewalttätigen Situationen dargestellt werden.
- PDF-Download: Letter to Apple and Google
Teilweise sollen dabei auch Darstellungen von Minderjährigen entstanden sein. Den Plattformbetreibern wird vorgeworfen, diese Entwicklung gekannt und nicht ausreichend eingegriffen zu haben. Die Senatoren verlangen eine Entfernung der Apps, bis die mutmaßlichen Verstöße vollständig geprüft und behoben sind.
App-Store-Regeln und politischer Druck
Der Brief verweist auf die internen Regeln beider Konzerne: Google verpflichtet Entwickler dazu, jede Form von Inhalten zu verhindern, die Ausbeutung oder Missbrauch von Kindern erleichtern. Bei Verstößen droht die sofortige Entfernung aus dem Store. Apple untersagt unter anderem anstößige oder sexualisierte Inhalte sowie Darstellungen, die als unangemessen gelten.
Täuschend echte Bilder: Dieser Cook-Schnappschuss wurde von Grok generiert
Nach Ansicht der Senatoren fallen die beschriebenen Grok-Ausgaben klar unter diese Verbote. Zugleich erinnern sie daran, dass Apple und Google in der Vergangenheit unter politischem Druck schnell gehandelt haben. So wurden Apps entfernt, mit denen Nutzer Einsätze der US-Einwanderungsbehörde melden konnten, obwohl diese Anwendungen nach damaliger Einschätzung keine illegalen Inhalte verbreiteten. Im aktuellen Fall, so das Argument, gehe es hingegen um möglichen schweren Missbrauch, weshalb ein mindestens ebenso konsequentes Vorgehen erwartet werde.
Frist bis zum 23. Januar
Bislang haben weder Apple noch Google öffentlich erklärt, ob sie der Aufforderung folgen werden. Die Senatoren haben eine schriftliche Stellungnahme bis zum 23. Januar 2026 verlangt. Der Vorgang rückt damit auch die politische Dimension der Entscheidung in den Fokus. Grok ist ein Dienst des X-Eigentümers Elon Musk, der in den vergangenen Monaten eng mit der US-Regierung zusammengearbeitet hat. Maßnahmen gegen seine Plattform könnten daher nicht nur wirtschaftliche, sondern auch politische Folgen haben und den Unmut des amtierenden Präsidenten auf sich ziehen.
Das sind sicher Demokratische Senatoren die das als Vorwand angeben X zu zensieren
Yes
Was ändert es an der berechtigten Kritik an X und Grok, ob es demokratische oder republikanische Senatoren sind? Um Marktanteile zu gewinnen nimmt Grok und X bewusst in Kauf bzw. bewirbt es noch, dass man „spicy“ Fake Bilder erstellen kann. Jetzt könnte Trump und Co. mal wirklich gegen echte „Fake News“ vorgehen.
+1
Na, magst du lieber Kinderpornografische Inhalte und die Möglichkeit nicht einvernehmlich pornografische Inhalte von Menschen erstellen als „Zensur“?
Wieso erwähnst du jetzt KiPo? Darum geht es nicht. Du suggeriert damit, entweder du willst Zensur oder du förderst KiPo. Schlechter Kommentar von dir.
Ganz genau
Natürlich geht es partiell auch darum. Artikel lesen…
Im Artikel geht es nirgendwo um KiPo, sondern um mißbräuchliche Darstellung (auch von Kindern). Das fängt bereits weit vor der P0rn0grafie an.
Aha, geht es nicht? Ich zitier mal aus dem Artikel: „Anlass sind Vorwürfe, dass das in X integrierte KI-Werkzeug Grok in großem Umfang nicht einvernehmliche, sexualisierte Bilder von Frauen und Kindern erzeugt habe.“
Also vielleicht reicht da mein Textverständnis nicht, muss zugeben, bin aber auch noch zur Schule gegangen, wo klassische Literatur im Original und nicht in leichter Sprache gelesen werden musste, aber sexualisierte Bilder von Kindern ist nichts anderes als Kinderpornografie. Nennen wir es so und schwurbeln hier nicht rum!
Das ist doch völliger Quatsch dann müsste man alle sperren denn die andern machen das in der Regel genauso gut wenn man das selbst ausprobiert funktioniert das auch man kann dort auch Bikini Fotos von sich verlangen Gemini und ChatGPT
Es ist also Quatsch z.B. gegen pädophile Bilder vorzugehen, nur weil es alle machen? Was ist wenn z.B. dein Kind oder deine Frau davon betroffen ist? Reagiert man dann auch so locker?Außerdem wird es einem bei Grok und X extrem erleichtert Fake Bilder von realen Personen zu machen und diese sofort auf X zu teilen. Dies geht bei ChatGPT und Co. nicht so einfach.
Was ist da schwieriger?
AndreasS hat den Sachverhalt leider nicht verstanden. Es geht nicht um reale Missbrauchsbilder
Wo schreibt AndreasS denn etwas von realen Missbrauchsbildern?
Das steht doch klar Fake Bilder?
Der kleine aber feine Unterschied dürfte die Abfolge sein. Bei X/Grok kannst du per Command auf das Bild eines anderes Users die Veränderung anstoßen. Andere Bild-Generatoren sind nicht (so tief) implementiert, hier ist also der Aufwand wesentlich höher und die Verbreitung hängt von der „Bekanntheit“ des Nutzers ab. Wenn ich also ein Bikini-Bild hochlade sieht es quasi kaum jemand, wenn Grok das macht quasi alle.
copy & Paste bezeichnest Fu also als erheblich höheren Aufwand?! Hast Du schon mal an einem PC gearbeitet?
Ein Tweet als Prompt ist wesentlich schneller als Copy&Paste, dann Prompt und dann wieder als Tweet.
Zudem kommt der zweite Teil meiner Aussage: Copy&Paste = Eigener Tweet (und damit eventuell sehr geringe Reichweite und Abschreckung weil man es selbst postet), Prompt = Grok = Extreme Reichweite.
Interpunktion wäre nützlich.
Wie sie auch hier wieder aus den Höhlen kriechen – die Verteidiger der vermeintlichen Medienfreiheit.
Zur Info – diese endet, wo Menschen persönlich diffamiert und angegriffen werden. Und bei X kann man problemlos jeden Mist posten, auch menschenverachtendes!
Wenn aber noch Deep Fake Pornos dazu kommen, Kinder Pornos – dann ist eine Grenze überschritten. Insofern ist die Forderung völlig richtig.
Ich wurde heute über den Messenger bei Facebook einer Gruppe hinzugefügt – von wurden von einem Fake Account Pornos geteilt – natürlich sollte man sich irgendwo anmelden. Gruppe und Account gemeldet – Facebook dann – alles okay. Es wird hier nichts mehr geprüft, erschreckend.
+1
+1
+1
+1
Wieso kommt immer KiPo als Grund, um die geht es doch gar nicht.
Einer schreit KiPo und alle spamen +1.
Informiert euch.
Hab ich auch nicht verstanden
Aha! Wenn jemand ein Deepfake Pornobildchen von Deiner Tochter postet ist das also kein KiPo?
Merkwürdige Einstellung.
Missbraucht wird sie dann trotzdem, wenn auch nicht physisch. Wenn Du sowas verteidigst gehörst Du m.M. auch in den Knast!
Guck mal, es geht nicht um KiPos und du schreist trotzdem so laut, als würde hier irgendjemand diese wollen. Wahnsinn deine Schlussfolgerung…
Unfassbar *facepalm*
+1000
Zum Glück gibt es noch keine alternativen App Stores in den USA. Nicht auszudenken welch gefährlichen Apps sonst verfügbar wären. /s
Ich verstehe die Aufregung nicht. KIBist ein Werkzeug welches in den genannten Beispielen von Menschen benutzt wurde um diffamierende Inhalte zu produzieren. Nicht der Hersteller sondern die Nutzer tragen die Verantwortung für die erstellten Inhalte. Man kann auch nicht die Firma Edding für vollgeschmierte Klos in Regress nehmen oder Autohersteller für Amokfahrten.
Wann hat das angefangen, dass keiner mehr für das eigene Tun einstehen will und das auch noch verteidigt wird?
Nicht alles was hinkt, ist ein Vergleich
Natürlich müssen die Nutzer dafür belangt werden, da gebe ich Dir recht. Gleichzeitig sollte es Ihnen aber auch nicht bewusst leicht gemacht werden solche Fake Bilder von realen Personen zu erstellen.
Es geht hier aber auch nicht nur um harmlose Fake Bilder, sondern bewusst um Nackt- u. weitere diffamierende Bilder.
Edding bewirbt auch nicht bewusst: „Unsere Stifte sind gut um Klos zu beschmieren“. Grok bewirbt bewusst den Spicy Mode um wenigstens ein Alleinstellungsmerkmal zu haben.
Du hast wirklich keine Ahnung vom KI, was an sich nicht schlimm wäre, wenn du hier nicht so einen Unsinn verbreiten wurdest. Das ist auch kein Alleinstellungsmerkmal, kannst mit den anderen Kandidaten auch machen.
Das bashing auf Musk und X sollte uns als Apple User doch bekannt vorkommen. Wieviel wurde in der Vergangenheit übertrieben berichtet, nur weil Apple bashing Klicks generieren?
+1
Achso, mit Chat GPT kann ich einfach Posts auf X teilen!? Ohje… Es ist jetzt auch keine Raketenwissenschaft. Junge Junge… Und ChatGPT bewirbt den „Spicey Mode“!?
Jetzt Butter bei die Fische: Bist du für das leichte Erstellen von Nacktfotos von deinen Verwandten und von dir, oder nicht? Der Unwissende
Falsch. Musk hat Grok ja explizit und mit Absicht mit dem Spicy-Modus ausgestattet, damit Leute sich mit der KI selbst befriedigen können. Und genau deswegen trägt Musk/Grok auch einen Teil der Verantwortung.
Seltsame Vergleiche. Aber um in deinem Bild zu bleiben: Der Autohersteller gibt keine Funktion mit um Amokfahrten zu erleichtern.
So eine Aufregung um so unscharfe und undeutliche Bilder ;-)?
duck und weg
Hier zeigt sich wieder schön in den Kommentare wie die Menschheit verkommt….
+1
Es ist im vollen Gange- und in den USA halt immer ein paar Jahre voraus im Vergleich zu hier. Aber der moralische Verfall und die ewig gleichen Narrative der missvertandenen“Meinungsfreiheit“ die in Realiät meist eine Abwürdigung Anderer ist haben auch hierzulande längst verfangen.
Und wenn dann Ende dieses Spiels plötzlich die eigenen Pesönlichkeitsrechte hart angegriffen werden und das politische/gesellschaftliche System ein Repressives geworden ist, dann wird die Empörung groß sein…huch, so hatte ich das ja nicht gewollt….
+1
+1
+ 1
Absolut. Erschreckend, wie offen viele Menschen inzwischen ihre Unmenschlichkeit zur Schau stellen.
Und was sagt der Führer Groß-Amerikas in der Reichskanzlei in Washington dazu?
Das geht mit der Google ki ebenfalls, aber wo bleibt der Aufschrei ?
Mit Grok alte Fotos zu animieren ist einfach klasse. Es macht total Spaß und ist absolut faszinierend. Eine tolle Funktion.
Ach ja, man müsste eigentlich ja auch Stifte und Kameras verbieten, denn die können auch zensierte Inhalte festhalten.
Grok hat trotz der NSFW-Einstellung eine Sperre drin. Das finde ich auch gut, denn die KI ist sehr leistungsfähig.
Wer also mit normalen Intentionen an eine KI ran geht, hat viel Spaß. Wer anderes sucht findet im Internet genug Vorlagen.
Kann beides abgeschaltet werden. Spart Unmengen an Strom. ;o)
Wie die ganzen pedis jetzt raus kommen die sonst immer die Sicherheit und Verlässlichkeit Apples hoch halten. Aber hey, solange es ja nicht die eigenen Kinder sind…
Wenn man verbannt, übergibt man die Verantwortung an die Schattengesellschaft. Solange es keine klaren Regeln gibt, und man in der Öffentlichkeit wegschaut, stärkt man genau was man eigentlich nicht möchte. Sexuelle Inhalte (im Rahmen der Gesetze) erfreuen sich nunmal einer großen Beliebtheit. Das wird sich wohl auch nicht ändern. Und die Großen Tech Unternehmen, die ja so liberal sind, wollen aber von sexuellem Content nichts wissen. Darstellungen von Minderjährigen gehen selbstverständlich gar nicht… gar keine Frage. Aber das Problem ist nunmal da, und man kann nicht immer nur verbieten. In dieser Verantwortung stehen genau diese Komzerne von denen man jetzt wieder Verbote fordert. Da schiebt man das Problem nur wieder vor die Tür, weg ist es dann aber nicht, das sollte allen klar sein.
Die Orange und seine Techkumpels, ja auch Apple ist dabei, machen eben worauf sie Bock haben, losgelöst von Gesetzen. Der orangene König der USA wurde gewählt, das ist also letzten Endes Volkes Wille was da passiert und was der Rest der Welt jetzt leider wieder ertragen muss.