Fehlender Schutz für Betroffene
Regierung plant schärfere Gesetze gegen Deepfake-Pornografie
Die Bundesregierung will stärker gegen pornografische Deepfakes vorgehen. Bundesjustizministerin Stefanie Hubig kündigte im Gespräch mit den Tagesthemen an, noch in dieser Woche einen Gesetzentwurf vorzulegen. Ziel ist es, sowohl die Herstellung als auch die Verbreitung entsprechender Inhalte unter Strafe zu stellen. Damit soll der Schutz von Betroffenen ausgeweitet werden.
Bundesjustizministerin Stefanie Hubig
Bislang ist die rechtliche Lage in Deutschland lückenhaft. Wer manipulierte Bilder erstellt, bewegt sich häufig in einem Graubereich. Strafrechtlich greifen vor allem Delikte wie Beleidigung oder Verleumdung. Der eigentliche Akt der Erstellung solcher Inhalte ist jedoch kaum erfasst. Eine frühere Initiative aus dem Bundesrat, diese Lücke zu schließen, scheiterte vor zwei Jahren.
Der neue Ansatz setzt früher an. Schon das Anfertigen entsprechender Inhalte soll strafbar werden. Zusätzlich plant das Ministerium Maßnahmen, die Betroffenen helfen sollen, schneller gegen Täter vorzugehen. Dazu gehören Auskunftsansprüche über die Identität von Nutzern sowie die Möglichkeit, Accounts sperren zu lassen.
Fehlender Schutz für Betroffene
Die politische Initiative folgt auf eine wachsende öffentliche Debatte, die maßgeblich von einer aktuellen SPIEGEL-Recherche befeuert wurde.
Im Zentrum der Berichterstattung stand der Fall, der Moderatorin Collien Fernandes, die über Jahre hinweg Ziel digitaler Manipulationen gewesen sein soll. Sie berichtete, dass Anzeigen in Deutschland bislang wenig Erfolg hatten und Verfahren häufig eingestellt wurden. In anderen europäischen Ländern gebe es teilweise strengere Regelungen.
Juristen bestätigen diese Einschätzung. Der Zugang zu den Tätern ist oft erschwert, insbesondere wenn Plattformen im Ausland betrieben werden. Gleichzeitig fehlt es an klaren gesetzlichen Grundlagen, um gegen die Erstellung der Inhalte selbst vorzugehen. Für Betroffene bedeutet das häufig, dass sie auf zivilrechtliche Schritte angewiesen sind, etwa um Inhalte löschen zu lassen.
- KI-Bildgenerator ohne Filter: Grok 2 in der Kritik
Mit dem geplanten Gesetz will die Bundesregierung diese Lücken schließen und die Durchsetzung von Ansprüchen erleichtern. Auch Plattformbetreiber sollen stärker in die Verantwortung genommen werden.
Das wird auch langsam Zeit.
warum nicht gleich Gesetzte gegen generelle Deep-Fake-Videos?
Ist Porno wichtiger als z.B. echte Video-Fakes in irgendwelchen Portalen / Medien, die dann sogar die Meinung oder Reaktionen Anderer beeinflussen?
Wenn es darum geht, dass „echte“ Personen nachgeahmt werden und diesen Dinge in den Mund gelegt werden, die diese nicht gesagt haben, dann wäre es schon gut.
Die Frage ist ob Satire etc. davon ausgenommen werden sollte?! Eine Kennzeichnungspflicht wäre das Mindeste.
Aber machen wir uns nichts vor, wenn die Täter im Ausland sitzen oder ihre Spuren mit VPNs verschleiern, wird die Polizei eh kaum was machen können.
Collin Fernandes hat schon recht, das Internet/Deutschland sind ein Täterparadies. Das gilt aber auch für Frauen die Lügen behaupten um Männern zu schaden (das fehlt mir bei der aktuellen Debatte) und auch bei Beleidigungen oder Rassismus der online vom Besten gegeben wird.
Es muss erst ein C-Promi klagen, bis sich in Deutschland etwas bewegt! Schade eigentlich!
1+
Inhaltlich richtig, aber die Abwertung ‚C-Promi‘ ist überflüssig, umso mehr als sie wohl das Opfer ist.
Entschuldige bitte! Du hast Recht! Ist überhaupt kein Promi! Wollte es aufwerten!
Stimmt nicht, das wurde bereits geplant und jetzt halt schnell umgesetzt. Es ist nicht unüblich, dass konkrete und vor allem sichtbare Anlässe Gesetzgebungen beschleunigen.
Es ist mal wieder eine Nebelkerze für mehr Überwachung ! Wie Kinderpornografie, nur halt jetzt auf anderer Ebene.
Es gibt eine eindeutige Regelung bei Bildrechten. Sobald eine Person eindeutig erkennbar ist, darf man ein Bild nur noch mit Zustimmung fotografieren. Wenn es weiter verwendet oder sogar veröffentlicht wird, muss diese Zustimmung schriftlich vorliegen, ansonsten macht man sich strafbar.
Das es diese gesetzliche Regelung gibt und sie in der Diskussion nicht verwendet wird sollte zu Denken geben.
Korrekt! Und gegen wen willst Du den Anspruch durchsetzen?
Gegen „Personen des öffentlichen Lebens “ greift das aber nicht. Und wie willst du die Ansprüche durchsetzen?
Aber gut, dass du mit deinem Halbwissen mehr Ahnung hast als Juristen. Und vielleicht nicht immer gleich „Überwachung“ schreien, sondern sich mit dem Gesetzentwurf beschäftigen. Aber Klär uns auf, vielleicht übersehen ja alle was.
Auch und spätestens im Kontext „Sex“ steht Personen des „öffentlichen Lebens“ ein (sehr) privater Teil ihres Lebens zu.
Es geht hier doch gar nicht um das Fotografieren. Hast Du den Artikel überhaupt gelesen bevor du deine Überwachungsvermutung auspackst?
Hey DC. Du liegst ja richtig mit dem Hinweis auf die Rechte der Personen. Aber wie du siehst, werden diese nicht von Kriminellen geachtet. Es reicht nicht, Gesetze und Regeln zu haben. Ein Staat muss auch dafür sorgen, dass sie durchsetzbar sind und bleiben und sich eben genau dafür Mittel und Wege schaffen, die Freiheitsrechte der Bürger:innen einzuschränken oder sogar aufzuheben. Sicherheit kostet Freiheit. Wir alle müssen etwas von unseren Freiheiten opfern, damit wir uns vor immer weiter optimierten, perfektionierten, anonymer werdenden Kriminellen schützen können. Klar bleibt stets die Frage, ob einschränkende Mechanismen nicht auch für Überwachung genutzt werden können. Aber da haben wir bei uns ja (noch) den Luxus verschiedener Institutionen, die Vorhaben analysieren, bewerten und auch mit der Regierung in den Diskurs gehen, und die Regelungen verhindern, wenn diese zu weit gehen. Und wir haben (noch) eine Regierung, die nicht diktatorisch ist – wenngleich 25% der Bevölkerung daran arbeiten, das zu ändern – und sich entsprechend reinreden lässt. Mal sehen wie lange noch.
Ich sehe hier auch eher Aktionismus. Wird vermutlich sehr wenig bei rum kommen. Mir persönlich fehlen auch die Ideen wie man so einen Dreck eindämmen will.
Gesetze bringen wenig wenn diese nicht durchgesetzt werden.
Na geh schade… dabei wollte ich grad rausfinden wie das geht um zu sehen wie ich aussehe, wenn ich mal länger als nur 3s durchhalte…
Was ist mit Deepfake-Wahldiagrammen?
…in denen es so aussieht als hätte die SPD nur knapp über 5% geholt? XD
Keine Ahnung, ich wohne in Europa.
Aluhut zu eng, oder was willst du uns damit sagen?
Trump-Wähler?
Man darf nicht vergessen, das solche öffentlichkeitswirksamen Taten auch immer viele reaktive Selbstprofilierer auf den Plan rufen. Da ist auch Hibig ein Kandidat. Jeder meint gerade dazu Stellung nehmen zu müssen.
Wir haben doch bereits Gesetze für solche Fälle (Verleumdung, informationelle Selbstbestimmung, Recht am eigenen Bild), wir müssen Sie aber auch anwenden. Die Fall spezifische Anwendung ist Sache der Richter. Man kann doch nicht für jede Unterabart eigene Gesetze verfassen.
Nö, das stimm so nicht. Es fehlen eben die spezifischen Gesetze. Bei Deepfakes even nur wenn auch andere Straftaten mit berührt sind. Das Deutschland viel aufzuholen hat, darüber sind sich die meisten Juristen einig. Spanien ist da schon deutlich weiter.
+1
Da bist du schlecht informiert. Derartige Dinge waren bisher nicht strafbewehrt.
Wieso verlangt man von den KI-Anbietern nicht einfach, dass keine Bilder und Videos mehr von und mit Menschen generiert werden?
Weil vielleicht noch ein Unterschied zwischen beispielsweise „Erstelle mir ein Bild einer Situation in einem Büro für Werbezwecke“ und “ Erstelle ein Nacktfoto von XY mit gespreizten Beinen“ besteht?
da machst du ja gleich ein weiteres Problemfeld auf, dass prima von KI Systemen bespielt wird.
Durch Fremdinhalte trainiert, provoziert das Ergebnis der KI dann gleich noch die Bildrechte Thematik, insb. im gewerblichen Umfeld.
Gar nicht so leicht zu lösen, wenn am Ende sich jemand in KI Material wiedererkannt haben will, der dann gegenüber dem KI nutzenden, der Werbematerial auf KI Basis erzeugt hat, seine Rechte verletzt sieht. Die KI Butze selbst wird sich von aller Verantwortung per AGB, EULA etc. freisprechen, aber zugleich seine Trainingsdatenquellen nicht preisgeben…
Der Anwender ist so oder so am A….
Weil technische Lösungen immer umgangen werden können und man vielleicht erstmal die Handlung an sich strafbar stellen sollte bevor man mit diese versucht mit Maßnahmen umzusetzen.
Ist quasi wie „warum Waffen verbieten, wenn man das töten damit verbieten kann“?
Weil man Fotos bspw. auch mit lokaler AI erstellen kann. Videos sind hier nur eine Frage der Zeit. Lokale Modelle kann man auch jailbreaken, wie LLMs zeigen. So wie die uncensored Modelle alles beantworten, geht das auch mit Bildern und Videos. Man kann mittlerweile mehrere MacBooks in Reihe schalten und darauf große KI-Modelle laufen lassen, die ein Rechner nicht ausführen könnte. Die Rechenpower wächst und dann kann man auf lokalen Modellen alles machen, ohne Leitlinien und Gesetze
Ich mache sehr gerne KI Bilder von mir, es macht mir einfach Spaß ein Bild von mir umwanden zu lassen. Zum Beispiel als Cowboy auf einen Pferd, inmitten einer Rinder Herde. Oder in einen Ferrari den ich sowieso nie fahren würde. Also wen es verboten würde Bilder von Menschen zu manipulieren, dürfte ich das ja nicht mal mit mir selbst machen.
Vielleicht ist das Verschleiern von Gesichtern doch das bessere Konzept?
Was ist denn, wenn jemand sexuelle Szenen mit seinem Lieblingsstar erstellt bzw. einen beliebigen von gefühlt 10 Billionen Pornofilmen mit dem Gesicht u/o dem Körper seines Lieblingsstars verziert und dieses Machwerk ausschließlich zum privaten Gebrauch benutzt?
Mit der entsprechenden Software dürfte das heute schon kein Problem sein und wird zukünftig wahrscheinlich so einfach, dass auch jeder Handynutzer das mit nur der Systemsoftware tun kann.
Und wer garantiert, das aus dem privaten Gebrauch nicht doch öffentlich wird?
Warum sollte man das ohne Einverständnis machen dürfen?
Und wieder einmal möchte uns die Regierung. Überreden, ein weiteres Stück Freiheit gegen vermeintliche Sicherheit einzutauschen
Andre, wie möchtest Du die Opfer schützen?
Möchte er das überhaupt?
Wie recht Du hast…
Ich finde es interessant, dass wir durch solche Maßnahmen versuchen in Babyschritten sehr spezifische AI Themen zu regulieren bzw einzudämmen.
Die Katze ist aber aus dem Sack. Der Tsunami rollt auf uns zu. Nur sieht es noch keiner. Die Sache ist nicht mehr einfangbar und auch nicht mehr kontrollierbar. Wir werden völlig überrollt werden.
Aufgeben ist immer die bessere Option! Da bist du schon auf dem richtigen Weg! Weiter so!
Im digitalen Neuland muss dauert alles eben etwas länger..
Dass die Gesetze der gesellschaftlichen, wie auch technischen Entwicklung Schritt halten müssen, ist klar.
Täter sind aber nicht dumm und sind entsprechend organisiert, verschleiert in zig Firmen für die gewerbsmäßige Nutzung.
Was also tun? Generell Anbieter von KI Tools grundsätzlich haftbar für das machen, was ihre Software so verzapft? Ob nun ein unwahrer Text, eine fatale Fehlentscheidung die durch KI getroffen wird, oder eben digitale Verunglimpfung von Menschen… die Grenzen verschwimmen und doch ist der Automatismus als Mitwisser und ausübende Kraft das eigentliche Problem.
Ein Prompt“ erstelle mir xxx mit xy…“ würde ansonsten nämlich nur ein ins Nichts führendes Kommando sein und Interessenten davon müssten selbst ihre Bildbearbeitungs-Skills auspacken um das zu erschaffen…
Da man ja bereits jetzt darüber diskutiert, Altersverifikation in Betriebssysteme einzubauen und damit die Verantwortungsfrage komplett von den Füßen auf den Kopf stellt… keine Ahnung wo das enden wird.
Am Ende greift es das freie Internet, das freie Wissen auf eine ziemlich perfide Art an, was letztlich zu mehr Kontrolle führt, immer mit dem Feigenblatt „… unsere Kinder… aber aber“…
btw. im gleichen Atemzug, in dem Epstein Fallakten geschwärzt und unter Verschluss gehalten werden und die Verwicklungen bis ganz nach oben gehen… und ja, viele Männer sind Teil des Problems und es ist gut, dass die betroffenen immer lauter und sichtbarer werden…
Ob man der Problematik aber auf juristischem Weg was entgegensetzen kann, wenn es doch so einfach ist, im Verborgenen zu agieren…
Wir kriegen nicht mal hin, Meta, Google und co. hierzulande zu besteuern… aber den großen Schutzapparat wollen wir hinkriegen?
dieser feuchte Überwachungstraum zerschellt an den Klippen der Einzelinteressen und an Ländergrenzen.
Das ganze Internet ist voll von Xxx Content. Die Kids nehmen bei Google oder sonst wo den Filter raus und schon eröffnet sich ihnen der ganze kranke Wahnsinn. Scheint niemanden zu stören. Lieber, weil wohl Elon Musk, auf Grok rumhacken, wo man für 30€/Monat „spicy“ content erstellen kann. Klar, wenn deren KI Bilder ausspuckt, welche nicht gesetztes konform sind, muss nachgebessert werden. Allerdings sollte man sich auch mal die Prompts genau anschauen und ggf. User sperren, die gezielt versuchen, derartigen Content zu erzeugen. Das Problem ist viel größer und so alt wie das Internet selbst. Diese Diskussion ist aus meiner Sicht eine weitere populistische Nebelkerze.
Gesetzliche Regeln fehlen eigentlich keine, wir haben alles um dagegen vorzugehen. Das Problem ist eher folgendes:
„Sie berichtete, dass Anzeigen in Deutschland bislang wenig Erfolg hatten und Verfahren häufig eingestellt wurden.“
Die Verfahren werden eingestellt, da die Verfolgung zu aufwändig und teuer ist und nicht genügend Personal bei Polizei & Justiz vorhanden ist.
Deswegen sollen Betroffene nun ja auch direkt eigene Justiz spielen dürfen:
„Zusätzlich plant das Ministerium Maßnahmen, die Betroffenen helfen sollen, schneller gegen Täter vorzugehen. Dazu gehören Auskunftsansprüche über die Identität von Nutzern sowie die Möglichkeit, Accounts sperren zu lassen.“
Als Betroffener könnte man dann also direkt bei Facebook nachfragen: wer ist dieser „Hans1973“ der mir hier anzügliche Kommentare schickt? Und man könnte den Account sperren lassen, zur Not mit Hilfe von neuen Organisationen wie den Trusted Flaggern oder spezialisierten Anwaltskanzleien, die das alles automatisiert machen.
Das bedeutet, dass die Strafverfolgung eben einfach ausgelagert wird und sich die Plattformen und Nutzer nun selbst kümmern müssen, mit all den damit verbundenen Nachteilen der Selbstjustiz: fehlender Richtervorbehalt, lieber mehr Löschen/Sperren als eine Strafe riskieren, etc.
Und zum Verbot der Erstellung „solcher“ Inhalte: wie wird das definiert? Reicht es, dass man Promi XY in „sexy“ Latex-Leggings erstellt oder muss der Promi komplett nackt sein damit das Gesetz greift? Fällt darunter auch ein Friedrich März mit stählernem Six-Pack und Bizeps da es ja auch sexuell gewertet werden kann? Oder müsste er beim Akt dargestellt werden? Und wer schätzt das ein? Die Plattformen? Der Betroffene?
Und wenn die Erstellung verboten ist, ist dann auch der Besitz strafbar? Hat man ein Problem wenn so etwas in der eigenen Timeline auftaucht? Oder man in einer WhatsApp-Gruppe ist, in der mal so etwas geteilt wurde?
Fragen über Fragen und ein mit der heissen Nadel gestricktes Gesetz… tja.
Natürlich sollte so etwas verboten sein, nur ist die Frage, ob es etwas bewirkt.
Es kommt mir ein wenig so vor, als wenn man auf jeder legalen Schusswaffe einen Aufkleber anbringt:“ Amoklauf, Raub und Mord sind verboten“
Bisher ist es ja nur eine Behauptung durch das Mädel. Bewiesen ist das noch lange nicht. Dem Beschuldigten hilft es auch nicht, wenn bei allen medienbeiträgen in denen der Beschuldigte beim Namen genannt wird der Hinweis gegeben wird: es gilt die Unschuldsvermutung.
Natürlich bilden sich sofort aktivistengruppen und die öffentlich Empörung ist groß. Leider findet man diese Leute später nicht mehr, wenn sich die Unschuld herausstellt wie seinerzeit beim rezeptionisten in Leipzig, während der Verursacher weiter im privaten Fernsehen gepampert wurde.
Natürlich gehen solche deepfakes nicht aber man sollte dann gleich hohe Strafen für rufmord einführen.
Problem Nummer 1 ist erst mal, dass den betroffenen nicht geglaubt wird und sofort eine von oben herab stattfindende Einordnung stattfindet … es kann nicht sein, was nicht sein darf und ja… c Promi behauptet wieder mal… solche Sachen halt…
Meinst du, Betroffene sind nicht genau deshalb in der Zwickmühle zwischen „sag ich was“ und „sag ich nichts“ weil man ihnen ohnehin (meist von Männerseite aus) vorwirft, es erfunden zu haben?
Genau hier fängt doch das Problem an.
Da hilft es auch nicht in einen whataboutism abzugleiten… was Opharim angezettelt hat ist das eine… was die private Fernsehwirtschaft draus gemacht hat, nebst ihrer rückgratlosen Zuschauerschaft die sich als Stimmvieh hat instrumentalisieren lassen, das andere…
Hätten wir einen Großteil der Gesellschaft mit gewissem Rückgrat, wäre der Widerstand gegenüber fehltrittigen medialen Personen aus der Öffentlichkeit so groß, dass der Sender auf dem sie stattfinden, gleich mit Schaden nähme, sofern diese eine Plattform für diejenigen bereitstellt, die sich dort selbst darstellen.
Wie soll denn die Solidarität für einen fälschlicherweise beschuldigten aussehen? Zu wissen, er war es nicht, muss doch reichen für die Rehabilitierung? Vielmehr muss sich doch die daraus gelagerte Antipathie gegen denjenigen richten, der behauptet, Person x hätte was gemacht?