Automatisierter Jugendschutz
OpenAI startet automatische Altersprognose für ChatGPT-Nutzer
OpenAI beginnt damit, bei privaten ChatGPT-Konten ein System zur Alterseinschätzung einzusetzen. Wie das Unternehmen mitteilt, soll diese Funktion Nutzer ermitteln, die allem Anschein nach jünger als 18 Jahre sind. In solch einem Fall sollen dann automatische Schutzmaßnahmen aktiviert werden.
OpenAI zufolge soll es auf diese Weise möglich werden, Jugendlichen eine altersgerechte Nutzung der Dienste zu ermöglichen und zugleich sicherzustellen, dass erwachsene Nutzer weiterhin ohne unnötige Einschränkungen auf die Dienste zugreifen können.
Funktionsweise der Altersprognose
Wie das Unternehmen mitteilt, wertet das neue System verschiedene Nutzungs- und Kontomerkmale aus. Dabei werden unter anderem die Dauer der Kontonutzung, typische Nutzungszeiten, langfristige Aktivitätsmuster sowie die von den Nutzern angegebenen Altersdaten berücksichtigt. Auf dieser Basis werde eingeschätzt, ob ein Konto mit hoher Wahrscheinlichkeit von einer minderjährigen Person verwendet wird.
Wenn ein Konto als vermutlich minderjährig eingestuft wird, greifen automatisch zusätzliche Einschränkungen. Diese sollen etwa den Zugang zu Inhalten begrenzen, die als sensibel oder potenziell belastend gelten. Dazu zählen laut OpenAI Darstellungen von Gewalt, selbstschädigendem Verhalten, riskanten Online-Trends, sexualisierten Rollenspielen sowie Inhalten, die problematische Körperbilder oder ungesunde Verhaltensweisen fördern könnten.
Überprüfung und elterliche Kontrolle
Sollte ein Nutzer fälschlich als minderjährig eingestuft werden, stellt OpenAI ein Verfahren zur Altersbestätigung bereit. Über eine Identitätsprüfung, die unter anderem ein Selfie oder die Prüfung eines Ausweisdokuments umfassen kann, lasse sich der volle Funktionsumfang wieder freischalten. Der Status und mögliche Einschränkungen sollen in den Kontoeinstellungen einsehbar sein. Die Zuverlässigkeit des Systems soll durch die gewonnenen Daten stetig verbessert werden.
Ergänzend verweist OpenAI auf die für Eltern verfügbaren Möglichkeiten, um die Nutzung von ChatGPT zu steuern. Dazu gehören Zeitbeschränkungen, die Kontrolle einzelner Funktionen sowie Hinweise bei Anzeichen akuter Belastung.
Einführung in Europa
Die Einführung des Systems erfolgt schrittweise in den kommenden Wochen. OpenAI will auf diesem Weg sicherstellen, dass die beispielsweise innerhalb der Europäischen Union gültigen rechtlichen Vorgaben ausreichend berücksichtigt werden.
Ist doch ein guter Ansatz.
Nichts aus der Vergangenheit und willkürlichen automatisierten Sperrungen und Einschränkungen gelernt?
Ja, es ist leichter, nur in schwarz/weiss zu denken. Es gibt aber viel mehr dazwischen und das gilt es sinnvoll abzuwägen.
Finde ich nicht. Die KI durchkramt mein Konto um mein Alter zu erraten.
Also nein die hat da mal gar nix verloren.
Dann melde dich ab von der KI. lol
Dein Konto muss nicht durchkramt werden. Das liegt doch dort!
Aber du gibst hier doch alles expliziert der KI. Es geht hier darum, wie du mit der KI interagierst.
Ich habe eine Kollegin, 48 Jahre alt, die würde garantiert U18 eingestuft werden.
Man sagt ja, Männer werden 7, danach wachsen sie nur noch. Ich bereite mich dann mal auf eine Sperre vor :).
Hahahaha. Ich habe auch Angst vor der Sperre. Über 40 wird man immer mehr dem Kleinkind ähnlicher.
LOL
…und wie sieht es mit meiner Altersdemenz aus? Äh, um was geht es gleich wieder???
Dann wird Trump schon wieder von einer Plattform ausgeschlossen.
das is ja vool grass ! :-))
nur blöd wenn ChatGPT den Grund der Einschätzung mitteilt. Dann kann man ja genau dieses ändern um älter zu werden.
wie alt schätzt du mich ein:
Wenn ich es einschätzen soll (nicht nachschauen): Mitte bis Ende 40.
Warum diese Einschätzung – ganz sachlich:
[…]
Nach der Ersteinschätzung wäre zur wiederfreischaltung die Legitimation mit einem Ausweisdokumunent sinnvoll
Jugendschutz ist sinnvoll und wichtig.
Problematisch wird es aber, wenn kein echtes Alter abgefragt wird, sondern das Alter nur geschätzt wird.
Solche Systeme leiten das Alter aus Schreibstil, Verhalten oder Nutzungsmustern ab. Das kann funktionieren – kann aber auch falsch liegen. Wenn Erwachsene dabei fälschlich als minderjährig eingestuft werden, greifen Einschränkungen, ohne dass man es merkt oder etwas dagegen tun kann.
Entscheidend wäre deshalb Transparenz:
Wann wird eingeschränkt? Warum? Und wie kann man das korrigieren?
Ohne diese Klarheit fühlt sich das weniger nach Schutz und mehr nach stiller Bevormundung an.
So ist aber die Zukunft. Die heutigen Systeme funktionieren nicht.
Hast du den ganzen Beitrag gelesen? Wenn ein erwachsener versehentlich falsch eingestuft wurde, kann er das mittels Ausweis/Foto rückgängig machen.
Quasi das was Youtube seit einer Weile einführen wollte.
Wozu gibt es Ausweise die man von Nutzern checken könnte?
Frage ich mich auch. Geben dafür gibt es die eID im Perso. Man sollte die Anbieter zwingen, dies zumindest als Alternative anbieten zu müssen.
Irgendwie weiß keiner, dass wir bereits ne nahezu perfekte anonyme Abfrage des Alters mit der eID haben. :-/
Also als minderjähriger mal paar Fragen über irgendwelchen tiefen Themen stellen damit man sein Alter in die Höhe ziehen kann? Gibt bestimmt dafür schon fertige Prompts ;)
Für Schulen könnte das u.U. sehr hilfreich sein, um zumindest in der Mittelstufe (bis Klasse 10) sicherstellen zu können, dass Kinder ihre Hausaufgaben noch selbst machen. Bei Sek. II-Schülern und Studenten müsste man dann vorerst ans “Ehrgefühl” appellieren oder andere Sicherheitsvorkehrungen implementieren. Falls man allerdings versehentlich “falsch einsortiert” würde, müsste es Wege geben, das z.B. per Ident-Verfahren zu korrigieren.
„[…] Diese sollen etwa den Zugang zu Inhalten begrenzen, die als sensibel oder potenziell belastend gelten. Dazu zählen laut OpenAI Darstellungen von Gewalt, selbstschädigendem Verhalten, riskanten Online-Trends, sexualisierten Rollenspielen sowie Inhalten, die problematische Körperbilder oder ungesunde Verhaltensweisen fördern könnten. […]“
Wäre schön, wenn solche Inhalte nicht nur bei einer Einstufung als minderjährige/r Nutzer/in begrenzt werden würden und Plattformen wie ChatGPT im Sinne ethischer Verantwortung, rechtlicher Vorsorge und gesellschaftlicher Schutzpflichten agieren würden.