EU nimmt ChatGPT, Reddit und Roblox stärker in die Pflicht

Die Europäische Kommission nimmt ChatGPT, Reddit und Roblox künftig stärker unter die Lupe. Alle drei Dienste haben angegeben, innerhalb der Europäischen Union mindestens 45 Millionen Menschen pro Monat zu erreichen. Damit überschreiten sie die Schwelle, ab der im Digital Services Act zusätzliche Pflichten für besonders große Dienste gelten.

Die EU-Kommission hat die Einstufung heute offiziell bekannt gegeben. Dabei landen die drei Angebote nicht ganz in derselben Kategorie. Reddit und Roblox werden als „Very Large Online Platforms“, kurz VLOP, geführt. ChatGPT gilt dagegen als „Very Large Online Search Engine“ beziehungsweise VLOSE.

ChatGPT gilt als große Suchmaschine

Die Einordnung von ChatGPT als Suchmaschine dürfte auf den ersten Blick etwas ungewöhnlich wirken. Der Dienst beschränkt sich inzwischen allerdings längst nicht mehr darauf, Antworten aus seinem trainierten Sprachmodell zu erzeugen. Mit der integrierten Websuche kann ChatGPT gezielt aktuelle Internetquellen durchsuchen und deren Inhalte in seine Antworten einbeziehen.

Reddit fällt dagegen als Plattform unter die DSA-Regeln, weil Nutzer dort Beiträge für andere veröffentlichen und verbreiten können. Gleiches gilt für Roblox: Auf der Spieleplattform können Anwender eigene Spiele und Erlebnisse erstellen, veröffentlichen und anderen Nutzern zugänglich machen.

Risiken müssen regelmäßig bewertet werden

Die drei Anbieter unterlagen dem Digital Services Act bereits zuvor. Durch die neue Einstufung kommen nun jedoch zusätzliche Anforderungen für besonders große Dienste hinzu. Sie müssen systemische Risiken ihrer Angebote und Algorithmen regelmäßig untersuchen und Maßnahmen treffen, um diese zu begrenzen.

Dabei geht es nicht nur um illegale Inhalte. Die EU nennt ausdrücklich mögliche Auswirkungen auf Minderjährige, die körperliche und psychische Gesundheit der Nutzer, Grundrechte, Wahlen und die öffentliche Sicherheit. Bei ChatGPT könnten damit beispielsweise auch Funktionsweise und Auswirkungen der Websuche oder anderer algorithmischer Funktionen stärker ins Blickfeld der europäischen Aufsicht geraten.

Forscher erhalten mehr Einblick

VLOPs und VLOSEs müssen sich mindestens einmal jährlich von unabhängigen Stellen prüfen lassen. Außerdem können qualifizierte Forscher Zugang zu bestimmten internen Daten verlangen, um systemische Risiken untersuchen zu können. Die Anbieter müssen der EU-Kommission und zuständigen Behörden ebenfalls Daten für die Überwachung der DSA-Vorgaben zur Verfügung stellen.

Hinzu kommen Transparenzpflichten für Empfehlungssysteme und Werbung. Die strengeren Regeln sollen verhindern, dass Dienste mit enormer Reichweite gesellschaftliche Risiken ausschließlich intern bewerten und Außenstehenden praktisch keinen Einblick in die Funktionsweise ihrer Systeme gewähren.

Bis zu sechs Prozent des Jahresumsatzes

Nach Angaben der deutschen Vertretung der EU-Kommission haben ChatGPT, Reddit und Roblox nun vier Monate Zeit, die zusätzlichen Vorgaben vollständig umzusetzen.

Die Einstufung ist dabei nicht nur ein bürokratisches Etikett. Die EU hat den Digital Services Act bereits gegen andere große Plattformen durchgesetzt. Bei festgestellten Verstößen können Geldbußen von bis zu sechs Prozent des weltweiten Jahresumsatzes eines Anbieters verhängt werden.

Die Grenze von 45 Millionen monatlichen EU-Nutzern ist bereits seit den ersten Entwürfen des DSA zentral. Auch Apple, Google, Meta und weitere Technikkonzerne mussten sich deshalb schon vor Jahren mit den Sonderregeln für besonders reichweitenstarke Dienste auseinandersetzen. ChatGPT, Reddit und Roblox steigen nun in denselben regulatorischen Kreis auf.