Was KI-Systeme über euch wissen: Proton analysiert Chatverläufe

Mit AI Paper Trail will Proton Nutzern die Möglichkeit geben, herauszufinden, was die großen KI-Systeme über sie wissen. Zum Start lassen sich exportierte Gesprächsverläufe von ChatGPT und Claude analysieren, weitere Angebote sollen folgen.

Proton will damit insbesondere sichtbar machen, wie umfassend die Informationen sind, die sich aus einer intensiven Nutzung von KI-Systemen ergeben. Während einzelne Anfragen häufig nur wenige persönliche Details enthalten, lassen über Monate oder gar Jahre geführte Gesprächsverläufe deutlich umfangreichere Rückschlüsse zu.

Chatverläufe werden zum persönlichen Profil

Für die Analyse müssen Nutzer zunächst ihren Gesprächsverlauf beim jeweiligen KI-Anbieter exportieren und anschließend bei AI Paper Trail hochladen. Das Werkzeug wertet die darin enthaltenen Informationen aus und erstellt daraus einen persönlichen Bericht. Dieser soll beispielsweise aufzeigen, welche Informationen sich zu Beruf, Beziehungen, Gewohnheiten, Interessen und persönlichen Prioritäten ableiten lassen.

Begleitend wird ein sogenannter „AI Exposure Score“ vergeben. Damit soll verdeutlicht werden, wie viele persönliche Informationen sich aus den Unterhaltungen ableiten lassen. Zudem versucht das Werkzeug, den möglichen finanziellen Wert der enthaltenen Daten zu beziffern.

Grundsätzlich hängt es vom jeweiligen KI-Anbieter und den gewählten Einstellungen ab, welche Daten langfristig gespeichert und wofür sie verwendet werden. Es kann daher nicht schaden, die eigenen Einstellungen beim jeweiligen KI-Anbieter zu überprüfen.

Proton verweist auf eigenes Datenschutzkonzept

AI Paper Trail soll die möglichen Folgen anhand des eigenen Gesprächsverlaufs greifbarer machen. Anders als ein gewöhnlicher Datenexport zeigt das Werkzeug nicht nur die vorhandenen Inhalte an, sondern versucht daraus abzuleiten, welches Bild sich aus der Gesamtheit der Unterhaltungen über eine Person ergibt.

Proton will mit diesem Angebot nicht zuletzt für seinen eigenen KI-Assistenten Lumo werben. Dort werden dem Anbieter zufolge keine Gesprächsprotokolle gespeichert. Gespräche würden zudem mit einer sogenannten Zero-Access-Verschlüsselung geschützt.