Per Plugin: Claude bringt seine KI in den Chrome-Browser

Anthropic hat begonnen, seinen KI-Assistenten Claude direkt in den Browser zu bringen. Mit einer Chrome-Erweiterung sollen ausgewählte Nutzer testen können, wie sich die KI in alltäglichen Aufgaben verhält, wenn sie Zugriff auf Webseiten und Formulare erhält.

Der Testlauf ist auf 1.000 Teilnehmer des Max-Tarifs beschränkt. Ziel ist es, Erfahrungen mit realen Nutzungsszenarien zu sammeln und gleichzeitig Sicherheitsmaßnahmen zu erproben.

Nicht ohne Risiko

Die direkte Nutzung von KI im Browser eröffnet neue Möglichkeiten, birgt aber auch Risiken. Ein zentrales Problem sind sogenannte Prompt-Injection-Angriffe. Dabei versuchen Angreifer, versteckte Befehle in Webseiten oder E-Mails unterzubringen, um die KI zu schädlichen Handlungen zu verleiten. Tests mit frühen Versionen von Claude für Chrome zeigten, dass ohne Schutzmaßnahmen in knapp einem Viertel der Fälle Angriffe erfolgreich waren. Beispiele sind manipulierte Mails, die vorgaben, im Auftrag einer Sicherheitsabteilung zu handeln, und dazu führten, dass Claude E-Mails ohne Rückfrage löschte.

Um solchen Angriffen vorzubeugen, setzt Anthropic auf mehrere Schutzebenen. Nutzer können den Zugriff auf Webseiten individuell erlauben oder verweigern. Bestätigungen sind Pflicht, wenn Claude sensible Aktionen ausführen soll, etwa beim Teilen von Daten oder bei finanziellen Vorgängen. Zudem blockiert die Erweiterung bestimmte Website-Kategorien wie Finanzdienstleister. Ergänzend kommen Automatismen zum Einsatz, die verdächtige Muster erkennen sollen.

Erprobung im Alltag

Neben internen Tests setzt das Unternehmen auf Rückmeldungen aus der Praxis. Die Pilotnutzer können Claude für organisatorische Aufgaben wie das Planen von Terminen oder das Verfassen von E-Mails einsetzen, sollen jedoch sensible Anwendungen vermeiden. Über eine Warteliste können sich Interessierte für das Programm anmelden. Anthropic will die Ergebnisse nutzen, um die Schutzmechanismen zu verfeinern und Claude langfristig breiter im Browser einsetzbar zu machen.

Zum Thema:

• KI-Browser: Perplexity startet Comet, OpenAI will nachziehen
• 35 Milliarden: Perplexity legt Übernahme-Angebot für Chrome vor
• KI-Browser Dia: Vollversion kostet 20 Dollar im Monat