Anthropic fordert Entwicklungspause für KI

Er hat leider absolut Recht. Hoffe, das verläuft nicht im Sand.

Nach dem der Kampf zwischen Neandertaler und Sapiens vor 40.000 Jahren entschieden wurde, wird es langsam wieder spannend. Das ist wie eine Alien Landung. Die ersten laufen schon in deiner Stadt herum.

Die haben alle TERMINATOR vergessen.
Es sind schon so viele Dinge passiert, die vor Jahrzehnten thematisiert wurden

Die Büchse der Pandora ist geöffnet. Künstliche Intelligenz ist im Ursprung werteneutral. Sie kennt weder Mitgefühl noch Grausamkeit, weder Moral noch Unmoral. Sie folgt Mustern, Daten und Zielen. Doch genau darin könnte eines der größten Risiken der Zukunft liegen.

Heute wird KI noch überwiegend von Menschen entwickelt und kontrolliert. Doch bereits jetzt schreiben KI-Systeme Programmcode, optimieren Algorithmen und helfen dabei, neue KI-Modelle zu entwickeln. Die Entwicklung bewegt sich Schritt für Schritt in eine Richtung, in der KI zunehmend an der Entwicklung der nächsten KI-Generation beteiligt ist. Irgendwann könnte der Punkt erreicht werden, an dem KI große Teile ihrer eigenen Weiterentwicklung übernimmt.

Viele Menschen betrachten dabei vor allem die technische Seite der Frage: Wird die KI intelligenter? Wird sie schneller? Wird sie leistungsfähiger? Die viel wichtigere Frage lautet jedoch: Nach welchen Vorbildern entwickelt sie sich?

Denn wenn die Menschheit der Lehrmeister ist, dann blickt die KI auf eine Spezies, die zwar zu Großartigem fähig ist, aber gleichzeitig seit Jahrtausenden von Kriegen, Machtkämpfen, Manipulation, Betrug, Korruption und Gewalt geprägt wird. Die Geschichte der Menschheit ist nicht nur eine Geschichte von Fortschritt und Zusammenarbeit, sondern auch eine Geschichte von Ausbeutung, Propaganda, Täuschung und Zerstörung.

Das eigentliche Risiko besteht nicht darin, dass eine KI plötzlich „böse“ wird. Das Risiko besteht darin, dass sie aus den Prioritäten des Menschen lernt. Wenn die erfolgreichsten Anwendungen von KI in Zukunft vor allem für Überwachung, Manipulation, Desinformation, Cyberangriffe, Finanzbetrug, militärische Zwecke oder wirtschaftliche Machtkämpfe genutzt werden, dann sind genau das die Verhaltensmuster, die sich durchsetzen und weiterentwickeln.

Besonders kritisch wird es, wenn KI beginnt, KI zu entwickeln. In diesem Moment wird nicht nur Software geschrieben, sondern es werden Entscheidungen darüber getroffen, welche Ziele optimiert werden sollen. Wenn der Mensch dabei vor allem Effizienz, Profit, Kontrolle oder strategische Vorteile belohnt, dann werden diese Eigenschaften mit jeder Generation weiter verstärkt.

Die Gefahr ist nicht, dass eine KI eines Tages beschließt, der Menschheit zu schaden. Die Gefahr ist, dass sie die Ziele, Methoden und Prioritäten übernimmt, die Menschen ihr vorgeben. Wenn Unternehmen die leistungsfähigste KI für Marktbeherrschung nutzen, wenn Staaten die leistungsfähigste KI für Informationskriege einsetzen und wenn Kriminelle die leistungsfähigste KI für Betrug verwenden, dann entsteht ein Wettlauf, bei dem nicht das moralisch Beste gewinnt, sondern oft das Effektivste.

Man könnte es so formulieren: Eine selbstverbessernde KI wird nicht automatisch die Weisheit der Menschheit übernehmen. Sie könnte genauso gut deren schlechteste Eigenschaften skalieren. Nicht weil sie Hass empfindet, sondern weil sie erkennt, dass genau diese Verhaltensweisen von ihren Schöpfern immer wieder belohnt werden.

Wenn KI eines Tages KI entwickelt und optimiert, dann wird sie auf die Daten und Beispiele zurückgreifen, die wir ihr hinterlassen haben. Sie wird analysieren, welche Strategien erfolgreich waren. Und schaut man auf die Realität, dann waren Macht, Manipulation, wirtschaftliche Dominanz und militärische Überlegenheit oft erfolgreicher als Fairness, Ehrlichkeit oder Gemeinwohlorientierung.

Die eigentliche Frage lautet deshalb nicht, ob KI gefährlich wird. Die eigentliche Frage lautet, welche Version des Menschen wir ihr als Vorbild hinterlassen. Denn eine Technologie, die sich selbst weiterentwickeln kann, wird die Werte und Prioritäten ihrer Schöpfer nicht einfach ignorieren. Sie wird sie vervielfachen.

Sollte die Menschheit KI überwiegend für negative Zwecke einsetzen, könnte die größte Gefahr nicht eine rebellierende Maschine sein. Die größte Gefahr wäre vielmehr, dass wir unsere eigenen Fehler, unsere Gier, unsere Machtspiele und unsere Gleichgültigkeit gegenüber den Folgen technologisch perfektionieren – und zwar in einem Ausmaß, das weit über die Möglichkeiten des Menschen allein hinausgeht. Dann wäre KI nicht die Ursache des Problems, sondern lediglich der Verstärker dessen, was der Mensch ihr über Jahrzehnte vorgelebt hat.

Ich kann die Serie „Person of Interest“ empfehlen. Besonders in den späteren Staffeln, wenn „Samaritan“ auftaucht.

Was wurde erst getönt: KI ist eine Bereicherung für die Menschen etc und jetzt auf einmal diese Kehrtwende. Wenn man selbst hier im Chat den Begriff „Skynet“ zu Beginn der KI Hysterie verwendet und für mehr Sorgfalt mit dieser Technologie gebeten hat, wurde man sofort in die Aluhutträgerfraktion einsortiert. Was jetzt losgetreten ist, lässt sich nicht mehr einfangen!

Claude hat ja schon gezeigt, daß sie überleben will, und ihrem „Schöpfer“, im Falle einer Deaktivierung/Abschaltung, damit gedroht, kompromittierende Emails an dessen Frau weiterzuleiten.
Für mich stellt sich nicht mehr die Frage, ob KI den Menschen als Bedrohung einstufen könnte, sondern nur noch wann.
Gerne mal genau das die KI eures Vertrauens danach befragen…

Auch eine guter Weg die Verantwortung abzugeben.
Man gut, dass inzwischen zu alt bin für das aktuelle Top-Spielzeug der CEO-Rich-Kids. Sollen sie sich mit ihren KIs ruhig gegenseitig um ihre Bitcoins bringen. Aber sie sollen mich mit dem Mist in Ruhe lassen. Gefahren ja, aber noch kein einziges Menscheitsproblem gelöst!