KI-Text über die Gefahren der KI?
Papst schreibt über KI – und KI könnte mitgeschrieben haben
Manchmal schreibt das Internet seine Pointen selbst: Papst Leo XIV. hat mit „Magnifica Humanitas“ seine erste Enzyklika veröffentlicht und widmet sich darin ausführlich den Folgen künstlicher Intelligenz. Nun berichtet The Verge, dass ausgerechnet dieser Text in Teilen wie ein KI-generierter Beitrag wirken könnte.
Der Hintergrund: The Verge hat die Enzyklika mit dem KI-Detektor Pangram untersucht. Das Tool soll Texte darauf prüfen, ob sie wahrscheinlich von einem KI-System stammen. Bei mehreren Abschnitten der Papstschrift schlug Pangram deutlich an, teils mit hohen Wahrscheinlichkeiten. Einzelne Passagen wurden demnach als überwiegend KI-generiert eingestuft, andere wiederum nicht.
Ein Beweis ist das nicht. KI-Detektoren sind notorisch schwierig, weil sie Wahrscheinlichkeiten berechnen und keine Urheberschaft nachweisen können. Gerade übersetzte, redaktionell bearbeitete oder institutionell formulierte Texte können dabei auffällig wirken, ohne tatsächlich von ChatGPT, Claude oder einem anderen Modell geschrieben worden zu sein.
KI-Detektoren bleiben unsicher
Spannend ist der Fall trotzdem, weil „Magnifica Humanitas“ selbst genau um diese Fragen kreist. Papst Leo XIV. warnt darin vor einer Technik, die nicht nur als Werkzeug verstanden werden dürfe, sondern gesellschaftliche Machtverhältnisse, Arbeit, Bildung, Wahrheit und Menschenwürde berührt. Der Vatikan ordnet künstliche Intelligenz damit ausdrücklich nicht als reine Technikfrage ein.
Der Text wurde am 15. Mai unterzeichnet, dem 135. Jahrestag der Sozialenzyklika „Rerum Novarum“ von Papst Leo XIII. Schon damit setzt der Vatikan ein klares Signal: So wie die Industrialisierung einst die soziale Frage neu stellte, soll künstliche Intelligenz heute als grundlegende Herausforderung für Gesellschaft und Kirche verstanden werden.
Der Inhalt ist trotzdem eindeutig
Ob einzelne Formulierungen nun mit KI-Hilfe entstanden sind oder nicht, ändert wenig an der Stoßrichtung der Enzyklika. Leo XIV. betont, dass KI den Menschen nicht ersetzen könne, weil ihr Bewusstsein, Verantwortung, Beziehung und moralische Urteilskraft fehlten. Technik müsse dem Menschen dienen und dürfe nicht zum Instrument von Kontrolle, Ausbeutung oder Entmenschlichung werden.
Für die Tech-Welt ist das ein bemerkenswerter Moment. Während Konzerne KI häufig als Effizienz- und Wachstumsmotor verkaufen, fordert der Vatikan eine stärkere ethische Einordnung. Der mögliche KI-Anteil am Text macht die Sache nur ironischer: Selbst eine Warnung vor künstlicher Intelligenz kommt im Jahr 2026 offenbar nicht mehr ohne den Verdacht aus, dass irgendwo eine Maschine mitformuliert haben könnte.
Wenn die Detektoren kein eindeutigen Beweis finden, sollte es gar nicht als Verdacht gelten und somit keine News sein. Das wird wieder so ein Heugabel-Feldzug wie damals mit den Doktorarbeiten der Spitzenpolitiker:innen.
Du hast völlig recht! Bald veröffentlichen die die Meldung, der Papst selbst sei die KI… Hauptsache sie können wieder eine neue Meldung raushauen.
Naja, also einige der Doktorarbeiten waren nachweislich zu beanstanden. Man sollte das Thema differenziert betrachten und nicht pauschal von Heugabeln sprechen.
Erst ordentlich recherchieren, dann gegebenenfalls Anklagen.
Das ist hier offensichtlich nicht geschehen, daher ist der Heugabelvergleich vollkommen gerechtfertigt.
Doktor Arbeiten Braucht man Intrigen von KI sowieso nicht mehr schreiben ist doch eh alles hinfällig
Richtig! Die Nachricht lässt offen, welche der zehn Sprachversionen der Enzyklika mit welchem KI-Detektor überprüft wurde. Das ist jedoch entscheidend: Wird ein Text mithilfe von KI-gestützten Tools wie DeepL lediglich übersetzt oder stilistisch überarbeitet, stufen manche Detektoren ihn fälschlicherweise als KI-generiert ein. Ohne Angabe von Sprachversion und verwendetem Tool bleibt der Befund nicht nachvollziehbar und sollte daher nicht als Beleg für eine KI-Erstellung gewertet werden.
Ich bin mir auch sehr sicher, dass der Papst das nicht nötig hat, da man davon ausgehen kann, dass dieser mehr als einen Redenschreiber hat. Ob diese natürlich KI insbesondere als Inspirations oder Wissensquelle nutzen, sei natürlich dahingestellt.
Eines Tages müssen wir KI-generierte Texte vielleicht auch kennzeichnen. Ob dann ein von der KI korrigierter / umformulierter Text wohl auch dazugehört…?
Im wissenschaftlichen Bereich (Seminar- und Bachelorarbeiten) wird dies heute schon von den Studenten gefordert
Im geschäftlichen Umfeld ist „eines Tages“ dann ab dem 2.8. diesen Jahres…
Wenn man das jetzt schon kennzeichnen müsste, wären alle Nachrichtenseiten KI-Texterzeuger. Vor allem, weil es längst gängige Praxis ist, intellektloser Textfüller einzusetzen, damit es nach mehr Bericht aussieht.
Ja, jedoch gibt es da auch eine Ausnahme: wenn die Texte einen menschlichen Überprüfungsprozess durchlaufen haben und eine redaktionelle Verantwortung vorliegt – dann braucht man wieder keine Kennzeichnung. Tja.
Ab August ist es soweit, dann tritt die Kennzeichnungspflicht in Kraft.
In der Organisation in der ich arbeite tun wir das in abgestufter Form (z.B. „erstellt“ oder „überarbeitet“) bereits heute.
Ich hoffe für diese Vermutung kommt ihr alle in die Hölle!!1eins
Laut diverser KI-Tools soll meine Diplomarbeit (geschrieben 2007!) zu 80% von der KI geschrieben worden sein, finde den Fehler…
Wer 2007 eine Diplomarbeit in fehlerfreiem, stilistisch gepflegtem Deutsch abgefasst hat, muss sich heute von KI-Detektoren zu Unrecht verdächtigen lassen
+1 – hab zufällig ne Nachricht von mir gelesen in der ich nem Kollegen technische, korrekte Hilfe gab… las sich wie ki einfach weils ordentlich war…
5jahre alte Nachricht, sry
Irgendwie schon traurig – im Zeitalter der KI trauen wir uns Menschen nicht mehr zu, fehlerfreie Sätze schreiben zu können?
(Dieser Satz wurde von der KI auf Fehler überprüft und 0 Verbesserungsvorschläge gegeben.)
Bau paar Fehler in den KI-generierten Text ein, dann bist du KI-unverdächtig
In diesem Zusammenhang kann ich das Buch „Nexus“ von Harari empfehlen.
Könnte
Form und Duktus einer Enzyklika erinnern per se an KI erstellte Dokumente.
Wenn KI von menschlichen Texten gelernt hat klingt sie im Umkehrschluss auch ein wenig mach Mensch, interessant das Mensch dann trotzdem nach KI klingt und nicht nach Mensch.
+1!
„ weil ihr Bewusstsein, Verantwortung, Beziehung und moralische Urteilskraft fehlten“ – Damit stehen dann also KI und Kirche auf einer Stufe? Die kritische Auseinandersetzung des Papstes mit KI schein geprägt zu sein von Angst vor Konkurrenz.
Generell ist es aber durchaus interessant KI für Kritik an KI selbst einzusetzen. Äußerst spannende Zeiten.
KI-Detektoren sind der letzte Müll, von daher heißt das gar nichts. Kann man auch einfach ausprobieren mit selbst geschriebenen Texten, das sollte jeder mal gemacht haben.
„Zu Beginn werde ich 22 Gedichte aus dem Zyklus ‚Abschied‘ lesen. Dann acht Balladen aus meiner frühen Schaffensperiode, gefolgt von der Sonetten-Sammlung ‚Die 12 Monate‘. Hierauf drei Kapitel aus dem Roman ‚Pedokles‘ und zum Schluss ein Trauerspiel in drei Akten mit dem Titel ‚Goethe in Halberstadt‘. Dann haben wir Gelegenheit, miteinander zu sprechen…“
Melusine
Krawehl, krawehl!
Taubtrüber Ginst am Musenhain.
Krawehl, Krawehl!
Taubtrüber Hain am Musenginst.
Krawehl, Krawehl!
Definitiv einer der Leuchttürme sensationell guten Humors, der gute Loriot!
Bis auf einen ironischen Kommentar wird hier nur darüber diskutiert, ob die Enzyklika mit KI erstellt wurde oder nicht. Kein einziger ernster Kommentar über die überaus wichtige und nachvollziehbare inhaltliche Kritik an heutiger KI-Nutzung. Gleichzeitig beginnen die USA KI-Kritiker als Extremisten einzustufen. Macht mir ein bisschen Sorge …
Wenn NI (natürliche Intelligenz) nicht oder zuwenig vorhanden ist, dann hilft KI. Nur Systeme ohne Kontrolle in wichtigen oder gefährlichen Bereichen nur KI zu überlassen ist und wird zum Problem für die Menschheit. Der Papst hat grundsätzlich völlig recht mit seiner Enzyklika. Nur über die kircheneigenen Probleme zb. Zölibat äußert er sich nicht. Die anderen bekehren aber den Balken im eigenen Auge ignorieren.