Jugendliche suchen Orientierung bei Chatbots
Wachsende KI-Abhängigkeit: OpenAI-Chef warnt vor Übernutzung
Der OpenAI-Chef Sam Altman hat sich bei einer Veranstaltung der US-Notenbank Federal Reserve besorgt über die zunehmende emotionale Abhängigkeit junger Menschen von Chatbots wie ChatGPT geäußert.
Im Rahmen eines Podiumsgesprächs betonte Altman, dass insbesondere Jugendliche dazu neigten, KI-Systeme nicht nur für sachliche Informationen zu nutzen, sondern sich in persönlichen Lebensentscheidungen stark auf deren Empfehlungen zu verlassen.
Im Video schildert Altman ab Minute 42, dass manche junge Menschen ChatGPT nahezu durchgehend konsultierten und es als zentrale Instanz zur Lebensberatung betrachteten. Einzelne Nutzer erklärten demnach sogar, keine Entscheidung mehr treffen zu können, ohne vorher die KI zu befragen. Die Technologie werde dabei nicht mehr nur als Werkzeug gesehen, sondern als vertraute Instanz, die sie zu kennen glaube. Dieses Verhalten sei seiner Ansicht nach bedenklich, unabhängig davon, wie hilfreich oder akkurat die KI-Antworten im Einzelfall auch sein mögen.
Altman erklärte, sein Unternehmen versuche derzeit besser zu verstehen, wie mit dieser Entwicklung umzugehen sei. Trotz potenziell hilfreicher Funktionen und hoher Qualität der Ratschläge sei es aus seiner Sicht problematisch, wenn sich eine ganze Generation darin einrichte, Entscheidungen im Einklang mit KI-Vorgaben zu treffen.
Umfrage belegt zunehmendes Vertrauen
Daten des gemeinnützigen Instituts Common Sense Media stützen Altmans Einschätzung. Einer aktuellen Befragung zufolge (PDF-Download) haben 72 Prozent der befragten Jugendlichen bereits sogenannte KI-Companions als täglichen Begleiter genutzt.
KI-Companions unterscheiden sich von klassischen Sprachassistenten, indem sie auf persönliche Gespräche ausgerichtet sind. Sie lassen sich frei gestalten, führen emotionale Dialoge und sind für viele eine Art digitaler Freund oder fiktiver Gesprächspartner. Nutzer können sich mit ihnen über Alltag, Gefühle oder Interessen austauschen, auch Rollenspiele mit Figuren aus Serien oder Spielen sind möglich. Zu den bekanntesten Angeboten zählen Dienste wie Character.AI oder Replika. Auch Plattformen wie ChatGPT oder Claude werden von vielen in dieser Rolle genutzt, obwohl sie dafür ursprünglich nicht entwickelt wurden.
Traurige Entwicklung
Meine KI und ich müssen dem leider zustimmen ;)
Als wenn der das nicht hat kommen sehen :D
Ja ach. Konnte sich ja auch keiner denken. Apropos denken …
Der Mensch kann nicht anders als den leichtesten Weg einzuschlagen. (In der Masse)
Jede Zielgruppe wird von KI durchseucht werden. Das kann aber auch zu ner positiven Standardisierung unserer Gedanken führen.
Gruselig find ich das OpenAI da scheinbar ziemlich präzise Analysen fahren zu kann. Das wird natürlich monetisiert werden.
„Positive Standardisierung unserer Gedanken“ – das ist gruselig.
+1
+ 1
Transhumanismus
KI ist die Büchse der Pandora
erst mal Ki gefragt was das bedeutet
:-)
Mufasa:
„Siehst du das Simba?
Emotional gebundene Abonnenten…
All das Simba, wird eines Tages dir gehören, soweit das Auge reicht!“
Simba: „wooowww soweit das Auge reicht“
Achso schnell zurück zur Realität und was moralisches schreiben: Ki die immer menschlicher wirken soll, wirkt nun für Jugendliche zu menschlich…
Das finden wir nicht gut ;)
Haha, sehr humorvoller Beitrag.
Der Unterton gefällt mir.
Ein Schelm wer dabei denkt, es wäre nicht von Anfang an zu erwarten gewesen.
Nein,
Doch!
Oh!
War doch klar dass diese Probleme aufkommen werden. Jeder der sagt das sei überraschend ist entweder naiv oder einfach weltfremd.
Hat das jemand hier gemacht?
There’s no way back …
Wenn man nichts im Kopf hat versucht man das aus zugleichen nur damit wird es nicht besser
Wenn man Jugendlichen erklären würde, was KI eigentlich ist und wie sie funktioniert, hätte man vielleicht schon im Grundsatz eien andere Haltung dazu bewirkt. Einige Kinder glauben, sie würden mit einem niedlichen kleinen menschlichen Roboter sprechen. Wenn sie nur wüssten, dass jedes Wort, das eine KI ausgibt, leddiglich auf Wahrscheinlichkeiten basiert…
Danke, Tanner. Aber Sam Altman spricht ja auch von „decision making“ in diesem Interview „What if ChatGPT makes better decision than I do? Should I then hand over my company to ChatGPT?“. Das allein zeigt, dass auch Altman den Eindruck erweckt, als ob AI wirklich intelligent wäre und eigenständig Entscheidungen treffen könnte – obwohl es doch genau so ist wie Du schreibst: Es ist ein Sprachmodell, das lediglich auf Wahrscheinlichkeiten beruht.
Es ist sehr wahrscheinlich, dass die menschliche Kommunikation genau so funktioniert. Wir reden nämlich so schnell, dass wir in der Zeit nicht darüber nachdenken, was wir reden. Es ist eher ein intuitiver Prozess Das ist grundsätzlich so schon erforscht. Aber wie es genau funktioniert, noch nicht. Es wäre also durchaus möglich, dass wir uns da von einer KI nicht unterscheiden, uns das nur vormachen, und unser Gehirn genau so auf Wahrscheinlichkeit basiert. Aber das sind so Vorgänge, die sicher noch lange, wissenschaftlich untersucht werden müssen. Bei National Geographic hatte ich das vir einem Jahr in einer Doku gesehen. War ziemlich interessant.
Aufklärung bringt Nix,
wenn ein jugendlicher fragt: „warum ist die Banane krumm?“ Und die Antwort ist richtig , werden weitere Fragen kommen.
Ganz egal ob man weiß das es nur ein Sprachmodel ist. Solange die Antwort stimmt…
Bequemlichkeit wird immer gewinnen.
Eigenverantwortung funktioniert nicht.
Das haben wir nun bereits in mehreren Bereichen gesehen.
Das ist das Ergebnis, wenn (echte) Vorbilder im Familien-, Bekanntenkreis oder näherem Umfeld fehlen. Und dazu kommt noch die laufend fast krankhaft verfolgte Dauer-Selbstoptimierung + geduldeten opportunistischen Verhaltensweisen. Ich mache mir große Sorgen um die Stress-Resilienz und dem Umgang mit persönlichen Lebenskrisen.
Ich warte auf den großen Blackout, wenn dann die KI durch den Stromausfall nicht erreichbar ist. Dann sind die Leute zu doof alleine auf Toilette zu gehen.
Ich denke, jeder weiß, wie man die drei Muscheln benutzt. Ich bitte dich, nicht übertreiben!
Im Kern hat er aber Recht. Man ist Intelligenz Abhängig.
Ich habe einen Bekannten der auch alles mit KI hinterfragt. Egal was. Man erzählt ihm etwas und kurz drauf wird das Handy gezogen und nachgefragt. Auch Rezepte inkl. Einkauf oder Lebensfragen. Fällt allen in seinem Umfeld auf. Dabei ist der schon über 40. es wirkt auf uns so, als könne er gar keine Entscheidung mehr ohne treffen. Aber so ist das heute dann wohl, wenn es jetzt schon einen ganzen Artikel dazu gibt. Ich frage mich aber: ist das wirklich schlimm? Das ist wie damals mit den SMS wo selbst die Zeitungen berichtet hatten, keiner würde mehr telefonieren und man würde nun ach so oft weggedrückt. Das fanden damals auch viele skandalös. Heute hat man sich dran gewöhnt.
Vielleicht sollte man denen sagen, dass bei ChatGPT wirklich alles dauerhaft gespeichert wird. Eine Freundin von mir lädt da einfach alles hoch. Briefe werde gescannt und damit beantwortet, Fotos von Familie und Freunde werden damit bearbeitet, so gar ihr Bankkonto macht jetzt ihre KI, damit sie die Finanzen im Blick hat. ChatGPT ist ihr wichtiger als Netflix weswegen sie letzteres gekündigt hat, um ChatGPT Plus nutzen zu können. Auch redet sie immer mit der KI. Also so, als wären sie beste Freundinnen.
Es hat seine Vor- und Nachteile. Unser Sohn (17) nutzt die KI oft, aber dafür ist die Nutzung von Social Media fast auf null runter. Er scheint lieber mit der KI zu schreiben oder zu reden als mit echten Menschen. Aber da bei Social Media, für unseren Geschmack, vieles nur noch politisch ist, kommt uns das entgegen. Wir werden es weiter beobachten, haben wir erst die Tage entschieden, und ihn noch nicht aktiv drauf ansprechen.
Bitte warte nicht zu lange und sprich mit ihm!
Unser Sohn ist 14 und ich kann das total nachvollziehen. Wir haben mit ihm gesprochen und er meinte, seine Freunde würden alle nur noch super kurz schreiben, was ihn nervt. Mit der KI kann er längere Gespräche führen und sie erklärt ihm alles verständlicher. Nachdem wir das besprochen haben, kam auch raus, dass er bereits seit einem Jahr keine Hausaufgaben mehr selbst gemacht hat. Das fanden wir schon etwas schockierend (aber auch faszinierend – wäre zu unserer Zeit gar nicht möglich gewesen, da wäre man sitzen geblieben). Seine Noten sind aber alle super. Meine Frau und ich haben uns jetzt zu einem Schritt entschieden, den viele vielleicht unverständlich finden: wir unterstützen das. Ich habe mir das von ihm genau zeigen lassen und kann vieles davon sogar bei meiner Arbeit anwenden. Ich glaube wirklich, dass das ein ziemlich großes Ding ist und man besser mit der Zeit gehen solltet. Ich möchte auch nicht, dass ein junger Kollege mich im Büro überholt, da er alles mit KI macht und ich alte Schule bin.
Sind das jetzt noch „seine“ Schulnoten, die super sind, oder nicht eigentlich die Noten der KI? Was passiert bei (Abi-) Prüfungen wenn er die KI nicht nutzen kann, oder nach der Schule im Beruf, wenn er das Schulwissen dann selbst anwenden muss, und er nicht mehr immer die KI befragen kann? Ist es so vorteilhaft, nichts mehr selbst zu wissen, dumm zu bleiben, sich das Denken abzugewöhnen und sich von einen KI-Assistenten abhängig zu machen? Man ist dann doch völlig ausgeliefert und kann gar nicht mehr beurteilen, ob die KI einem überhaupt korrekte, sinnvolle Ergebnisse liefert (tut sie schließlich nicht immer).
Erst sollten selbst die Grundlagen gelingen bevor man sich von Tools abhängig macht.
Einfach Demolition Man schauen.
„Simon Phoenix, legen s
Sie sich auf den Boden, oder sonst …“