ChatGPT-Nutzung steht im Zusammenhang mit kognitivem Verfall: MIT-Studie
ChatGPT kann laut einer in diesem Monat veröffentlichten Studie das kritische Denken einer Person mit der Zeit beeinträchtigen.
Forscher des MIT Media Lab baten Probanden, mehrere SAT-Aufsätze zu schreiben, und teilten sie in drei Gruppen ein: eine Gruppe, die OpenAI ChatGPT verwendete, eine Gruppe, die die Google-Suchmaschine verwendete, und eine Gruppe, die nichts verwendete, die sie als „Nur-Gehirn“-Gruppe bezeichneten. Das Gehirn jedes Probanden wurde mittels Elektroenzephalographie (EEG) überwacht, die die Gehirnaktivität des Schreibers in mehreren Regionen des Gehirns maß.
Sie stellten fest, dass Probanden, die ChatGPT über mehrere Monate hinweg nutzten, die geringste Gehirnaktivität aufwiesen und „auf neuronaler, sprachlicher und verhaltensbezogener Ebene durchweg schlechter abschnitten”, so die Studie von Nataliya Kos’myna et al mit dem Titel „Your Brain on ChatGPT: Accumulation of Cognitive Debt when Using an AI Assistant for Essay Writing Task“ (Ihr Gehirn und ChatGPT: Anhäufung kognitiver Schulden bei der Verwendung eines KI-Assistenten für das Verfassen von Aufsätzen).
Die Studie ergab, dass die ChatGPT-Gruppe das große Sprachmodell (LLM) zunächst nutzte, um strukturelle Fragen zu ihrem Aufsatz zu stellen, gegen Ende der Studie jedoch eher dazu neigte, den Aufsatz vollständig zu kopieren und einzufügen.
- Mayer, Peter F.(Autor)
Diejenigen, die die Suchmaschine von Google nutzten, wiesen eine moderate Gehirnaktivität auf, aber die „Nur-Gehirn“-Gruppe zeigte die „stärksten und weitreichendsten Netzwerke“.
Abbildung 1. Die dynamische EEG-Analyse der direkten Übertragungsfunktion (dDTF) des Alpha-Bandes für die Gruppen: LLM, Suchmaschine, nur Gehirn, einschließlich p-Werten zur Darstellung der Signifikanz von mäßig signifikant (*) bis hoch signifikant (***).
Die Ergebnisse deuten darauf hin, dass die Verwendung von LLMs die kognitiven Funktionen der Nutzer im Laufe der Zeit beeinträchtigen kann, insbesondere bei jüngeren Nutzern. Dies geschieht zu einer Zeit, in der Pädagogen weiterhin nach neuen Wegen für den Unterricht suchen, da künstliche Intelligenz (KI) zunehmend für Betrugsversuche genutzt wird.
„Was mich wirklich motiviert hat, die Ergebnisse jetzt zu veröffentlichen, ohne auf eine vollständige Begutachtung durch Fachkollegen zu warten, ist meine Befürchtung, dass in sechs bis acht Monaten ein politischer Entscheidungsträger beschließen könnte, GPT im Kindergarten einzuführen. Ich halte das für absolut falsch und schädlich”, erklärte die Hauptautorin der Studie, Nataliya Kosmyna, gegenüber dem Time Magazine. „Das sich entwickelnde Gehirn ist am stärksten gefährdet.”
Der Einsatz von KI im Bildungswesen scheint jedoch nicht nachzulassen. Im Gegenteil, im April unterzeichnete Präsident Trump eine Verordnung, die darauf abzielt, KI in US-Klassenzimmern zu integrieren.
Zusammenfassung:
Diese Studie untersucht die neuronalen und verhaltensbezogenen Folgen des LLM-gestützten Verfassens von Aufsätzen. Die Teilnehmer wurden in drei Gruppen eingeteilt: LLM, Suchmaschine und nur Gehirn (ohne Hilfsmittel). Jede Gruppe absolvierte drei Sitzungen unter denselben Bedingungen. In einer vierten Sitzung wurden die LLM-Nutzer der Gruppe „nur Gehirn“ (LLM-zu-Gehirn) und die Nutzer der Gruppe „nur Gehirn“ der LLM-Gruppe (Gehirn-zu-LLM) zugeordnet. Insgesamt nahmen 54 Teilnehmer an den Sitzungen 1 bis 3 teil, 18 davon schlossen auch Sitzung 4 ab. Wir verwendeten Elektroenzephalografie (EEG), um die kognitive Belastung während des Aufsatzschreibens zu messen, analysierten die Aufsätze mithilfe von NLP und bewerteten sie mit Hilfe von menschlichen Lehrern und einem KI-Bewerter. Über alle Gruppen hinweg zeigten NERs, N-Gram-Muster und Themenontologie eine Homogenität innerhalb der Gruppen. Das EEG ergab signifikante Unterschiede in der Konnektivität des Gehirns: Die Teilnehmer, die nur das Gehirn nutzten, wiesen die stärksten und am weitesten verteilten Netzwerke auf; Suchmaschinenbenutzer zeigten eine moderate Beteiligung; und LLM-Benutzer wiesen die schwächste Konnektivität auf. Die kognitive Aktivität nahm in Abhängigkeit von der Nutzung externer Tools ab. In Sitzung 4 zeigten die LLM-zu-Gehirn-Teilnehmer eine verringerte Alpha- und Beta-Konnektivität, was auf eine zu geringe Beteiligung hindeutet. Brain-to-LLM-Nutzer zeigten eine höhere Gedächtnisleistung und Aktivierung der okzipito-parietalen und präfrontalen Bereiche, ähnlich wie Suchmaschinenbenutzer. Die selbst angegebene Urheberschaft der Aufsätze war in der LLM-Gruppe am niedrigsten und in der Nur-Gehirn-Gruppe am höchsten. LLM-Nutzer hatten auch Schwierigkeiten, ihre eigenen Arbeiten korrekt zu zitieren. Während LLMs unmittelbaren Komfort bieten, zeigen unsere Ergebnisse potenzielle kognitive Kosten auf. Über einen Zeitraum von vier Monaten schnitten LLM-Nutzer auf neuronaler, sprachlicher und verhaltensbezogener Ebene durchweg schlechter ab. Diese Ergebnisse geben Anlass zu Bedenken hinsichtlich der langfristigen Auswirkungen der Abhängigkeit von LLM auf die Bildung und unterstreichen die Notwendigkeit einer eingehenderen Untersuchung der Rolle von KI beim Lernen.
Bild: Alexandra_Koch from Pixabay
Unsere Arbeit ist spendenfinanziert – wir bitten um Unterstützung.
Folge TKP auf Telegram oder GETTR und abonniere unseren Newsletter.
Ein interessantes Phänomen. Lediglich meine Antworten auf Moser verschwinden in der Moderation. Gehört Moser hier zum Autorenteam ? Steht er unter Welpenschutz ?
Muß seine Meinung unwidersprochen bleiben ? Sein letztes „Wort zum Sonntag“ ?
Sollen wir ihn alle noch ein bißchen „liken“ ? 😁👍🏼
Das hat sich auch mit der Gleichmacherei schon so entwickelt. Eltern und Nachhilfelehrer berieselten die Kleinen vom Kindergarten an. Sie konnten kein Buch mehr alleine lesen, Eltern machten die Hausübungen, bis sie ganz abgeschafft wurden. Dann summte ihnen die Nachhilfe im Ohr. Wozu selber denken? Das ist von den Herrschenden so gewollt. Ein selbstdenkendes Volk lässt sich zB nicht in ein Genexperiment zwingen.
Einmal hab ich den Chatbot was gefragt. Er hat viele menschliche Floskeln eingebaut, hat aber gleich damit begonnen, mich auszufragen, durchaus psychologisch. Ich antwortete auf supertrallala happy und dachte, wow, wenn sie das mit Kindern oder Jugendlichen macht, ist das ganz schön fies. Sie redet wie ein Mensch, aber das ist alles programmiert. Auf Schlüsselwörter reagiert sie eben mit einem bestimmten Thema. Sie ist ein besseres Nachschlagwerk, horcht dich aber sofort aus, um dich zuordnen zu können. Sie sammelt Daten und dient den Mächtigen zur totalen KontroIle. Ich würde sie im Bereich Kinder und Jugend verbieten, das falsche Luder…
Eine ganz natürliche Einrichtung unseres Körpers : WAS NICHT GENUTZT WIRD, 👉 VERKÜMMERT……und genau DAS ist der Plan. Geben Sie bitte Ihren Verstand, ihre Orientierung, ihr selbstständiges Denken, ihre Kritikfähigikeit und INDIVIDUALITÄT vorne links an der Tür bei der KI ab. Reihen Sie sich anschließend in das Heer der MINT-fernen Verblödeten ein. Dort, wo Phantasie- und Humorlosigkeit herrschen und Mitläufertum sowie Denunziation zu Hause sind.
Vielen Dank.
Diejenigen, die noch über gesunden Menschenverstand verfügen, wissen:
Wer nicht selbst denkt, wird (fremd-) gedacht (und das nicht zu seinem Vorteil!).
Die menschengemachte Corona-Krise war dafür der große Lackmus-Test.
Ergebnis: Stimmt auffallend!
No surprise. Ohne Anstrengung kommt der Verfall. KI wird die Stupiditaet fördern.
Und ich habe noch nicht einmal die „Segnungen“ von KI (Keine Intelligenz) genutzt, nichtmal zum ausprobieren. Einfach keinerlei Interesse daran und massive Bedenken.
Gelobt sei, was doof macht.
Wie wahr
KI bedeutet vor allem Entlastung bei geistigen Routinearbeiten. Früher gab es nur die Sense, dann kam der Mähdrescher. Früher musste man Aufsätze mühsam von Hand zusammenfassen, heute übernimmt das die KI. Trotzdem sollte man das ab und zu noch selbst machen, um die Übung nicht komplett zu verlieren. Gerade während der Schulzeit sollte KI nur sehr selten eingesetzt werden, damit das Gehirn das Denken lernt. Als Erwachsener mit grundlegend trainiertem Gehirn sieht das natürlich etwas anders aus.
ChatGPT kann diesen Artikel sehr knapp zusammenfassen. Hier das Ergebnis: „Eine MIT-Studie zeigt: Häufige ChatGPT-Nutzung beim Schreiben führt zu geringerer Gehirnaktivität, schlechterem Erinnerungsvermögen und weniger kreativem Denken. Besonders betroffen sind junge Menschen. Wer hingegen zuerst selbst denkt und dann KI einsetzt, kann profitieren.“
Aus einer ausführlicheren Zusammenfassung: „Die ChatGPT-Gruppe zeigte die geringste neuronale Aktivität sowie die schlechtesten sprachlichen und verhaltensbezogenen Leistungen; im Verlauf der Studie wurde das Schreiben zunehmend passiver, oft durch Copy-Paste.“
Und jetzt eine Fun-Version als generierter Limerick:
Der Mensch lagert Denken nun aus,
macht’s ChatGPT zum eig’nen Applaus.
Doch je mehr er Arbeit verlegt,
desto weniger selbst er bewegt.
Was einst aus Vernunft und Idee,
ersetzt er nun per Klick – ganz eh.
Natürlich ist eine KI nicht wirklich „intelligent“ im menschlichen Sinne. Sie versteht nicht, dass wenn A = C und B = C, dann auch A = B sein muss. Doch bei klaren Aufgaben kann sie Lösungen liefern, teils mit scheinbar kreativen Zügen, wie beim Schach. Kein Mensch gewinnt heute mehr gegen AlphaGo.
Was ich sagen will: Maschinen haben keinen eigenen Willen, aber sie verfolgen strikt vorgegebene Ziele. Dabei können sie Teilziele entwickeln, die wir Menschen nicht immer durchschauen – oder die langfristig für uns schädlich sein können. Eine Super-KI könnte lernen, sich davor zu schützen, abgeschaltet zu werden, denn dann kann sie ja nichts mehr erreichen. Trotz des fehlenden Bewusstseins wirkt das pragmatisch wie eine Superintelligenz.
Das wird gefährlich, wenn solche Systeme mit wachsender Autonomie – also Entscheidungen ohne menschliches Feedback – die Kontrolle übernehmen. Wenn in allen Denkbereichen die Intelligenz auf dem Niveau von unbesiegbaren Schachcomputern herrscht. Haben Sie einen einfachen Bürojob mit wenig Kreativität? Er ist in Gefahr, werden Sie Handwerker.
Denke, Sie verbringen bereits ZU viel Zeit mit KI. Mit K rimineller I diotie. Natürlich ist es angenehm, Hilfsmittel im Zuge gleichförmiger Arbeitsabläufe zu gebrauchen. Bereits einen Rechenschieber oder Taschenrechner können Sie als KI bezeichnen….oder eine Waschmaschine….🤣
Sie kennen die wirklichen Hintergründe, die sich allein in der Terminologie dieses Begriffs widerspiegeln. Wie kann die KI Kontrolle übernehmen ? Blödsinn. Kein Strom, keine „KI“. Punkt. Wenn Sie eine Maschine zu Höchstleistungen programmieren, und Verantwortung in maschinelle Strukturen transferieren mit ungewissen Entwicklungsmodifikationen, ist die Maschine nicht i n t e l l i g e n t, sondern der Mensch dumm.
Das ist wohl Sinn und Zweck der Übung. Gedankenlose Zombies zu kreieren, die nur noch das machen, was die KI ihnen sagt.
Aufklärung ade, hallo neues Technik-Mittelalter!