KI: Können KI-Chatbots Sie zum Nachdenken veranlassen und dumm machen?

9 minutes reading

Saturday, 2 May 2026 08:31 1 german11

- Schriftsteller, Melissa Hogenboom
- Rolle, BBC-Kultur*
Vor 18 Minuten
Read Also
3 day ago
Aneet Paddas durchgesickertes Filmmaterial vom Shakti Shalini-Shooting geht viral
10 german11
Lesezeit: 9 Minuten

Da von Diensten der künstlichen Intelligenz (KI) verwendete Large Language Models (LLMs) beginnen, die meisten kognitiven Aufgaben einer Person zu übernehmen, warnen Forscher, dass ein hoher Preis für das zu zahlen ist, was mittlerweile als „mentales Outsourcing“ bezeichnet wird.

Die Forscherin Nataliya Kosmyna gab zu, dass sie misstrauisch geworden sei, als sie die Akten der Praktikanten sortierte. Viele der Bewerbungsschreiben, die er erhielt, waren sehr ähnlich.

Der Inhalt ist lang und ordentlich mit einer ähnlichen Struktur, nämlich der Einleitungsteil springt dann unangemessen auf die Beziehung des Bewerbers zur angestrebten Stelle.

Kosmyna kam außerdem zu dem Schluss, dass Bewerber LLM von künstlicher Intelligenz nutzten, die Chatbots wie ChatGPT, Google Gemini und Claude antreibt, um ihre Bewerbungsschreiben zu schreiben.

Während ihres Studiums am Massachusetts Institute of Technology (MIT) erforschte Kosmyna die Mensch-Computer-Interaktion. Er begann zu beobachten, dass einige Schüler jetzt leichter als in den Vorjahren Stoff vergaßen, der kürzlich gelehrt worden war.

Eine Frau und ein Mann arbeiten in einem Raum mit mehreren Computerbildschirmen, auf denen ein KI-System angezeigt wird.

Darüber hinaus bestehen Bedenken, dass Sprachkenntnisse und die Fähigkeit, grundlegende kognitive Aufgaben wie kritisches Denken, Problemlösung und Konzentration auszuführen, beeinträchtigt werden könnten, wenn man sich zu stark auf KI verlässt. Das spüren nicht nur Kosmyna, sondern auch andere Forscher.

Darüber hinaus zeigen immer mehr Untersuchungen, dass dies der Fall ist „kognitive Lastverlagerung“ Für die KI hat dies die Auswirkungen, dass die geistigen Fähigkeiten geschädigt werden. Die Folgen sind ziemlich besorgniserregend und tragen sogar zu einer Verschlechterung der kognitiven Funktion bei.

Denn die eingesetzten Tools können offenbar die Denkweise verändern. Mit dem Aufkommen des Internets können beispielsweise Aufgaben, die früher eine gründliche Recherche erforderten, einfach durch die Eingabe eines einfachen Schlüsselworts in ein Suchfeld erledigt werden.

Mit zunehmender Nutzung von Suchmaschinen zeigen verschiedene Studien, dass die Tendenz, sich Details zu merken, abnimmt. Dieses Phänomen erhielt einen Spitznamen „Google-Effekt“.

Allerdings ergeben sich andere Bedenken, wenn der überwiegende Teil des Denkens an LLM oder andere Formen der KI delegiert wird. Das Gedächtnis und die Fähigkeit, Probleme zu lösen, können stark nachlassen.

Dies ist jedoch gefährlich. Die Ergebnisse einer Reihe von Studien zeigen, dass junge Menschen besonders anfällig für die negativen Auswirkungen des Einsatzes von KI sind, insbesondere auf grundlegende kognitive Fähigkeiten, wie z kritisches Denken.

Im Einklang mit der zunehmenden Abhängigkeit von künstlicher Intelligenz geht Kosmyna davon aus, dass die Entwicklung dieser beliebten Technologie einen Einfluss auf die Kognition der Schüler hat. Er studierte es auch, um ein besseres Verständnis zu erlangen.

Welche Forschungsergebnisse gibt es zum Einsatz von KI?

Um tiefer zu graben, rekrutierten Kosmyna und ihre Kollegen vom MIT Media Lab 54 Studenten, um kurze Aufsätze zu schreiben. Sie wurden in drei Gruppen eingeteilt.

Eine Gruppe wurde gebeten, ChatGPT zu verwenden. Die zweite Gruppe kann die Google-Suchmaschine nutzen, aber KI-generierte Zusammenfassungen deaktivieren. Dann nutzt die dritte Gruppe keine Technologie. Von hier aus wurden die Gehirnwellen jedes Schülers gemessen, während er die Aufgabe erledigte.

Das Thema des Aufsatzes für diese Forschung ist bewusst offen, was bedeutet, dass diese Aufgabe nur sehr wenig Recherche erfordert. Es gibt nur Anleitungen zu den Hauptthemen, etwa zu Loyalität, Glück oder Entscheidungen im Alltag.

Obwohl die Ergebnisse nicht in einer wissenschaftlichen Zeitschrift veröffentlicht wurden, sagte Kosmyna, dass diese Forschung viele Dinge offenbart.

Unter anderem die dritte Gruppe, die sich ohne jegliche Technologie nur auf ihre eigenen Gedanken verließ, zeigte ein Gehirn, das in vielen Bereichen mit weitreichender Aktivität „aufleuchtete“.

Unterdessen zeigte die zweite Gruppe, die nur Suchmaschinen nutzte, eine intensive Aktivität in den visuellen Bereichen des Gehirns. Allerdings zeigte die Gruppe, die ChatGPT verwendete, eine viel geringere Gehirnaktivität, d. h bis auf 55 %.

„Das Gehirn schläft nicht, aber die Aktivität in Bereichen, die mit Kreativität und Informationsverarbeitung zusammenhängen, nimmt ab“, sagte Kosmyna.

ChatGPT wirkte sich auch auf das Gedächtnis der Teilnehmer aus. Nach dem Einreichen von Aufsätzen waren Gruppenmitglieder, die KI nutzten, nicht in der Lage, Teile ihrer eigenen Texte zu zitieren, und einige hatten kein Gefühl dafür, Eigentümer der Arbeit zu sein.

Lächelnde junge Männer halten Plakate hoch, auf denen sie eine Regulierung der KI fordern, um „die Zukunft der Menschheit“ zu sichern, während sie protestieren. — Untertitel, Forscher sind zunehmend besorgt über den Schaden, den die schnelle Einführung von KI verursachen könnte.

Diese Ergebnisse befinden sich noch im Peer-Review-Stadium Peer-Review. Die Ergebnisse stimmen jedoch mit anderen Studien überein. Eine von Experten der University of Pennsylvania durchgeführte Studie ergab, dass bei manchen Menschen eine sogenannte Erkrankung auftritt „kognitive Hingabe“ bei Verwendung eines KI-Chatbots.

Das heißt, diese Menschen neigen dazu, das, was die KI sagt, mit minimaler Prüfung zu akzeptieren und sogar zuzulassen, dass ihre Interpretation ihre eigene Intuition außer Kraft setzt.

Ähnliche Auswirkungen sind außerhalb des Bereichs von KI-Chatbots zu beobachten, auch wenn es um Leben und Tod geht. Ein multinationales Forschungsteam hat kürzlich herausgefunden, dass medizinisches Personal, das über einen Zeitraum von drei Monaten KI zur Früherkennung von Darmkrebs einsetzte, dies tat Ohne die Hilfe dieser Instrumente sind sie weniger in der Lage, Tumore zu erkennen.

Aus diesem Grund warnte Kosmyna erneut vor möglichen negativen Risiken, einschließlich des Verlusts der Kreativität bei der Produktion origineller Werke. Denn dies zeigt sich deutlich in den Ergebnissen der Aufsätze, die Studierende im Rahmen ihres Studiums mit ChatGPT verfasst haben.

Die Aufsätze der Studenten, die ChatGPT nutzten, waren einander sehr ähnlich. Die bewertenden Dozenten hätten es auch als „seelenlos“ bezeichnet, weil es ihm an Originalität und Tiefe fehle, sagte er. „Ein Dozent fragte sogar, ob die Studierenden angesichts der Ähnlichkeit der Aufsätze nebeneinander säßen.“

Studien wie diese veranschaulichen nur die kurzfristigen Auswirkungen, die LLM auf das Gehirn haben kann. Die langfristigen Folgen sind noch unklar, obwohl die Studie von Kosmyna und ihren Kollegen ein erstes Bild davon liefert.

Bildquelle, Getty Images

Untertitel, Es ist noch nicht bekannt, welche langfristigen Auswirkungen eine übermäßige Nutzung von LLMs auf die kognitiven Fähigkeiten haben wird.

Vier Monate nach der Recherche wurden die Studierenden gebeten, einen weiteren Aufsatz zu schreiben. Dieses Mal werden jedoch diejenigen, die zur ChatGPT-Benutzergruppe gehören, gebeten, ohne LLM-Unterstützung zu arbeiten.

Es stellte sich heraus, dass die neuronale Konnektivität in ihrem Gehirn geringer war als bei denen, die ihre eigenen Gedanken machten oder eine Suchmaschine verwendeten und dann zu ChatGPT wechselten. Dies deutet darauf hin, dass sie sich nicht ausreichend mit den Themen beschäftigt haben, die zuvor im Prozess besprochen wurden.

KI kann einen positiven Einfluss haben, solange…

Das LLM könnte ein positives Instrument zur Anregung des Denkens sein, vorausgesetzt, es beruht nicht ausschließlich auf der Konzentration auf mentale Aufgaben, sagt die computergestützte Neurowissenschaftlerin Vivienne Ming.

Das Problem besteht darin, dass der Autor von Robot Proof erkennt, dass die Mehrheit der Menschen, die mit dieser Technologie interagieren, tatsächlich mentale und kognitive Aufgaben an das Gerät übergeben.

Das hat er bei Recherchen herausgefunden. Ming bat eine Gruppe von Studenten der Universität Berkeley, eine Reihe von Dingen vorherzusagen, beispielsweise die Ölpreise. Er stellte außerdem fest, dass die meisten Teilnehmer sofort auf KI umstiegen und die Antworten kopierten. Gleichzeitig maß er die Gammawellenaktivität in ihren Gehirnen, um Indikatoren für die kognitive Anstrengung zu erfassen. Das Ergebnis ist eine sehr geringe kognitive Aktivität.

Ähnlich wie bei Kosmyna wurden Mings Erkenntnisse noch nicht veröffentlicht. Allerdings befürchtet er, dass bei genauerer Untersuchung der Ergebnisse langfristige Auswirkungen erkennbar werden.

„Das ist sehr besorgniserregend. Dieses Werkzeug ist nur ein Werkzeug, es wird nicht nur verwendet. Das hängt mit der menschlichen Intelligenz in der Zukunft zusammen“, sagte Ming.

Auf dem Telefonbildschirm wird eine ChatGPT-Konversation angezeigt. — Untertitel, Experten sagen, dass die Art und Weise, wie wir KI nutzen, so moderiert werden kann, dass sie unsere Wahrnehmung nicht beeinträchtigt.

Allerdings stellte Ming fest, dass weniger als 10 % der Teilnehmer KI als Werkzeug nutzten, um Daten zu sammeln, die sie dann selbst analysierten. Diese Personen machten genauere Vorhersagen als andere Teilnehmer und zeigten auch eine höhere Gehirnaktivität.

Vor fast zwei JahrzehntenMing prognostiziert, dass es innerhalb von 20 bis 30 Jahren einen statistisch signifikanten Anstieg der Demenzraten geben wird, der direkt mit der übermäßigen Abhängigkeit von Google Maps zusammenhängt.

„Meine Absicht war es, eine kritische Analyse anzustoßen. Wenn man nicht darüber nachdenken muss, wie man sich zurechtfindet, dann wird es spürbare Auswirkungen geben.“

Da der Einsatz von KI-Tools zunimmt, müssen die Menschen auch verstehen, dass ihr Einsatz auf lange Sicht vorteilhaft und nicht schädlich sein soll.

Ming schlug auch vor, dass das ultimative Ziel eine Form der „hybriden Intelligenz“ sein könnte, bei der Menschen und Maschinen „schwierige Aufgaben gemeinsam bewältigen“. Das bedeutet, dass der Mensch zunächst selbst denken und dann das Werkzeug zum Testen nutzen muss.

Kosmyna stimmt diesem Ansatz zu und schlägt vor, verschiedene Fächer zu studieren, ohne in der Anfangsphase KI-Tools einzusetzen. Dadurch soll ein starkes Fundament geschaffen werden. Erst dann kann der Einsatz von KI in Betracht gezogen werden.

Ming empfiehlt die Verwendung von „Némesis-Anweisungen“, um die eigene Argumentation zu testen. Bei dieser Methode wird die KI aufgefordert, detailliert zu erklären, warum unsere Ideen falsch sind und wie sie korrigiert werden können.

Auf diese Weise sind wir gezwungen, Argumente zu verteidigen und zu verfeinern, anstatt einfach die Antworten zu akzeptieren, die das Tool liefert.

Eine weitere vorgeschlagene Technik ist die Priorisierung „produktive Reibung“indem die KI lediglich den Kontext bereitstellt und Fragen stellt, anstatt direkt Antworten zu geben. Beim Testen dieser Methode beobachtete er, dass Benutzer ein höheres Maß an Engagement und Beteiligung zeigten.

Letztendlich müssen wir alle auf kognitive Abkürzungen achten. Etwas, das Kosmyna anmerkt, ist etwas, das unser Gehirn „wirklich liebt“. Um jedoch eine langfristige Gehirngesundheit zu gewährleisten, müssen Sie sich stets schärfen, indem Sie die Leistungsfähigkeit Ihres Gehirns herausfordern, immer zu denken und kreativ zu sein.