Sie bitten es, eine E -Mail zu entwerfen. Sagen Sie es, einen Bericht zusammenzufassen. M?glicherweise schreiben Sie sogar einen ganzen Aufsatz. Gro?e Sprachmodelle (LLMs) wie ChatGPT sind unglaubliche Tools für die Effizienz. Aber was sind die verborgenen Kosten all dieser Bequemlichkeit? Erodiert die Ablagerung unserer mentalen Arbeit in die KI langsam unsere kognitiven F?higkeiten? Eine kürzlich durchgeführte Studie aus dem MIT-Medienlabor mit dem Titel ? Ihr Gehirn auf ChatGPT: Akkumulation kognitiver Schulden Bei der Verwendung eines KI-Assistenten für Aufgaben mit Aufs?tzen “ befasste sich mit dieser Frage, und die Ergebnisse sind ein Weckruf für uns alle. In diesem Blog werden wir das vom MIT durchgeführte Experiment untersuchen, seine Ergebnisse verstehen und die Antwort auf die Frage erhalten: Macht Chatgpt uns dümmer?

Inhaltsverzeichnis

• Das Experiment: Gehirn gegen Bots
• Was passiert mit Ihrem Gehirn, wenn Sie ein LLM verwenden?
• Die Speicherschmelze
• Was passiert, wenn die KI weggenommen wird?
• Sammeln wir eine ?kognitive Verschuldung“?
• Macht uns Chatgpt also dümmer?
• Abschluss

Das Experiment: Gehirn gegen Bots

Die Forscher richten ein faszinierendes Experiment ein. Sie rekrutierten 54 Teilnehmer und teilten sie in drei Gruppen von jeweils 18 Gruppen auf, um Aufs?tze zu Themen auf SAT-Ebene über mehrere Sitzungen zu schreiben:

• Die LLM-Gruppe: konnte nur ChatGPT (GPT-4) verwenden
• Die Suchmaschinengruppe: k?nnte Google verwenden, aber keine LLMs
• Die Gruppe nur für Gehirn: hatte keinen Zugriff auf externe Tools, nicht einmal das Internet

Unter Verwendung von Elektroenzephalographie -Headsets messen die Wissenschaftler die Gehirnaktivit?t der Teilnehmer, um zu sehen, wie ihre neuronalen Netze w?hrend des Schreibprozesses abgefeuert und verbunden waren. Die Ergebnisse waren verblüffend. Das Team führte auch eine tiefe natürliche Sprachverarbeitungsanalyse (NLP) zu den Aufs?tzen durch, befragte jeden Teilnehmer und lie? die Aufs?tze sowohl von Lehrern des menschlichen Englisch als auch von einem ma?geschneiderten KI-Richter bewertet.

Das Experiment war kein einmaliges; Die Teilnehmer haben diesen Prozess über drei getrennte Sitzungen abgeschlossen. In der vierten und letzten Sitzung tauschten die Forscher die Gruppen aus. Nur 18 Teilnehmer nahmen teil. Die LLM-Benutzer schrieben nur mit ihrem Gehirn, w?hrend die Gruppe nur für Gehirn Zugang zum LLM erhielt. Hier wurden die wahren Kosten für die AI -Unterstützung klar.

Was passiert mit Ihrem Gehirn, wenn Sie ein LLM verwenden?

Die Studie ergab, dass die Hirnkonnektivit?t systematisch mit externer Hilfe gesunken ist, entweder von Google Search oder LLMs. Obwohl die Auswirkung von Sch?den unterschiedlich und relativ zum Hilfsniveau war.

• Die Gruppe nur für Gehirn zeigte die st?rksten und am weitesten verbreiteten neuronalen Netzwerke, was auf ein tiefes kognitives Engagement hinweist.
• Die Suchmaschinengruppe war in der Mitte.
• Und die LLM -Gruppe? Sie zeigten insgesamt die schw?chste Hirnkonnektivit?t.

Dies deutet darauf hin, dass wir, wenn wir uns nur auf unsere eigenen K?pfe verlassen, ein reichhaltiges, komplexes Netz von Gehirnregionen für Erinnerung, Planung und kreatives Denken einbeziehen. Wenn wir helfende Tools wie Google Search oder LLMs verwenden, scheinen unser Gehirn diese Arbeit zu laden und zeigt deutlich weniger Aktivit?t.

Der Aktivit?tsniveau nimmt mit zunehmender Unterstützung ab. Die Google -Suche verlangte weiterhin die Teilnehmer, ihren Denkprozess zu verwenden, um alle Informationen aus verschiedenen Suchanfragen zu kombinieren. Schlie?lich waren alle ben?tigten LLMs eine geeignete Eingabeaufforderung, und die Teilnehmer erhielten einen gut geschriebenen Aufsatz, der die geringste Menge an kognitiven Aktivit?ten erforderte. So machte ihr Gehirn die geringste Menge an neuronalem ?Ger?usch“, w?hrend die Gruppe nur für Gehirn am lautesten war.

Die Speicherschmelze

Nachdem sie ihre Aufs?tze geschrieben haben, wurde den Teilnehmern eine einfache Frage gestellt: ?K?nnen Sie einen Satz aus Ihrem Aufsatz zitieren, ohne ihn zu betrachten?“. Die Ergebnisse waren ein vollst?ndiger Schock.

• In der ersten Sitzung konnte 83% der LLM -Gruppe kein korrektes Zitat aus dem gerade geschriebenen Aufsatz bereitstellen. Keiner von ihnen produzierte ein korrektes Zitat.
• In der zweiten Sitzung hatten die Gruppen nur Gehirn- und Suchmaschinengruppen einen nahezu perfekten Rückruf und Zitatf?higkeit.

Dieser Ged?chtnisversagen, wie in der LLM -Gruppe zu sehen ist, korreliert nur direkt mit der ged?mpften Gehirnaktivit?t. Die neuronalen Prozesse, die für die tiefe semantische Codierung und übertragung von Informationen in das Langzeitged?chtnis ben?tigt wurden, wurden einfach in der LLM-Gruppe nicht so stark ausgel?st. Diese Gruppe berichtete auch über ein niedrigeres Gefühl der ?Eigentümerschaft“ über ihre Aufs?tze, wobei sich viele von der Arbeit getrennt fühlten. Es scheint, dass das Wissen nicht h?lt, wenn wir nicht das mentale schwere Heben machen und wir nicht den Stolz der Sch?pfung spüren.

Lesen Sie auch: So beeinflussen KI -Chatbots auf uns - eine Studie von MIT und OpenAI

Was passiert, wenn die KI weggenommen wird?

In der vierten und letzten Sitzung drehten die Forscher das Drehbuch um.

• LLM-to-Hirn: Teilnehmer, die Chatgpt verwendet hatten, wurden nun gebeten, ohne Werkzeuge zu schreiben.
• Brain-to-Llm: Teilnehmer, die nur ihr Gehirn benutzt hatten, erhielten jetzt Zugang zu Chatgpt.

Und die Ergebnisse sind alarmierend!

Die LLM-to-Hirn-Gruppe k?mpfte. Ihre Gehirnkonnektivit?t war schw?cher und zeigte eine ?Unterbindung von Alpha- und Beta-Netzwerken“, die für interne Aufmerksamkeit, semantische Verarbeitung und kreatives Denken von entscheidender Bedeutung sind. Sie stecken in einem ?kognitiven Mangel“ fest. Ihr Schreiben zeigte sogar eine Tendenz zum LLM-spezifischen Vokabular und verwendete die Phrasen aus ihren AI-unterstützten Sitzungen wieder.

W?hrend im herausragenden Kontrast dazu die Gehirnaktivit?t der Gehirn-zu-LlM-Gruppe stieg. Als diesen Teilnehmern, die ihre kognitiven Muskeln ausgeübt hatten, einen LLM erhielten, um einen vertrauten Aufsatz neu zu schreiben, zeigten ihr Gehirn einen h?heren Erinnerungsrückruf und eine erneute Einführung von weit verbreiteten Gehirnnetzwerken. Der Akt der Integration von KI -Vorschl?gen in ihre eigenen tief verarbeiteten Gedanken hat sich tats?chlich mehr von ihrem Gehirn engagiert. Tats?chlich waren die daraus resultierenden Aufs?tze nicht nur einzigartig, sondern zeigten auch ein Ma? an Finesse, das ihre Essays auff?llt!

Sammeln wir eine ?kognitive Verschuldung“?

Kognitive Schulden sind eine Bedingung, bei der ?wiederholte Abh?ngigkeit von externen Systemen wie LLMs die mühsamen kognitiven Prozesse ersetzt, die für das unabh?ngige Denken erforderlich sind“. Wie finanzielle Schulden erhalten Sie sofortige Bequemlichkeit als Darlehen, aber Sie zahlen sp?ter mit Zinsen. Das Interesse in diesem Fall wird kritisches Denken, schw?cheres Ged?chtnis und verringerte Kreativit?t verringert.

Obwohl LLM-unterstützte Essays oft l?nger waren und von einem KI-Richter gut erzielt wurden, waren die menschlichen Lehrer, die die Aufs?tze bewerteten, nicht beeindruckt. Sie beschrieb die LLM-generierten Texte als homogen, ohne pers?nliche Nuance und einfach ?seelenlos“. Dies ist ein klarer Hinweis darauf, dass die kontinuierliche Verwendung von LLMs ohne viel Gedanken eine ?kognitive Schuld“ in unserem Gehirn hinzufügt, was schlie?lich unser Denken und unsere analytischen F?higkeiten verringern würde.

Eine weitere interessante Studie: Beunruhigendes KI -Verhalten: Wenn fortgeschrittene LLMs die Regeln brechen und die Kontrolle widersetzen

Macht uns Chatgpt also dümmer?

Nun, vielleicht nicht jetzt, aber im Laufe der Zeit, mit ungeprüften Verwendung: Auf jeden Fall ! Das Schlimmste ist, als wir erkennen, was für den Komfort dieses KI -Assistenten handelt, k?nnen wir m?glicherweise kein Comeback feiern. Be?ngstigend es mag klingen, aber die Verwendung von AI k?nnte nur eine andere Drogenabh?ngigkeit sein, über die uns noch niemand warnt.

Aber das ist kein Aufruf, KI aufzugeben. Tools wie Chatgpt sind leistungsstarke Verbündete. Diese Forschung fordert uns jedoch auf, achtsam zu sein. Die Verwendung eines LLM zur Unterstützung eines vorhandenen, selbstgetriebenen Denkprozesses (wie der Gehirn-zu-LlM-Gruppe) kann ein leistungsstarker kognitiver Enhancer sein. Wenn wir jedoch das Denken von Anfang an ersetzen k?nnen, kann es uns daran hindern, die starken neuronalen Wege aufzubauen, die zu echtem Lernen, tiefem Ged?chtnis und authentischer Kreativit?t führen.

Wenn Sie sich das n?chste Mal an Ihren KI -Assistenten wenden, stellen Sie sich eine Frage: Outsospenden Sie eine Aufgabe oder lagern Sie Ihr Denken aus?

Ihr Gehirn wird Ihnen dafür danken, dass Sie den Unterschied kennen.

Finden Sie hier vollst?ndige Forschungsarbeit.

Abschluss

Die Welt um uns herum wird zunehmend KI-Fliege. Von pers?nlichem bis zum Berufsleben helfen LLM Powered Chatbots uns dabei, Aufgaben als Geschwindigkeit und mit Genauigkeit zu erledigen, die ungeschlagen ist. Aber mit gro?er Macht kommt eine gro?e Verantwortung. Die Verantwortung, den Unterschied zwischen Meister und Sklave zu verstehen, h?ngt von uns ab. So lange wir uns unsere Gedanken, die unsere Forschung ausrichten und LLMs verwenden, dazu beitragen, die endgültigen Ausgaben zu verbessern, aber wenn die LLMs, die das Denken aufnehmen, dann nur erwarten k?nnen, ist eine Sub -Par -Ausgabe, die jedem ?hnlich w?re, der dieselben Tools verwendet. Dadurch wird unsere Einzigartigkeit vollst?ndig und stark die M?glichkeiten einschr?nken.

Das obige ist der detaillierte Inhalt vonMacht uns Chatgpt dümmer? Eine neue MIT -Studie hat Antworten - Analytics Vidhya. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!