Vous lui demandez de rédiger un e-mail. Dites-lui de résumer un rapport. Vous pourriez même le faire écrire tout un essai. Les grands modèles de langue (LLMS) comme le chatppt sont des outils incroyables pour l'efficacité. Mais quel est le co?t caché de toute cette commodité? Le déchargement de notre travail mental pour éroder lentement nos capacités cognitives? Une étude récente du MIT Media Lab, intitulée ? Votre cerveau sur Chatgpt: accumulation de dette cognitive lors de l'utilisation d'un assistant d'IA pour la tache d'écriture d'essais ?, a abordé cette question même, et les résultats sont un réveil pour nous tous. Dans ce blog, nous explorerons l'expérience menée par le MIT, comprendrons ses résultats et obtiendrons la réponse à la question: le chatppt nous rend-il plus stupides?

Table des matières

• L'expérience: cerveau vs bots
• Qu'arrive-t-il à votre cerveau lorsque vous utilisez un LLM?
• La fusion de mémoire
• Que se passe-t-il lorsque l'IA est enlevée?
• Accumuons-nous une ?dette cognitive??
• Alors, le chatppt nous rend-il plus stupides?
• Conclusion

L'expérience: cerveau vs bots

Les chercheurs ont mis en place une expérience fascinante. Ils ont recruté 54 participants et les ont divisés en trois groupes de 18 chacun pour écrire des essais sur des sujets de niveau SAT au cours de plusieurs sessions:

• Le groupe LLM: ne peut utiliser que Chatgpt (GPT-4)
• Le groupe de moteurs de recherche: pourrait utiliser Google, mais pas de LLM
• Le groupe cerveau uniquement: n'avait pas accès à des outils externes, pas même sur Internet

En utilisant des casques d'électroencéphalographie (EEG), les scientifiques ont mesuré l'activité cérébrale des participants pour voir comment leurs réseaux de neurones ont tiré et connecté pendant le processus d'écriture. Les résultats étaient surprenants. L'équipe a également effectué une analyse profonde du traitement du langage naturel (NLP) sur les essais, interviewé chaque participant et a fait classer les essais des professeurs d'anglais humains et un juge d'IA sur mesure.

L'expérience n'était pas un seul-off; Les participants ont terminé ce processus sur trois sessions distinctes. Lors de la quatrième et dernière session, les chercheurs ont échangé les groupes. Seuls 18 participants ont participé. Les utilisateurs de LLM ont écrit avec seulement leur cerveau, tandis que le groupe cerveau uniquement a accédé au LLM. Ici, le véritable co?t de l'aide de l'IA est devenu clair.

Qu'arrive-t-il à votre cerveau lorsque vous utilisez un LLM?

L'étude a révélé que la connectivité du cerveau était systématiquement baissée avec une aide externe, soit à partir de Google Search, soit des LLM. Bien que l'effet des dommages était différent et relatif au niveau d'aide.

• Le groupe réservé au cerveau a montré les réseaux neuronaux les plus forts et les plus répandus, indiquant un engagement cognitif profond.
• Le groupe de moteurs de recherche était au milieu.
• Et le groupe LLM? Ils ont montré la connectivité du cerveau la plus faible dans l'ensemble.

Cela suggère que lorsque nous ne comptons que sur notre propre esprit, nous engageons un réseau riche et complexe de régions cérébrales pour la mémoire, la planification et la pensée créative. Lorsque nous utilisons des outils d'aide comme Google Search ou LLMS, nos cerveaux semblent décharger ce travail, montrant beaucoup moins d'activité.

Le niveau d'activité diminue à mesure que la quantité de soutien augmente. Google Search a toujours obligé les participants à utiliser leur processus de réflexion pour combiner toutes les informations de diverses recherches. Enfin, tous les LLM nécessaires étaient une invite appropriée, et les participants ont obtenu un essai bien écrit nécessitant le moins d'activité cognitive. Ainsi, leur cerveau a fait le moins de ?bruit? neuronal tandis que le groupe cerveau uniquement était le plus fort, neuralement.

La fusion de mémoire

Après avoir écrit leurs essais, les participants ont été posés une question simple: ?Pouvez-vous citer n'importe quelle phrase de votre essai sans le regarder??. Les résultats ont été un choc complet.

• Au cours de la première session, 83% du groupe LLM n'ont pas réussi à fournir une citation correcte de l'essai qu'ils venaient d'écrire. Aucun d'eux n'a produit une citation correcte.
• Pendant ce temps, les groupes de cerveaux et de moteurs de recherche avaient une capacité de rappel et de citation presque parfaite par la deuxième session.

Cette défaillance de la mémoire telle que vue dans le groupe LLM uniquement est directement en corrélation avec l'activité cérébrale en sourdine. Les processus neuronaux nécessaires pour le codage sémantique profond et le transfert d'informations dans la mémoire à long terme n'étaient tout simplement pas déclenchés aussi fortement dans le groupe LLM. Ce groupe a également signalé un sens inférieur de ?possession? sur leurs essais, beaucoup se sentant déconnectés du travail. Il semble que lorsque nous ne faisons pas le levage mental, les connaissances ne collent pas et nous ne ressentons pas la fierté de la création.

Lire aussi: c'est ainsi que les chatbots de l'IA nous impactent - une étude du MIT et de l'Openai

Que se passe-t-il lorsque l'IA est enlevée?

Lors de la quatrième et dernière session, les chercheurs ont renversé le script.

• LLM-TO-BRAIN: Les participants qui utilisaient Chatgpt étaient maintenant invités à écrire sans outils.
• Brain-to-llm: Les participants qui n'utilisaient que leur cerveau ont maintenant eu accès à Chatgpt.

Et les résultats sont alarmants!

Le groupe LLM-To-Brain a eu du mal. Leur connectivité cérébrale était plus faible, montrant un ?sous-engagement des réseaux alpha et bêta?, qui sont cruciaux pour l'attention interne, le traitement sémantique et la pensée créative. Ils étaient coincés dans une ?carence cognitive?. Leur écriture a même montré un biais vers le vocabulaire spécifique à la LLM, réutilisant les phrases de leurs séances assistées par l'IA.

En contraste stellaire avec cela, l'activité cérébrale du groupe du cerveau à llm a augmenté. Lorsque ces participants, qui avaient exercé leurs muscles cognitifs, ont re?u un LLM pour réécrire un essai familier, leur cerveau a montré un rappel de mémoire et une réengagement plus élevés de réseaux cérébraux généralisés. L'acte d'intégration des suggestions d'IA à leurs propres pensées profondément transformées a en fait engagé davantage leur cerveau. En fait, les essais qui en résultent n'étaient pas seulement uniques mais présentaient un niveau de finesse qui a fait ressortir leurs essais!

Accumuons-nous une ?dette cognitive??

La dette cognitive est une condition où ?la dépendance répétée à l'égard des systèmes externes comme le LLMS remplace les processus cognitifs effectifs requis pour une réflexion indépendante.? Comme la dette financière, vous obtenez une commodité immédiate comme prêt, mais vous le payez plus tard avec intérêt. L'intérêt, dans ce cas, est une diminution de la pensée critique, une mémoire plus faible et une créativité réduite.

Ainsi, même si les essais assistés par LLM étaient souvent plus longs et ont bien marqué par un juge de l'IA, les enseignants humains évaluant les essais n'étaient pas impressionnés. Ils ont décrit les textes générés par la LLM comme homogène, manquant de nuances personnelles et simplement ?sans ame?. C'est une indication claire que l'utilisation continue de les LLM sans beaucoup de réflexion ajoute une ?dette cognitive? sur notre cerveau, ce qui diminuerait finalement nos compétences de pensée et d'analyse.

Une autre étude intéressante: Comportement troublant de l'IA: lorsque les LLM avancées enfreignent les règles et résistent au contr?le

Alors, le chatppt nous rend-il plus stupides?

Eh bien, peut-être pas maintenant, mais au fil du temps, avec une utilisation incontr?lée: certainement ! Le pire est au moment où nous réalisons ce qui échange pour le confort de cet assistant de l'IA, nous ne pourrons peut-être pas faire un retour. Aussi effrayant que cela puisse para?tre, mais l'utilisation d'IA pourrait être une autre dépendance de type de drogue dont personne ne nous avertit encore.

Mais ce n'est pas un appel à abandonner l'IA. Des outils comme Chatgpt sont des alliés puissants. Mais cette recherche nous invite à être attentive. L'utilisation d'un LLM pour soutenir un processus de réflexion existant et autonome (comme le groupe Brain-to-LLM) peut être un puissant activateur cognitif. Mais l'utiliser pour remplacer la réflexion depuis le début peut nous empêcher de construire les voies neuronales fortes qui conduisent à un véritable apprentissage, à une mémoire profonde et à une créativité authentique.

Donc, la prochaine fois que vous vous tournerez vers votre assistant d'IA, posez-vous une question: sous-traitez-vous une tache ou sous-tu de la réflexion?

Votre cerveau vous remerciera de savoir la différence.

Trouvez un document de recherche complet ici.

Conclusion

Le monde qui nous entoure devient de plus en plus. De la vie personnelle à Professional, les chatbots propulsés par LLM nous aident à accomplir des taches en tant que vitesses et avec une précision invaincue. Mais avec une grande puissance, vient une grande responsabilité. La responsabilité de comprendre la différence entre le ma?tre et l'esclave repose sur nous. Tant que nous avons nos pensées qui alignent nos recherches, l'utilisation de LLMS aiderait à améliorer les sorties finales, mais si ses LLM qui prennent la réflexion, alors tout ce à quoi nous pouvons nous attendre, c'est une sortie sous-égale qui serait similaire à tous ceux qui utilisent les mêmes outils. Ainsi, tuant notre uniques entièrement et gravement limitant les possibilités.

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!