2025/6/20 article

MITの研究論文が示す、LLM依存の認知的リスクと対策

ChatGPTに頼りすぎていて、自分の思考力が落ちているのでは?と感じる時はありませんか?
MIT Media Labを中心とする研究チームによって行われた実験研究の論文
Your Brain on ChatGPT: Accumulation of Cognitive Debt when Using an AI Assistant for Essay Writing Task

https://arxiv.org/pdf/2506.08872

は、このような疑問に答えるべく、ChatGPTのようなLLMの使用が脳活動に与える影響を科学的に検証した内容の論文です。

この論文は、ChatGPTなどのLLMを使うと学習効率は良くなるが、脳の使い方や記憶力に悪影響が出る可能性があるのでは?という仮説をもとに、エッセイ執筆という複雑な認知タスクにおいて、LLM使用による脳活動・文章構造・記憶力・自己効力などを比較検証した内容となっています。
検証方法としては、被験者54人を以下の3グループに分けてエッセイを書かせる

1・LLMグループ:GPT-4oのみ使用可(Web検索禁止)
2・Searchエンジングループ:Google検索などの通常のWeb検索のみ使用可(LLM禁止)
3・Brain-onlyグループ:一切のツール使用不可、完全に自分の頭のみで執筆

各グループは3回のセッションでエッセイ執筆(異なるテーマ)を行い、4回目のセッションではグループを入れ替えた:
例:LLM→Brain、Brain→LLM
EEG(脳波計測)により脳活動を記録し、さらにNLP分析、教師・AIによる採点、インタビューも実施しています。

その結果
1・ 脳活動の変化(EEG)
・LLMを使うと脳の接続パターン(アルファ・ベータ波など)が明らかに弱まる。
・脳を使う範囲の広さが Brain-only > Search Engine > LLM の順で狭くなる
・LLM→Brainの再割り当てでも、脳の活動量は元には戻らなかった(つまり「脳の使い方が変化」したまま)。
・一方、Brain→LLMでは視覚処理領域の再活性化が見られた。

2・記憶と引用能力の低下
・自分の書いたエッセイからの引用再現率がLLM群で圧倒的に低い(1回目では0%)。
・SearchやBrain-onlyでは正確に引用できた割合が高く、記憶定着に差が出た。

3・文章の均質性と語彙の偏り
・LLMを使用した文章はトピックや語彙が画一的になりやすい。
・特定のn-gramやNamed Entity(例:有名人、都市名など)が繰り返し使われ、独創性が低下。
・ChatGPTのデフォルトの回答に非常に近い構成が見られた(コピペ傾向)。

4・学習効果の持続性とエッセイの所有感
・LLMグループは自分のエッセイだという感覚が低いと報告。
・Brain-onlyグループでは自己所有感が非常に高く、記憶再現力・構造の理解度も高かった。
・Searchグループは中間的立ち位置で、適度な情報探索が学習を支えていた。

といった検証結果が得られました。

以上の結果から、ChatGPTなどLLMを使用することで短期的には楽ができるが、思考や記憶のプロセスを外部化することになり、その結果として本来すべきだった思考努力を回避し、脳のネットワーク活性や記憶定着が弱くなる、という結論が導かれています。
長期的に見て、AIへの過度な依存は、思考のトレーニング機会を放棄する結果につながってしまうということです。

ここで前述で説明した4回目のセッションからの検証結果である、Brain→LLMでは視覚処理領域の再活性化が見られた、という検証結果が意味を持ちます。
LLMを使わずに書いてきたBrain-onlyグループが、初めてLLMを使ってエッセイを書き直したところ、脳内では、あらゆる周波数帯で脳接続性が劇的に上昇したそうです。
そこで、LLMを使用する際には
・まず自分で考える
・これまで培ってきた自らの知識や思考の枠組みと、LLMが提示する情報を比較・検討し、統合しようと試みる。

あくまで思考の主体は自分にあること、LLMをむしろ批判的なスタンスで使用すること、が重要となります。
このような能動的なプロセスが、脳を最大限に活性化させ、認知負債を避けることにつながるからです。

この研究結果は教育にも示唆を与えると考えられます。
若年層の学習の初期段階から安易に生成AIを導入することには慎重であるべきなのかもしれません。
子どもたちこそ、まずは自らの頭で考え、調べ、文章を構築する思考力を徹底的に鍛えることが必要。
その上で、AIをより深い思考のための相手としてLLMを活用する。
このBrain-to-LLMの順序を、教育者が理解し、教育現場へのAI導入を正しく進めることが求められそうです。

Chat Icon