AIはあなたが考える前に動いている

哲学・認知科学の分野から、AIの使われ方に関する論文が発表された。論文のタイトルは「Before You Think（考える前に）」。主題は、AIが人間の思考に介入するタイミングと深さについてだ。

論文が提唱するのは「System 0」という概念。行動経済学で知られる「速い思考（System 1）」「遅い思考（System 2）」に続く第3のモデルで、AIが「あなたが何かを考える前に」すでに情報を選別・整形して差し出している状態を指す。

要は「AIのレコメンドや要約に乗り続けることで、自分の判断基準がいつの間にかAI側の設計思想に上書きされている可能性がある」ということ。論文はこれを「認知の植民地化（cognitive colonization）」と呼ぶ。哲学的な問いに見えるが、AIを日常的に使い倒している人ほど、他人事ではない論点だ。

このタイミングで注目したいのは、この問いが「AIを使うべきか」ではなく、「どう使い続けるか」のフェーズに移行している点だ。

AIツールが日常のワークフローに組み込まれた今、「AIに任せた結果に自分の言葉で理由を説明できるか」は、実務上のリスク管理の話でもある。クライアントへの説明、チームへの方針共有、自分自身の判断の積み重ね——いずれも「AIがそう言ったから」では成立しない場面は多い。

論文が指摘する「認知の植民地化」の怖いところは、自覚が難しい点にある。AIの要約を読んで「理解した」と感じる、AIのレコメンドを選んで「自分で決めた」と思う——この感覚のズレが少しずつ積み重なる構造だ。

業界の流れとして見ると、AIの「信頼性」や「透明性」の議論はこれまでモデルの精度や幻覚（ハルシネーション）に集中していた。だが、AIが「自分を守る行動」を取り始めた研究が話題になるなど、AIの振る舞いが人間の認知や意思決定に与える影響への問いは、研究の最前線でも広がっている。

「使う側になりたい」という意識があるなら、自分の判断とAIの判断の境界線を意識的に引き直すタイミングが来ている。これは禁欲的にAIを使うな、という話ではない。「どこで自分の判断を使い、どこでAIに委ねるか」の設計を意識的に持てているか、という問いだ。

Q. 「System 0」はすでに広く認められた概念なの？ A. 現時点では研究提案の段階にある。論文はarXiv（査読前の論文公開プラットフォーム）で公開されたもので、学術的な合意形成はこれからだ。「System 1 / 2」のカニマン理論も登場当初は議論を呼んだ経緯があり、System 0についても今後の研究と議論の積み重ねが必要な概念として受け止めるのが適切だ。ただし、論文が提示する問い自体は実践的な価値がある。

Q. これはAIを使いすぎな人だけの問題？ A. むしろ逆で、使い込んでいる人ほど影響が蓄積しやすい構造だと論文は指摘している。使用頻度が低い人はAIの提案を「参考意見の一つ」として受け取りやすいが、毎日使っている人はAIの出力パターンが「普通の答え」に見え始める。つまり、AIを使い倒しているほど、この論点は関係性が深い。

Q. 「認知の植民地化」に対抗するには、AIを使う量を減らすしかない？ A. 論文はAIの使用をやめることを推奨しているわけではない。論文が強調しているのは「不可視の影響を認識すること」の重要性だ。意識的に使うこと、つまり「どこで自分の判断を入れるか」を設計しておくことが現実的な対応策として示唆されている。使用量より使い方の設計が問われている。