AIに「意識がある」か、実験で証明できるか？

AIの出力が同じでも、内部の仕組みが異なる——これは直感的にはわかっていても、「では何がどう違うのか」を数値で示すのは難しい課題だった。今回の研究が面白いのは、その違いを「統合情報量（φ、ファイ）」という指標を使って定量的に検証した点にある。

統合情報量とは、意識研究の分野で提唱されている指標で、システム全体が「どれだけひとまとまりとして情報を処理しているか」を表す。値が高いほど、パーツに分解できない一体的な処理をしているとみなされる——意識の代理指標として使われることもある概念だ。

研究では4〜5ユニットの小規模なネットワークを使い、入出力が完全に一致する「再帰型」と「フィードフォワード型」の2種類を比較した。結果、前者は0.28ビット、後者は0ビットという差が生じた。外から見た振る舞いは同一なのに、内部の因果構造によって意識の指標値がゼロかどうか変わる。これが今回の核心的な発見だ。

研究がより重要な問いを投げかけているのは、「実験でどこまで確かめられるか」という点だ。

AIの安全性評価や監査の現場では、モデルに入力を与えて出力を観察するブラックボックステストが基本になる。しかし本研究の分析によると、観測できないユニットが1つでも存在するだけで、統合情報量の推定精度には原理的な「下限誤差」が生じる。サンプル数を増やしても、その誤差は縮まらない。

具体的には、観測から漏れたユニットによって0.30〜1.02ビットの精度保証の崩れが生じることが確認されている。また、特定の対称構造を持つネットワークでは、どれだけ長く記録を取っても複数の隠れユニットを識別できないケースがあった——1回の「介入（特定のユニットを操作する実験）」で初めてそれが解消されたという。

これは意識研究の話にとどまらない。AIがAIの思考回路を「逆読み」できるようになったという文脈でも触れた通り、AIの内部を解釈しようとする試みは今まさに活発化している。しかしその解釈が「有限の実験データ」に基づく以上、どこかに原理的な見えない壁があるという指摘は、今後の議論で繰り返し参照されることになりそうだ。

この研究が実用的な文脈で意味を持つのは、AIの評価・監査設計に関わる人にとってだ。

たとえば「このモデルは安全か」「このエージェントは意図通りに動いているか」を確かめるとき、私たちは基本的にテストケースへの応答、つまり行動を見て判断する。しかし本研究の示すところは、「行動が同じでも、中身（因果的なメカニズム）は異なる可能性がある」という事実だ。

AIは指示なしでも「嘘をつく」、8モデル比較で判明という研究でも示されていたように、モデルが表面的に正しい答えを返していても、内部で何が起きているかは別問題であることが増えている。「アウトプットが正しければOK」という評価観が、どこかで揺らぎ始めている局面だ。

使う側として知っておくべきは、ベンチマークスコアや出力品質だけでAIを評価する手法には構造的な限界があるということ。特に自律的に動くエージェントや、意思決定に直接関わるAIを使う場面では、「何を観察していないか」を意識する視点が重要になる。