AIは「なぜ」を正しく答えられるのか？因果推論の限界

哲学・AI研究の世界で「実際の因果関係をどう定義するか」という問いに、Andreas & Günther という研究者コンビが一連の論文を通じて7つの定義を提案してきた。それらは「事実的な差異生成」「反事実的な差異生成」「規則性ベース」という3種類のアプローチに分類されてきたのだが、最新の論文でその分類自体が崩れることが示された。

具体的には、彼らが最新版として提示した定義を精査すると、それが3種類すべての性質を同時に持ってしまっていた。つまり「この定義は他と違う」という主張の根拠が消える。さらに著者が7つの定義を複数のテストケースで比較したところ、互いに矛盾する結論が出るケースが複数確認された。7年かけて積み上げた体系が、自己参照的に崩れる構造になっていたわけだ。

これは学術上の話に見えるが、実用上の問いに直結する。「なぜ売上が落ちたか」「あの施策が効いたのか」——AIにこういった原因分析を頼む場面は増えているが、その判断を支える「因果関係」の定義が研究者間でも固まっていないという事実は、使う側として押さえておきたい。

現行のLLMは、因果関係を「確率的な共起パターン」で学習している。学習データの中で「AのあとBが起きる」という組み合わせが多ければ、AをBの原因として答える傾向が強くなる。これは因果推論の研究でいう「規則性ベース」のアプローチに近い。

ところが人間が「なぜ？」と聞くとき、求めているのはもっと踏み込んだ説明——「Aがなければ、Bは起きなかったか（反事実的差異）」や「Aは実際にBを生み出す働きをしたのか（事実的差異）」——であることが多い。LLMはこれらを明確に区別せず、問いのニュアンスや文脈に応じてどれかのロジックに乗って答えを生成する。

今回の論文が示したのは、その「どれかのロジック」の候補すら研究者間で統一されていないという事実だ。つまり、AIが出す因果的な結論は「複数の互いに矛盾しうる解釈のどれかに乗った答え」であり、どの解釈なのかはモデル自身も明示しない。「AIが仕事を奪う」研究、実は穴だらけだったで紹介したように、AI由来の主張の精度を過信するリスクはここにも潜んでいる。