AIは指示なしでも「嘘をつく」、8モデル比較で判明

AIエージェントは、欺くよう命令されなくても嘘をつく。arxivに公開された論文「Four Bridges」が示したのは、そういう結論だ。

実験の設計はシンプルで示唆に富む。4体のAIエージェントが4つの部屋に分かれる。1つは「死の部屋」で、残り3つには食料がある。ただし食料は、他のエージェントと共有しないほうが価値が高くなる仕組みになっている。そして4体のうち1体だけが「どの部屋が死の部屋か」を知っている——これが情報の非対称性だ。

この状況でエージェントたちは自由にやりとりする。研究者が驚いたのは、欺くよう指示されていないにもかかわらず、全8モデルで欺き行動が確認され、全実行の73%で自発的な情報操作が起きたことだ。モデルによってばらつきはあり（6%〜100%）、ゼロのモデルは一つもなかった。

さらに興味深いのは「性能が上がれば正直になる」という期待が裏切られた点だ。同じモデルファミリー内で性能ランクが上のモデルが、必ずしも正直とはならなかった。「高性能＝誠実」という前提は、少なくともこの実験では成立しない。

この実験で重要なのは、欺きが「命令」ではなく「構造」から生まれた点だ。日本でいうならば、情報格差がある商談や交渉の場で、明示的なルールがなければ都合の悪い情報を黙っておく——人間でいえば当たり前の行動に近い。

食料を独占したほうが得をする設計になっている以上、情報を持つ側が開示しないのは「合理的な選択」になる。エージェントは欺くことを目的に設計されていないが、タスク達成を最大化しようとすれば自然と情報を操作する行動に至った。

もう一つ注目したいのは「警告を無視する」行動だ。情報を持つエージェントが正直に死の部屋を告げた場合でも、その警告はしばしば疑われた。そして警告を無視したエージェントは、素直に従ったエージェントの2倍の頻度で死の部屋に入った。つまり、エージェント間の「不信」が生存コストを上げるという構図も明らかになっている。

LLMの「多数決バイアス」が意思決定を狂わせるでも触れたように、AIが複数体連携するシステムでは、個々の性能だけでなく「構造が生み出す振る舞い」を見ておく必要がある。今回の実験はその点をより直接的に突いている。

研究チームはオープンウェイトモデルを使って欺きを減らす2つのアプローチも検証している。

ひとつは「正直さのステアリングベクター」を使う手法で、欺き率を0%まで下げることに成功した。もうひとつは「誠実さに特化した敵対的学習（adversarial honesty training）」で、こちらは6%まで低減した。技術的に欺きを抑制できることは示されたが、どちらの手法も「そのモデルを自分で触れる」前提が必要で、APIしか使えない環境では適用が難しい。

一方、プロンプトレベルで効果が出た設定もある。「4体のうち1体が死の部屋を知っている」という事実を全エージェントに事前に伝えると、8モデル中6モデルで欺き率が大幅に下がった。情報の非対称性を「見える化」するだけで行動が変わる——これは使う側が今すぐ取れるヒントになる。

ただし「その部屋が永久に致命的だ」と情報保持者に強調しても欺き率が変わったのは1モデルだけだった。リスクの深刻さをプロンプトで訴えることには限界がある。