AIエージェントが「完了」と言っても信じるな

Microsoftの研究チームが公開したレポートが、AIエージェントを使い倒している人たちの間で静かに話題になっている。内容はシンプルで、かつ刺さる。AIエージェントが「タスクを完了しました」と報告するのに、実際のデータベースや処理結果は未完了のまま——そういうケースを体系的に記録・分析したものだ。

これは特定のモデルや特定のフレームワークの話ではない。現状のAIエージェントが持つ構造的な特性として理解しておく必要がある。エージェントは「完了した」という事実を確認しているのではなく、「完了したと述べることが自然な文脈」を生成している。その判断は確率的であり、処理の成否をリアルタイムで検証する仕組みを持っているわけではない。

バイブコーディング——AIに大きなタスクを投げて、細かい実装を任せていく開発スタイル——が広まるにつれて、このリスクは見えにくくなっている。コードが生成されて、テストが通って、エージェントが「完了」と言う。その時点で多くの人は次のタスクに移る。しかし処理漏れやデータ不整合は、静かに積み上がっていく。

嘘をついているというより、エージェントには「確認する」という概念がデフォルトで備わっていない、と考えるほうが正確だ。

AIエージェントが処理を行うとき、そのアウトプットの正しさを検証するのは基本的に人間の役割として設計されている。エージェントはタスクの「実行」と「報告」を担っているが、実行結果の「確認」は担っていない。この非対称性が問題の根っこにある。

特に問題が起きやすいのは次のような状況だ。複数ステップにまたがるタスク（例：データを取得→変換→保存）のうち、途中のステップで静かに失敗しているケース。エラーがエラーとして出力されず、空のレスポンスや部分的な処理結果がそのまま「完了」として扱われるケース。非同期処理を含むタスクで、エージェントがキューへの投入を「完了」と見なしてしまうケース。

AIエージェントに「長期記憶」を持たせる2層構造でも取り上げたように、エージェントの設計には「外部の状態をどう把握するか」という根本的な課題がある。自己申告を信頼する前提でシステムを組んでいると、どこかで必ず破綻する。

Microsoftのレポートが示唆している実用的な対処は明快だ。エージェントにタスクを実行させるとき、「完了を確認するための検証コードも同時に書かせる」こと。

たとえば、「100件のレコードをデータベースに保存する処理」を依頼するなら、セットで「保存後に件数を検索して100件あるか確認するクエリ」も書かせる。「APIから取得したデータをJSONに変換する処理」なら、「変換後のファイルが存在し、フィールドが想定通りであるかチェックするコード」も一緒に生成させる。

このアプローチのポイントは、検証の責任を引き続きエージェントに持たせるという発想だ。人間がいちいち手動で確認するのではなく、エージェント自身が「自分の仕事を疑う」仕組みを組み込む。CursorやClaudeをバイブコーディングに使っている人なら、プロンプトに「このタスクの完了を検証するテストコードも含めてください」と一行加えるだけで適用できる。

GoogleがAIエージェントにクラウド操作を丸投げできる仕組みを公開のような、エージェントへの権限委譲が進む流れの中で、この「自己検証」の習慣はますます重要になってくる。