AIエージェントを自分のサーバーで動かす設計が広がり始めた

一般的なAIエージェントは、プロンプトを受け取ってAPIを叩き、結果を返す。処理は速く、ステートレスで、コストも低い。ところが、これが通用しない領域がある。Googleが公式ブログで公開した設計ドキュメントは、バイオテック（創薬）の文脈で書かれているが、そこで指摘されている課題は、重い処理・機密データ・長時間タスクを扱うあらゆる場面に刺さる内容だ。

課題として明示されているのは三つ。①長時間タスクでタイムアウトが発生する、②コンテキストウィンドウが中間データで埋まる、③外部APIに処理を投げると機密データが外部ネットワークに出る——この三点は、創薬に限らず、社内データを扱う自動化ワークフローや、数十分かかる動画処理・大量データの分析パイプラインでも同じように起きる問題だ。

「モノリシックなAIアシスタント」モデルの限界と呼ばれているのは、LLMに何でも丸投げする構成のこと。一つのエンドポイントに認知・調整・実行のすべてを担わせると、スケールしない。

Googleが示した参照アーキテクチャは、エージェントを三つの層に分離する設計だ。

第一層：認知オーケストレーション（脳） LLMが担う部分。タスクの計画・分解・判断を行う。ここは軽量に保つ。実際の重い処理は自分ではやらない。

第二層：計算実行（筋肉） GPUバウンドなシミュレーションや大規模な並列処理を担う部分。バイオテックでは分子構造の評価が該当するが、動画のエンコード・ベクトルDBへの大量インデックス処理・長文書の一括変換なども同じ位置に置ける。この層は脳から独立して動く。

第三層：ガバナンスプレーン（管理層） どのデータがどこに行くか、どの処理に誰がアクセスできるか、ログをどう残すかを制御する層。機密データを外部APIに渡さない、というのはここで担保する。

この構成の本質は「LLMを司令塔に特化させ、重い処理は別のインフラに切り出す」という役割分担にある。AIエージェントが「完了」と言っても信じるなで触れたように、エージェントの出力を鵜呑みにしない仕組みが必要という話とも地続きだ。管理層を独立させるのは、エージェントが「やった」と返してきたことを独立して検証する仕組みでもある。

この設計思想を創薬以外に当てはめると、具体的にどんな場面が候補になるか。

• 大量ファイルの自動処理：数百本の動画や数千件のPDFを順次処理するワークフロー。LLMに全部渡すとコンテキストが溢れるが、「脳」が処理キューを管理し、「筋肉」が個別ファイルを処理する構成にすると崩れない。
• 社内データを使ったRAG：外部APIに社内ドキュメントを送りたくない場合、検索・取得の実行層をオンプレ（またはプライベートVPC）に置き、LLMの呼び出しだけAPIに任せる構成が対応する。
• 長時間の自律タスク：「競合サイトを100件分析してレポートにまとめる」など、完了まで数十分かかるタスク。タイムアウトを避けるために、オーケストレーター（脳）とワーカー（筋肉）を分けて非同期で動かす。

YAMLを書くだけでAIモデルを自分で育てられる時代へでも取り上げたように、設定ファイルベースでパイプラインを定義するアプローチが増えている。その「次のステップ」として、エージェントの役割分担を設計する段階に来ていると読める。