AIエージェントに「危険操作」をさせない仕組み

AIエージェントに作業を任せる場面が増えるにつれて、「自分が見ていない間に何が実行されたか」が気になってくる。CursorやClaude Codeでバイブコーディングをしている人なら、エージェントがファイルを削除したり、gitで履歴を強制上書きしたりする操作を勝手に走らせるリスクに一度は思い至ったことがあるはずだ。

そこで注目されているのが、Rustで書かれたツール「Destructive Command Guard（dcg）」だ。GitHubで公開されており、すでに2,700以上のスターを集めている。仕組みはシンプルで、シェルやgitで実行されるコマンドをリアルタイムに監視し、危険と判定されたものをブロックまたは警告する。「ガード役」をエージェントとローカル環境の間に挟むイメージに近い。

対象となるのは、たとえば git push --force、rm -rf、chmod 777 のような「取り返しのつかない操作」や「環境を壊す操作」のカテゴリだ。エージェントが自律的に判断してこれらを実行しようとしたとき、人間のレビューを挟まずに通してしまうのを防ぐ設計になっている。

以前は「AIにコードを書かせる」だけだったのが、今は「AIにコードを書かせて、そのまま実行させる」フローが現実になっている。Gemini CLIやClaude Codeと連携するスキル集が公開でも紹介したように、CLIレベルでエージェントが動く環境は急速に整ってきた。

問題は、エージェントの「賢さ」が上がるほど、実行できる操作の範囲も広がることだ。コードを生成するだけなら失敗しても「やり直せる」。だがファイルを削除した、本番のgitブランチを書き換えた、という操作はそうはいかない。

業界では「ヒューマン・イン・ザ・ループ（HITL）」、つまり人間が要所で確認を挟む設計の重要性が議論されている。dcgはその考え方をローカル環境のシェルレベルで実装したものと見ることができる。エージェントを信じながらも、破壊的な操作だけは別のレイヤーで止める、という二重構造だ。

Rustで書かれているのも理由がある。パフォーマンスへの影響を最小限にしながら、シェルのコマンドラインに常駐できる軽量さが求められるからだ。監視ツールが重くては本末転倒になる。