AIとサイバー攻撃は「ポケモンバトル」になっている

セキュリティの世界で今起きていることを一言で表すなら、「AIが武器になった」ではなく「双方がAIで戦っている」という状態だ。

AI研究者の @ImAI_Eruel が投稿したスレッドが注目を集めている。現在のAI×サイバー攻撃の構図は「ポケモンバトル」に例えられるという。攻撃側はAIでフィッシングメールを自動生成し、マルウェアのコードを変異させ、防御の隙を探す。防御側はAIで異常を検知し、パターンを学習し、新しい攻撃に対応する。互いがAIを使って相手の一手を先読みする、まさにターン制のバトルが高速で繰り返されている状態だ。

この例えが「真面目に似ている」と語られるのには理由がある。ポケモンバトルは相性・進化・タイプという構造があり、どちらが「絶対的に強い」という状態は存在しない。AIセキュリティも同様で、ある攻撃手法に防御が対応すれば、攻撃側はすぐ別の手を繰り出す。イタチごっこは以前から存在したが、AIによってその速度が一段と上がった。

使う側として押さえておきたいのは、自分が日常的に触っているAIツールと、攻撃者が使うAIツールが、根本的には同じ技術基盤の上に立っているという点だ。

たとえば自然言語生成の能力は、マーケティングのコピーを書くためにも、ターゲットを絞ったフィッシングメールを量産するためにも使える。コード生成の能力は、プロダクト開発を加速させるためにも、マルウェアのプロトタイプを作るためにも使える。同じモデルが両方に応用されうるという事実は、「AIは良い使い方をすれば問題ない」という楽観論が通用しない根拠でもある。

AIとサイバー攻撃、切り離して考えるべき理由で触れたように、AIと安全保障の問題は「開発者の倫理」だけで片付く話ではなくなっている。使う側の一人として、自分が触るツールがどのような権限を持ち、どこにデータを送っているかを把握することが、今後ますます重要になる。

特に注意が必要なのは、AIエージェントのような「自律的に動く」ツールを使い始めた人たちだ。AIが代わりにメールを送ったり、ファイルを操作したりする権限を持つ場合、そのツール自体が攻撃の踏み台になるリスクも同時に存在する。

このポケモンバトルの例えで興味深いのは、「どちらが有利か」という問いにすぐ答えが出ないところだ。

一般論として、サイバー攻撃は「1点突破すれば成功」だが、防御は「全方位を守り続けなければ失敗」という非対称な構造を持つ。AIが登場する前からこの非対称性は存在していたが、攻撃側がAIで試行回数を爆発的に増やせるようになった今、防御側への負荷はさらに高まっている。

@ImAI_Eruel のスレッドでは、攻撃・防御それぞれがどのようにAIを活用しているかの具体例が展開されている。読み込む価値があるのは、「どちらが勝つか」という結論ではなく、現在の構造をどう読むかという視点だ。AIを使い倒したい人ほど、自分が使うツールの裏側でこのバトルが起きていることを理解してから動いた方がいい。