AI兵器化リスク、6〜12ヶ月以内に現実化か

Anthropicが社内リスク評価レポート「Project Glasswing」の中で、踏み込んだ表現を使った。要点は「6〜12ヶ月以内に、複数の企業が悪用対策を講じないまま高リスクモデルを公開する可能性がある」という予測だ。ここで言う「Mythosレベル」とは、Anthropicが内部で定義する高度な能力水準のモデルを指す。現時点では同社がそのレベルに達しているとされており、問題はそれが他社にも拡散していくスピードと、そのタイミングで安全基準がついてくるかどうかだ。要は「高性能AIの民主化」と「悪用リスクの拡散」が同じ時間軸で進んでいることを、Anthropic自身が認めた、ということ。これはモデルの開発者だけに関係する話ではなく、AIを使って仕事をしている人全員に影響する話だ。

注目したいのは、この発言の「主語」がAnthropicだという点だ。安全性を最重視する姿勢で知られ、先日IPO申請を発表したAnthropicが、自社のリスク評価レポートの中で「競合他社が悪用対策なしで高性能モデルを出してくる」と公言した。これは単なる懸念の表明ではなく、業界の競争力学に対する読みとして受け取る必要がある。

類似の動きとして、OpenAIがロボットとバイオ防衛に同時着手した流れも頭に置いておきたい。AIが特定のニッチ（生物兵器・サイバー攻撃補助・大規模情報操作など）に使われるリスクが、現実の競争スケジュールとして語られ始めている段階に入っている。

使う側として知っておくべき実務的な含意はこうだ。今後1年以内に、能力は高いが安全フィルターが薄いモデルが複数登場してくる可能性がある。それ自体は「使えるツールが増える」という側面もあるが、同時に「そのモデルを使った成果物や自動化フローが、意図せず問題のある出力を生む」リスクも上がる。使うツールを選ぶ基準として、「何ができるか」だけでなく「何を止めているか」を確認する習慣が必要になってくる局面だ。

また、このレポートはエンタープライズ展開を意識したAnthropicの姿勢表明という側面もある。@_daichikonnoが指摘するように、「あまり興奮しすぎないでください」という原文の注記があるように、過度な危機感の煽りではなく、むしろ業界の現実認識として冷静に読むのが適切だ。

Q. 「Mythosレベル」とは具体的に何ができるモデルのことを指す？ Anthropicの公式定義によると、ASL-3（AI Safety Level 3）に相当するモデルは「大量破壊兵器（CBRN）開発への重大な支援能力」や「高度なサイバー攻撃の自律実行能力」を持つ水準とされている。現在のClaude（ASL-2）はこのレベルには達していないとされており、Mythosはその先の評価段階に位置するとされる。ただし、Anthropicはこの定義を随時更新しており、原文レポートで最新の定義を確認するのが確実だ。

Q. 安全対策がないモデルが出回ると、使う側にどんな影響がある？ モデル自体が悪用される話だけでなく、間接的な影響がある。たとえば、フィルターの緩いモデルで生成されたフィッシングメール・偽情報・なりすましコンテンツが増加すると、受け取る側のリテラシーコストが上がる。また、そうしたモデルがAPIとして流通し始めると、知らないうちに自分のワークフローに組み込まれるリスクもある。使うツールやAPIの「裏側で何を使っているか」を把握する重要性が上がってくる局面だ。

Q. Anthropicが自らこのリスクを発表したのはなぜ？ @_daichikonnoの指摘にもあるように、このレポートはエンタープライズ向けの信頼性訴求という側面がある。「うちは安全基準を公開している」というポジショニングであり、業界標準の議論をリードしようとする動きと読める。IPO申請のタイミングとも重なっており、投資家・規制当局・大企業顧客への信頼構築という文脈でも機能している。