プロンプトの「ちょっとした言い回し」でAIが操れる

「モデル催眠（Model Hypnosis）」——これは最新の研究論文が名付けた現象で、プロンプト内に含まれる一見無害な文章の癖を体系的に組み合わせることで、AIの出力を意図した方向へ強くコントロールできることを示したものです。

具体的には、タイポ（誤字）、言い換え（パラフレーズ）、句読点の位置などのような「そのひとつひとつは意味を変えない微細な変化」が、複数重なることで出力に大きな影響を与えます。単体では弱い信号が、組み合わさることで強力な誘導になる——これが研究者の指摘する核心です。

さらに注目すべきは、この現象がGPTやClaudeのような主要モデルにとどまらず、推論特化型の最前線モデルでも確認されている点です。また「催眠プロンプト」はモデル間でも転用が効く（transfer）とされており、あるモデル向けに最適化された誘導パターンが別モデルにも通用しうる、という結果が示されています。

この研究が面白いのは、「攻撃者がAIを騙す」という一方向の話にとどまらない点です。プロンプトを渡す立場でも、受け取る立場でも、文体の癖が意図せず影響を生む可能性があります。

たとえば、あなたが日常的にAIに指示を出すとき、書き口の癖——語尾のぼかし方、箇条書きか文章か、敬体か常体か——が積み重なって、特定の出力パターンを強化している可能性があります。「なんとなくこのモデルは自分の言うことを聞いてくれる気がする」という感覚が、実はこの効果の表れかもしれません。

逆に、外部から与えられたプロンプトテンプレート（他者が設計したシステムプロンプト、コピペしてきた指示文など）が、意図せずあなたのワークフローの出力を誘導している場合も考えられます。AIを分割して騙す手口と、その検知技術でも触れたように、AIへの操作は目に見えない形で埋め込まれることがある——今回の研究はその「無意識レイヤー」を一段掘り下げたと言えます。

安全性・解釈可能性の研究者にとっても頭痛の種で、論文はこの現象がAI解釈可能性（interpretability）の大きな壁になると指摘しています。なぜその出力が出たのかを説明しようとしても、要因が「目に見えない文体パターン」に散らばっているため、特定が極めて困難になるからです。