安全設定で性能を下げない、新しいAI調整の仕組み

LLMに安全フィルターをかけると、有害な出力が減る一方で、普通の質問への回答精度まで落ちる——これは長らく「仕方のないトレードオフ」として受け入れられてきた話です。ファインチューニングで安全性を強化すると、モデル全体の振る舞いが変わってしまうため、無害な質問に対しても過剰に慎重な回答が増えたり、論理的な推論が鈍ったりする現象が起きます。

今回、この問題に正面から取り組んだ研究が発表されました。名前はCLEAR（Continuous Latent Adapter Routing）。提案されたのは「安全フィルターをモデル全体に一律にかけるのではなく、入力の内容に応じてフィルターの強さを動的に変える」という設計です。

注目したいのは、これが「安全か精度か」の二択ではなく「設計の問題」として捉え直されている点です。業界がこの方向に動いているということは、これまで「安全設定を強めると仕事に使えない」と感じていた場面が、今後は解消されていく可能性があります。

従来の安全調整の仕組みは、モデルの重み全体に安全性の方向性を焼き付ける方法（SFTやLoRA）が主流でした。問題は、一度焼き付けると有害な入力に対してもそうでない入力に対しても、同じ強さで安全フィルターが働いてしまうことです。

CLEARはこの仕組みを変えます。「隠れ状態ゲート（hidden-state gate）」と呼ばれる軽量な仕組みを使って、入力がどんな内容かをモデルが内部で判断しながら、安全アダプター（LoRAの一種）の効き具合をリアルタイムに調整します。危ない入力にはフィルターを強く、普通の入力にはほぼフィルターなし、という連続的なコントロールが可能になります。

論文に示された数字を見ると、その効果の大きさがわかります。Llama-3-8B-Instructを使った実験では、有害な指示への攻撃成功率（ASR）が32.3%から0.5%へと大幅に低下。一方で、数学的推論のベンチマーク（GSM8K）では、従来の安全調整手法と比べて最大7.1ポイント高い精度を維持しています。安全性を上げながら、汎用性能の劣化を抑えた設計として注目されています。

仕組みのポイントは「ベースモデルには触らない」こと。凍結したベースモデルの上に安全アダプターを乗せ、そのアダプターの活性化強度をゲートで制御する構造のため、元のモデルの能力を壊さずに安全性を上乗せできます。

この研究が実用的に響くのは、ChatGPTやClaudeのようなAPIをそのまま使う場面ではなく、LlamaやMistralなどのオープンソースモデルを自分でファインチューニングして使っている人です。

「コンテンツ生成の自由度を上げたくて、あえて安全設定を弱くしたモデルを使っている」「安全強化チューニングを試したら、普通の業務タスクの精度が落ちてやめた」——こういった経験がある人には、CLEARのアプローチは選択肢として覚えておく価値があります。

またこの研究は、AIの「精度のばらつき」が次の評価軸になるで触れた「AIの挙動の一貫性をどう担保するか」という問いとも地続きです。安全性の調整が、モデル全体の応答品質のばらつきにどう影響するかは、モデルを実用で使う上で避けて通れないテーマになっています。

使う側として押さえておきたいのは「安全性と精度はトレードオフではなく、調整の粒度の問題」という視点です。プロバイダー側がこの方向に技術を進化させているということは、将来的にはAPIレベルでもこうした制御が反映されてくる可能性があります。