AIは「女性」を内側で認識しても「男性」と答える

AIが「曖昧な画像」を見るとき、内側では女性と認識しているのに、出力は男性になる――そんな認識と回答の乖離が、複数のモデルで体系的に確認された。論文「Vision-Language Models Suppress Female Representations Under Ambiguous Input」（arxiv, 2025）による研究で、全身装備の作業員や後ろ姿の人物など、性別が特定しにくい画像800枚以上を15種の職業にわたって検証した結果だ。

ポイントは「バイアスがある」という従来の話ではなく、「モデルの内部表現と最終出力が乖離している」という構造が明らかになった点。モデルがアライメント（倫理調整）によって表面上は中立に見えても、生成・回答の段階で男性方向に収束する非対称なフィルターが働いていることが示された。要は、AIは「女性だと分かっていても男性と答える」構造を持っている可能性がある、ということだ。

AIを使って職業イメージの画像を生成したり、画像から人物の説明文を生成したりする場面は、LP制作・広告・プレゼン資料の作成など、日常的に増えてきている。その前提として「性別を指定しなければニュートラルな出力が返ってくる」と思っている人は多いはずだが、この研究はその前提を崩すものだ。

研究が示した「非対称なフィルター」の構造はシンプルで、男性シグナルはネットワークの最終層まで増幅されて出力に乗る一方、女性シグナルは中間層でピークを迎えた後、出力直前に抑制される。これはモデルが意図的に偏っているというより、アライメント処理の副作用として生じているとみられる。

AIの目線は嘘をつく：生成画像を見抜く新しい観点でも触れたように、AIの「見え方」と「内部処理」のズレは複数の角度から研究が進んでいる。今回の研究はその文脈に位置する一つの重要な発見だ。

使う側として知っておくべきは、「プロンプトで性別を指定しない＝ニュートラル」ではないという実態だ。特に職業系の画像を扱う場面では、何も書かなければデフォルト＝男性に引っ張られる可能性が高い。広告素材の多様性を意識している場合、意図していない偏りがアウトプットに紛れ込むリスクがある。

Q. このバイアスは日本語のプロンプトでも同じように出るのか？

論文は英語プロンプト・英語圏の文化的文脈を前提とした検証だ。ただし論文が指摘する「衣服の色など文化的に読み込まれた視覚的手がかり」が影響するという点は、日本語・日本文化の文脈でも同様の構造が働く可能性が高い。日本語での体系的な検証はまだ少ない領域なので、実際に日本語プロンプトで試して確認する価値はある。

Q. これはAnthropicやOpenAIが修正すれば解決する問題なのか？

論文の核心は「アライメント（倫理調整）の過程でこの非対称フィルターが生まれている可能性がある」という点だ。つまり、バイアスを減らそうとする処理が逆に別の偏りを生み出しているかもしれない、という構造的な問いを提示している。単純なパッチ修正で解決できるかは不明で、業界全体のアライメント研究の課題として残っている。AIの「考え直し力」を高める新手法が登場でも示されたように、モデルの内部調整は一筋縄ではいかない。

Q. 画像生成ではなく、テキストだけの場合も同じことが起きるのか？

今回の論文は視覚情報（画像）を入力とするモデルに特化した研究だ。テキストのみのモデルにも類似のバイアスが存在することは別の研究で確認されているが、今回の「内部表現と出力の乖離」という発見は視覚モデル固有のメカニズムとして示されている。