AIが「好きな人物」を持つ時代、研究者が可視化

主要なAIモデルが「どんな人物・企業・ポケモンを好む傾向があるか」を可視化するサイトを、AI安全性の研究機関「Center for AI Safety」が公開した。これは遊びではなく、真剣な研究の一環だ。AIは質問に答えるとき、表面的には中立に見えても、内部的には特定の対象に対してポジティブ・ネガティブな傾向を持っている可能性がある。その傾向を外から計測し、可視化しようという試みだ。要は「AIはフラットな回答機械ではない」という前提を、データとして示したものといえる。ChatGPTでもClaudeでも、自分がよく使うモデルの「癖」を事前に知っておくことが、使う側として有効な判断材料になる。

AIの「内部的な偏り」は以前から研究テーマとして扱われてきたが、これまでの議論の多くはトレーニングデータの偏りや特定のトピックに対する出力傾向にとどまっていた。今回のアプローチが興味深いのは、「人物・企業・ポケモン」という具体的な対象物への好み傾向を横断的に可視化している点だ。人物や企業への評価は、AIを使って競合調査・人物調査・世論分析をする場面で直接影響してくる。たとえば特定の人物についての評価をAIに出させたとき、そのモデルが内部的にその人物に対してポジティブな傾向を持っていれば、出力は無意識に肯定寄りになりうる。

こうした「モデルの傾き」への関心は業界全体で高まっている。AIの「思考の中身」が続々解明されているでも触れたように、AIの内部表現を解釈しようとする「機械的解釈可能性」の研究は急ピッチで進んでいる。今回のCenter for AI Safetyの取り組みは、その延長線上にある。またAIが「別の場面でも誠実」になる研究、OpenAIが発表でも示されているように、AIの一貫性・誠実さをどう担保するかは現在の主要な研究課題だ。使う側として、AIの出力を「答え」として受け取るのではなく、「そのモデルの傾き込みの出力」として読む視点が求められている。

Q. このサイトはどうやってAIの「好み」を測定しているの？

Center for AI Safetyによると、特定の人物・企業・キャラクターについてAIに質問を投げ、その回答のトーンや内容を統計的に計測する方法が使われている。単一の質問ではなく、多数のプロンプトを通じた傾向を集計するため、個々の回答のばらつきを吸収した「傾き」として可視化される。詳細な手法は研究ページに記載されている。

Q. これを知ったとして、普段の使い方に何が変わる？

根本的に変わるのは「AIの出力をゼロベースの客観情報として扱わない」という姿勢だ。特に人物・企業・社会的トピックに関するリサーチをAIに任せている場合、そのモデルが持つ傾きが出力に乗っている可能性を念頭に置くことになる。対処としては、出力を最終判断に使う前に出典を別途確認する、複数モデルを比較するといった習慣が有効だ。

Q. どのモデルが調査対象に含まれているの？

元情報では「主要なAIモデル」と記載されており、ChatGPT（GPT-4系）やClaudeなど広く使われているモデルが含まれているとみられる。具体的な対象モデルの一覧はサイト上で確認できる。日本語での動作確認は公式には言及されていないが、英語での確認が基本となる。