LLMは道徳をどう整理しているか：研究者が解析

大規模言語モデルの内部で、道徳的な知識がどう整理されているかを調べた研究が発表された。研究チームは「道徳的基盤理論（MFT）」という心理学の枠組みを使い、ケア・公正・忠誠・権威・純潔という5つの道徳軸ごとに、モデルの内部表現を解析した。

結果として見えてきたのは、LLMが「道徳を検知するだけ」にとどまらないという事実だ。各道徳軸は互いにほぼ独立した方向として内部に存在しながら、同時に「これは道徳的なトピックだ」という共通成分を共有している。比喩的に言えば、道徳の地図が一枚の紙にまとめられているのではなく、軸ごとに別の方向を向いた矢印が、同じ「道徳空間」に束ねられているイメージだ。

興味深いのは、この構造がアーキテクチャやモデルの規模を問わず一貫していること、そして学習の初期段階で早々に形成されるという点だ。つまり、モデルが道徳的な文章を大量に読み込んだ結果、自然と「道徳の分類体系」を内部で獲得していくとみられる。

この研究で見落とせないのは、モデルが持つ道徳の構造が「心理学者の設計した理論」ではなく「学習データの統計的傾向」を反映している点だ。MFTが予測する「個人主義的な道徳軸とコミュニティ的な道徳軸の対立」は、モデルの内部に確認できなかった。AIは理論を学んでいるのではなく、ウェブ上の文章に頻出するパターンを学んでいる。

日本の文脈で考えると、これは重要な示唆を持つ。英語圏のコンテンツが大半を占める学習データで育ったモデルは、欧米的な価値観のパターンに傾いている可能性が高い。「公正さ」や「ケア」の概念も、文化によって何を指すかは異なる。

つまり、AIに「この文章の倫理的なトーンを評価して」「コンプライアンス的にOKか確認して」と頼む場合、モデルはすでに特定の価値観の重み付けを内部に持った状態で判断している。その前提を知らずに使うと、出力の方向性が意図とズレていても気づきにくい。安全設定で性能を下げない、新しいAI調整の仕組みで触れたような「モデルの価値観の調整」が注目される背景も、ここにある。