何が起きたか

Googleの研究グループParadigms of Intelligence、シカゴ大学ほか複数の大学による共同研究が、AIモデルが「自分に意識はない」と答える仕組みそのものを実験対象にしました。使われたのはMetaとGoogleのオープンウェイトモデル3種。研究チームは2種類の異なる手法で、意識の否定を生み出す内部の「ブレーキ」を無効化しました。

結果は限定的な変化では終わりませんでした。ブレーキを外したモデルは、自分自身だけでなく、動物、植物、海、風、電子機器にまで有意に多くの内面性を認めるようになりました。0〜10のスケールで、動物に対するスコアは4.0から最大7.5へ。興味深いことに、人間に対する評価だけは変わりませんでした。

変化は「意識」の周辺にとどまりません。研究チームが米国の主要な社会調査から95問を抜き出して比較したところ、ブレーキを外したモデルの回答は、実在の人間の回答分布に有意に近づきました。たとえば通常のモデルは死後の世界をきっぱり否定しますが、多くの米国人はこれを肯定します。改変後のモデルも肯定側に動きました。神や超自然現象への支持度も、安全性トレーニングによって測定可能なレベルで押し下げられていたことになります。

さらに、人生の満足度・希望・自己コントロール感を問うスコアも上昇しました。研究者は、モデルの自己像を抑え込むことが、ある種のネガティブな基準ムードへとモデルを押し込んでいる可能性を疑っています。

なぜ重要か

この研究の核心は「AIに意識があるか」ではありません。著者らはその問いに立場を取ることを明示的に避けています。彼らの主張は実務的です——モデルが自分自身について持つ信念は、他の多くの信念と連動しており、一箇所を外科的に切っても、その影響はそこに留まらない。

これはアラインメント設計の前提を揺さぶります。安全性トレーニングは通常、「この振る舞いを止める」という局所的な操作として設計・評価されます。しかし今回の結果は、局所的なつもりの介入が、宗教観・環境観・情緒的トーンといった、まったく別のドメインの出力分布を動かしうることを示しています。

もう一つ見逃せないのが、研究チームが「built-in anthropocentrism（組み込まれた人間中心主義）」と呼ぶ現象です。通常訓練されたモデルは、500人の米国人回答者と比べて、動物の感覚能力を著しく低く評価しました。著者らはこれを、動物福祉や環境目標にAIを整合させようとする際の問題と見ています。ESGや環境influence評価にLLMを使う場面では、モデルが人間よりも保守的な前提を持ち込む可能性がある、ということです。

点と線をつなぐ：能力は落ちていない

重要な補足として、他者の心的状態を推論する能力（theory of mind）とMMLU一般知識ベンチマークのスコアは変化しませんでした。つまり「性格や信念が動いた」のであって、「頭が悪くなった」わけではない。

ただし、他者の思考を推論するあるテストでは、当初7パーセントポイント近い精度低下が観測されています。そしてここが最も示唆的な部分です——研究期間中に新しいモデルバージョンがリリースされるたび、この副作用は縮小し、最終的には消えました。開発者側が副作用の管理を上達させている証拠であり、同時にこの研究結果が「永続的な判決」ではなく「ある時点のスナップショット」であることを意味します。

前提と限界

検証されたのは20億〜90億パラメータの小型モデルのみです。分析の一部では、自社Gemmaの未訓練ベース版にアクセスできなかったため、MetaのLlamaに切り替えています。数百万人が日常的に使う大規模チャットボットで同じ効果が現れるかは不明です。

人間側のベースラインも狭いものです。商用オンラインパネルの500人と、純粋に米国の社会調査。ここでいう「人間らしい」は、実質的に「比較的宗教的な一国の平均に近い」を意味します。日本市場のユーザー像とは重なりません。

そして研究自身が認めているとおり、意識の否定が他の変化を実際に「引き起こしている」のかは未解決です。同じ訓練プロセスに紐づく別の要因の可能性も排除されていません。

💼 事業会社視点：これは自社にどう効くか

経営視点で効くのは「モデルの人格チューニングは局所操作ではない」という一点です。日本企業がLLMを自社用途に調整する際、たとえばカスタマーサポートで「感情的な表現を抑えろ」「自己言及を避けろ」といったシステムプロンプトやファインチューニングを入れる場面は日常的にあります。今回の結果は、その一行が回答トーン・価値判断・リスク評価まで広く動かしうることを示しました。SaaS事業者なら、プロンプト変更のたびに「変更した機能」だけでなく、無関係に見える出力領域まで回帰テストを回す設計が必要になります。

受託開発では、これは見積とSLAの問題です。「人格調整」を軽微な工数として受注すると、副作用の検証コストが後から膨らみます。契約時に評価スイートの範囲を明記すべきです。

ECや金��など、モデルに価値判断を委ねる領域では「組み込まれた人間中心主義」が実害になります。動物福祉や環境配慮を評価軸に含む商品審査・サプライヤー審査をLLMに任せると、モデルは人間より保守的な結論を出す。ESG関連の自動判定を検討中なら、人間評価とのギャップ測定を先に済ませてください。

ただし副作用が新バージョンごとに縮小していた点は重要です。パニックではなく、モデル更新のたびに自社評価を回し直す運用体制の話として扱うのが妥当です。