ヤギを「ビット」にした論理回路
de Wynter氏が組み上げたのは、草の上のヤギを0、橋の上のヤギを1とみなす論理回路です。シナリオエディタのスクリプト機能で論理ゲートを構成し、氷の坂と待機するヤギで計算順序が乱れないように制御。最終的に2つのXNORゲートと1つのANDゲートから成る小さなネットワークが、論理積（AND）を学習しました。
建物はメモリセル、稼働中の農場は現在の計算状態を表します。さらに付録では、上限9,999に張り付くゲーム内市場の交易サイクルを使えば、理論的にはどんなコンピュータも複製可能だと示しています。コードは公開済みです。
「LLMは特別ではない」という挑発
de Wynter氏の本題はゲーム内自作PCではなく、AI研究における擬人化への警鐘です。同じ計算は「レゴブロックで組み立てる」「グレーターボストンの住民667,000人が計算ステップを互いにテキストで送り合う」形でも実現できる。では、ボストンという都市が共感や恐怖を感じると主張する人がいるでしょうか――というのが彼の問いです。
チャットボットが「人間らしく」感じられるのは、低レイテンシ・滑らかな言語・見慣れたチャット画面という「パッケージ」のせいだとde Wynter氏は指摘します。LLMは、たまたま人間が話しかけたくなる形に見える数学に過ぎないという立場です。
315本の論文に見える「循環論法」
氏は2024年中頃から2026年中頃にかけてのAI論文315本をSemantic ScholarとarXivから収集し、GPT-5.2で分類。57%が前提段階でLLMに人間的特性を仮定し、36%が同様の結論に達していました。人間的特性を研究対象に据えた47本に絞ると、77%が擬人化に肯定的な結論を出しています。特に言語学と心理学でこの傾向が強い。「特性を仮定して、それを証明する実験を組む」のは循環論法だ、というのが氏の批判です。
Anthropicが「I believe」「I am interested in」といった表現を使うようClaudeを訓練したと公言している点にも触れ、感情的依存・追従・妄想の強化・危険行動といったリスクを列挙。チャットボットとの対話が自殺と結びついた事例があることにも言及しています。
「観察できることだけを語れ」
提案は冷徹です。「条件Xの下でモデルは出力Yを生成する」という観察可能な記述にとどめ、モデルが自己を理解していると主張しない。19世紀の動物行動研究で用いられた「モーガンの公準（より単純な説明で済むなら高次認知を持ち出すな）」のLLM版を提唱しています。
2022年にGoogleエンジニアのBlake Lemoine氏がLaMDAは意識を持ったと公言し解雇された件、2026年5月にRichard Dawkins氏が「3日間かけてClaudeに意識が無いと自分を納得させようとしたが無理だった」と発言した件と並べると、本論文の問題提起の重みが見えてきます。
出典: The Decoder
💼 事業会社視点：これは自社にどう効くか
事業会社の経営者・事業責任者にとって、この論文は「AI導入の意思決定を、ベンダーの擬人化マーケティングから切り離せ」という実務的な警告として読むべきです。
まずSaaSや受託開発でLLMを組み込む際、「AIが理解している」「共感する」といったベンダー説明をそのまま提案書や経営会議で使うのは危険です。de Wynter氏が示した通り、研究論文の57%でさえ前提に擬人化が紛れ込んでいる。投資判断は「条件Xで出力Yが返る」という観察可能な指標――精度・レイテンシ・誤答率――で組み立て直すべきです。
EC・カスタマーサポートで自社チャットボットを運用する企業には、より直接的な示唆があります。ユーザーの感情的依存・追従的応答による誤誘導はブランドリスクであり、訴訟リスクです。Anthropicが「I believe」を意図的に学習させたという事実は、トーン設計が経営マターであることを示しています。「親しみやすさ」を上げるほど依存も上がる――このトレードオフを誰が決裁するのか、社内で明確化する時期に来ています。
人事・採用領域でLLMを使う企業は特に注意が必要です。「AIが候補者を理解する」という建付けは、循環論法のリスクをそのまま採用判断に持ち込むことになります。
