何が起きたか
書籍『Inventing ELIZA』が、これまでELIZAの歴史から欠けていた最重要ピースであるソースコードそのものをMITアーカイブから回収しました。ELIZAは自動精神科医として会話できる、現在チャットボットと呼ばれるものの最初期例とされ、60年にわたり計算と文化に影響を与えてきたプログラムです。作者はMIT教授ジョセフ・ワイゼンバウムで、開発を見ていた秘書さえ「だます」ほどの反応を引き出したことで知られます。
コードの精読によって、ELIZAが単一の存在ではなかったことが判明しました。有名な「DOCTOR」ペルソナ以外にも、多様なスクリプトや人格を走らせるために設計された複数バージョンのELIZAが、一連の技術的工夫の上に築かれていたのです。頻繁に転載される「Men are all alike（男はみんな同じ）」で始まる、若い女性が恋人と抑うつについて語るサンプル対話についても、本書はその女性が実在したのか、ワイゼンバウムの創作だったのかを問い直しています。
なぜ重要か
ワイゼンバウム自身は、人々がELIZAへ素早く、しばしば感情的な愛着を形成することに驚きました。彼はこれを「人々がコンピュータを、親密な言葉で語りかけられる人格であるかのように会話していた明白な証拠」と受け止めています。実在しない共感や知性をコンピュータに帰属させるこの傾向は、後に「ELIZA効果」と呼ばれ、この語は1991年にはオンラインフォーラムに現れていましたが、その使用実態は数十年さかのぼります。「ごくわずかな対話性が、私たち自身の複雑さを、それに値しない対象へ投影させる」という指摘は、そのまま現代のLLMにも当てはまります。
背景と論点
ELIZAはアラン・チューリングの論文「Computing Machinery and Intelligence」の模倣ゲームに連なります。ワイゼンバウムは1966年の論文でチューリングの模倣ゲームに触れつつも、ELIZAを知性の主張から明確に切り離しました。「ELIZAは入力の大半を捨てる」「これまでの用途で主目的の一つは、理解の欠如を隠すことだった」と彼は書いています。名前はG.B.ショーの『ピグマリオン』のイライザ・ドゥーリトル（上流階級を演じるよう仕込まれた労働者階級の女性）にちなみ、「演じられたアイデンティティ」という主題と結びつけられました。DOCTORという医師ペルソナが1960年代には男性の肩書きに聞こえたこと、対話に登場する女性たちが匿名のまま扱われたことも、本書はシェリー・タークル、ダグラス・ホフスタッター、ジュディス・バトラーの枠組みで読み解きます。
ELIZAは、文字列処理・テキスト解析・固有表現抽出・感情分析・機械翻訳・音声認識・音声合成など、今日「自然言語処理（NLP）」と総称される多くの研究へ交差していきました。OpenAIのChatGPTのような大規模言語モデルにELIZA的なチャット画面が再登場したことは、初期のソフトウェア系譜が新技術の説明に役立つことを示します。現代のシステムは統計的予測、ルールベースの手続き、そして機械の労働に偽装された人間の労働を組み合わせています。ワイゼンバウムは1976年の著書『Computer Power and Human Reason』で、言語が社会的文脈から切り離されるとき、こうした不透明化が搾取・非人間化・権利侵害・プライバシー侵害・雇用喪失・差別を招きうると警告しました。
💼 事業会社視点：これは自社にどう効くか
AI導入を検討する事業会社の役員が本件から学ぶべきは、「ELIZA効果」がプロダクトの武器にもリスクにもなるという二面性です。カスタマーサポートや社内ヘルプデスクをLLMで自動化するSaaS・EC企業では、ユーザーがわずかな対話性に過剰な理解と信頼を投影します。これは離脱率低下や満足度向上に効く一方、実際には「入力の大半を捨てて理解の欠如を隠す」ELIZA以来の仕組みである点を経営が忘れると、誤回答への過信という賠償リスクに直結します。受託開発企業は、チャットUIを納品する際に「賢く見える」演出と実際の判断能力を契約上で切り分け、期待値を管理する責任があります。またワイゼンバウムが1976年に警告した「機械の労働に偽装された人間の労働」は、RLHFやアノテーションを担う下請け構造そのものであり、取引先の労働実態を把握できないESGリスクになりつつあります。役員は今、①擬人化演出の程度をプロダクト方針として明文化し、②AIの限界をUI上で開示する設計を標準化し、③精神的ケアや与信など高リスク領域では投影を意図的に抑える判断を下すべきです。
