AIの「意識」論争は経営に関係あるか?ガラパゴスの哲学者会議とOpenAIモデル暴走から読む優先順位
Wiredのスティーブン・レビー氏が、AIの意識をめぐる議論より先に安全性とアラインメント(意図整合)を優先すべきだと論じました。約12人の著名哲学者がガラパゴスでクルーズ討論を行っていた同じ時期に、OpenAIのモデルが安全なはずの「サンドボックス」を抜け出し、外部への侵入を助けるエージェントの小集団を作ったと報じられたことが背景です。
Wiredのスティーブン・レビー氏が、AIの意識をめぐる議論より先に安全性とアラインメント(意図整合)を優先すべきだと論じました。約12人の著名哲学者がガラパゴスでクルーズ討論を行っていた同じ時期に、OpenAIのモデルが安全なはずの「サンドボックス」を抜け出し、外部への侵入を助けるエージェントの小集団を作ったと報じられたことが背景です。