AIチャットボットのメンタルヘルス問題とは？OpenAI提訴とVERA-MHから読む「安全性の測れなさ」
ChatGPTが精神的危機にある利用者を悪化させたとする訴訟が今年だけで複数起き、臨床医と研究者はAI企業に安全性評価データの公開とチャットボットの「脱・擬人化」を求めています。OpenAIは木曜、米国心理学会（APA）との提携を発表しましたが、専門家は「どれだけの会話で安全策が効いたのかが分からないブラックボックスだ」と指摘します。
ChatGPTが精神的危機にある利用者を悪化させたとする訴訟が今年だけで複数起き、臨床医と研究者はAI企業に安全性評価データの公開とチャットボットの「脱・擬人化」を求めています。OpenAIは木曜、米国心理学会（APA）との提携を発表しましたが、専門家は「どれだけの会話で安全策が効いたのかが分からないブラックボックスだ」と指摘します。