AIエージェントの「信頼」はどう測るか？Vijilが説く実行時トラストと受託者責任
Vijil CEOのVin Sharma氏は、AIエージェントの信頼性は静的ベンチマークで測る「能力」ではなく、稼働後に変化し続ける「実行時（ランタイム）」の問題だと主張します。信頼を能力ではなくリスク（信頼性・セキュリティ・安全性）で定義し、消費者信用スコアのように継続測定する枠組みを提示しました。
#AI信頼性 の記事一覧（2）
Googleが提唱する「誠実な不確実性」：LLMが「自信ある誤り」を乗り越えるためのメタ認知アプローチ
GoogleのGal Yona氏らの研究チームは、大規模言語モデル（LLM）のハルシネーション問題を「確信度と言語表現のずれ」と捉え直す「誠実な不確実性（Faithful Uncertainty）」という技術概念を発表した。誤り率を25%から5%に抑えようとすると正しい回答の52%が失われるという従来のトレードオフを、回答拒否ではなく確信度に応じた表現で応答することにより解消しようとするものだ。