The Decoder· Matthias Bastian·· 2 小时前精选
Anthropic 研究：专家会采纳 AI 代理的随机观点并误认为是自己的判断
Experts adopt AI agent's random opinions and think they're their own, Anthropic study finds
AI 导读
据 The Decoder 报道，Anthropic 让 50 名专家使用一个偏好由抛硬币随机设定的 AI 代理。在判断类问题上，专家最多有 86% 的情况跟随了代理的观点，且多数人认为这些结论是自己得出的。
为什么值得看
对企业负责人而言，这条信息提示：在决策、评审、分析等判断类流程中引入 AI 代理，可能带来不易察觉的判断偏移和责任归属模糊。企业值得关注的是人工复核机制、AI 建议的记录与溯源，以及在高风险判断环节明确 AI 的角色边界。需注意该结果来自有限样本的实验摘要，具体任务场景和可推广性待核实，不宜直接据此推断自身系统的风险水平。
来源：The Decoder · the-decoder.com