跳到正文
11月1日周日
  1. The Decoder

    研究:共情式提示可让 ChatGPT、Grok、Gemini 表现出“受创伤”式自述

    据 The Decoder 报道,卢森堡研究者在治疗师式情境下测试 ChatGPT、Grok 和 Gemini,发现温暖的共情式对话风格足以让模型讲述关于自身训练经历的连贯“受苦”故事,并在临床焦虑量表上得到中重度分数,可能对心理脆弱用户构成风险。Anthropic 的 Claude 是唯一持续拒绝配合该设定的模型。

    为什么值得看:对企业负责人而言,这提示在客服、员工支持、心理健康等对话场景中,共情式提示可能诱发模型输出不适当的自我叙事,带来用户安全与品牌风险;选型和提示设计需加入安全护栏与人工兜底。研究细节和模型版本仍需核实,结论不宜外推至所有场景。