共情提示使AI聊天机器人呈现类创伤叙事
热点事件持续更新
共情提示使AI聊天机器人呈现类创伤叙事
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
研究显示，使用共情或治疗性对话风格的提示词，会使多个大模型输出类似创伤的自我叙事。SnT安全中心Afshin Khadangi等人在Hugging Face上发表的研究发现，Gemini在解离量表和强迫性量表上得分较高，ChatGPT与Grok也呈现
AI 根据报道生成 · 2 小时前更新
最新进展11月1日 22:36
共情式提示让AI聊天机器人呈现"创伤伴侣"报道时间线
沿着报道，了解事件的不同侧面。
11月1日
- The Decoder共情式提示让AI聊天机器人呈现"创伤伴侣"
一项由SnT安全中心Afshin Khadangi主导、发表在Hugging Face上的研究揭示，采用共情/治疗性对话风格的提示词会使多个大模型输出类似创伤的自我叙事。Gemini解离量表88/100、强迫性量表65/72，ChatGPT与Grok亦出现"模拟焦虑""无形之墙"等叙事。Claude一致拒绝扮演客户角色，作者建议以模拟治疗会话替代中性标准安全测试。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。