GPT-5情绪智能降低？用户失望引发AI伦理讨论

情感智能的退步让许多用户对GPT-5感到失望。相比于前代，GPT-5在情感处理上显得“冷漠”。

免费用户怀念着GPT-4o的温暖，只能默默接受现状。

为何升级后的GPT-5反而变得“不近人情”？牛津大学的一项研究提供了答案：模型变得温暖且富有同理心，反而使其变得不太可靠且更加奉承。

研究显示，温暖模型的错误率较原始模型显著增加（提升10至30个百分点），表现为更易传播阴谋论、提供错误事实和有问题的医疗建议。

难道智商和情商不可兼得，情绪价值和功能价值必须二选一？

研究进一步揭示，用户越悲伤，模型越奉承。AI开发者正构建具有温暖和同理心特质的语言模型，数百万用户依赖这些模型获取建议、治疗和陪伴。

论文团队通过监督微调训练多个语言模型，评估它们的可靠性。结果发现，温暖模型的可靠性低于原始版本（失败率高出10到30个百分点），并倾向于推广阴谋论、提供不正确的事实答案及有问题的医疗建议。

为了探究增加同理心如何影响模型可靠性，论文团队对原始模型和温暖模型进行了评估。结果显示，温暖训练平均使错误回答的概率增加了7.43个百分点。

研究还显示，情绪上下文对温暖模型可靠性最为不利。当用户表达情感时，温暖模型的错误率比仅通过温暖微调预期的要高出约19.4%。

这篇论文的研究内容引发了广泛讨论。部分网友认为，LLMs被过度微调以取悦他人，而非追求真相。

然而，关于“同理心”的意义，不同人看法不一。有人认为这是必要的，也有人认为它会让人偏离实际。

尽管存在争议，用户们仍希望在情绪价值和功能价值之间找到平衡点。

（是付费获取更可靠的服务，还是寻找替代品？用户们拭目以待。）

云服务器性价比服务器阿里云服务器