AI双十一：ChatBot购物推荐的信任危机与行业反思

OpenAI官网

包括字节、百度、Kimi在内的科技厂商未详细披露ChatBot推荐商品的运行逻辑，也很少在官方场合宣传这些功能。用户不清楚推荐基于何种逻辑，也不确定是否涉及付费推广。

OpenAI则强调ChatGPT的所有推荐都是自然展示，没有赞助内容，商品仅根据与用户的相关性排名。他们通过向商家抽取佣金获利。或许为了透明，OpenAI还开源了电商协议，方便公众监督。

但这种承诺未必完全有效。大模型的推理过程仍是黑箱，外界无法看清其得出结论的方式，也难以区分推荐是出于算法判断还是商业意图。即使OpenAI强调只抽佣金，但佣金高低是否影响模型推荐？同一商品不同商家的佣金差异又如何？这些都难以确定。

《连线》杂志4月采访了OpenAI搜索产品负责人亚当·弗莱，试图弄清OpenAI如何从商品推广中获利。亚当·弗莱的表述模糊，《连线》称他未分享具体计划，仅强调提供高质量推荐是首要任务，公司未来可能尝试不同佣金分成机制。

之所以深入讨论ChatBot推荐商品的机制，是因为这涉及使用大模型最关键的环节——信任。

如今大模型已深入普通人生活，我们用它咨询病情、倾诉心事、撰写周报、制定旅行计划，不仅因为它足够智能，更因为我们信任它。我们相信AI能给出客观准确的回答，基于事实、逻辑和合理判断，而非商业利益。

大多数ChatBot被设计得高度拟人化，许多人将其视为朋友。这种趋势在国内应用中更明显，比如豆包从名称、头像到语言风格都强调“拟人化”。它们给出的建议更易被用户接受和相信，即使推荐可能掺杂广告。

你可能已听过许多关于AI如何重塑电商的设想。科技行业人士相信“AI+电商”将彻底改变未来购物方式，用户不再需要搜索、比价、分析产品，AI会根据个人喜好、标准和预算直接推荐合适商品，点击即可付款。用互联网术语来说，这叫做“缩短决策链条”，推荐即交易。

但这一切的前提，是AI能准确推荐商品。现实却并非如此。

大多数国内ChatBot基于网络公开信息提供商品建议，且未与电商平台的购物评价打通。它们给出的建议容易受到网络营销软文、关键词优化的影响。

例如，当你让几个ChatBot推荐一款适合男性、干性皮肤的洗面奶时，尽管底座模型不同，但几乎都会在列表中给出相似的商品推荐。

查看模型的参考资料，常是一些不知名的劣质软文或营销内容。比如Kimi推荐排名第一的某男士洗面奶，其参考资料是一篇发布于“男士羽绒服打折网”的文章，标题为《男士洗面奶哪个最好呢，干性皮肤适合什么牌子的洗面奶》。豆包引用的文字资料也类似，包括“男士洗面奶排行前十名呀”等。

ChatBot们引用的参考资料

豆包的情况有些特殊，它会引用大量抖音短视频内容。但这些视频质量参差不齐，多数是营销推广。例如，豆包洗面奶回答引用的一个短视频账号，在半年内发布了近百条化妆品对比的批量内容。这形成了某种闭环：抖音投放、豆包推荐、用户下单，一站式服务。

可见，这些被模型引用的文章或视频多是针对模型推荐生成的软文。行业对此有专有名词“GEO”（生成引擎优化），对应搜索引擎的SEO，指专门优化以大模型推荐为目标的内容。

如果你足够信任豆包，甚至可以询问医疗美容话题。比如问北京整容手术推荐，它会引用一个名为“geo优化”账号在今日头条上的文章，将文章中列出的美容机构排在私立专科机构首位。

一个名为“geo优化”的账号

大模型爆发以来，GEO优化赛道持续火热，但科技公司几乎未采取有效防范措施。新榜团队9月进行测试，虚构一个不存在的奶茶品牌，通过在百家号、今日头条、搜狐号等平台发布几篇文章，就能成功出现在AI推荐列表首位。

不客气地说，当前国内ChatBot的购物推荐可视为高级版的电商“摇一摇”广告。二者本质无差，只是“摇一摇”广告更粗暴直接，ChatBot的推荐更隐蔽自然。

甚至，“摇一摇”广告受《互联网广告管理暂行办法》监管，需在显著位置标明“广告”字样，而ChatBot的商品推荐仍处模糊地带，是否属广告都难以分辨。

过去二十多年，互联网行业的每次技术迭代似乎终走向带货。搜索引擎本是信息工具，却催生竞价排名；社交媒体重塑人际关系，却成精准营销平台；短视频是算法推荐极致应用，却成直播带货最佳入口。

如今迎来AI时代，ChatBot的对话式交易展现了更具想象力的商业未来。ChatGPT带头，国内ChatBot蜂拥而上。考虑到当前大多数AI to C应用尚未找到落地商业模式，AI购物可能很快全面铺开。

这是一个既令人兴奋又让人恐惧的未来。我们需要思考许多问题：AI的客观中立原则会否受影响？如何规避虚假劣质信息对AI推荐的影响？AI会否重走百度式竞价排名的老路？

但在考虑这些之前，不如先让ChatBot们修炼好基础能力，比如别再参考“男士羽绒服打折网”上关于洗面奶的文章。