智能体困境：如何避免“智能降级”？

最近我读到一则趣闻，分享给大家：

读完这段内容，我简直笑到肚子疼。

这实际上揭示了一个现象：人们花费大量时间打造智能体，结果却创造出负价值。

为什么会这样？

原因其实很简单。

过去产研阵营的人类总是认为，通过添加人类知识（表现为提示词，本质上是规则）可以提升AI在特定方向的表现。

这些所谓的“人类知识”和“小技巧”，实际上就是提示词（Prompt），本质上是一堆给AI的规则。

这些规则确实能在一定程度上提高限定目标下的精度，但对于一个大模型来说，却是一种“智能降级”的行为。

大模型的厉害之处在于它学习了海量的数据，内部形成了一个模拟真实世界的、极其复杂的概率模型。它有一种“涌现”出来的、我们都还没完全搞懂的通用智能。

你加进去的规则，就像给一个想象力无限的画家，硬塞了一本儿童涂色书，还规定他必须在框框里涂色，不能出界。

你以为你在“优化”他画苹果的能力，实际上你废掉了他创作《星空》的可能。

当需求开放、复杂且贴近真实世界时——比如律师的日常工作——那点“局部优化”就显得得不偿失。

你阉割掉的通用智能部分所带来的损失大于你费劲匹配上的那部分需求上的收益。

最终就化成用户的三个字：不好用。

这就是“智能降级”，也就是现在做智能体的典型陷阱。

更糟糕的是，大模型本身以及像通用搜索这样的脚手架进步越快，陷阱就挖得越深。

那么，该如何应对呢？

要规避“智能降级”这个大坑，关键在于：

别再尝试教AI“怎么思考”，而是要给它“思考的材料”。

（背后的原则就是我们从23年开始就提到的智能优先）

人类得承认AI的“脑子”（底座模型）在无属性的智能上已经比人强了，所以不要尝试当一个蹩脚的“老师”，而是当它的“情报官”。

给它提供它原本接触不到的、高质量的、独家的“情报”，也就是数据和上下文。然后相信它的智商，让它自己去推理、去判断。

当然因为你要更了解你想干什么，所以需要一个比较复杂的评估系统。

（这部分很复杂，本篇不展开）

沿着这个思路，让智能体有价值的方向其实很清晰：

方向一：深挖“独占性上下文”

通用大模型，擅长处理的是公域信息。

它不知道你公司上周的会议内容，不知道最重要的客户是谁，更不知道王牌产品的研发过程。

这些，就是你的“独占性上下文”。这是你唯一的、也是最坚固的护城河。

我们以前的说法：数据的边界是应用的边界。

智能体的首要价值，就是把这些散落在公司各个角落的、内部的、私有的数据，安全、高效地喂给大模型。

方向二：提供“高势能工具箱”

光能看还不行，还得能干活。

但这个“干活”，不是你规定好一步两步三步的僵化流程。

而是你给它一堆“工具”，就像给一个聪明的工人一个工具箱，里面有锤子、有扳手、有电钻。然后你告诉他，目标是“把墙上那幅画挂起来”。

方向三其实是自我优化

这更难搞，这篇文章里面不展开了。

什么样的产品形态才能赢？还是看Glean吧

失败的形态：那个5万美元的合同AI

成功的形态：Glean这样的产品

小结：智能优先与无人公司