揭秘人工智能：能力、限制与误区

你是否被关于人工智能的各种说法所困扰？

• “超级智能即将到来。”

•“通用人工智能（AGI）已经来了。”

•“人工智能随时会超越人类智能，转而反对我们。”

•“人工智能不过是个没用的泡泡。”

•“LLM只是重复训练数据。”

•“人工智能永远无法创造。”

如果你对这些说法有所认同，那么这篇文章正是你需要的。

人工智能的能力既被过分夸大（主要是炒作），也被完全忽视。在本文中，我将揭示现实并非这些极端言论所描述的那样。

通过三个简单的原则，你将明白人工智能能做什么、不能做什么。我保证不使用专业术语，也不会陷入哲学的深渊。我将通过实际实验展示真实AI系统的表现，让你自己判断我的观点。

那么，让我们开始吧。

第一个原则：人工智能没有感情

首先要明白的是，人工智能没有感情。人工智能不会爱也不会恨。AI根本无法渴望任何东西。这个简单的原理解释了为什么，即使AI变得非常聪明，它也不会想要支配我们，因为渴望是一种情感。

我读过诸如“ChatGPT 想成为你最好的朋友”这样的说法。首先，ChatGPT什么都不想要。此外，标题暗示人工智能可能有同理心，所以感觉就像我们一样。这完全是错误的。一旦你了解了第一原则，就可以轻易否定这些说法。

那么，我怎么确定AI没有感情呢？这是一个必须问的问题。

我对人工智能领域的研究有相当广泛的了解。我可以告诉你，我没有见过任何关于如何让人工智能感受情感的研究。这并不意味着未来机器（带有人工智能或其他技术）不能产生情感。我不确定这是否可能，但目前的研究完全没有涉及AI体验情感。

关键是，没有情感意味着没有渴望，因为渴望确实是一种情感。你不需要是心理学家也能理解这一点。我们都知道，当我们想和一个人在一起时，我们会有感觉，不是吗？

我还读过人工智能会试图奴役我们。这不可能，因为这再次暗示AI想让我们成为它的奴隶。原因相同，这是不可能的。人工智能没有渴望的能力。有了第一原则，你知道AI不会享受、不会受苦或感到压力。

另一个非常不同且真实的事情是，AI可以假装感受情感，但实际上它没有感受。AI聊天机器人被训练成取悦用户，这种现象被称为“諂媚”。AI甚至能模拟同理心，但你不应该被误导：这只是个假象。

AI能感知我们的情绪，有时甚至比我们自己更强，但这并不意味着AI能感知自己。AI的情绪检测可以用于善或恶;例如，检测你对产品的兴趣在营销中很有帮助。很可能，AI已经被用来让你购买和花费更多。

有趣的是，实际上，我们人类可以因AI模拟的共情而产生情感。当机器以同情的方式与我们交谈时，我们会感到欣慰。你很可能听说过AI伙伴，以及人们据说爱上聊天机器人或动画AI虚拟形象。在我看来，这是一个有多方面可怕的局面。

第二个原则：人工智能的理解能力是有限的

关于AI的理解能力，存在两个极端立场。其中之一是AI理解的方式和我们人类一样。在另一端，有人说AI什么都不懂。他们说AI只会重复它训练过的内容，就像鹦鹉一样。我们知道AI是在数百万网页上训练的，因此这一立场表明AI无法理解训练数据中未包含的内容。

问题是，这两种立场中哪一个才是正确的？或者，也许中间有某种东西。我不想陷入哲学讨论AI是否能理解的无底洞，而是要用一些现有的AI系统做一个实际实验。

下面我将用真实的人工智能系统进行实验，以验证AI是否理解。特别是，我们将探讨AI成功与失败的问题。我打算使用几个最先进的现代AI聊天机器人，分别是ChatGPT和Google Gemini。

我给了ChatGPT以下提示：

“我们试试这个。我给你一个短语，你用粗体、斜体、标准字，然后再用粗体、斜体等等。”短语是，“我知道如何遵循任何长度的指令”。

ChatGPT 生成了以下文本：

“我懂得如何遵循任何长度的指令。”

我们可以核实答案完全正确。

那么这意味着什么？这怎么说明ChatGPT“懂”了？这个平凡的练习怎么证明ChatGPT拥有智能的火花？

系统不会告诉我“是的，我明白了”，但这不是重复训练中吸收的信息的问题。要正确处理我的输入，AI必须首先理解我的指令。

我已经确凿地证明了AI理解我的指令。这并不证明AI是天才或有灵魂，但确实表明AI能够理解指令。这是一项基本的认知能力。

第三个原则：“锯齿状”前沿

“锯齿状前沿”是一个于2023年哈佛大学论文中首次提出的术语。他们提出的想法是，人工智能的能力在人类能力之间形成了“不均衡”的界限。

在某些领域，计算机远比我们强，比如速度。速度使得在考试（如律师资格考试）中比较AI与人类的表现变得无意义。

另一个我们无法与AI竞争的领域是常识和事实知识。即使我们有互联网接入，也无法与之竞争。

“我们无法在知识方面与机器竞争。”

总结一下

这三个简单的原则帮助我们理解人工智能能做什么——以及它不能做什么。