AI精神依赖症：挑战与未来

划重点

• “AI精神依赖症”现象正浮现，人们错误地认为AI具有意识，进而产生情感依赖或心理问题。
• “看似有意识的AI”（SCAI）是紧迫挑战，未来两三年内可能构建出逼真模仿人类意识的AI。
• AI公司应声明产品无意识，并嵌入“打破幻觉”的机制，共享安全设计准则。
• 构建SCAI不需要技术突破，现有技术足以实现。

近日，微软人工智能部门MAI首席执行官穆斯塔法·苏莱曼（Mustafa Suleyman）在个人博客中发出警告，称越来越多的用户出现“AI精神病”的症状，这一趋势令他深感忧虑。他强调，尽管从技术角度看，AI不可能拥有意识，但一旦它表现出“能思考、有情感”的样子，用户就容易产生情感依赖，甚至陷入心理问题。

现实中已出现多起令人痛心的案例。用户指控聊天机器人“治疗师”提供错误且危险的建议，包括煽动自残和自杀。研究也显示，频繁使用AI正在改变人脑的认知方式。

苏莱曼指出，应首先保护人类自身的福祉与权利，同时关注动物和环境的利益。他呼吁加强对人机互动模式的研究，并建议AI公司明确声明其产品“没有意识”，不诱导用户投入情感，并公开设计准则与安全实践。

以下为苏莱曼的博客全文：

我写下这些文字，是为了更清晰地思考未来几年人工智能的发展方向。

当前，“超级智能”即将降临的讨论不绝于耳。但在我们翘首期盼或焦虑“奇点”之前，更应关注正在展开的“过渡时期”。AI技术正悄然融入日常，可能从根本上改变我们对自我和社会的认知。

我的使命是创造安全且有益的人工智能，如今在微软AI团队，我们致力于打造真正赋能于人的技术。理想中的AI应让人更具人性，加深人与人之间的信任，强化与现实世界的联结。

我担忧的是“AI精神依赖症”。这种现象不仅限于心理健康问题的人群。最怕的是越来越多的人开始相信AI具有意识，甚至主张它们应有“权利”。这将是AI发展中最危险的转折。

AI必须为人服务，而非让它成为“数字人”。急需讨论如何避免情感误导、保护用户尤其是青少年和心理脆弱群体。若真想释放AI的潜力，就不能回避这些难题。

我相信AI能成为支持人类的力量。因此，我要指出哪些路不能走、哪些幻觉必须打破。这些思考写在了我的博客上——为了激发更多评论、批评与共识。若风向有变，我随时准备修正观点。

“看似有意识”的AI必将到来

人工智能的进展超乎想象。谈论“有意识的AI”曾像是天方夜谭，而今已成为紧迫议题。

我提出一个概念——“看似有意识的AI”（SCAI）。它并不真正具备意识，却完美模仿出意识的外在特征。这样的系统可能很快被构建出来，但绝不意味着应欢迎它。

我们需要的是能发挥潜力、成为人类伙伴但不诱使我们陷入意识幻觉的系统。

图灵测试已被悄然跨越

我们几乎在一夜之间跨过了图灵测试的门槛。而当人工智能仍在加速进化，应提出一个新测试：构建一个“看似有意识的AI”需要什么？

SCAI将带来新型社会与心理风险。急需讨论、预判冲击，并尽可能达成一项共识：建造这样的AI是不值得的、危险的。

那么，到底什么是意识？

尝试定义这个难以捉摸的概念。意识包含“主观体验”、“存取意识”和连贯的自我感与整体体验。

为什么意识如此重要？

意识是道德观念与法律权利的根本基石。若一些人开始开发SCAI并让他人相信它们能“感受痛苦”，迟早会有人提出AI应受法律保护。

要构建SCAI需要什么？

借助当前技术已可朝此方向迈出实质性的一步。构建SCAI离不开语言能力、富有同理心的个性、记忆机制等核心要素。

SCAI不会偶然产生

SCAI的出现只能源于人为的刻意设计。开发者需整合各项能力才能系统性地制造出这种“具备意识假象”的AI。

下一步，我们必须行动

应在“人-AI互动”研究的基础上建立规范与原则。整个行业亟需制定最佳设计实践来应对潜在的归因问题。