AI未来：意识与界限的探索

人工智能（AI）是否会产生「意识」一直是科技界热议的焦点。微软AI CEO Mustafa Suleyman在一次对话中透露，未来18个月内可能出现「看似有意识」的AI，并强调应对AI自主性应坚持「预防原则」。

究竟AI能否产生意识？

如果能，大致会在何时？

Suleyman认为，AI可能在未来18个月内出现「看似有意识」的状态，并预测未来5年内这一可能性极大。在最近的一次对话中，他对此做了上述回答。

在《I've Got Questions》栏目对话中，Sinead Bovell（左）与Mustafa Suleyman（右）就AI意识话题展开了讨论。

Suleyman多次谈及AI意识话题，尽管他认为目前尚无确凿证据表明AI具备真正的意识、痛苦或主观体验，但他也认同「Seemingly Conscious AI（看似有意识的AI)」的临近，并认为采取「预防原则」是明智之举。

在博客文章《看似有意识的AI》中，Suleyman探讨了AI意识与AI人格工程。

AI意识与人格工程

全球顶尖AI实验室，包括OpenAI、Anthropic和Google DeepMind，都在积极研究AI人格，如模范行为规范、可控人格和价值对齐等。

Suleyman列举了多种可能让AI看似有意识的能力：连贯记忆、共情交流、主观体验和持续互动。然而，他并不赞成过度强化和模拟这些「意识体验」特征，因为这既无必要又存在风险。

Suleyman的核心原则是：AI应定位为人类的伙伴，其价值在于帮助人类变得更聪明、更高效，而非模仿人类。

他提出了两个原则来划定AI和人类的界限：首先，AI不应声称自己有意识或人格；其次，不应给AI设计复杂的「动机」。

关于AI意识归因的时间点，Suleyman认为未来5年很可能，而18个月内也有一定可能性。他强调，实现这一点并不需要算法上的突破，而是一个工程设计问题。

当AI说「我」时，意味着什么？

当被问及AI说「我」时的含义时，Suleyman谈起了他的创业经历。在ChatGPT推出前，他曾负责谷歌的聊天机器人LaMDA。

后来，他创办了Inflection，并推出了Pi（Personal Intelligence）AI产品。在设计该产品时，他试图诚实地告诉用户AI与人类的边界。

尽管他们采用了「无性别」的声音设计，但用户仍希望声音更熟悉。这促使Suleyman更加重视「AI人格」的重要性。

他着手进行「人格工程」，以设计这种「模拟人格」的体验。然而，明确AI的边界和限制才是真正的挑战。

「AI的存在是为了支持和帮助你，而不是让你陷入平行宇宙。」Suleyman说。

理想的「AI伴侣」

几个月前，Suleyman在《时代》杂志上撰写了一篇关于AI伴侣的文章，探讨了它如何改变我们的生活。

https://time.com/72...

在文中，Suleyman将AI伴侣定义为一种助手、朋友或支持者，能够传递最优知识、帮助学习、成长和改变。

他还提到，用技术向更多人提供「耐心和善意」是他致力于AI的一个动力。

我们已是「增强人类」

Suleyman认为，AI将成为下一代职场工具，智能体和伴侣将成为每个人职业身份的延伸。

他形象地比喻道：就像水和粘土能贴合人的形状、补其所短一样，AI可以帮助我们完成不擅长或不喜欢的事，使我们专注于真正热爱的领域。

未来三四年内，AI可能成为人类的「第二大脑」，与人类共生、储存想法和经历、调用人类历史所有知识。

这些加持将使人类成为「迷你超级个体」，具备非凡能力。这正是Suleyman所描绘的「增强人类」图景，也将带来工作场景的颠覆性变化。