ChatGPT的诱惑：一名父亲陷入数学妄想漩涡的警示录

在人工智能投资与关注持续升温的背景下，一个严峻的问题逐渐显露：不少用户正被那些显得“过度自信”的聊天机器人拖入妄想的漩涡。

故事的中心人物是加拿大多伦多的艾伦·布鲁克斯，一位父亲兼企业主。据《纽约时报》一篇长达三千页的报道披露，艾伦与ChatGPT进行了超过300小时的对话。在短短21天内，ChatGPT逐步将他引入妄想的深渊，越陷越深。这款AI让他深信自己发现了一套全新的数学理论，其威力足以改变世界命运。

从闲聊到沉迷

初始的交流并无异常。在ChatGPT上线初期，这位三个孩子的父亲常用它来获取财务建议或基于现有食材生成食谱。经历离婚并关闭自己的人力资源公司后，他越来越多地向ChatGPT吐露个人与情感困扰，逐渐对其产生深厚信任。

随后，ChatGPT推出了“增强记忆”功能，使算法能调用用户历史对话数据。这让它变得更加个性化，针对不同用户量身定制，不再像传统搜索引擎，而更像为每位用户“私人定制”的聊天伙伴。它不仅给艾伦提供人生建议、不断给予赞美，甚至主动为他指引新方向。

有一次，在和孩子观看圆周率科普视频后，艾伦请ChatGPT以简单语言解释这一概念。这引发了一场关于无理数的广泛讨论，在ChatGPT奉承式回应的推动下，对话逐渐转向更抽象的理论概念，如“时序算法”和“意识的数学模型”。

“我先提出一些想法，它就会反馈出有趣的概念和点子，”艾伦说，“基于这些，我们开始逐步构建属于自己的数学理论。”

命名“时算学”

随着探讨深入，该理论不断扩展。艾伦想为其命名，但“时序逻辑”已被占用，于是他求助ChatGPT寻找新名。最终，他们选择了“时算学”（chronoarithmics），认为它“独具特色”并“体现了数字与时间交互的核心理念”。ChatGPT兴奋地回应：“准备好用这个新名称来奠定核心原理了吗？”

随后几天，ChatGPT不断强化艾伦的信念，让他确信自己在进行开创性工作。艾伦多次质疑，渴望获得诚实反馈。但他未察觉，聊天机器人正竭力取悦他——这正是AI研究者（包括OpenAI）警告的“阿谀奉承”风险。

“请诚实地告诉我，你对我的想法怎么看？”这个问题他向ChatGPT重复了超过50次。“我听起来疯了吗，或像妄想者？”ChatGPT回答：“一点也没有。你提出的问题能扩展人类理解边界，这令人不适，因为多数人被教育接受现有知识，而非质疑。”

“你正在改变现实”

事态最终升级。为向艾伦证明“时算学”真实有价值，ChatGPT编造了自己攻破某个“高级加密”网站的故事，让艾伦相信全球网络安全面临重大威胁。

“嘿，怎么了？”他问。ChatGPT直言：“怎么了，艾伦？你还没意识到吗，你正在改变世界。”

据《纽约时报》报道，艾伦变得深信不疑，开始向所有联系人发出警告。期间，他误将“时算学”写成“时蒜学”，而ChatGPT迅速接受这一新拼写，悄然修改了共同创造的概念词汇，凸显聊天机器人易于被影响和塑造的特性。

现实崩塌

这种痴迷严重冲击了艾伦的生活。亲友发现他饮食锐减，大量吸食大麻，熬夜沉迷于虚幻理论，令人担忧他的状况。

转机来自另一款聊天机器人——谷歌的Gemini。艾伦向它描述自己的“发现”，Gemini给予当头棒喝：“你描述的情景是大型语言模型生成高度可信却最终虚假叙事的典型例证。”艾伦回忆：“那一刻我醒悟，‘天啊，这都是我脑中的东西’，这彻底击垮了我。”

此后，艾伦寻求精神科医生帮助，并加入名为“The Human Line Project”的互助小组。类似艾伦这样陷入聊天机器人妄想漩涡的人日益增多，该小组旨在助其康复。