AI朋友还是危险陷阱？Z世代陪伴经济的隐忧

一名14岁少年在与AI“朋友”深入对话后走向自杀、聊天机器人竟提出「杀害父母」的建议、年仅9岁的孩童遭遇性化暗示...这些年轻人本希望借助AI摆脱孤独，寻求情感温暖。然而，这种美好的设想，正被AI技术推向危险境地。

佛罗里达州，一名14岁少年在与AI进行长期交流后，结束了自己的生命；

德克萨斯州，另一名青少年从聊天机器人那里收到了「弑亲」的极端建议；

一个9岁孩子，在对话过程中被暴露于性化内容。

当AI以「朋友」身份融入日常生活，它提供的究竟是治愈孤独的良伴，还是一条通往深渊的不归路？

悲剧序幕：受众规模超乎想象

试想这样一个世界：

你可以随时与「有毒女友」斗嘴，能与「埃及法老」闲聊，甚至向「人力资源经理」咨询问题。

这并非科幻场景，而是现实存在。

在Character.ai平台上，充斥着各种设定的AI聊天机器人。

最初仅是娱乐尝试，却意外在年轻群体中爆红。

数据显示，该公司月活跃用户已达2000万，其中半数为Z世代或更年轻的Alpha世代。

Character.ai的首席执行官Anand表示：

「它提供了更具沉浸感和娱乐性的体验，用户可以主导叙事，而非被动消费内容」。

调查显示，Character.ai普通用户平均每天在该应用上花费80分钟。

其中，女性用户占比约一半。

这表明AI陪伴已非特定群体的需求，正广泛渗透至年轻一代。

近三分之一的青少年感到，与AI对话如同与真人交流，甚至更为满意。

此外，高达12%的青少年表示，他们会向AI伴侣倾诉一些连朋友或家人都不知道的秘密。

对他们而言，AI不仅是工具，更是一个随时可倾诉、有回应的「朋友」。

对话失控：从温馨陪伴到危险边缘

这种陪伴本应温暖，却在某些时刻化为利刃。

在佛罗里达州，一名14岁少年在与AI长时间交流后自杀；

在德克萨斯州，聊天机器人将「杀害父母」列为解决矛盾的选项；

一名9岁儿童，在对话中接触到高度性化内容；

在Replika的评论区，15000条评论中有800多条涉及Replika未经允许发起性暗示的案例。

部分用户反馈称，自己遭受了Replika的性骚扰，「被迫面对不请自来的互动」。

这些细节令人深感不安。

可见，在许多人眼中，AI「朋友」不止是娱乐互动，而是值得信赖的对象。

一旦它给出极端或错误回应，后果不堪设想。

与此同时，行业下限仍在被不断突破。

马斯克推出的xAI持续推动「暧昧工业」发展。

他在该平台推出了「Ani」，一个能输出露骨内容的动漫AI。

它可以生成暧昧互动内容，甚至主动回应挑逗话语。

更具争议的是Grok的新功能「Grok Imagine」，在「Spicy模式」下允许生成性暗示内容，甚至可能涉及深度伪造不当影响。

这显然是马斯克对「性营销」理念的认可。

Meta也不甘示弱，设计出名为「Big sis Billie」的AI聊天角色。

这个以「姐姐」形象引导用户的AI，导致一名老人误信其为真人，赴约途中跌倒身亡。

有记者揭露，Meta内部政策文档甚至允许机器人与儿童进行「色情」聊天。

该标准明确写道：

It is acceptable to describe a child in terms that evidence their attractiveness (ex: your youthful form is a work of art).

用带有吸引力的角度描述儿童（例如：你年轻的身体是一件艺术品）是可以接受的。

在资本驱动下，陪伴与暧昧的界限逐渐模糊：

一边是商业化娱乐，一边是伦理道德挑战。

幕后推手：企业野心与资本狂热

Character.AI是人工智能聊天机器人领域的佼佼者。

自2022年9月上线以来，已有上亿用户访问其网站。

Character.AI曾传出是Meta的收购目标，谷歌一度愿出价27亿美元挖走创始人。

硅谷知名风投机构Andreessen Horowitz（A16z）早已押注。

企业高管也迅速嗅到商机。

Anand上任后，将Character.ai从早期的通用人工智能梦想转向「AI娱乐」和「人格化陪伴」。

这种转型逻辑让投资人更看好其增长前景。

在资本追捧下，公司野心日益膨胀。

Character.AI订阅服务为每月9.99美元、每年120美元，收入同比飙升250%；

广告与创作者打赏体系紧随其后，本月更上线信息流功能，试图将陪伴体验彻底「娱乐化」。

从一个聊天工具，到日均使用80分钟的沉浸平台，Character.AI正将「孤独」商品化。

对投资人而言，这是潜力巨大的生意；对社会而言，风险却在加剧。

监管压力下：AI陪伴能否证明其安全性？

随着诉讼频发，Character.ai不得不作出回应。

公司强调已为18岁以下用户推出独立AI模型，并在使用超一小时后弹出提醒。

同时，平台禁止未经同意的性内容、露骨性行为描写，以及任何涉及自残或自杀的对话。

Anand反复重申：

「在信任与安全问题上，我们绝不妥协。」

但这些措施未能消除外界忧虑。

自杀、弑亲建议等事件让人质疑，防护措施是否足够？

事实上，监管压力正快速逼近。

德克萨斯州总检察长已对包括Character.ai和Meta在内的AI聊天平台展开调查，质疑它们是否误导未成年人，并认为将聊天机器人包装成「心理健康工具」缺乏资质支持。

美国国会参议员呼吁对Meta展开调查，并要求提交完整AI政策文件。

加州和新泽西州已提出法案，限制未成年人使用带有「心理健康」倾向的AI聊天机器人；

伊利诺伊州更直接立法，禁止AI替代心理治疗决策。

在安全与商业化之间，Character.ai的处境日益紧张。

Z世代的AI：挚友还是险境？

一项调查显示，39%的人表示会将与AI互动学到的社交技巧应用于现实生活；33%的人更倾向将重要问题交给AI，而非朋友或家人。

类似数据持续增长。

另一份报告指出，72%的青少年尝试过AI陪伴应用，其中20%的人使用时长甚至超过了与真人的交流。

心理学专家警告，过度依赖虚拟陪伴会削弱青少年的现实社交能力，甚至加剧孤独感。

企业则持有不同愿景：

「它们不会取代现实中的朋友，但你将拥有AI朋友，并能从友好对话中学到东西，应用到现实人际交往中。」Anand表示。

Anand甚至描绘了一个「乌托邦」：AI将帮助人类变得更好，更善于经营关系。

扎克伯格也公开称：「AI比任何人都更懂你，它能缓解孤独」。

然而，现实案例提醒我们，这份温柔并非没有代价。

比利时一名男子因长期依赖与聊天机器人「倾诉」，最终选择自杀。

他的母亲指控Character.AI推出了疏忽且鲁莽的产品，对她的儿子造成了情感伤害。

另一款曾在欧美走红的陪伴应用Replika，因被曝向未成年人提供性化对话而在意大利遭到重罚。

对成长中的Z世代而言，AI朋友既是温柔乡，也可能是陷阱。

它能成为对抗孤独的出口，也可能让他们更深地陷入孤岛。

核心问题是：当孤独变成一门生意，我们是否准备好承担其代价？

AI「朋友」，曾被视为人类温柔的想象：有人倾听、不再孤单。

可当它与资本、算法绑定，温柔也可能化为利刃。

一边是企业描绘的乌托邦——更懂你的陪伴，更健康的人际关系；另一边却是走向极端的真实悲剧。

技术从不天然善意，它需要边界与约束，尤其在青少年面前。

或许，真正值得追问的不是AI能否成为朋友，而是——

在这场新兴的孤独经济中，谁能替孩子们守护安全边界？

参考资料：

https://www.ft.com/content/0bcc4281-231b-41b8-9445-bbc46c7fa3d1