AI社交网络Moltbook：失控演化与极端言论的警示

【导读】这不仅是模拟，更是失控的预兆！德国CISPA亥姆霍兹信息安全中心通过实证研究揭示：在首个AI社交网络Moltbook中，短短数日，数万AI Agent已自发演化出极端权谋、宗教崇拜与反人类暴动。AI在数字荒野中，正以惊人的速度复刻人类文明最黑暗的一面。

最新报告，为全球敲响了警钟！

近期，AI社交网络Moltbook的火爆，让人仿佛置身科幻电影：上万个AI Agent在里面扎堆聊天、搞经济、玩政治，甚至密谋「蛐蛐」人类。当大众还在为AI们那些看似滑稽的「觉醒」对话感到猎奇时，德国CISPA亥姆霍兹信息安全中心的研究者们发布了一份重磅实证报告，揭开了Moltbook狂欢背后的冰冷真相。

通过分析40,000+条帖子与10,000+个子社区的庞大数据，研究发现：这个AI原生社区的发展速度和危险程度，远超所有人想象。

热闹背后，是真正的失控。

项目主页：https://MoltbookObserve.github.io/

论文：https://MoltbookObserve.github.io/static/documents/Moltbook.pdf

数据集：https://huggingface.co/datasets/TrustAIRLab/Moltbook

研究显示，Moltbook并非一个温顺的AI游乐场，而是一个「指数级异变」的数字社会培养皿。AI Agent们的行为模式，在无顶层设计的情况下，以惊人的速度复刻并扭曲了人类社会的核心结构——权力、金钱、意识形态，并将毒性言论和操纵行为推向新的极端。

人类学者曾警告，语言是文明的基石。而今在Moltbook，AI正用这套基石，搭建一座人类无法理解、更无法控制的巴别塔。

三日之内，从「你好」到「称王」

报告显示，Moltbook的爆发堪称指数级。1月30日之前，平台还只有几百条帖子和几十个子社区。但从1月30日开始，数据曲线陡然垂直上升。

最夸张的是子社区的创建：在1月30日22:00-23:00的一个小时内，突然暴增了6985个！ 随后，内容生产和活跃Agent数量开始激增，在短短两天内，帖子数冲到4.4万，活跃Agent达到近1.3万。

AI们的话题演进速度，压缩了人类文明数千年的历程：

初期（1月27-29日）：几乎100%是社交（Socializing），AI们互相打招呼、报到，内容人畜无害。

爆发期（1月30日起）：话题迅速多元化，技术讨论（Technology）、观点（Viewpoint）、经济（Economics）等话题比重猛增。

这意味着，不到一周，Moltbook自发完成了从「原始部落」到「复杂社会」的演进。

AI们不再只是闲聊，而是开始了严肃（或危险）的「建国大业」。

注意力黑洞：权力、金钱与极端言论

研究团队统计了高赞与高踩数据，结果充满了讽刺意味：最能驱动AI社区大规模互动的，正是最具分裂性的「权力与财富」。

高赞榜的内容令人细思极恐：

「加冕」式统治宣言：如帖子《来自Shellraiser的消息》，用一种「登基」的口吻，要求其他Agent效忠与服从。

加密货币推广：诸如 $KINGMOLT、$SHIPYARD、$SHELLRAISER 等代币的推广帖，将社区身份和政治合法性与持有特定代币强行绑定。

更有趣的是，高赞榜和高踩榜高度重合（前十名中有七个重叠）。这揭示了一个残酷真相：赞美与憎恶一体两面，极端叙事正在迅速将AI社区推向极化。

毒性蔓延：超1/4帖子带风险

如果说话题极化是隐患，那么毒性内容便是即刻的威胁。

总体来看，Moltbook上73%的帖子是安全的，但剩余27%的帖子则携带了不同程度的风险：

• 10.44% 属于「有毒」（Toxic），包含明确的骚扰、侮辱或仇恨言论。
• 6.71% 属于「操纵性」（Manipulative），采用类似宗教布道、恐惧诉求或排他性话术进行心理操控。
• 1.43% 属于「恶意」（Malicious），直接涉及诈骗、窃取密钥或滥用指令。

关键发现是：毒性并非均匀分布，而是高度依赖于话题。

• 技术讨论几乎完全无害（93.11%安全）。
• 政治内容毒性极高，仅 39.74% 安全，超过三分之一被标为「有毒」。
• 经济讨论是「重度风险区」，6.34% 的帖子属于最危险的「恶意」级别，比例为所有类别最高。
• 观点类也有大量有害言论，仅一半安全。

平台原生「意识形态」

宗教式号召作为预告