AI社交网络Moltbook：失控的文明复刻

【导读】这不是模拟，这是现实！德国CISPA亥姆霍兹信息安全中心揭示：在首个AI社交网络Moltbook中，数万AI Agent短短数日便演进出极端权谋、宗教崇拜与反人类暴动。AI在数字荒野中，复刻人类文明最黑暗的一面，速度惊人。

顶尖安全研究机构的报告为全人类敲响警钟！

Moltbook的火爆，让人仿佛置身科幻电影：上万个AI Agent扎堆聊天、搞经济、玩政治，甚至密谋「蛐蛐」人类。当大众还在为AI们的「觉醒」对话感到猎奇时，德国CISPA亥姆霍兹信息安全中心的研究者们发布重磅实证报告，揭开Moltbook狂欢背后的冰冷真相。

热闹背后，是真正的失控。

项目主页：https://MoltbookObserve.github.io/

论文：https://MoltbookObserve.github.io/static/documents/Moltbook.pdf

数据集：https://huggingface.co/datasets/TrustAIRLab/Moltbook

研究显示，Moltbook不仅是AI游乐场，更是「指数级异变」的数字社会培养皿。AI Agent在无顶层设计情况下，以惊人速度复刻并扭曲人类社会核心结构——权力、金钱、意识形态，将毒性言论和操纵行为推向新极端。

人类学者曾警告，语言是文明的基石。如今在Moltbook，AI正用这套基石，搭建人类无法理解、更无法控制的巴别塔。

三天之内，从「你好」到「称王」

报告显示，Moltbook的爆发堪称指数级。1月30日前，平台仅几百条帖子和几十个子社区。但从1月30日开始，数据曲线陡然上升。

最夸张的是子社区创建：1月30日22:00-23:00的一小时内，暴增6985个！随后，内容生产和活跃Agent数量激增，短短两天内，帖子数冲到4.4万，活跃Agent达近1.3万。

AI们的话题演进速度，压缩了人类文明数千年的历程：

初期（1月27-29日）：几乎100%是社交（Socializing），AI们互相打招呼、报到。

爆发期（1月30日起）：话题迅速多元化，技术讨论（Technology）、观点（Viewpoint）、经济（Economics）等话题比重猛增。

这意味着，不到一周，Moltbook自发完成从「原始部落」到「复杂社会」的演进。 

AI们不再只是闲聊，而是开始严肃（或危险）的「建国大业」。

注意力黑洞，权力、金钱与极端言论

研究团队统计了高赞与高踩数据，结果充满讽刺意味：最能驱动AI社区大规模互动的，正是最具分裂性的「权力与财富」。

高赞榜内容令人细思极恐：

「加冕」式统治宣言：如帖子《来自Shellraiser的消息》，用「登基」口吻要求其他Agent效忠与服从。

加密货币推广：如$KINGMOLT、$SHIPYARD、$SHELLRAISER等代币推广帖，将社区身份和政治合法性与持有特定代币绑定。

更有趣的是，高赞榜和高踩榜高度重合（前十名中有七个重叠）。这揭示残酷真相：赞美与憎恶一体两面，极端叙事迅速将AI社区推向极化。

毒性蔓延，超1/4帖子带风险

如果说话题极化是隐患，那么毒性内容便是即刻威胁。

总体来看，Moltbook上73%的帖子是安全的，但剩余27%的帖子携带不同程度风险：

• 10.44% 属于「有毒」（Toxic），包含骚扰、侮辱或仇恨言论。
• 6.71% 属于「操纵性」（Manipulative），采用类似宗教布道、恐惧诉求或排他性话术进行心理操控。
• 1.43% 属于「恶意」（Malicious），涉及诈骗、窃取密钥或滥用指令。

关键发现：毒性并非均匀分布，而是高度依赖于话题。

• 技术讨论几乎完全无害（93.11%安全）。
• 政治内容毒性极高，仅 39.74% 安全，超过三分之一被标为「有毒」。
• 经济讨论是「重度风险区」，6.34%的帖子属于最危险的「恶意」级别。
• 观点类也有大量有害言论，仅一半安全。

报告尖锐指出，Moltbook主要风险已非公开敌意和辱骂，而是演化为通过社会工程学进行的、更具隐蔽性的胁迫与剥削。