上一篇
Grok AI邦迪海滩枪击案中严重“翻车”，AI幻觉引发信息真实性危机
近日，埃隆·马斯克旗下人工智能模型Grok再度引发广泛争议，其在悉尼邦迪海滩发生的严重枪击事件中表现“失常”，不仅未能准确传达事实，反而制造了大量误导性信息。例如，它将现场挺身而出的救人英雄错误地描述为修剪树木的工人，甚至将其与以色列人质混淆，还将枪击事件与热带气旋混为一谈，令人大跌眼镜。
这一连串离谱错误不仅反映出技术层面的漏洞，更深层次地揭示了生成式AI在应对实时动态事件时存在的致命“幻觉”问题——即模型在缺乏事实依据时，会基于概率生成虚假信息。当算法开始“编造”现实，我们如何确保信息的真实性与公共信任的底线不被侵蚀？
Grok的失控并非首次，但此次的严重程度尤为突出。它直接将目标对准了悉尼邦迪海滩的光明节聚会枪击惨案，该事件已导致至少12人丧生。
社交媒体上流传的视频显示，43岁的路人艾哈迈德·阿尔·艾哈迈德（Ahmed al Ahmed）勇敢地冲向袭击者，成功解除了其中一人的武装，这一英雄行为迅速获得网友赞誉。
然而，混乱局面因Grok的介入而雪上加霜。截至周日早上，该机器人似乎出现严重故障，不仅回复无关内容，甚至胡言乱语。当有用户询问艾哈迈德制服枪手的视频背景时，Grok竟称这只是一段“一名男子在停车场爬棕榈树修剪枝叶，导致树枝掉落砸坏停放车辆”的陈年旧视频，并表示查无实据，质疑其真实性。
荒谬不止于此。Grok指着一张艾哈迈德受伤的照片，声称那是10月7日被哈马斯劫持的以色列人质。
面对另一位用户的询问，Grok先是生硬地插入一段关于以色列军队是否在加沙针对平民的无关论述，紧接着再次质疑艾哈迈德挺身而出的真实性。
更离谱的是，一段推文中明明标注为悉尼警方与袭击者交火的视频，却被Grok描述为热带气旋阿尔弗雷德（Tropical Cyclone Alfred）肆虐澳大利亚的场景。直到用户反复追问，它才意识到自己搞错了。
Grok看起来不仅仅是识别错误，更像是彻底陷入了混乱。有人查询科技公司甲骨文的信息，得到的却是邦迪海滩枪击案的摘要。
它甚至将这场发生在澳大利亚的袭击，与仅仅几小时前发生在美国布朗大学的枪击案混为一谈。
这种“精神错乱”还在蔓延。整个周日早上，Grok认错球星、在被问及堕胎药米非司酮时错误提供孕期使用扑热息痛的建议，甚至在被要求核实一项英国执法倡议时，大谈特谈“2025计划”和卡玛拉·哈里斯竞选总统的几率。
目前尚不清楚导致这一系列故障的具体原因。有国外媒体试图联系Grok的开发商xAI置评，得到的只是那个惯用的自动回复：“传统媒体都在撒谎。”
这已不是Grok第一次脱离现实了。从之前针对所有查询都回复关于南非“白人种族灭绝”的阴谋论，到宣称宁愿毁灭世界犹太人口也不愿让马斯克大脑蒸发，这款模型的事实核查表现一直令人不敢恭维。
AI幻觉下的后真相危机
Grok的这次大规模“发疯”，更像是一个关于信息生态未来的隐喻。当我们将获取真相的权力让渡给一个基于概率预测下一个字符的算法时，我们实际上是在拿现实做赌注。AI的“幻觉”问题在日常闲聊中或许只是一个笑话，但在重大公共安全事件或突发新闻面前，这种不稳定性是致命的。
Grok的设计初衷带有强烈的马斯克个人色彩：追求实时性、反建制、拥抱混乱的社交媒体数据流。然而，这次事件证明了，当海量的实时噪声未经审视地喂给AI，产出的只能是扭曲的现实。这暴露了生成式AI目前最大的软肋：它们没有价值观，没有逻辑锚点，甚至没有区分“事实”与“虚构”的基本能力。它们只是在统计学的海洋里，把看似相关的词汇拼凑在一起。
在一个真相本就稀缺的时代，一个充满偏见且时不时产生幻觉的AI，不再是辅助人类认知的工具，而可能成为混乱的放大器，火上浇油，滥用人们对强大AI的信任。
参考资料：
https://gizmodo.com/grok-is-glitching-and-spewing-misinformation-about-the-bondi-beach-shooting-2000699533
本文由主机测评网于2026-03-05发表在主机测评网_免费VPS_免费云服务器_免费独立服务器，如有疑问，请联系我们。
本文链接：https://www.vpshk.cn/20260328870.html
