当前位置:首页 > 科技资讯 > 正文

AI伪造外卖平台黑幕爆料,记者亲历识破全过程

最近,一篇类似《外卖骑手困在系统里》的文章在Reddit上引发热议,点赞数突破8.7万,迅速登上首页。

一个名为Trowaway_whistleblow的新注册用户自称是某外卖平台的软件工程师,即将离职,决心揭露公司内幕。

这看似符合大众对「万恶资本」的想象,但实为一场AI生成的骗局。

AI伪造外卖平台黑幕爆料,记者亲历识破全过程 AI伪造 外卖平台 算法剥削 新闻核查 第1张

原贴截图

帖子详细描述了平台如何通过算法操纵损害消费者和配送员利益,细节之详尽令人难以怀疑其真实性:例如故意延缓普通订单配送速度,以凸显付费优先订单的快速;又或收取所谓的「监管响应费」,实则用于游说反对司机工会。

最令人震惊的是:举报人称平台会根据司机接单时间和频率计算「绝望程度评分」(Desperation Score),若司机常在晚上10点后上线,且对3美元低价单来者不拒,算法便将其标记为「极度渴望赚钱」。一旦被标记,系统会切断高价订单推送,将高额小费单留给兼职司机以「钓」住他们,而全职司机则被逐渐榨干。

DoorDash首席执行官Tony Xu也在X上转发了帖子截图,并爆粗回应:「我靠,说得对。这不是DoorDash,如果有人推动或容忍这种文化,我会开除他」。

AI伪造外卖平台黑幕爆料,记者亲历识破全过程 AI伪造 外卖平台 算法剥削 新闻核查 第2张

DoorDash确实曾因窃取司机小费被起诉,最终支付1675万美元和解金。

零工经济平台对劳动者的剥削早已不是秘密。纽约市配送员倡导组织Los Deliveristas Unidos在声明中称:「这些指控之所以令人不安,不是因为它们令人震惊,而是因为它们符合配送员非常熟悉的模式」。

当新指控出现时,人们几乎本能地选择相信。

事实虚假,逻辑如何自洽?

对于一位刚结束假期、渴望在新年挖掘独家新闻的记者来说,这个举报人的料简直是天上掉馅饼。

Casey Newton是Platformer网站的记者,他通过Reddit给举报人发送私信,亮明身份并留下Signal账号。九分钟后,举报人回复了。

他说想分享更多信息,但其他联系过他的新闻机构要求的个人信息远超他愿意承担的风险。这句话里有个小细节引起Newton注意:举报人把「information」拼错了。第一个破绽出现了:原帖英文行云流水,怎会犯这种低级错误?

Newton表示会尽力匿名,但需核实身份。举报人问:一张打码的工牌行不行?Newton说发来看看。几分钟后,一张疑似Uber Eats员工证的照片出现在聊天记录里。

AI伪造外卖平台黑幕爆料,记者亲历识破全过程 AI伪造 外卖平台 算法剥削 新闻核查 第3张

第二天早上,举报人才再次联系记者。他说找到了一些可证实说法的文件。附件是一份题为「AllocNet-T:高维时间供应状态建模」的报告。这份18页文档自称是Uber公司「市场动态小组行为经济学部门」的成果,日期标注2024年10月14日,每页都带有「机密」水印。

AI伪造外卖平台黑幕爆料,记者亲历识破全过程 AI伪造 外卖平台 算法剥削 新闻核查 第4张

完整文档📄:

https://www.documentcloud.org/documents/26456842-fake-reddit-post-whistleblower-document/?ref=platformer.news

文档大部分内容似乎在描述「绝望程度评分」背后的AI系统技术架构。但读到最后,神奇的事情发生了——它把原帖里每一条指控都坐实了一遍,包括那些与评分无关的内容。例如,它详细描述了「自动化灰球协议」用于规避监管,这明显指向Uber当年那套躲猫猫的黑科技。

问题来了:一份技术架构文档,为何花大量篇幅讲监管事务?这不是此地无银三百两吗?

举报人开始催促。他说已把文档分享给其他记者,这让Newton陷入竞争焦虑——谁都不想被抢独家。他问Newton何时发表。Newton问他能否介绍一些现同事或前同事以帮助理解文档。举报人说不太行。

警铃开始响起。Newton突然想到,那张员工证会不会是AI生成的?虽然AI识别自身作品不太靠谱,但Google Gemini能检测SynthID水印。Newton将员工证上传至Gemini,询问是否生成过此图。Gemini回答:该图片大部分或全部内容是用Google AI编辑或生成的。

The Verge也联系了举报人,举报人提供的员工证同样被AI检测工具标记为生成或编辑过:这张员工证显示的是Uber Eats标志而非Uber标志,这很奇怪。Uber后来证实,印有Uber Eats品牌的员工证根本不存在。

信息末日,我们如何核查?

对于记者来说,此类伪造泄密事件本是职业风险的一部分。早在2004年,这一行就交过学费。当时丹拉瑟(Dan Rather)在《60 Minutes》节目中报道关于小布什总统在德克萨斯州空军国民警卫队服役的指控,结果那些「铁证如山」的文件全是假的

丹·拉瑟为此丢了饭碗,CBS新闻部招牌也砸了个坑。

放在过去,要伪造一份18页、术语满篇的技术文档,得花多少功夫?谁会闲得蛋疼,为整蛊记者搞这么大阵仗?谁又会专门P一张员工证?

但现在不一样了,有了AI工具,骗子们能让谎言跑得更快。

骗子的成本暴跌,记者的防御成本却暴涨。

事实核查刚作为一个正式概念被提出时,它背后藏着一种近乎天真的信念:只要你够认真、够仔细,就能把现实世界原封不动地搬到纸上。

但事实核查员核查的对象不是来自世界的事实,而是存在于语言的事态;而事实核查的目的,是还原事态和事实之间的桥梁,考证这个事态是否存在,是否(可能)构成事实。

也就是说,记者要问:这个说法有没有出处?这个出处靠不靠谱?这个叙述能否还原成真实发生的事?但当AI可以批量制造几近完美的出处时,这座桥正在坍塌。

记者说,有了这次经历,以后就不太可能再上类似的当了。但事实是,AI发展如此迅速,今天能识破的招数,明天可能就失效了。学者们在2017年警告的「信息末日」似乎越来越接近现实。

深度伪造技术迅速发展带来的消极影响不仅是社会公众会被欺骗,更在于社会公众会把所有事物都当成欺骗,从而对社会的一切都充满不信任。

AI伪造外卖平台黑幕爆料,记者亲历识破全过程 AI伪造 外卖平台 算法剥削 新闻核查 第5张

这样看,深度伪造所带来的「深度」或许是,它乐于让客观成为你所寻找的任何事实,这也导致所谓的「真相」从来没有被确认为某些东西,甚至它从来也不会被确认。深度伪造使得真相呈现为流动性与脆弱性的发展趋势。人类原本寄希望于通过信息的交换实现不确定性的消除,深度伪造却助长了深度数据政治与社会不确定性的再生产。

怀疑与信任、希望与失望、无畏与恐惧交织在现在,我们面临的是一个「似是而非」的未来。

参考:

https://www.platformer.news/fake-uber-eats-whisleblower-hoax-debunked/

https://mp.weixin.qq.com/s/E2VAKOJHYJ28jzuYxZ4sDA

https://mp.weixin.qq.com/s/7pEYRf7UzyRMcsQw-G1vfQ

https://substack.com/home/post/p-183499631