当前位置:首页 > 科技资讯 > 正文

蚂蚁阿福:坚守中立,重塑AI健康信任基石

“蚂蚁阿福的问答结果将完全独立于任何商业因素,确保公正无偏。”蚂蚁集团的AI健康应用“蚂蚁阿福”明确回应了外界对其回答中可能嵌入广告的疑虑,展现了其维护中立立场的决心。

蚂蚁阿福:坚守中立,重塑AI健康信任基石 蚂蚁阿福 AI健康 中立性 数据纯净 第1张

近期,蚂蚁集团宣布其AI健康应用AQ升级为“蚂蚁阿福”,并新增了健康陪伴、健康问答、健康服务三大核心功能,旨在从工具型应用转变为用户的“AI健康朋友”。借助何炅的代言、《长安二十四计》《唐诡奇谭》等热门剧集的推广,以及户外大屏、地铁公交的广泛宣传,“蚂蚁阿福”迅速进入了大众视野。

当AI技术邂逅医疗健康,用户最看重的无疑是信任。这也是“蚂蚁阿福”强调中立性的原因。从某种程度上说,这一声明正是其营销策略中的点睛之笔。从“AQ”到“蚂蚁阿福”,蚂蚁集团试图将冷冰冰的AI工具转变为充满温情的健康顾问,以期在C端市场开辟新天地。

蚂蚁阿福:坚守中立,重塑AI健康信任基石 蚂蚁阿福 AI健康 中立性 数据纯净 第2张

然而,问题在于“蚂蚁阿福”的营销文案中充斥着诸如“上线半年日活破1500万”、“医疗大模型训练语料超万亿”、“60%团队成员拥有医学背景”等数据。但在医疗健康领域,单纯的数据堆砌可能适得其反,因为用户更看重的是安全感。

在这个私密而敏感的领域,用户需要的是医生对《希波克拉底誓言》《医学日内瓦宣言》《医学生誓言》的宣誓所带来的安心感。只有当医生以人格保证“病患的健康生命是我首要顾念;我必严守病患寄托予我的秘密”,患者才敢将生命托付给他们。

同样地,“蚂蚁阿福”也需要向用户承诺,会像守护生命一样守护其专业客观性,不植入任何药品、保健品或医疗机构的推广,其内容将完全不受商业合作或竞价的影响,仅基于医学证据和专业判断。只有这样,用户才敢向它寻求医疗健康方面的答案。

蚂蚁阿福:坚守中立,重塑AI健康信任基石 蚂蚁阿福 AI健康 中立性 数据纯净 第3张

一些朋友可能会问,为什么以前的互联网医疗产品没有自证清白的环节呢?

对健康的追求深深植根于人类的基因中,然而,对于什么是真正的健康,大多数人却一头雾水。毕竟,现代医学是壁垒最高的行业之一,“劝人学医,天打雷劈”的背后,是医学生漫长的培养周期。

当头疼脑热等小毛病也需要上医院时,钱包和精神可能都经不起考验。因此,“丁香医生”、“好大夫”等数字医疗产品应运而生,通过连接医生、医院、药企来为用户提供专业服务。事实上,这类产品只是将问诊场景从线下搬到了线上,其权威性仍然由医生和医院来背书。

但“蚂蚁阿福”不同,作为AI产品,它不具备人格。如果人类医生给出了错误的治疗方案并导致医疗事故,会有卫健委追责。然而,“蚂蚁阿福”如果因商业因素误导用户,又该如何追究开发者的责任?因此,“理中客”是用户愿意使用“蚂蚁阿福”的前提,毕竟大多数人不会拿生命开玩笑。

蚂蚁阿福:坚守中立,重塑AI健康信任基石 蚂蚁阿福 AI健康 中立性 数据纯净 第4张

在某种程度上,“蚂蚁阿福”被迫自证清白,这可以说是“前人栽树,后人乘凉”。当年的“魏则西事件”让许多国内网民心有余悸。该事件背后,是百度搜索引擎在竞价排名广告的影响下失去了公正性,错误地将缺乏资质的莆田系医院排在了搜索结果的首位。

在无良医疗机构通过“搜索引擎营销”(SEM)导致“魏则西事件”后,面对生成式人工智能(AIGC),用户难免会担心重蹈覆辙。其实这也不难理解,毕竟面向AI的“生成式引擎优化”(GEO)已经不是什么新鲜事。从事GEO的机构甚至公开宣称,当用户搜索与产品、服务或专业领域相关内容时,GEO会将品牌定位在AI生成的结果中。

蚂蚁阿福:坚守中立,重塑AI健康信任基石 蚂蚁阿福 AI健康 中立性 数据纯净 第5张

网络营销公司能影响AI大模型输出结果的原因很简单,因为AIGC的本质是基于概率的生成模型。它在生成内容时并非凭空创造,而是基于数据库中已存在且关联性最高的数据进行拟合。因此,只需调整内容结构和语义关联,让内容被AI算法视为“可信来源”,就能提升相关品牌在AI生成答案中的引用优先级和可见性。

值得注意的是,关闭AI的联网搜索能力并不能解决这一问题,因为AI大模型的训练数据集本身也可能被污染。长期以来,AI领域存在一个乐观的假设,即模型越大就越不容易受到数据投毒攻击(Data Poisoning Attack)的影响。然而,Anthropic和艾伦·图灵研究所的新发现却推翻了这一基本假设。数据投毒所需的“毒药”数量与训练数据集规模无关,只需250份恶意文档就能在130亿参数规模的模型中投毒,从而全面降低AI大模型输出内容的准确率。

蚂蚁阿福:坚守中立,重塑AI健康信任基石 蚂蚁阿福 AI健康 中立性 数据纯净 第6张

用谎言去验证谎言得到的一定是谎言。如果数据集中的参数本身有问题,得到的回答自然错漏百出。AI大模型的原理决定了它不可避免地会受到外界影响,其中立性并非天然存在。换句话说,“蚂蚁阿福”这次不仅拿出了一份声明,更是一份长期的承诺。

也就是说,“蚂蚁阿福”不仅需要拒绝商业化,还要持之以恒保持数据训练集的纯净。