AI创新需平衡技术、安全与责任

科技的进步应当在尊重用户权益和遵守监管要求的基础上实现。

至今，用户仍无法使用谷歌自家的AI助手，通过谷歌邮箱发送邮件。

与近期发布的豆包手机助手相比，谷歌的AI功能显得相对"保守"。在之前的用户测试中，豆包已经能够绕过APP界面，直接帮助用户下单，并能自动回复微信消息。

但这并不意味着谷歌的技术落后于豆包，因为AI背后涉及的不只是技术，还有用户的安全和企业的责任。过于激进的方案，往往难以实施。

12月5日，在遭遇微信、支付宝、淘宝、农业银行等多家APP的"拒绝登陆"后，豆包手机助手发布了关于调整AI操作手机能力的说明。

说明中提到：

为了让技术发展、行业接受度和用户体验三者之间形成良性适配，我们计划在接下来的时间里，在部分场景下，对AI操作手机的能力进行一些规范化调整。这包括但不限于进一步限制金融类应用的使用：银行、互联网支付等金融场景，直接关联用户的资金安全。尽管手机助手在敏感操作时都需要用户授权，但出于谨慎考虑，豆包手机助手也将暂时下线操作这类APP的能力。同时，我们也会积极与相关厂商沟通，希望共同制定清晰、安全的AI操作行为准则。

与前两天更为强硬的辩驳声明相比，这份声明在姿态上已经柔和许多。声明主要表达了两个观点：一、我们对某些限制类应用仍保持敬畏；二、我们愿意与大家沟通，寻找一个各方都能接受的行为标准。

总之，豆包降低了方案的激进程度。毕竟，此前的方案虽然在一定程度上突破了技术边界，但也突破了传统的用户安全体系、监管体系、厂商合作模式的边界。

01 豆包的遭遇不是创新者困局？

全球AI Agent的发展势头正猛。自2023年AutoGPT开启智能体序幕以来，从个人助手到企业级解决方案，AI Agent展现出前所未有的活力。微软、谷歌、亚马逊等科技巨头纷纷布局AI/Agent平台，在基础设施、多模态能力等方面各有优势。

豆包的方案属于GUI Agent的技术路线，这并不新奇。GUI Agent是一种基于多模态视觉模型驱动的人工智能系统，能够自动推理并执行图形用户界面（GUI）交互，模拟人类用户的操作如点击、输入、拖拽等，以完成工作任务。

无独有偶，豆包手机助手发布前两天，大模型独角兽阶跃星辰开源了跟豆包手机助手同类型的GUI Agent技术——名为GELab-Zero的套组。

在全球范围内，GUI Agent技术的应用一直较为谨慎。以苹果的Siri和谷歌的Google Assistant为例，这些主流的智能助手虽然能够通过语音指令完成部分操作，但它们严格遵循API（应用程序编程接口）调用的方式，避免直接触碰应用程序的核心功能。这种做法既保证了用户隐私和数据安全，也避免了与应用程序开发者或监管机构的潜在冲突。

在国内，GUI Agent技术的落地同样面临着严格的考验。百度、华为等厂商在推出各自的智能助手时，也选择了与应用程序开发者合作，通过API接口实现功能对接。这种方式虽然需要更多的沟通和协调，但能够确保技术的应用符合行业规范和监管要求。

然而，豆包手机助手却选择了一条更为激进的路径，绕过微信、支付宝等主流App的安全体系，试图通过用户授权直接操作这些应用程序的界面。这种激进的方案不仅引发了应用开发者和用户的不满，也暴露了GUI Agent技术在实际应用中可能存在的合规性和安全性问题。

02 为什么说豆包的方案是激进的

豆包的方案不仅挑战了互联网合作关系，还忽视了现有的成熟互联网账号安全体系。

经过几十年的发展，互联网公司的账户安全体系设计可谓环环相扣、层层设防。以登录验证为例，有传统的密码验证，也有更为安全的双重验证，如短信验证码、指纹、面部识别等。还有权限控制机制，严格限制不同用户对数据的访问权限。反欺诈检测系统则能实时监测异常登录行为。

这些安全机制如果被绕开，存在风险。比如：如果绕过登录验证，攻击者就能获取用户账号信息；绕开权限控制可能导致数据被随意篡改或泄露；而跳过反欺诈检测则可能使异常行为无法被及时发现和处理。一旦发生安全问题，豆包将面临用户信任危机甚至可能承担法律责任。

豆包的方案之所以引发争议还因为它忽略了互联网行业在账号安全和监管方面的"防护栏"。微信、支付宝等App早已建立了严格的安全防护机制防止第三方程序绕过其官方授权直接操作用户的账号和数据。在金融支付领域监管机构对数据安全和用户隐私的要求尤为严格。豆包试图通过用户授权直接跳过这些安全机制这种做法不仅可能威胁到用户的账户安全还可能违反相关法律法规。

此外豆包的方案还涉及一个关键问题：它是否能够接过所有App的平台责任并满足监管需求？金融支付类App涉及用户的财产安全一旦出现数据泄露或操作失误责任归属将变得极其复杂。豆包作为第三方平台是否具备足够的技术和能力来承担这些责任？

如果答案存疑那么豆包的方案就如同在现阶段推出L5全自动驾驶一样——还没有成熟的条件。

从全球范围来看任何试图绕过应用开发者和监管机构的方案都难以获得广泛支持。过于激进的GUI Agent方案不仅可能威胁到用户的隐私和安全还可能引发监管部门的审查和处罚。

03 走得稳一点

技术创新应当在尊重用户权益和遵守监管要求的前提下进行。这不是保守而是对用户的责任体现。

如何在维持目前的互联网安全体系基础上实现手机智能助手等智能体之间不同账户体系之间的互通为用户带来更大价值？

谷歌早已做了示范：作为安卓系统中枢的谷歌助手（或Gemini）在用户首次调用第三方应用时会清晰列出它需要访问的用户数据和权限。用户必须主动登录 Google 账号并点击授权才能继续。

图注：作为谷歌自家的AI助手Gemini发邮件没有任何技术门槛但有些行为是出于对用户的责任感。

国内厂商里OPPO和支付宝的合作也提供了参考。在2024 OPPO开发者大会上支付宝发布了AHA（Agent Hub Access）智能体互联协同解决方案。这一方案旨在通过安全可控的方式实现智能助手与应用程序之间的高效协作。

AHA解决方案的核心在于构建了一个智能体互联的枢纽它能够将手机操作系统、手机厂商自研的AI大模型以及各类第三方应用服务紧密连接起来。在这一枢纽的作用下AI助手不再是孤立的个体而是能够与各种应用进行智能交互的协同伙伴。

AHA解决方案在保障安全方面也下足了功夫它遵循严格的安全标准和协议确保用户数据在传输和存储过程中的安全性。在用户授权方面采用了透明且明确的授权机制让用户清楚地知道自己的数据将被用于哪些服务充分尊重用户的知情权和选择权。

这一方案还具备很强的开放性和兼容性它能够接入不同厂商的AI助手和各类应用为整个AI助手行业提供了一个标准化的互联互通平台这不仅有助于推动行业技术的创新发展还能让更多的开发者参与到生态建设中。

今年工信部、信通院等机构也在积极推进国家多智能体互联的标准工信部牵头的《人工智能 智能体互联》系列标准也已发布蚂蚁集团做为核心参编方牵头编写AHA作为重要业界实践参考。

不可否认的是未来GUI Agent技术将持续发展豆包的方案不是第一个也不是最后一个方案无论如何AI必须建立在对用户隐私数据安全和行业监管的尊重之上。只有通过合规与合作的方式才能真正实现技术的价值为用户提供更优质的智能服务。