AI：可控工具还是不可控风险？

本文基于柏林赫尔蒂学院伦理与技术教授乔安娜·布赖森（Joanna Bryson）在腾讯研究院 AI&Society 海外专家面对面系列对话中的精彩分享，探讨“AI：可控工具还是不可控风险？”这一主题。

本文为腾讯研究院 AI&Society 海外名家对话系列第三篇力作。

01

问：自ChatGPT发布以来，生成式AI技术迅猛发展。这些技术对社会、经济和科学研究产生了哪些主要影响？

Joanna Bryson： 科学研究方面，人工智能在一定程度上加速了科研进程，但它本质上只是个工具，无需过分强调其特殊性。社会与经济层面，自动化可能带来替代效应和增强效应。英国研究显示，目前未见明显替代效应，反而在高生产力领域看到更多就业机会。但创建大型语言模型的高成本及其经济效益是否覆盖投入，尚不明朗。

政治上，经济衰退及不安全感可能导致政治极化，尤其在社交媒体和AI的推动下，信息传播更具针对性。经济不稳定时期，这种易受操控的心理易通过社交媒体放大。

02

问：如何看待AGI？其发展会否因大模型而加速，或存在泡沫化风险？

Joanna Bryson： AGI概念在将政府和公司视为一种形式的人工智能上有意义。AI与政府和公司一样复杂，需技术和合作放大人类智能。但科技公司激励政策基于AI成果而非理解系统，若只关注成果而不探讨运作和控制，将非常危险。AGI与权力和市场竞争紧密相关，需关注潜在市场控制问题和AI泡沫。

欧盟《人工智能法案》要求所有使用和部署AI的机构对技术负责，确保有效控制。

03

问：AI如何影响就业？会取代基础性工作还是创造新岗位？教育和社会保障应如何调整？

Joanna Bryson： AI可能导致失业的误解在于将工作简化为人与人的关系。工作本质是权力的集中。自动化替代部分工作同时集中权力。经济转型中，技能重新估值是问题。新技术创造新机会，需帮助适应者获得支持。

教育体系和社会保障体系需改革，应对AI变革。北欧国家成功实施政策，政府选择未来产业方向，通过劳动力再培训帮助适应新环境。

04

问：若未来工作由AI完成，人类如何重新定义工作意义？

Joanna Bryson： 工作定义或变，不仅为经济利益，更重社会联系、个人认同和自我价值实现。如餐饮业、艺术创作等提供情感交流和自我表达空间。

尽管科技进步改变传统岗位，但人与人之间的联系和福祉关心将是未来工作的核心。

05

问：如何看待AI风险？AI会有自主意识吗？

Joanna Bryson： 当前AI不具备“意识”。意识涉及道德主体或受体问题，而非自主记忆。AI在实现目标的手段上独立，但目标由人类选择。AGI不会完全自主决策，始终是人类设计和控制的工具。

需确保AI系统透明和可控，有明确的控制和责任。

06

问：AI责任是什么？治理重点何在？

Joanna Bryson： AI产品责任链条至关重要。需明确责任方，确保问题发生时清楚知道责任所在。责任模糊与诉讼文化相关，但开发者需充分理解和掌控技术。

需提高透明度，创建监管框架确保开发者负责。

07

问：如何看待“全民基本收入（UBI）”？这是可行方案吗？

Joanna Bryson： 我曾支持UBI但持保留态度。直接发放现金虽短期可行，但长期需更系统措施解决财富不平等。

公共教育可平衡社会差距，减少家庭背景影响。需激励机制确保人们有动力工作，避免社会经济过于平等。

08

问：欧盟AI法案影响如何？实施中遇哪些挑战？

Joanna Bryson： 欧盟AI法案影响深远且具开创性。明确AI产品法律地位，禁止与隐私和基本权利不兼容的服务，要求AI系统清晰标识其性质。

主要挑战是执行和监管，尤其在跨国监管和全球统一标准方面。

09

问：未来AI发展应遵何原则和价值观？

Joanna Bryson： 核心原则包括产品责任、透明度和持续改进能力。需确保AI遵循责任链条，开发者负责。

有效监管大型AI平台，避免技术过度集中，保持公平竞争。

\n

10

\n

...更多精彩内容...

\n