当前位置:首页 > 科技资讯 > 正文

OpenAI重组引发公众信任危机,透明度问题亟待解决

OpenAI重组引发公众信任危机,透明度问题亟待解决 OpenAI 重组 透明度 信任危机 第1张

近日,多家非政府组织联合发布公开信,对OpenAI计划中的公司重组提出透明度质疑。这封由Encode、The Midas Project、EyesOnOpenAI及加州非营利、慈善和劳工组织联盟等共同发起的公开信,已获众多知名人士及组织的支持,包括四位诺贝尔奖得主,他们表达了对OpenAI可能偏离非营利使命、优先追逐利润的深切担忧。

签署公开信的诺贝尔奖得主包括多伦多大学名誉教授杰弗里・辛顿(Geoffrey Hinton,2024年物理学奖得主)、罗马萨皮恩扎大学名誉教授乔治・帕里西(Giorgio Parisi,2021年物理学奖得主)、哈佛大学教授奥利弗・哈特(Oliver Hart,2016年经济学奖得主)以及哈佛大学及波士顿大学名誉教授谢尔登・李・格拉肖(Sheldon Lee Glashow,1979年物理学奖得主)。此外,以太坊联合创始人维塔利克・布特林(Vitalik Buterin)、牛津大学人工智能伦理研究所研究员唐凤(Audrey Tang)等一众科技界知名人士也加入了签名行列。

公开信还包含多位已离职的前OpenAI员工,他们共同指出OpenAI拟转型为公共利益公司可能削弱利润上限和非营利监督等保障措施,将巨额价值从公众转移到私人投资者手中。而OpenAI最初成立时是一家非营利组织,旨在确保通用人工智能造福全人类。

OpenAI重组引发信任危机

自2019年起,OpenAI创建营利性子公司,形成了混合结构,并设立了包括非营利监督、投资者利润上限、多数独立董事会、使命优先等一系列保障措施。然而,OpenAI在履行透明义务方面存在不足。例如,其未经公开便变更了核心承诺,将投资者100倍回报上限从2025年起每年增加20%;通过严格保密协议压制内部声音;还存在未按承诺分配计算资源给安全团队、掩盖安全漏洞等问题。

近期的重组计划进一步加剧了透明度问题。OpenAI试图将法律实体从限利/非营利混合结构转变为更常规的营利性公司,这可能削弱其优先公众利益的法律义务。此行为引发了多方危机,包括非营利董事会对OpenAI的控制程度不明、投资者回报的利润上限可能取消等。为此,联盟提出了八个关键问题,要求OpenAI澄清是否会继续优先考虑慈善使命、维持非营利控制,并公开运营协议及超额利润估算。

随着OpenAI在AI领域的领先地位,其治理是否符合公众承诺正面临日益增长的压力。联盟认为,在AGI对社会影响重大的背景下,公众有权了解OpenAI的决策将如何塑造未来。这一切至关重要,因为其先例将影响全球AI发展。截至目前,OpenAI尚未公开回应相关指控和要求。

以下为公开信全文:

致OpenAI:

作为OpenAI慈善使命的法定受益人,我们在此表达我们的深切关切。

目前,OpenAI在封闭的会议室中既是谈判的发起方又是决策方,代表人类达成协议,却拒绝向我们展示合同内容、解释条款或允许我们对决定表示意见。

在OpenAI成立之初,曾承诺确保AGI造福公众的法律义务。这一使命被写入OpenAI的创始文件,并通过激发公众的信任来筹集资金和吸引人才。

我们呼吁OpenAI至少提供基本的透明度,说明这一转变将如何影响其对公众的法律承诺。具体来说,我们请求OpenAI清晰回答以下问题:

——OpenAI会继续优先考虑其慈善使命而非利润的法律义务吗?

——OpenAI的非营利组织会继续完全控制OpenAI的管理吗?

——OpenAI的非营利董事会有哪些人将在新结构中获得股权?

——OpenAI会继续维持利润上限,并遵守将超额利润用于造福人类的承诺吗?

——OpenAI是否计划在开发AGI后将其商业化?

——OpenAI会重新承诺遵守其宪章中的原则吗?

——OpenAI是否会披露重组对公众的利害关系?

我们相信OpenAI的回应将有助于恢复信任,并确定其是否仍致力于其创始原则。

事关重大。OpenAI关于治理、利润分配和问责制的决定不仅将塑造其自身的未来,还将影响整个社会的未来。