
近日,Reddit平台上一则消息引发广泛热议:硅谷科技企业正逐步从昂贵的闭源AI模型转向更经济的开源替代方案。
被称为“SPAC之王”的知名投资人Chamath Palihapitiya公开透露,其团队曾是亚马逊云科技Bedrock服务的前20大用户,但现已将大量工作负载迁移至Groq平台上的中国模型Kimi K2,因为该模型性能显著更优,且成本远低于OpenAI和Anthropic。
Kimi K2由月之暗面团队开发,采用混合专家架构,总参数量达1万亿,激活参数量为320亿。此前,云端开发平台Vercel、AI编码助手Cline与Cursor、以及Perplexity和GensparkAI等应用均已宣布接入此模型。
“最终选择开源模型,核心因素是成本。”Palihapitiya表示,其编程工具仍通过Anthropic系统运行,技术虽佳但成本过高。而DeepSeek模型虽价格低廉,但迁移需数周甚至数月时间,因为模型需微调与工程适配才能集成到现有系统。
关于模型所有权及风险,Palihapitiya介绍,Groq通过获取中国模型的开源代码,在美国本土数据中心进行部署与分支开发,由美国人操作,并通过API提供“token进、token出”服务。
网友对此反应强烈,有人称此为“颠覆性举措”,也有人认为“Palihapitiya持有Groq股份,此举是为投资站台”。
该消息源自Palihapitiya近期参与的播客节目,嘉宾包括白宫首位AI主管David O. Sacks等,他们深入探讨了中国开源AI模型对美国产业带来的挑战。
以下为对话内容,InfoQ 在不改变原意的基础上进行了编辑和删减:
Jason Calacanis: 中国大语言模型公司DeepSeek发布的新开源模型DeepSeek 3.2 EXP给美国AI行业带来压力。该模型速度更快、成本更低,并搭载DSA稀疏注意力机制以加速训练推理。关键是其API成本大幅降低:每百万次输入28美分,输出42美分。而Anthropic的Claude模型同类服务收费约3.15美元,价格相差10至35倍。该模型已在亚马逊云科技和谷歌云上可用,许多初创公司正在测试或采用,因其极具成本效益。
David Freeberg: 当前AI领域正经历全面的架构重构,从成本和能耗角度看,仍处于“每token成本优化”的早期阶段。美国实验室也在推进类似研究,预计将取得相近成果。未来若架构革新使成本降低数倍甚至万倍,将对模型能耗与成本产生深远影响。
Chamath Palihapitiya: 作为Bedrock前20大用户,我们已将大量工作负载迁移至Groq平台的Kimi K2模型,因其性能更强且成本更低。但编程工具仍依赖Anthropic,成本高昂。AI模型迭代迅速,迁移需时间进行微调与适配,决策过程复杂,尤其对于复杂任务。
David O. Sacks: 开源软件能制衡科技巨头权力,提供“软件自由”路径。但如今领先的开源大模型均来自中国,如DeepSeek、Kimi、阿里巴巴通义千问。美国Meta的Llama模型投入巨大但表现不佳,可能转向闭源。OpenAI的开源模型性能不及前沿产品。在AI开源领域,美国似乎落后于中国。
Jason Calacanis: OpenAI名不副实,苹果在AI落后时推出开源模型Open ELM。规律常是:落后时开源,领先时闭源。
Chamath Palihapitiya: 开源与闭源竞争已演变为中美对抗。美国闭源模型领先,中国开源模型领先。成本问题将转化为能耗挑战,可能推高电价,科技公司或需通过交叉补贴或家庭储能方案应对。
David O. Sacks: 解释使用中国模型的具体运作方式。开源模型一旦发布,所有权不再属原公司,可在自有基础设施运行,数据不传回中国。但模型源头是中国,需考虑安全风险,如后门或漏洞。
Chamath Palihapitiya: 最初使用Bedrock服务,后为控成本转向Groq。Groq获取中国模型源代码,在美部署优化,提供API服务。选择基于价格,如同选择云服务商,哪里便宜选哪里。
David O. Sacks: 企业倾向在自有数据中心部署模型以确保数据安全。但模型源自中国,需测试安全性。Groq有流程测试漏洞,但细节未公开。
Chamath Palihapitiya: 使用开源代码自行部署可避免编译版本的风险。安全社区竞争有助于发现漏洞。AI已高度去中心化,多数应用无害,政策制定需适应此现实。
参考链接:
https://www.youtube.com/watch?v=ddAwgZ6ietc&t=2704s
https://www.reddit.com/r/LocalLLaMA/comments/1ohdl9q/silicon_valley_is_migrating_from_expensive/
本文由主机测评网于2026-01-15发表在主机测评网_免费VPS_免费云服务器_免费独立服务器,如有疑问,请联系我们。
本文链接:https://www.vpshk.cn/20260117775.html