当前位置:首页 > 科技资讯 > 正文

AI自创算法:效率飙升5倍,成本降低26%

AI技术不仅在运用现有算法,更是在不断创造全新的算法。

加州大学伯克利分校的研究团队展示了其AI驱动的系统研究方法ADRS(AI-Driven Research for Systems),通过“生成—评估—改进”的迭代循环,实现了算法的持续优化。

AI自创算法:效率飙升5倍,成本降低26% AI算法 OpenEvolve 负载均衡 创新 第1张

基于现有的开源ADRS框架OpenEvolve,团队在多个领域的案例研究表明,其发现的算法显著优于人类设计算法,实现了高达5倍的运行效率提升或26%的成本降低。

AI自创算法:效率飙升5倍,成本降低26% AI算法 OpenEvolve 负载均衡 创新 第2张

具体来看,研究团队利用OpenEvolve发现了新算法。

使用OpenEvolve发现新算法

如今,大型语言模型通过混合专家架构变得易于管理。

在该模型中,路由器将输入文本的每个token动态分配给特定“专家”网络,使得推理时仅需使用模型总参数的一小部分,从而极大提升了推理效率。

然而,这种架构也带来了一个关键的性能挑战——如何在各专家间实现负载均衡。

某些专家可能会成为热点,导致计算瓶颈。为此,研究团队引入了专家并行负载均衡器(Expert Parallelism Load Balancer,EPLB)算法,通过动态调整专家在GPU间的分布,以最小化负载不均、最大化系统吞吐量。

AI自创算法:效率飙升5倍,成本降低26% AI算法 OpenEvolve 负载均衡 创新 第3张

EPLB算法追求两个核心目标:最小化负载不均衡和最小化运行时间。

在寻找更优的EPLB算法时,团队考虑了两个基线方法,并发现OpenEvolve能生成更高效的新算法。

AI自创算法:效率飙升5倍,成本降低26% AI算法 OpenEvolve 负载均衡 创新 第4张

最终,该算法在保持与其他基线相当的负载平衡因子的同时,将运行时间缩短至仅3.7毫秒,较内部参考实现的性能提升达5倍。

三位一作皆为华人

AI自创算法:效率飙升5倍,成本降低26% AI算法 OpenEvolve 负载均衡 创新 第5张

Audrey Cheng等三位一作皆为华人,分别在加州大学伯克利分校攻读博士,研究方向包括数据库系统的事务处理、大规模系统中的一致性与隔离性等。

One More Thing

值得一提的是,Nature官网前几天也报道了一篇关于AI创造新算法的新闻。

AI自创算法:效率飙升5倍,成本降低26% AI算法 OpenEvolve 负载均衡 创新 第6张

Oh及其同事开发了一种能发现新型强化学习算法的元学习算法,超越了人类设计的强化学习算法。

看来,AI不仅能辅助工作和学习,还能自己进行创新。

未来,或许会有更多由AI自己发明的突破。