AI技术不仅在运用现有算法,更是在不断创造全新的算法。
加州大学伯克利分校的研究团队展示了其AI驱动的系统研究方法ADRS(AI-Driven Research for Systems),通过“生成—评估—改进”的迭代循环,实现了算法的持续优化。
基于现有的开源ADRS框架OpenEvolve,团队在多个领域的案例研究表明,其发现的算法显著优于人类设计算法,实现了高达5倍的运行效率提升或26%的成本降低。
具体来看,研究团队利用OpenEvolve发现了新算法。
如今,大型语言模型通过混合专家架构变得易于管理。
在该模型中,路由器将输入文本的每个token动态分配给特定“专家”网络,使得推理时仅需使用模型总参数的一小部分,从而极大提升了推理效率。
然而,这种架构也带来了一个关键的性能挑战——如何在各专家间实现负载均衡。
某些专家可能会成为热点,导致计算瓶颈。为此,研究团队引入了专家并行负载均衡器(Expert Parallelism Load Balancer,EPLB)算法,通过动态调整专家在GPU间的分布,以最小化负载不均、最大化系统吞吐量。
EPLB算法追求两个核心目标:最小化负载不均衡和最小化运行时间。
在寻找更优的EPLB算法时,团队考虑了两个基线方法,并发现OpenEvolve能生成更高效的新算法。
最终,该算法在保持与其他基线相当的负载平衡因子的同时,将运行时间缩短至仅3.7毫秒,较内部参考实现的性能提升达5倍。
Audrey Cheng等三位一作皆为华人,分别在加州大学伯克利分校攻读博士,研究方向包括数据库系统的事务处理、大规模系统中的一致性与隔离性等。
值得一提的是,Nature官网前几天也报道了一篇关于AI创造新算法的新闻。
Oh及其同事开发了一种能发现新型强化学习算法的元学习算法,超越了人类设计的强化学习算法。
看来,AI不仅能辅助工作和学习,还能自己进行创新。
未来,或许会有更多由AI自己发明的突破。
本文由主机测评网于2026-05-07发表在主机测评网_免费VPS_免费云服务器_免费独立服务器,如有疑问,请联系我们。
本文链接:https://www.vpshk.cn/20260543326.html