M2N2：进化算法驱动AI模型融合新突破

Sakana AI从自然界的演化规律中汲取灵感，提出了M2N2——一种基于自然生态位的模型融合新方法。通过模拟生物界的“择偶机制”，AI模型得以在竞争与合作中不断优化与进化。

试想，如果AI模型能够像生物体一样通过竞争、协作与繁衍来不断优化，它们是否会创造出前所未有的强大能力？

这种“物竞天择，适者生存”的自然法则，是否同样适用于AI模型的优化与融合？

近期，Sakana AI的研究团队从自然界的演化过程中找到了答案，他们提出了一种利用“竞争与吸引力”的自然选择机制，以显著提升AI模型的融合效果。

Sakana AI认为，AI模型的发展与自然演化的过程有着惊人的相似之处：

集体智慧在群体中不断涌现，正如自然界孕育了多样化的生态系统。

在自然界的生态系统中，每个个体通过竞争、合作与组合来适应环境、繁衍后代。这正是Sakana AI所追求的AI世界：

当人类不再试图构建一个庞大的单体AI，而是构建一个由专业AI模型组成的生态系统，在其中进行竞争、合作与融合……这将带来怎样的变革？

他们不仅停留在想象阶段，而是不断探索模型融合的新方法，试图通过演化找到“最佳配方”。

现在，他们公开了这个“最佳配方”，并在GECCO 2025会议上获得了最佳论文提名奖！

论文地址：https://arxiv.org/abs/2508.16204

GitHub：https://github.com/SakanaAI/natural_niches

传统的模型融合需要人工介入，手动定义模型的分割方式。而M2N2（Model Merging of Natural Niches）则让这个过程像自然界的演化一样自动运行。

该方法基于自然演化的三个关键思想：

• 演化融合边界：M2N2打破了预定义的静态边界，使模型的组合更加自由，大大拓宽了模型组合的探索空间和可能性。
• 多样性竞争：M2N2模仿了自然界的“丛林法则”，让模型们为了有限的资源展开竞争，从而创造出一个由多样化、高性能专家组成的种群。
• 择偶机制：M2N2引入了一种“吸引力”启发式方法，智能地进行配对融合，大大提高了演化搜索的效率。

M2N2的尝试取得了令人振奋的成果：该模型融合技术在模型演化中表现出色，并优于其他演化算法。例如：

• 从随机网络演化出的MNIST分类器性能堪比CMA-ES算法，但计算效率更高。
• 能够扩展到大型预训练模型，特别是在数学和网络购物任务上表现显著优于其他方法。
• 避免了模型微调中的“灾难性遗忘”问题。

M2N2：全新的模型进化方法

M2N2通过引入一种结合竞争、吸引力与带切分点的模型融合的全新进化方法，显著提升了模型融合的效果。它首次将模型融合用于从零开始训练，并在性能与计算效率上优于所有当前的进化算法。