MLEvolve:自主机器学习进化系统
这是可索引项目报告证据页:它保留 MLEvolve:自主机器学习进化系统 的源材料入口、机制线索和限制提醒;正文仍需 reader/editor 与 academic public-copy review 后才能当作最终结论引用。
MLEvolve:自主机器学习进化系统
2025-2026 新项目 | 2026 年 2 月发布
基本信息
| 字段 | 内容 |
|---|---|
| GitHub | https://github.com/InternScience/MLEvolve |
| Stars | 286 |
| 主要语言 | Python |
| 许可证 | 未指定 |
| 创建时间 | 2026-02-14 |
项目简介
MLEvolve 是 InternScience 团队开发的自主机器学习工程系统,通过蒙特卡洛图搜索(MCGS)和多 Agent 协作自动解决 Kaggle 级别的 ML 竞赛。它是 AutoMLGen 的升级版本,在 MLE-bench 排行榜上以仅 12 小时运行时间取得第一名(61.33% 奖牌率),超越了所有 24 小时预算的竞争方案。
该系统采用渐进式图搜索与经验驱动的记忆机制,支持单次规划和记忆增强的双阶段检索增强规划,配合三种代码生成策略(单次生成、分步多 Agent 流水线、增量 SEARCH/REPLACE 补丁),根据搜索状态自适应调度。MLEvolve 也是 InternAgent 系统中编码和算法优化模块的核心引擎。
目录结构
MLEvolve/
├── run.py # 主运行入口
├── run_single_task.sh # 单任务启动脚本
├── agents/ # 多 Agent 协作模块
├── engine/ # 搜索引擎核心
├── llm/ # LLM 接口层
├── config/ # 配置文件
├── docs/ # 文档
├── assets/ # 资源文件
└── utils/ # 工具函数
核心模块分析
1. 渐进式蒙特卡洛图搜索(engine/)
在标准 UCT 算法基础上引入分段探索衰减、时间感知的探索-利用切换和自动停滞检测。多个解分支并行进化,当进展停滞时执行跨分支融合——将不同分支中表现最佳的节点洞察合并为新的候选方案。还支持轨迹感知进化,利用每个分支的完整改进历史来提出有依据的下一步。
2. 经验驱动记忆系统
全局记忆层记录每个节点的计划、代码、指标和成功/失败标签。检索结合 BM25 和 FAISS,允许规划器强化已验证策略并避免已知陷阱。不同 Agent 以不同方式查询记忆以鼓励新颖方法,实现”从自身搜索历史中学习”。
3. 多模式规划与代码生成(agents/)
支持基础模式(单次规划)和记忆增强模式(双阶段检索增强规划),配合三种代码生成策略:单次生成、分步多 Agent 流水线、增量 SEARCH/REPLACE diff 补丁。系统根据搜索状态自适应选择最优模式组合。
技术亮点
-
跨分支融合机制:当搜索进展停滞时,系统自动将不同进化分支中的优秀节点进行知识融合,产生新的候选方案。这打破了传统树搜索中分支间的信息壁垒。
-
自适应模式调度:根据搜索状态(初期探索 vs 后期精化 vs 停滞)动态切换规划模式和代码生成策略,实现了搜索资源的最优分配。
-
MLE-bench 第一名的实证:在仅 12 小时预算下取得 61.33% 的奖牌率,超越了所有 24 小时预算的方案,证明了进化搜索策略的效率优势。
-
冷启动模型推荐:根据任务类别自动推荐预训练模型,提供初始解的质量基线,加速搜索收敛。
与 Self-Evolve 关联
MLEvolve 展示了 Self-Evolve 在机器学习工程领域的深度应用。其经验驱动的记忆系统是 Self-Evolve 的核心组件——系统通过记录每次尝试的成功与失败,构建可检索的知识库,使得后续搜索能够”站在过去的肩膀上”。跨分支融合机制对应于 Self-Evolve 中”知识组合产生创新”的理念,而渐进式搜索策略则体现了”在探索与利用之间动态平衡”的进化智慧。作为 InternAgent 的核心模块,MLEvolve 证明了 Self-Evolve 不仅能优化单个组件,还能驱动端到端的科学发现流程。