新智元报道

编辑：LRST

LLM驱动的AI智能体已展现出惊人潜力：它们以LLM为核心，集成感知模块（处理文本/图像/音频/视频）、规划模块（如链式思考CoT或树式思考ToT）、记忆模块（短期上下文存储与长期知识检索）和工具模块（调用API如搜索引擎或代码执行器）。

在单智能体系统中，这些组件协同工作，处理从网页导航、代码生成、投资辅助到生物医学分析的任务。而在多智能体系统（MAS）中，智能体间通过协作（如辩论或任务分解）攻克复杂问题，模拟人类团队的群体智能。

但问题显而易见：现有的智能体系统依赖专家的手工搭建，并且一旦被部署后就会始终维持固定的架构和功能。

一旦环境改变（如用户改变意图、出现新工具或者信息来源出现变化），手动重配置就成了瓶颈——耗时、费力、不具规模化。

论文直击这一痛点，引入「自进化AI智能体」（Self-Evolving AI Agents）的概念：这些系统通过与环境的持续交互并获得反馈，自主优化内部组件，目标是适应变化的任务、上下文和资源，同时确保安全、性能提升和自主性。

论文链接：https://arxiv.org/pdf/2508.07407

项目地址：https://github.com/EvoAgentX/EvoAgentX

研究人员强调，这不是科幻，而是从基础模型的静态能力向终身智能体系统的桥梁。

为了让进化有序，作者借鉴艾萨克·阿西莫夫的机器人三定律，创新提出「自进化AI智能体三定律」：

Endure（安全适应），任何修改必须保证系统安全与稳定。例如，医疗 AI 智能体在优化诊断模型时，绝不能降低对患者安全的保障。

Evolve（自主进化），在前两定律基础上，自主优化内部组件以适应任务、环境或资源变化。例如，金融 AI 智能体需自主调整分析模型，应对市场突发波动。

这三定律如AI的「内在宪法」，分层设计（第二定律不能违背第一），确保进化不失控，而是有序推进。

值得一提的是，这篇综述已经冲上了Hugging Face Daily Paper热榜前三名，并且在X上和GPT5账号进行了神奇的联动：

看来即使是LLM也会被自进化这个话题所吸引呢。

该团队同时维护全球首个AI智能体自进化开源框架 ——EvoAgentX，旨在构建一个可信赖的 AI 智能体自进化生态体系。

从「固定工具」到「自主进化」

AI智能体四次范式飞跃

论文进一步描绘了LLM终身学习的范式，传统AI系统往往是 「一次性产品」：训练完成后就固定不变，面对动态环境时需要人工重新配置。

而自进化AI智能体的突破，在于构建了持续自我优化的闭环。

从早期静态预训练（MOP，Model Offline Pretraining），依赖大规模静态数据；

到在线适应（MOA，Model Online Adaptation），引入微调和RLHF；再到多智能体协调（MAO，Multi-Agent Orchestration），智能体间消息交换解决复杂任务；

最终抵达多智能体自进化（MASE，Multi-Agent Self-Evolving），智能体群体基于环境反馈和元奖励，持续精炼一切——从提示词到交互拓扑结构。

表1详细对比了四个范式：MOP的交互仅限于静态数据和损失函数；MASE则通过环境信号驱动行为优化、提示词优化等技术。这不仅仅是技术升级，更是范式革命——AI从「一次性训练」转向「终身学习」.

统一框架

自进化的「建筑蓝图」

论文提出的统一框架（图 3）揭示了自进化的底层逻辑，拆解为一个闭环迭代优化循环。

四大数据流环环相扣：

系统输入（System Inputs）：包括任务描述、训练数据集或具体实例（如输入-输出对），定义优化边界。任务级优化针对整体性能，实例级则细化单个案例。

智能体系统（Agent System）：核心执行者，可单智能体或多智能体形式，涵盖LLM、提示词、记忆、工具、工作流和通信机制。优化可针对单个组件（如提示词）或联合（如提示词+拓扑）。

环境（Environment）：模拟真实世界，提供操作上下文和反馈信号——从量化指标（如准确率、F1分数、成功率）到LLM评估器生成的文本反馈。

优化器（Optimisers）：大脑中枢，通过搜索空间（e.g.,提示词模板、工具选择）和优化算法（规则启发式、梯度下降、贝叶斯优化、MCTS、RL或进化策略）更新系统，寻找最佳配置。

例如，一个代码生成智能体的进化过程可能是：输入「提升 Python 代码调试效率」的任务→智能体尝试不同的工具调用策略→在真实代码环境中测试（环境）→优化器根据调试成功率调整策略→迭代升级。

从单智能体「修炼」到多智能体「协作」

基于框架，论文系统分类优化技术（见图2的视觉分类树，覆盖2023-2025年方法）

单智能体优化：聚焦个体提升

LLM行为优化：训练式如SFT（STaR自训练理性）和RL（Self-Rewarding自我奖励）；测试时扩展如反馈导向（Baldur验证器）和搜索（Tree-of-Thoughts多路径探索）。

提示词优化：编辑式（GRIPS渐进式提示词）、生成式（OPRO零样本优化）、文本梯度式（TextGrad模拟梯度）和进化式（EvoPrompt遗传算法）。

记忆优化：短期记忆（如COMEDY动态总结历史）和长期记忆（如MemGPT RAG增强检索）。

工具优化：训练式（ToolLLM工具调用微调）和推理时（EASYTOOL工具链选择），甚至自主创建工具（如CREATOR生成新API）。

多智能体优化：从手动设计转向自进化

提示词优化：扩展到团队角色（如AutoAgents自动分配）。

拓扑优化：代码级工作流（AutoFlow动态流程）和通信图（GPTSwarm蜂群式交互）。

统一优化：基于代码（ADAS智能体设计空间）、基于搜索（EvoAgent进化智能体）和基于学习（MaAS多智能体自监督）。

LLM基座模型：推理导向训练（如Sirius规划增强）和协作导向（如COPPER通信协议优化）。

领域特定优化：在专业场景落地

医疗诊断智能体可整合多模态数据（如影像、病历），例如 MDTeamGPT 模拟多学科会诊，通过反思讨论提升诊断准确率；分子发现智能体通过工具调用（如化学模拟软件）设计新药分子。

编程：代码优化智能体能自主调试、重构代码，例如 Self-Debugging 通过执行轨迹反馈修正错误；多智能体协作（如 「程序员 - 测试员」 分工）提升开发效率。

金融与法律：金融智能体可结合市场动态与政策调整分析模型，法律智能体能模拟法庭辩论，通过对抗式进化提升推理严谨性。

看完这些案例，你会发现自进化不是空想，而是已经在多个行业开花结果，正悄悄改变AI攻克专业难题的方式。

安全与评估：自进化的「护栏」与「体检」

自进化的强大，也意味着更高的不可控风险。论文指出，在高自治度的智能体中，安全、合规与可信评估必须是「内建」的，而非「附加」的。

例如，AgentHarm 等基准测试揭示了模型在多轮交互中被引导执行恶意任务的可能性；R-Judge等方法则利用智能体充当评估者，对其他智能体的行为进行批判性审查。

这不仅关系到技术本身的稳定性，更是未来AI大规模落地的社会底线。

从「能跑」

到「跑得远、跑得好、还能自己升级」

自进化AI智能体的故事，才刚刚开始。虽然它们已经能在多个领域「上场打比赛」，但要实现真正的终身进化，还有不少硬骨头要啃。这些挑战可以用三个关键词概括：持久（Endure）、卓越（Excel）、进化（Evolve）。

挑战一：持久运行的安全与合规

安全与对齐难题

现有优化方法更多关注「分数高不高」，而忽视了「会不会出事」。比如，模型在演化中可能出现隐私泄露、目标跑偏等风险，而现有法规（如 EU AI Act、GDPR）都是按「静态模型」写的，根本没考虑会自己变的系统。

稳定性隐患

奖励模型如果数据少、反馈噪声大，很容易导致智能体行为不稳定，甚至出现意料之外的错误。就像开车时方向盘太灵敏，一点点抖动就会偏航。

挑战二：性能不仅要高，还要能稳住

专业领域评测难

在生物医学、法律等领域，很难有统一、可靠的「标准答案」，这让模型优化缺少精准的反馈信号。

效率与效果的平衡

多智能体优化可以让结果更好，但计算成本、延迟和不稳定性也会飙升，必须找到性能与资源消耗的平衡点。

优化成果的可迁移性差

在一种大模型上调好的提示和架构，换个模型可能就失效了，这对大规模落地是个大障碍。

挑战三：真正的自主进化

多模态与空间推理不足

现实世界不仅有文字，还有图像、视频、传感器数据等，智能体要学会在这些信息中建立自己的「世界模型」，并具备时间和空间的推理能力。

工具的自主使用与创造

现在的智能体大多用的是「别人准备好的工具」，缺少自己发现、组合、甚至创造工具的能力。

未来方向

这些问题并非无解，它们也是自进化 AI 走向更高阶段的机会：

开放式自进化模拟环境

建立一个能「关起门来自己练」的虚拟世界，让智能体在其中反复试错、优化提示、记忆、工具和工作流。

工具的自适应使用与创造

从被动调用固定工具，升级为能主动选择、组合甚至创造新工具，并用反馈和强化学习不断打磨。

贴近真实场景的长期评测

不再只做一次性的「考试」，而是设计能持续跟踪智能体长期表现的评测标准。

性能–资源双目标优化

让多智能体系统在性能和延迟、成本、能耗之间找到最优平衡点。

面向行业的定制演化

针对科学、医疗、法律、教育等领域，结合专有知识、特定评测标准和法规要求进行定制化演化。

未来的AI智能体，不仅要能跑，还要跑得远、跑得好，并且能在跑的过程中学会换鞋、补能、升级引擎。

沿着MOP→MOA→MAO→MASE的进化路线，并以「三定律」为指南，这篇论文正在为这种「可持续、可自我进化」的智能体提供很好的技术路线图。

不同于以往智能体调研（聚焦静态架构），这份综述填补自进化空白，提供实用指南。

如果你想深入探索，可访问论文配套的GitHub仓库，获取最新研究资源与代码工具。

综述对比

有趣的是，就在这篇综述发布前不久，普林斯顿大学团队也推出了《A Survey of Self-Evolving Agents: On Path to Artificial Super Intelligence》。

两篇论文相隔仅十天，却在内容与视角上形成了鲜明互补：

框架差异

格拉斯哥团队提出了「系统输入—智能体系统—环境—优化器」的四环反馈回路，直观、可操作，更强调落地性。

普林斯顿团队则以「演化什么、何时演化、如何演化」三大维度进行概括，更加宏观，也更具哲学意味。

技术聚焦差异

格拉斯哥团队深入探讨了 LLM 与终身学习场景，细化到 Prompt、Memory、Tools、多智能体通信等具体技术层面。

普林斯顿团队则更多聚焦于长远愿景，标题本身也更偏哲学化，对工程细节的涉及较少。

深度与应用差异

格拉斯哥团队提供了生物医学、编程等领域的实战案例，并专设了评估、安全与合规的章节。

普林斯顿团队则更偏向趋势与远景蓝图，强调整体性的思考。

换言之，普林斯顿的综述更像一幅宏观地图，展示了「自进化智能体」可能的未来方向；而格拉斯哥的综述更像一套操作指南，体现出当下研究者如何将自进化智能体真正落地。两者相互呼应，共同勾勒出这一新兴领域的理论图景与实践路径。

参考资料：

https://arxiv.org/pdf/2508.07407