游客发表

图像生成技术正经历范式转移:从简单的句话t进「一句话生成一张图」,迈向更接近人类真实创作流程的生图生成开放任务处理。
在实际应用场景中,过时工具用户指令往往复杂多变:不仅要求画面精准对齐特定地标、开源人物、图像商品或事件,化出还强调参考图身份的编排一致性、特殊材质的句话t进呈现,甚至要求将模糊的生图生成自然语言描述转化为精确的视觉表达。面对这些多维度的过时工具需求,仅靠生成模型单次前向推理已难以保证结果的开源稳定性与准确性。
近期,图像由香港科技大学(广州)、化出美团、编排香港科技大学及新加坡国立大学等机构联合组成的句话t进研究团队提出了 GenEvolve——一个面向开放图像生成的自我进化智能体框架。该框架将单次生成任务重构为「工具编排轨迹」:智能体首先解析用户请求,随后动态调用搜索、图像检索及生成知识等工具,最终将外部证据、视觉参考与硬性约束整合为 prompt-reference program,交由不同的底层生成器进行渲染。

论文标题:GenEvolve: Self-Evolving Image Generation Agents via Tool-Orchestrated Visual Experience Distillation
论文链接:https://arxiv.org/abs/2605.21605
项目页面:https://ephemeral182.github.io/GenEvolve/
代码链接:https://github.com/MeiGen-AI/GenEvolve
模型权重:https://huggingface.co/MeiGen-AI/GenEvolve
数据与评测:https://huggingface.co/datasets/MeiGen-AI/GenEvolve-Data-Bench

GenEvolve 采用统一的智能体策略,兼容开源模型 Qwen-Image-Edit与高性能生成器 Nano Banana Pro。
GenEvolve 主要解决两类开放生成需求:
为此,GenEvolve 为智能体配备了三类核心工具:
* search (q):文本搜索工具,用于补充事实性证据。
* image_search (q):图像搜索工具,用于获取高质量的视觉参考。
* query_knowledge (skill):生成知识查询工具,激活模型内部关于文字渲染、空间布局、材质一致性等复杂需求的处理技能。
因此,一次高质量的图像生成不再仅仅是「编写更长的 Prompt」,而是一个多轮决策过程:确定搜索关键词、筛选参考图像、调用特定生成技能,并在最终程序中嵌入严格的约束条件。
为了训练具备此类能力的智能体,研究团队构建了 GenEvolve-Data和 GenEvolve-Bench。不同于传统的 Prompt-Image 配对数据收集,团队从约 2 万条结构化 Recipe 出发,覆盖了实体、地标、产品、事件、文字、布局、计数、属性、解剖、材质、美学及创意转化等丰富场景。
数据处理流程如下:
1. Teacher Agent 处理:每个请求首先由 Teacher Agent 执行完整的工具流程(查事实、找参考、调用生成知识、编写最终 prompt-reference program)。
2. 多重过滤与审计:数据经过程序检查、VLM(视觉语言模型)审计、GT(Ground Truth)图像渲染及视觉过滤。
3. 数据切分:最终切分为 SFT 轨迹数据、自我进化样本以及对应的 Benchmark 数据集。

GenEvolve-Data 数据闭环:从结构化 Recipe 生成工具轨迹,经 VLM 审计与 GT 图像过滤后,切分为训练视图与评测视图。
训练过程分为两个关键阶段:
仅依靠轨迹级奖励存在局限:它能指示「哪条轨迹更优」,却难以解释「为何更优」。为此,GenEvolve 引入了视觉经验自蒸馏机制:
这一机制使模型学到的不再是死记硬背的离线记忆,而是「面对类似请求时如何搜索、选择参考、组织约束」的决策习惯。这也是 GenEvolve 区别于单纯 RL 打分优化的核心:GRPO 提供强化方向,而视觉经验自蒸馏提供了更细粒度的 Credit Assignment(信用分配),明确了好轨迹究竟好在工具计划、参考选择还是约束写法上。部署时,Student 无需依赖外部经验库,所有决策能力已内化于模型参数中。

GenEvolve 方法总览:智能体采样多条工具轨迹,对比最优与最差结果,将视觉经验蒸馏回部署模型。
在自建基准 GenEvolve-Bench上,研究团队对比了主流直接生成模型与 Agentic 工作流:
这表明 GenEvolve 学到的并非针对特定生成器的 Prompt 技巧,而是一套可迁移至不同渲染器的通用工具编排策略。

GenEvolve-Bench 主结果:GenEvolve 在开源生成器设置和强生成器设置下均取得稳定提升。
消融实验显示:
* 未调优的 Qwen3-VL 工作流虽能利用工具入口,但结果不稳定;
* SFT 显著提升了工具调用与最终程序质量;
* GRPO 提供了关键的轨迹级优化信号;
* 加入视觉经验自蒸馏后,模型在 Visual correctness、Knowledge-Anchored 和 Quality-Anchored 等关键维度上继续提升。
此外,研究团队还在公开的 WISE知识密集型图像生成基准上进行了外推评估。在未进行 In-domain 微调的情况下,GenEvolve 使用 8B 开源策略与开源 Qwen-Image-Edit 渲染器,整体 WiScore 达到 0.82,超越了 GPT-4o 的 0.80。

WISE 结果:GenEvolve 在开源生成器设置和强生成器设置下,均超越了之前的开源和闭源模型。

定性对比:橙色示例更依赖外部知识,蓝色示例更依赖内部生成技能。
GenEvolve 的核心意义在于,它将开放图像生成从单一的 Prompt 优化,推进到了可学习的工具编排过程。对于需要外部知识、参考图一致性及多重硬约束的任务,智能体不再只是机械地「调用工具」,而是在训练中学会如何将工具结果转化为高效的生成程序。
目前,GenEvolve 已全面开源模型、代码、数据与评测集。对于图像生成智能体、工具使用、视觉反馈强化学习及开放生成评测等研究方向,该框架提供了一个极具价值的可复现起点。
论文作者包括 Sixiang Chen、Zhaohu Xing、Tian Ye、Xinyu Geng、Yunlong Lin、Jianyu Lai、Xuanhua He、Fuxiang Zhai、Jialin Gao、Lei Zhu,来自港科广、美团、港科大和新加坡国立大学。
随机阅读
热门排行
友情链接