跳到正文
The Decoder· Jonathan Kemper·· 3 小时前AI 评分52

Adobe 研究团队发布 EditAgent:让 AI Agent 像 Photoshop 专业人士一样选工具并核查编辑结果

Adobe is testing how well AI agents can use editing tools like a Photoshop professional would

AI 导读

Adobe Research 与 UC San Diego 提出图像编辑系统 EditAgent,将请求拆分为步骤,为每步并行生成多个候选,并让未微调的语言模型依据验证记录选出最佳结果。

正文 · AI 翻译

Adobe 研究人员构建了一个用于图像编辑的 AI 智能体,它将通用编辑器与专用工具相结合。一个标准语言模型利用测量数据对结果进行比较,并选出最佳结果。

用于图像编辑的 AI 智能体会将复杂请求分解成若干步骤,并通常用相同的工具重试失败的步骤,而由另一个模型通过目测来判断输出结果。

Adobe Research 和 UC San Diego 的研究人员希望用 EditAgent 改变这一现状。根据一篇新论文,该系统的工作方式更像是 Photoshop 中的专业人士。它为每项任务选择合适的工具,并使用硬性数据将结果与原图进行比较。

Overview graphic comparing typical agentic image editing with EditAgent across three columns: Action Space, Observation Space, and Result. The top row shows repeated attempts with the same tools, while the bottom row shows parallel candidates from General, Local, Tone, and Style tools, judged by an off-the-shelf VLM using evidence in a single call.
EditAgent 不再反复重试同一个编辑器,而是并行生成采用不同方法的候选结果,并让一个未经修改的语言模型一次性比较所有结果。| 图片来源:Adobe

通用编辑器在很多任务上都会失败

在一项由五位专业人士盲评的 600 次图像编辑测试中,通用编辑器 Flux-2-Klein-9B 有 42.7% 的情况未能产生可用的结果。专用工具解决了其中大约三分之二的失败,尤其是在锐化、旋转和缩放方面。用同一个编辑器多次重试几乎没有帮助。

研究人员还测试了智能体是逐步精炼结果效果更好,还是并行生成多个变体效果更好。迭代精炼会累积小误差,因为每一轮都建立在已经修改过的图像之上。在专业人士做出选择的比较中,78.5% 的情况下他们更青睐从原图并行生成的变体。该智能体只需要一半的评估次数。EditAgent 正是建立在这两项发现之上。

硬性数据让标准模型成为更好的评判者

EditAgent 将请求规划成若干步骤,并为每个步骤将通用编辑器与匹配的专用工具进行比拼。然后由一个标准语言模型在一次处理中比较所有变体。

Architecture diagram of EditAgent using the example of extinguishing a candle flame. Planner, Step Analyzer, and Router select methods from the Capability Pool. Three candidates are generated in parallel with close-ups and change maps as evidence, and a VLM accepts candidate 3. Below, the steps Remove Flame, Add Smoke, and Adjust Lighting follow in sequence.
EditAgent 将请求分解为相互依赖的步骤,并为每个步骤生成多个候选结果。由语言模型根据验证数据选出最佳结果。| 图片来源:Adobe

对于每个变体,模型会获得一份验证记录,其中包含编辑区域的特写、已修改区域的变化图,以及关于亮度和颜色的测量统计数据。在一个示例中,一张照片本应被轻微提亮。数据显示通用编辑器使其曝光过度,并将色调偏向了暖色。而专用工具则保持在规格范围内。

Two examples of verification data. Top: a Removal Specialist and a General Editor remove a smiley patch from a checkered shirt, with the close-up revealing a blurred plaid pattern from the specialist. Bottom: a General Editor and a Photometric Operator brighten a dark still life, with measured brightness, clipping, and color shift values shown beneath.
特写图和测量得到的图像统计数据能揭示语言模型仅凭查看整幅图像时会遗漏的错误。| 图片来源:Adobe

研究人员在他们的 600 项编辑基准上对此进行了测试。评判模型需要从多个候选结果中选出最佳结果,研究人员统计了它选中专业人士也评为可用图像的频率。作为对比,他们还运行了像 EditScore 这样在人类对图像编辑的评分上进行过微调的模型。

在没有验证记录的情况下,所测试的七个语言模型没有一个能匹敌最佳微调模型。而在有验证记录的情况下,全部七个模型都击败了所有微调模型。Qwen3.8-27B 做出可用选择的比例为 81.3%,而 EditScore-72B 为 74.8%。研究人员认为,这表明评判模型所看到的内容,可能比它的训练方式更为重要。

Dot plot of Winner-Set Hit@1 for seven Qwen and Gemma models, each with and without evidence, compared to fine-tuned evaluation models EditScore and EditReward. With evidence, scores rise by 6.3 to 9.3 percentage points, with Qwen3.8-Flash-Next reaching 82.8 percent.
在提供验证数据的情况下,每一个被测试的标准语言模型都优于最强的微调评估模型 EditScore-72B(74.8%)。| 图片来源:Adobe

每轮编辑之后,EditAgent 还会检查后续的编辑是否不小心撤销了之前的修改。在论文的示例中,指令“让更多阳光照进来”使一扇原本磨砂的窗户重新变回透明。智能体捕捉到了这一冲突并将其修复。

Editing sequence of a bathroom in four images. In round 1, the window is frosted. In round 2, adding more daylight makes the glass clear again. The History Check catches the violation and restores the frosted glass while keeping the brighter lighting.
每轮结束后的检查确保后续编辑不会悄悄撤销之前的更改。 | 图片来源:Adobe

EditAgent 在三项基准测试中提升了开源编辑器 Qwen-Image-Edit-2511 和 Flux-2-Klein-9B 的表现,并超越了其他七个 AI 智能体。在 EdiVal 基准测试上,Qwen 版本在第三轮编辑后略胜商业模型 Seedream 4.0 和 GPT-Image-1.5。但该智能体所需的计算量约为单个编辑器的十倍,且其性能取决于接入了哪些工具。

该智能体可为更快的编辑器生成训练数据

研究人员还将 EditAgent 用作数据源。由于该智能体只保留经过验证的结果,它生成了约 26,000 个训练样本。在这些数据上微调的编辑器在所有三项基准测试中表现都更好。相反,直接由 FLUX 生成的训练数据反而让 FLUX 变得更差。随着时间推移,这种权衡可能会让该智能体高昂的计算成本变得物有所值。

Adobe 于 6 月 为 Photoshop、Premiere 和其他 Creative Cloud 应用添加了 AI 智能体,以公开测试版形式推出。用户描述他们想要的效果,智能体处理各个具体步骤。这些智能体能否选对工具并检查自身输出,这一问题直接关系到 Adobe 正在发布的产品。Black Forest Labs 此后已更换了论文中测试的通用模型:新的 Flux 3 Image Klein 拥有 56 亿参数,比 Flux 2 Klein 更小,但在 Black Forest Labs 的内部测试中得分高于所有其他开源模型,甚至高于商业版 Flux 2 Pro。

没有炒作的 AI 新闻 – 由人工精心筛选

订阅 THE DECODER,享受无广告阅读、每周 AI 新闻通讯、每年六期独家“AI Radar”前沿报告、完整存档访问权限以及评论区访问权限。

来源: The Decoder · the-decoder.com