论文页面 - FAPO：多步骤 LLM 流程的完全自主提示优化

来源：https://huggingface.co/papers/2606.19605

摘要

FAPO 通过结合提示编辑与结构变更来优化 LLM 流程，在多个基准测试和安全任务中展现出卓越性能。

多步骤 LLM 流程 (https://huggingface.co/papers?q=LLM%20pipelines) 在检索、推理和格式化步骤之间的交互中容易失败，因此仅进行提示优化 (https://huggingface.co/papers?q=prompt-only%20optimization) 可能会遗漏流程链中的瓶颈。我们提出 FAPO (https://huggingface.co/papers?q=FAPO)（完全自主提示优化 (https://huggingface.co/papers?q=Prompt%20Optimization)），一个让 Claude Code (https://huggingface.co/papers?q=Claude%20Code) 在标准化代码库中优化 LLM 流程的框架。FAPO (https://huggingface.co/papers?q=FAPO) 会评估流程、检查中间步骤、诊断失败原因、提出局部修改方案，并反复验证变体，以针对评分函数进行优化。它首先尝试提示编辑，仅当提示优化 (https://huggingface.co/papers?q=prompt%20optimization) 看起来不足时，才在归因识别出结构瓶颈的情况下，在允许的范围内改变流程链结构 (https://huggingface.co/papers?q=chain%20structure)。在六个基准测试和三个任务模型的对比中，FAPO (https://huggingface.co/papers?q=FAPO) 在 18 项模型-基准比较中的 15 项中优于基线 GEPA (https://huggingface.co/papers?q=GEPA)。在 11 项模型-基准比较中，FAPO (https://huggingface.co/papers?q=FAPO) 的平均分 ± 试验标准差范围与 GEPA 不重叠且更优，平均 FAPO (https://huggingface.co/papers?q=FAPO)-GEPA (https://huggingface.co/papers?q=GEPA) 增益为 +14.1 个百分点。在六项 HoVer 和 IFBench 比较中，当先提示搜索 (https://huggingface.co/papers?q=prompt-first%20search) 升级为结构变更 (https://huggingface.co/papers?q=structural%20changes)，FAPO (https://huggingface.co/papers?q=FAPO) 六战全胜，平均增益为 +33.8 个百分点。FAPO (https://huggingface.co/papers?q=FAPO) 还能提升安全任务性能：在 CTIBench-RCM (https://huggingface.co/papers?q=CTIBench-RCM)（一个安全 CVE-to-CWE 任务 (https://huggingface.co/papers?q=security%20CVE-to-CWE%20task)）上，仅用提示优化的 FAPO (https://huggingface.co/papers?q=FAPO) 将测试准确率提升了：GPT-5 上 +4.0 个百分点，Foundation-Sec-8B-Instruct 上 +7.1 个百分点，Foundation-Sec-8B-Reasoning 上 +2.0 个百分点。这些结果使 FAPO (https://huggingface.co/papers?q=FAPO) 成为通用和安全聚焦任务中一项最先进的流程优化 (https://huggingface.co/papers?q=pipeline%20optimization) 技术。

查看 arXiv 页面 (https://arxiv.org/abs/2606.19605) 查看 PDF (https://arxiv.org/pdf/2606.19605) GitHub20 (https://github.com/cisco-foundation-ai/fully-automated-prompt-optimization) 添加到收藏 (https://huggingface.co/login?next=%2Fpapers%2F2606.19605)

在你的 agent 中获取此论文：

hf papers read 2606.19605

没有最新的 CLI？curl -LsSf https://hf.co/cli/install.sh | bash

引用此论文的模型 0

没有模型链接到此论文

在模型 README.md 中引用 arxiv.org/abs/2606.19605 即可从此页面链接。

引用此论文的数据集 0

没有数据集链接到此论文

在数据集 README.md 中引用 arxiv.org/abs/2606.19605 即可从此页面链接。

引用此论文的 Spaces 0

没有 Space 链接到此论文

在 Space README.md 中引用 arxiv.org/abs/2606.19605 即可从此页面链接。

包含此论文的收藏集 0

没有包含此论文的收藏集

将此论文添加到一个收藏集 (https://huggingface.co/new-collection) 即可从此页面链接。