CoffeeBench:异构多智能体经济中长期任务LLM智能体的基准测试
摘要
CoffeeBench 是一个用于在长期多智能体经济模拟中评估 LLM 智能体的基准测试,其中企业互动 90 天以最大化利润,揭示了不同模型在通信模式和性能上的差异。
查看缓存全文
缓存时间: 2026/06/26 10:06
论文页面 - CoffeeBench:异构多智能体经济中长周期LLM智能体的基准测试
来源:https://huggingface.co/papers/2606.16613
摘要
CoffeeBench 评估了 LLM 智能体在多智能体经济模拟中的表现,其中企业通过 90 天的互动来最大化利润,揭示了不同模型在沟通模式与性能上的差异。
随着 LLM 智能体(https://huggingface.co/papers?q=LLM%20agents)能够处理日益复杂的 长周期任务(https://huggingface.co/papers?q=long-horizon%20tasks),评估它们在 经济体系(https://huggingface.co/papers?q=economic%20systems)中的表现变得愈发重要。与现有主要评估单个智能体与被动环境交互的基准不同,经济体系(https://huggingface.co/papers?q=economic%20systems)本质上具有多智能体特性,要求 自主智能体(https://huggingface.co/papers?q=autonomous%20agents)在追求自身目标的同时进行沟通、谈判和 交易(https://huggingface.co/papers?q=transact),并持续较长时间。我们推出了 CoffeeBench,这是一个用于评估 LLM 智能体(https://huggingface.co/papers?q=LLM%20agents)在由异构企业组成的 长周期多智能体经济(https://huggingface.co/papers?q=multi-agent%20economy)中的基准测试。在 CoffeeBench 中,两名农民、两名烘焙商和两名零售商在 90 天的模拟中自主运营业务,每个智能体都试图通过 沟通(https://huggingface.co/papers?q=communication)和 交易(https://huggingface.co/papers?q=transact)来最大化 累计净收入(https://huggingface.co/papers?q=cumulative%20net%20income),同时管理现金、库存和定价。被评估的模型控制一家咖啡烘焙商,而其余企业则由固定的参考智能体控制。在多个近期开权重和专有 LLM 中,所有模型都优于不采取任何行动的被动基线,大多数模型实现了正净收入。对 智能体行为(https://huggingface.co/papers?q=agent%20behavior)的分析揭示了长周期经济互动中的显著差异:表现更好的模型与其他企业沟通更活跃,而 Claude Haiku 4.5 表现出一种“空闲漂移”的失败模式,尽管能产生连贯的评估和计划,却反复选择不行动。我们发布了代码和智能体轨迹以支持未来的研究。
查看 arXiv 页面(https://arxiv.org/abs/2606.16613)查看 PDF(https://arxiv.org/pdf/2606.16613)项目页面(https://pub.sakana.ai/coffeebench/index.html)GitHub(https://github.com/SakanaAI/CoffeeBench)添加到收藏(https://huggingface.co/login?next=%2Fpapers%2F2606.16613)
在您的智能体中获取这篇论文:
hf papers read 2606.16613
没有最新的 CLI?curl -LsSf https://hf.co/cli/install.sh | bash
引用此论文的模型0
没有模型链接到此论文
请在模型 README.md 中引用 arxiv.org/abs/2606.16613 以从此页面链接。
引用此论文的数据集0
没有数据集链接到此论文
请在数据集 README.md 中引用 arxiv.org/abs/2606.16613 以从此页面链接。
引用此论文的 Space0
没有 Space 链接到此论文
请在 Space README.md 中引用 arxiv.org/abs/2606.16613 以从此页面链接。
包含此论文的收藏集0
没有收藏集包含此论文
请将此论文添加到 收藏集(https://huggingface.co/new-collection)中以从此页面链接。
相似文章
MerchantBench:评测LLM智能体在电子商务运营中的长期连贯性
MerchantBench是一个新的基准测试,用于评估LLM智能体在电子商务运营中的长期连贯性,采用包含98,843条真实商品记录和26种工具的365天订单级模拟。结果显示,最佳LLM的最终净资产仅达到人类参与者平均值的27.3%,凸显了巨大的能力差距。
EcoAgent-Bench:评估预算受限的LLM代理中的经济决策
本文介绍了EcoAgent-Bench,一个包含304个任务的基准测试,用于评估LLM代理在明确预算和定价操作下的经济决策,测试五个任务族中的四种与成本相关的决策。
PolyWorkBench: 多语言长周期LLM智能体基准测试
介绍PolyWorkBench,一个用于评估LLM智能体在多语言长周期职场工作流中的表现的基准测试,涵盖五个领域,并展示了与单语言设置相比显著的性能下降。
Business Arena:在现实市场中对LLM智能体进行基准测试
Business Arena 是一个新的基准测试,在真实的跨境店铺环境中评估 LLM 智能体,揭示了与人类策略之间的巨大性能差距,并能够对商业决策进行详细归因。
新LLM协调基准 - 在语言智能体中评估开放式多智能体协调 [R]
介绍了一个用于评估LLMs中多智能体协调的新基准,发现大多数模型在处理长期开放式任务时表现不佳,但Gemini 3.1 Pro在最具挑战性的设置下表现与经过训练的MARL智能体相当。