QuantCode-Bench:评估大语言模型生成可执行算法交易策略能力的基准
摘要
# 论文页面 - QuantCode-Bench:评估大语言模型生成可执行算法交易策略能力的基准 来源:[https://huggingface.co/papers/2604.15151](https://huggingface.co/papers/2604.15151) ## 摘要 QuantCode\-Bench 通过测试大语言模型能否将自然语言描述转化为可在历史金融数据上正确运行的功能性代码,来评估其生成可执行交易策略的能力。
查看缓存全文
缓存时间: 2026/04/21 07:21
论文页面 - QuantCode-Bench:评估大语言模型生成可执行算法交易策略能力的基准
来源:https://huggingface.co/papers/2604.15151
摘要
QuantCode-Bench 通过测试模型将自然语言描述转化为可在历史金融数据上正确运行的功能性代码,来评估大语言模型生成可执行交易策略的能力。
大语言模型(https://huggingface.co/papers?q=Large%20language%20models)在通用编程任务上表现强劲,但其生成可执行算法交易(https://huggingface.co/papers?q=algorithmic%20trading)策略的能力仍鲜有人探究。与常规代码基准不同,交易策略生成要求同时掌握领域专属的金融逻辑(https://huggingface.co/papers?q=financial%20logic)、熟悉专用 API,并产出不仅语法正确、还能在历史数据上真实下单的代码。本文提出 QuantCode-Bench,用于系统评估现代 LLM 把英文文本描述转换成 Backtrader 框架(https://huggingface.co/papers?q=Backtrader%20framework)策略的能力。该基准包含 400 个难度各异的任务,来源涵盖 Reddit、TradingView、StackExchange、GitHub 及合成数据。评估采用多阶段流水线,依次检查语法正确性、回测成功执行、是否产生交易,并通过 LLM 裁判(https://huggingface.co/papers?q=LLM%20judge)衡量与任务描述的语义对齐(https://huggingface.co/papers?q=semantic%20alignment)。我们在两种设定下对比 SOTA 模型:单轮生成必须一次到位;多轮智能体可接收迭代反馈并自主修复错误。分析各阶段失败模式后发现,当前模型的主要瓶颈并非语法,而是交易逻辑的正确落地、API 的合理使用(https://huggingface.co/papers?q=API%20usage)以及对任务语义的遵循。结果表明,交易策略生成属于一类独特的领域特定代码生成(https://huggingface.co/papers?q=code%20generation)任务,其成功不仅依赖技术正确性,还需自然语言描述、金融逻辑与策略在数据上的可观测行为三者对齐。
查看 arXiv 页面(https://arxiv.org/abs/2604.15151)
查看 PDF(https://arxiv.org/pdf/2604.15151)
项目主页(https://limexailab.github.io/QuantCode-Bench/)
GitHub(https://github.com/LimexAILab/QuantCode-Bench)
添加到收藏(https://huggingface.co/login?next=%2Fpapers%2F2604.15151)
在 agent 中获取该论文:
hf papers read 2604.15151
尚未安装最新 CLI?
curl -LsSf https://hf.co/cli/install.sh | bash
引用该论文的模型 0
暂无模型引用
在模型 README.md 中引用 arxiv.org/abs/2604.15151 即可在此页面显示链接。
引用该论文的数据集 0
暂无数据集引用
在数据集 README.md 中引用 arxiv.org/abs/2604.15151 即可在此页面显示链接。
引用该论文的 Spaces 0
暂无 Space 引用
在 Space 中引用 arxiv.org/abs/2604.15151 即可在此页面显示链接。
收录该论文的合集 1
相似文章
QuantCode 模型:将语言模型专门化以生成可执行的算法交易代码
本文研究如何将大语言模型专门化,用于生成可执行的算法交易代码,表明以框架为导向的继续预训练,加上基于已验证「需求—代码」配对的监督微调,可大幅提升模型在 QuantCode-Bench 基准测试及智能体策略生成任务上的成功率,同时也揭示出一种能力保持失效现象:领域专门化会削弱结构化工具调用能力。
Backtrader-Bench:基于自生成多选题的算法交易LLM智能体基准测试
介绍了Backtrader-Bench,这是一个用于评估算法交易中LLM编码智能体的基准,采用自生成的多选题和生成器-求解器过滤流程,展示了工具增强型智能体达到90%的准确率。
Quant-Arena:面向量化交易研究的 LLM 智能体基准测试
Quant-Arena 推出了一个端到端基准和公开排行榜,用于评估 LLM 智能体能否基于历史 A 股数据构建盈利的交易策略,并且这些策略能否泛化到一个完全密封的未来年份。在九个前沿模型中,GPT-6 Astra 得分最高,但没有任何模型在 2024 年跑赢等权重市场组合。
FindStatBench:评估大语言模型在组合代码合成中的表现
FindStatBench是一个用于评估大语言模型在组合代码合成任务上的基准测试,源自一篇arXiv论文。
AI交易:评估大语言模型在技术市场分析中的表现
本文采用基准方法,评估了大语言模型在交易中进行技术市场分析的能力。