利用语言模型进行全球并购套利预测
摘要
本文提出了一种用于并购套利的语言模型预测系统,该系统结合了专家引导的上下文工程和对历史交易的精调,在覆盖42个国家400多笔大型交易中取得了最先进的性能。
arXiv:2607.09921v1 Announce Type: new
摘要:我们提出了一种用于并购套利的语言模型预测系统,这是一种专业的高风险金融场景,任务是预测已宣布的并购交易结果。与之前利用LLM进行判断预测的工作不同,后者侧重于广泛的混合主题基准和简短上下文(如新闻片段),我们研究的场景需要基于数百页技术文档进行长上下文推理。我们的系统将专家引导的上下文工程与基于历史交易事后推理轨迹的精调相结合。对于已宣布的交易,系统输出三种互斥结果的概率分布:按宣布条款完成、更高出价或交易终止。在覆盖42个国家的400多笔大型交易的样本外测试中,我们的精调系统达到了所评估方法中的最佳性能,将类别平衡的Brier分数降至0.151,比校准后的市场隐含概率低24%,比XGBoost低19%,比前沿语言模型低25-42%。这些结果连同消融研究表明,基于LLM的预测能够在专业的长上下文金融工作流程中取得成功,而后见之明监督和专家设计的上下文起着关键作用。
查看缓存全文
缓存时间: 2026/07/14 04:20
# 基于语言模型的全球并购套利预测 来源:https://arxiv.org/html/2607.09921 Michal Mucha · Charles Sweat · Chris Pulman · Charlie Flanagan · Peter Anderson
###### 摘要
我们提出了一种用于并购套利的语言模型预测系统。并购套利是一种专门的高风险金融场景,其任务是预测已宣布的并购交易结果。与先前利用LLM进行判断性预测的研究(主要聚焦于广泛的混合主题基准测试和新闻片段等短上下文)不同,我们研究的是一个需要对数百页技术文件进行长上下文推理的场景。我们的系统将专家指导的上下文工程与基于事后分析的推理轨迹微调相结合。给定一笔已宣布的交易,系统会输出三种互斥结果的概率分布:按宣布条款完成交易、出现更高报价、或交易终止。在一个包含42个国家400多笔大型交易的样本外测试集上,我们微调后的系统在所有评估方法中取得了最佳性能,将类别平衡的Brier分数降低至0.151。这比经过校准的市场隐含概率低24%,比XGBoost低19%,比前沿语言模型低25-42%。这些结果连同消融研究表明,基于LLM的预测能够在专业化、长上下文的金融工作流程中取得成功,其中基于事后分析的监督和专家设计的上下文发挥着关键作用。
机器学习, ICML
## 1 引言
判断性预测——基于文档和上下文推理对未来事件进行概率预测,而非依赖显式的统计模型——正越来越多地在大型语言模型的背景下被研究。最近的研究表明,LLM能够生成校准过的概率预测,其准确性接近一些人类预测者(Halawi et al., 2024 (https://arxiv.org/html/2607.09921#bib.bib8); Schoenegger et al., 2024 (https://arxiv.org/html/2607.09921#bib.bib16); Alur et al., 2025 (https://arxiv.org/html/2607.09921#bib.bib17))。然而,这些文献主要关注广泛的、混合主题的问题库,仅提供新闻标题和简介等浅层上下文(Karger et al., 2025 (https://arxiv.org/html/2607.09921#bib.bib20))。目前尚不清楚基于LLM的预测能否在需要分析冗长且高度技术性文本的专业化、高风险领域中带来价值。
我们聚焦于一个金融领域:预测已宣布的并购交易结果。这类预测在并购套利策略中被积极货币化,投资者在交易宣布后买入目标公司股票(可能同时对收购方做空),以捕捉当前价格与交易对价之间的价差。如果交易完成,投资者赚取此价差;如果交易终止,则面临损失。因此,对交易完成及替代结果进行准确的概率预测,对于头寸规模确定、风险管理和投资组合构建至关重要。得出这些概率预测需要处理大量复杂文本。分析单笔交易可能需要阅读上百页的并购协议;评估跨司法管辖区的竞争重叠、监管体制和政治考量,以预测监管反应;与类似历史交易的结果进行比较;审查股东基础、投票历史以及公开声明;评估收购方融资和资产负债表中的风险等等。同时,分析师必须将这些信息与持续不断的监管文件、新闻稿和专家分析整合在一起。
我们构建了一个针对此场景量身定制的基于LLM的预测系统。首先,检索增强的研究代理各自收集并分析交易背景的特定维度。其次,一个集成的、微调后的前沿模型利用由此产生的深度上下文(通常6.8-10k tokens)来生成概率预测和详细的交易报告。研究代理是通过与资深并购套利专家数月合作进行优化的。前沿模型则基于从事后分析中得出的黄金训练目标进行微调。对于每笔历史交易,我们在多个时间点生成基于事后分析的预测,以识别在给定已实现结果的情况下,哪些证据应该被最重地加权。我们严格执行时间完整性,例如排除容易发生日期过滤泄露的开放式网络来源,并且仅使用知识截止日期在测试期之前的模型。这个过程产生了高质量的推理轨迹,训练模型推理交易风险并生成有意义的报告。
在一个包含404笔横跨42个国家的大型交易的保留测试集上,我们微调后的系统在各种加权Brier分数指标上,均优于前沿模型、从市场价格推断的概率以及基于丰富交易特征训练的XGBoost模型。其最佳类别平衡Brier分数为0.151,相比之下,经过Platt缩放的隐含市场概率为0.199,XGBoost为0.186,在相同上下文中前沿模型为0.201-0.259(数值越低越好)。微调带来了大部分性能提升,将校准误差从0.089降低至0.039。更广泛地说,基于LLM的方法比XGBoost更少受市场共识束缚:我们微调后的系统与市场隐含概率的相关系数为0.36,而XGBoost为0.75。消融研究表明,每个组件都对性能有实质性贡献:没有事后分析的指导,类别平衡Brier分数恶化0.032;当系统仅限于交易卡信息时恶化0.021;当仅使用1244笔交易训练集的一半进行训练时恶化0.026。基于这些结果,我们将该系统部署为分析师和投资组合经理的决策支持工具。
## 2 相关工作
Halawi等人(2024 (https://arxiv.org/html/2607.09921#bib.bib8))首次证明,当提供检索到的新闻上下文时,LLM在广泛的预测市场问题集的历史回测中可以接近非专家人类水平——尤其是在预测初期,当人类预测者不确定且至少有五篇相关新闻文章可用时。在此基础上,Hsieh等人(2024 (https://arxiv.org/html/2607.09921#bib.bib15))通过整合网络搜索和Python工具的ReAct循环(Yao et al., 2022 (https://arxiv.org/html/2607.09921#bib.bib9))来增强LLM预测器。在互补方向上,Schoenegger等人(2025 (https://arxiv.org/html/2607.09921#bib.bib18))表明LLM辅助工具能提高人类预测的准确性。最近,AIA Forecaster(Alur et al., 2025 (https://arxiv.org/html/2607.09921#bib.bib17))专注于智能体搜索、预测校准以及使用监督智能体的集成方法,在ForecastBench上达到了专家级人类表现。他们还引入了由流动性预测市场合约构建的MarketLiquid数据集,并表明虽然他们的系统单独表现不及隐含市场概率,但将AIA Forecaster与市场价格相结合的集成方法产生的预测比单纯的市场价格更准确。
鉴于在LLM预测器回测中存在许多潜在的信息泄露源(Paleka et al., 2025 (https://arxiv.org/html/2607.09921#bib.bib24)),近期工作专注于标准化和改进评估协议。Sudhir等人(2024 (https://arxiv.org/html/2607.09921#bib.bib25))提出了一套逻辑一致性检查。"Bench to the Future"(Wildman et al., 2025 (https://arxiv.org/html/2607.09921#bib.bib22))通过为每个问题提供快照版本的网络语料库来缓解数据污染。为了解决随着LLM知识截止日期推移导致静态基准测试失效的问题,ForecastBench(Karger et al., 2025 (https://arxiv.org/html/2607.09921#bib.bib20))持续汇总来自预测平台和预测市场的未解决问题,支持对人类和LLM进行评估。Dai等人(2025 (https://arxiv.org/html/2607.09921#bib.bib19))引入了一种持续评估方法,使用每日新闻作为预言机,自动生成预测问题,并表明即使采用检索增强生成,准确性也会随着评估日期偏离训练截止日期而平稳下降。
作为这些回测的补充,已有小规模的实时评估报告。Schoenegger等人(2024 (https://arxiv.org/html/2607.09921#bib.bib16))在问题开放后的48小时内评估了12个LLM在31个预测市场问题上的表现,发现人类群体和LLM群体在性能上没有统计学差异。Alur等人(2025 (https://arxiv.org/html/2607.09921#bib.bib17))也报告了一个与预测市场具有竞争力的小规模实时评估。在所有评估协议中——静态、动态和实时——先前的工作都集中在混合异构问题集上。我们认为,*仅仅研究广泛的、混合主题的问题库*是一个错误。将体育、地缘政治、气候、宏观经济、政治等结合在一起,会将性质迥异的预测问题合并成一个单一分数,模糊了模型在何处成功或失败,为模型和系统开发提供了糟糕的指导,并激励了肤浅的、通用的检索和提示。这种设置也系统地忽视了定义专业预测实践中的领域特定数据、工具和工作流程,因此可能夸大了当前LLM预测器部署就绪的程度。
与先前工作不同,我们深入研究了单一、经济上重要的领域,并围绕专业预测者的工件和工作流程来设计我们的系统。我们没有将检索视为对新闻片段进行通用网络搜索,而是构建了一个针对长篇技术金融文档的检索和推理流水线。在方法论上,除了Halawi等人(2024 (https://arxiv.org/html/2607.09921#bib.bib8))和Turtel等人(2025 (https://arxiv.org/html/2607.09921#bib.bib26))的工作之外,很少有研究通过微调来改进判断性预测,因此对于如何构建黄金目标的理解有限。我们解决了这一空白,并展示了将事后分析微调进模型的价值。
## 3 任务与数据集
### 3.1 任务定义
我们的目标是预测已宣布的并购交易结果。预测包含三个组成部分:
##### 1. 交易结果概率。我们区分三种互斥的结果:
1. 1. 成功⁺\boldsymbol{\mathrm{Succeed}^{+}}:交易按宣布的条款完成。
2. 2. 失败⁺\boldsymbol{\mathrm{Fail}^{+}}:已宣布的交易终止,但目标公司股东因出现更高报价而获得*正面*结果。
3. 3. 失败⁻\boldsymbol{\mathrm{Fail}^{-}}:已宣布的交易终止,目标公司股东获得*负面*结果(无更高报价)。
区分正面和负面结果的终止交易对于商业化预测以及与市场隐含概率进行比较(参见第3.2.1节 (https://arxiv.org/html/2607.09921#S3.SS2.SSS1))至关重要。
##### 2. 完成天数。预测交易完成所需的天数,假设交易按宣布的条款完成。
##### 3. 交易报告。对预测概率分布背后推理的详细解释,包括引用以及需要监控的关键交易特定风险和缓解因素,例如终止费或既有诉讼。识别交易中的关键风险对于并购套利至关重要,尤其对于自主交易者而非系统性交易者。
### 3.2 数据集构建
目前没有现成的包含历史并购交易及其结果的数据集。我们构建了一个包含1,648笔公开目标公司并购交易的历史样本,时间跨度为2022年1月1日至2025年12月31日的四年期。这个时间范围平衡了保持足够深度的历史以支持微调的需要,以及从较旧文本来源重建丰富交易背景的难度。我们排除了不代表经典、控制导向的并购套利情景的交易——特别是少数股权收购(≤50%)、资产出售和SPAC交易——因为在这些情况下,目标公司股东不存在清晰、可交易的收购价差。我们还排除了小额交易(例如,持股比例<30%,使得接受变得不可信)。
失败 缺失目标公司董事会在样本日期前对该提案的公开拒绝。
失败 缺失ISS和Glass Lewis对该交易的负面建议。
完成 缺失两个股东团体在样本前已以压倒性多数批准了合并。
完成 提示中包含了已过时的2019年失效报价;缺少活跃的2025年推荐要约及其批准信息。
完成 缺失一旦所有监管条件得到满足,该要约已被宣布为无条件的相关信息。
完成 缺失双方锚定股东的一致意见以及关键早期监管批准的确认。
完成 缺失样本日期当天的正式合并公告;提示将这笔交易定性为未签署的传言。
表13:来自最差100个集合的十个代表性信息缺口案例。在每种情况下,给定提示,模型的推理在内部是一致的,但提示本身就缺少一个本可能改变结论的、与决策相关的事实。相似文章
大语言模型中的模型合并扩展定律
本文建立了语言模型合并的实证扩展定律,确定了模型规模、专家数量与性能之间的幂律关系,从而能够为最佳模型组合提供预测性规划。
通过可操控模型合并增强多语言推理
本文提出ST-Merge,一种可操控的模型合并框架,利用门控交叉注意力机制自适应地调节多语言模型和推理模型的贡献,在涵盖21种语言的多语言推理基准测试中优于固定合并方法。
利用大语言模型增强基本面分析:基于RAG的投资者简报生成系统
本文探讨了使用大语言模型与RAG系统,通过处理财务报告和宏观经济数据来自动化公司基本面分析,生成由个人投资者评估的投资者简报。
通过检索增强大型语言模型提升金融情感分析
本文介绍了一种检索增强的大型语言模型框架用于金融情感分析,相比传统模型及ChatGPT、LLaMA等大型语言模型,在准确率和F1分数上实现了15%至48%的提升。
大型语言模型多语言知识编辑的合并方法:一项实证探索
本文对大型语言模型中多语言知识编辑的向量合并方法进行了实证评估,发现共享协方差的向量求和是最可靠的策略,并指出任务奇异向量合并(TSVM)在减少多语言干扰方面的效果有限。