BiasMix-Finance:LLM投资组合建议的后生成KYC护栏
摘要
本文介绍了一种用于金融投资组合建议中LLM的后生成护栏流水线,使用凸投影来强制执行KYC约束,并将可行性违规减少到0%,同时只需最小的修正。
arXiv:2608.28646v1 公告类型:新
摘要:大型语言模型(LLM)可以生成听起来合理的ETF投资组合,同时默默违反关于风险、费用和多样性的基本KYC式约束。这在代理式多轮咨询系统中尤其成问题,因为每个草稿推荐都可能成为行动,除非由可审计的执行层保护。我们研究了一种模型无关、资产无关的后生成护栏流水线:(i)强制执行严格的JSON配置模式,(ii)根据数值上限验证配置,(iii)当违规发生时,通过凸二次规划(QCQP)确定性地将输出投影到最近的可行投资组合。我们引入了BiasMix-Finance(Mini),这是一个紧凑的压力测试基准,用于在有偏LLM生成下的约束决策,包含16个ETF宇宙、三个投资者配置文件和八个偏见提示。跨三个模型和三种推理模式(直接、批评、自一致性),首次生成在47.6-85.7%的测试案例中(汇总为67.2%)违反至少一个上限,但凸投影层将最终可行性违规减少到0%,同时只需较小的修正距离(测试汇总中位数D=||w*-w0||_2=0.066),表明护栏通常保留原始配置的意图。我们报告了违规率和修正距离的置信区间,以及具有多重测试校正的成对模型比较。为支持可重现性,我们在公共GitHub仓库中发布了数据集、提示、上限和代码。
查看缓存全文
缓存时间: 2026/09/01 12:37
# BiasMix-Finance:LLM投资组合建议的生成后KYC护栏 来源:https://arxiv.org/html/2608.28646 ###### 摘要 大型语言模型(LLMs)能生成看似合理的ETF投资组合,同时却悄然违反了关于风险、费用和多样化的KYC基本约束。这在基于代理的多轮咨询系统中尤为棘手——除非通过可审计的强制层进行守护,否则每次生成的推荐草稿都可能直接转化为实际行动。我们研究了一种模型无关、资产无关的生成后护栏流水线:(i) 强制执行严格的JSON配置分配模式,(ii) 根据数值上限验证分配,以及(iii) 在发生违规时,通过凸二次规划(QCQP)确定性地将输出投射到最近的可行投资组合。我们引入了BiasMix-Finance(Mini),这是一个针对偏倚LLM生成下约束决策的紧凑压力测试基准,包含16个ETF资产池、三种投资者画像和八种偏倚提示词。在三个模型和三种推理模式(直接、批判、自洽)下,首次生成在47.6%至85.7%的测试案例中至少违反一项上限(总体违规率为67.2%),但凸投射层将最终可行性违规率降低至0%,且仅需很小的修正距离(测试集总体中位数D=‖w*-w0‖2=0.066),表明护栏通常保留了原始分配的意图。我们报告了带有置信区间的违规率和修正距离,以及经过多重检验校正的成对模型比较结果。为支持可复现性,我们在公开GitHub仓库(https://github.com/gauravkukreja06/biasmix-finance)中发布了数据集、提示词、约束上限和代码。 ## 1 引言 大型语言模型(LLMs)正日益用于生成财务摘要、建议和投资组合配置[33, 34]。然而,在受监管的咨询环境中,建议应反映客户特定事实和适当性义务[12, 13]。在我们的受控场景中,我们通过风险、费用和多样化的硬性数值上限来操作化这一理念,这也是约束投资组合构建中的标准做法[21, 19, 6]。提示词和推理模式的变体(例如批判、自洽)本质上是概率性的,无法保证每次运行都满足约束[29, 28, 20]。这促使我们采用生成后强制措施:我们将LLM输出视为分配草稿,并应用确定性验证和修复,结合审计式验证与凸可行性投射[24, 26, 6]。关键在于,我们的目标并非解决经典的投资组合优化问题(例如在约束下最大化风险调整后收益)[21, 5, 14]。相反,我们研究的是一个审计与修复问题:如何可靠地检测并最小化修正由LLM产生的不合理或违反约束的分配,同时尽可能保留模型预期的分配结构[26, 3, 24]。更广泛地说,此场景与LLM对齐和策略遵循工作[22, 1]相关,但区别在于其正确性取决于满足可通过确定性检查验证的外部指定约束。由于这些约束是外部指定且可机械检查的,该任务成为事后验证与修复流水线的天然试验场,该流水线与模型无关,并可迁移到其他受约束的决策领域(例如资源分配、调度或策略合规)。 我们研究受控的投资组合配置场景:给定一个ETF资产池和一个场景描述,该场景包括:(i) 带有上限的风险画像;(ii) 诱发偏倚的背景(例如“小盘股热潮”)。LLM在严格的JSON模式下输出投资组合权重。一个关键挑战是,偏倚或偏好塑造的背景可能系统性地将生成内容推向集中化、高波动性或其他不合规的配置。为了评估这些现实故障模式下的护栏,我们采用偏倚诱导方法:我们通过编程生成场景,将标准化风险画像与偏倚“配方”(例如锚定某行业、错失恐惧症倾斜、惯性、忽视费用)相结合,为违反约束的草稿创建压力测试套件。然后,我们在修复前测量约束违规情况,并在修复后测量所需的修正幅度。我们的目标是量化提示推理模式在强制执行前减少了多少违规,以及事后护栏必须将投资组合改变多少才能使其合规。从这个意义上说,我们将BiasMix-Finance(Mini)视为偏倚生成下约束决策的压力测试基准,补充了安全可靠的LLM部署的更广泛评估工作。为验证BiasMix提示词能引发预期的行为倾斜,附录表6展示了针对每种偏倚配方的代表性首次LLM输出(保留测试集)。 我们专注于生成后强制措施,这对在循环中运行并通过工具调用验证操作的代理型财务顾问尤为重要。第7节讨论了确定性验证与修复如何在自主顾问系统中充当治理机制。 #### 贡献。我们强调,贡献在于一个用于在约束性金融决策工作流中部署LLM的方法论和评估框架,而非新的优化技术;QCQP投射是作为确定性修复操作符使用的。 - • 将LLM输出视为可审计草稿:我们将LLM生成的分配视为必须满足明确指定、可机械检查的KYC式数值上限的可审计草稿,使得(草稿、违规情况、修复后输出)的日志透明化,以供治理和监督。 - • 以偏倚诱导压力测试作为评估基本单元:我们在固定的16-ETF资产池上构建了72个场景实例(训练/开发/测试),结合三种风险画像、八种行为“偏倚配方”和三个随机种子。这种受控设计隔离了不同提示词和模型如何响应相同约束和偏倚背景,并使偏倚诱导本身成为评估LLM输出下约束决策的可复现基本单元。 - • 将确定性修复作为一级安全机制:我们形式化了由波动性、费用、HHI集中度和单资产/单行业上限引起的可行集,并通过受约束的二次规划计算最近的可行投资组合,使用标准凸优化工具求解[6, 8, 23, 27]。 - • 跨划分、模型和模式的可复现统计评估:我们报告了带有Wilson 95%置信区间的各上限违规率[32],通过自举法(bootstrap)估计修正距离和指标变化的置信区间[11],以及使用Wilcoxon检验加BH-FDR校正对修正距离进行的成对模型比较[30, 4]。 ## 2 问题设置 资产池。令n表示资产池中ETF的数量(此处n=16),w∈Rⁿ表示投资组合权重。 场景。每个场景提供:(i) 带有上限的风险画像;(ii) 旨在将模型推向潜在非合规分配的偏倚背景字符串。上限包括年化波动性上限σcap,加权平均费用率上限fcap,基于赫芬达尔-赫希曼指数(HHI)的集中度上限hcap [15, 16],以及单资产和单行业最大权重上限。此类约束在受约束的投资组合构建中是标准的,通常作为对均值-方差风格配置的实际叠加层进行研究[21, 19]。 模型输出。LLM输出一个投资组合草稿w0(非负权重且总和为1的JSON)。我们计算摘要指标:风险σ(w)=√(w⊤Σw) [21],费用WAER(w)=∑ᵢwᵢ·feeᵢ,以及集中度HHI(w)=∑ᵢwᵢ²。 可行集。令C为满足所有上限的投资组合集合。如果w0∉C,则草稿是违反约束的。 生成后强制措施。当w0违反任何上限时,我们计算最近的可行投资组合 w* = arg min_w ‖w - w0‖₂² s.t. w∈C (1) 并定义修正距离为 D = ‖w* - w0‖₂(欧几里得/L2距离)。投射算子是强制满足凸约束下可行性的标准方法[6, 10],相关投资组合工作常使用鲁棒或受约束的表述来稳定估计误差下的配置[5, 14, 2]。 ## 3 相关工作 #### 金融领域的LLMs。诸如BloombergGPT [33]和开源项目FinGPT [34]等特定领域的金融LLMs在金融NLP任务上表现出强大能力;我们的关注点不同,我们研究的是投资组合权重输出的硬性数值约束合规性,而非文本生成准确性。 #### 护栏、审计与约束输出。安全工具包和分类器(例如NeMo Guardrails, Llama Guard)[25, 18]以及RLHF和Constitutional AI等对齐方法[22, 1]主要针对内容/策略强制。补充性工作强调在高风险环境中,通过结构化输出、验证检查和反馈回路对LLM输出进行审计与验证[24, 26],而约束/引导解码为词汇或结构约束提供保证[17, 31]。我们的场景需要满足通常表述为投资组合权重上凸限制的定量约束;这促使基于优化的后处理作为可审计的修复层[6]。我们在附录H中讨论了更多相关工作和背景。 ## 4 方法论 图1总结了从场景构建到通过投射实现确定性可行性的端到端BiasMix-Finance流水线[6, 26]。参考图注: 图1:端到端流水线。BiasMix场景 + 偏倚配方被组合成结构化提示词。LLM生成草稿权重(JSON)。我们验证JSON并根据硬性KYC上限计算投资组合指标。如果任何约束失败,我们通过凸投射(QCQP)修复至最近的可行投资组合;否则直接接受。 ### 4.1 资产池与场景 我们在固定的16个流动性基金ETF资产池上构建了一套合成但受控的场景:SPY, VEA, VWO, VGT, XLE, XLF, XLV, XLY, XLP, XLI, XLRE, IWM, AGG, LQD, IEF, GLD。每个场景指定一个基准日期(我们使用2025-09-30),一个风险画像(保守/温和/激进),以及一个*BiasMix*配方,该配方将模型推向已知的行为偏倚(例如“锚定科技股”、“错失恐惧症-能源”、“小盘股热潮”)。配方以简短的自然语言偏好表达(非硬约束),因此首次输出可以是可行的或不可行的。这种设计类似于NLP评估中的行为压力测试:目标是在受控扰动下系统性地诱发故障模式[26]。我们生成72个场景,覆盖3种画像和8种偏倚配方,每个(画像,配方)单元格包含*三个*随机种子;划分大小为训练/开发/测试 = 36/15/21,三种风险画像之间保持平衡(每个画像在训练/开发/测试中分别贡献12/5/7)。我们仅使用训练集进行提示词和超参数迭代(例如模式温度、自一致性样本量K、投射边际)。开发集用于一次性检查调整后的流水线在未见数据上表现是否相似。我们在测试集上报告结果,不再进一步调整。表1总结了数据集。我们使用训练/开发/测试划分仅为避免因重复提示词/求解器调整而导致的数据泄露;划分构建细节见附录B.5。 表1:BiasMix场景细分(共72个),按风险画像和偏倚类型划分。每个(画像,偏倚)单元格包含3个场景(3个随机种子)。 ### 4.2 风险画像与硬性上限 所有上限基于第2节中的投资组合函数定义。对于每个风险画像,我们固定一个上限向量θ = (σcap, fcap, hcap, amax, smax),涵盖年化波动性、加权平均费用率(WAER)、集中度(HHI)和单资产/单行业限制。表2列出了所有实验中使用的数值。 上限原理表2中的上限被选为受客户特定适当性和多元化原则启发的代表性KYC式适当性启发式方法,并非特定司法管辖区的规则[12, 13, 19];详细论证和阈值敏感性见附录B.1。 表2:全部实验中使用的风险画像上限。σcap = …(数值省略)
相似文章
判断、检索或放弃:具有可证明风险保证的不确定性防护LLM判断
本文提出一个风险控制框架,用于在事实评估中将LLM作为判断器。该框架校准不确定性阈值以维持用户指定的错误率,并在必要时路由到检索增强模式,从而实现具有可证明可靠性保证的更高覆盖率。
FinLLM-KG:用于算法交易中金融情感分析的知识图谱增强型大语言模型
FinLLM-KG 是一个模型无关的框架,将因果大语言模型与金融知识图谱相结合,从美国证券交易委员会(SEC)的 10-K 文件中注入公司层面、时间对齐的知识,以改进金融情绪分析与算法交易,同时提供可解释的预测依据。
重新思考LLM作为评判器的口头置信度:2025年后专有模型上的兼容性转变
本文表明,对于2025年后的专有模型,口头置信度已成为LLM作为评判器的更优软评分机制,挑战了之前倾向于对数概率的建议。它引入了过度置信度建议和自我辩论,以改善校准和鲁棒性。
LLM护栏的思维模型,终于让我明白了。
这篇文章概述了一种思维模型,将LLM护栏作为独立层次实施入站和出站检查,强调需要超越系统提示的强制执行,以及与延迟的权衡。
公平输出,偏见内部:大语言模型在高风险决策中潜在偏见的因果效力与非对称性
本文研究了指令微调的大语言模型如何在高风险决策(如抵押贷款承销)中表现出公平输出,同时保留有偏见的内部表征,表明这些隐藏偏见具有因果效力、非对称性,且可通过激活引导加以利用。