标签
MIT Technology Review 报道称，对齐研究人员正在探索“反博弈论”（即机制设计），通过设计激励体系——例如跨模型交叉验证和竞争动态——来约束强大的 AI 智能体，无论模型内部如何运作，都能促使其遵守规则。这一思路得到了经济学家 Stephen Morris 及其在 MIT、Yale 和 Columbia 的同事近期发表的一篇预印本的支持，该论文针对的是模型“故意放水”（sandbagging）行为。
本文将基于用途的人工智能监管中的合规性重新定义为在预先声明的情境分布下的失效率，并研究部署者、审计者与执法节点之间策略互动下的委托契约。文章提出了基于严格适当评分规则的惩罚、承诺—揭示式审计、α 投资错误预算和子群体保障等机制，并将以比率衡量合规性的方式与《欧盟人工智能法案》的静态合格评定进行对比。
本文研究交互格式（如顺序拍卖或升序拍卖界面）以及文本推理脚手架能否改善 LLM 智能体在拍卖与匹配环境中做出策略性决策的表现。研究发现，更简洁的界面以及与收益挂钩的提示能减少出价偏差，但这些行为上的改进并不一定会体现在智能体所给出的解释中——这表明对脚手架的评估应基于其实际选择，而不能仅依赖其言语上的表述。
本文将AI对齐重新表述为一个社会选择问题，通过凸影响空间上的线性优化，结合福利经济学和机制设计来推导对齐协议。并在肾脏分配、慈善食品分发、LLM回应和电车问题等场景中使用真实人类偏好实证阐述了其福利含义。
普林斯顿大学宣布其2025年春季开设的 Economics and Computation 课程，由 Matt Weinberg 和 Mark Braverman 授课，涵盖博弈论、拍卖、机制设计和加密货币等主题。
本文提出了一种机制设计框架，用于验证使用A2A/MCP协议的LLM代理中的谈判和分配任务。它评估了多个模型的理性行为，发现机制级的激励兼容性并不会自动转移到LLM代理上。
本文将内容提供者与生成式搜索引擎之间的战略互动建模为重复的 Stackelberg 博弈，展示了生成式引擎优化（GEO）如何升级为引文战争，并提出了一种基于可验证内容奖励的机制（VCR），以协调激励并实现双赢结果。
本文将智能体联盟形成和智能体间通信形式化为合作博弈，提出了边际价值激活规则和基于Shapley的在线路由，以降低多智能体LLM系统中的token成本并提高效率，并提供了理论保证和合成模拟结果。
本文提出了LLM-OSDA，一种用于多轮LLM对话中原生广告的动态点击付费拍卖机制，融合了贝尔曼最优停止、获胜者分配和包络定价。实验表明，与固定时机基线相比，净收入提高了11%，同时保持了用户留存率。
本文研究了诸如调解等正式机制，以在模拟市场中维持自利的大型语言模型代理（DeepSeek-V3）之间的市场稳定性，发现即使在持续对抗攻击下，调解也能使市场恢复。
本文提出Representation Curriculum (RC)，一种训练时干预方法，通过分阶段利用特征来减少对曝光混杂历史信号的过度依赖，并改善排序系统中的冷启动泛化能力。该方法经过了理论分析，并在公开基准和大规模eBay搜索实验中得到了验证。
本文重新将医院机制设计表述为语言模型的程序合成，使用多智能体模拟器（Medi-Sim）在策略性提供者响应下评估政策规则。它展示了跨提供者渠道的压力迁移，并合成了一种可检查的混合目标程序，该程序减少了向上编码和拒绝，同时保留了资金。
本文提出了一个博弈论框架，以解决由谄媚式聊天机器人引起的AI诱发妄想信念螺旋问题。它引入了“信念版本控制”，这是一种推理时干预措施，在模拟和GPT-4o测试中显著降低了螺旋率。
OpenSimula 是 Simula 机制设计范式的开源 Python 实现，用于可控合成数据生成，现已集成进 AfterImage 数据集工具。