leakage

本文利用英国就业法庭的索赔案例，实证研究了法律判决预测中的捷径学习现象，发现模型会利用事后司法文本中揭示结果线索，但在掩盖这些泄露特征后，模型性能依然保持稳健。

MosaicLeaks 提出了一个新的基准，用于衡量深度研究型AI助手的隐私泄露情况，结果表明这些助手经常通过外部查询泄露私人信息，并提出了一种训练方法（PA-DR），在降低泄露的同时提升任务性能。

介绍了MosaicLeaks，一个包含1,001个多跳深度研究任务的基准测试，这些任务将私有企业文档与公共网络查询串联起来，用于评估隐私泄露。研究发现，模型在多个级别上泄露敏感信息，并提出了PA-DR，一种强化学习框架，能够在提高任务准确性的同时减少隐私泄露。