标签
本文证明了在滑动窗口序列上使用简单的训练/测试分割会严重夸大或缩小预测性维护中多任务学习的性能指标，并提出了一种泄漏鲁棒的评估协议。
本系统综述评估了机器学习模型在早期慢性肾脏病预测中的方法论可靠性，揭示数据泄露使报告的准确性虚高超过15%，且超过80%的预测因子在不同研究中缺乏稳定性。
微软CEO Satya Nadella警告说，使用来自OpenAI和Anthropic等实验室的AI模型的公司，正在不知不觉中交出专有商业数据，并倡导公司保留数据所有权，构建协调层以在不同模型之间切换。
一条推特串，列出了面试官期望候选人了解的13个核心机器学习概念，涵盖从偏差-方差权衡到维度灾难等主题。
本文提出了一种决策理论框架，仅利用模型输出和结果来检测预测模型中的数据泄露，证明了某些泄露类型无需外部基准或训练代码即可识别。
PropMe是一个倾向性感知框架，用于评估LLM的记忆，区分强制复现能力和自然倾向，使用SimpleTrace在开放模型和数据集上进行确定性归因。
本文介绍了 TypewriterLM，一个参数规模为 7.24B 的语言模型，仅基于 1913 年之前的英文文本进行训练；同时介绍了 TypewriterCorpus（一个包含 540 亿 token 的清洗后历史语料库）以及指令微调数据集，以避免时间泄露和前瞻偏差。此外，还提出了一个基准测试套件 History-Event，用于评估时间定位能力和泄露情况。
普林斯顿大学的一项研究发现，在17个领域的近300篇AI论文中存在数据泄露问题，导致结果过于乐观。作者强调了意外泄露数据的容易程度，并提醒不要轻信那些令人印象深刻的AI声明而不检查是否存在泄露。
发布了一款免费工具，帮助用户在服务提供商接收之前，检测大语言模型（LLM）提示词中泄露的个人身份信息（PII）。
OpenGuardrails 是一个面向AI安全的开源平台，通过统一模型提供上下文感知的内容安全与操纵检测（例如提示注入、越狱），以及一个独立的NER管道用于数据泄露识别。它在安全基准测试上取得了最先进的性能，并支持私有化、企业级部署。
MIT 6.566课程讲座介绍了AI代理的安全挑战，包括非对抗性错误（如意外删库）和对抗性攻击（如提示注入、数据泄露），并讲解了从语言模型到对话代理的系统构建基础。