标签
作者分享了一个从预期寿命数据项目中学到的教训，强调了在 AI 构建的数据管道中保留脚注等元数据的重要性，以确保数据准确性和可比性。
本文介绍了LeDQeR，一个使用大语言模型自动生成企业工具数据质量规则的框架，提高了规则覆盖率并减少了手动维护工作。
本文研究了从2019年到2025年的AI预训练进展，发现在1e19 FLOPs预算下，数据改进对计算效率提升的贡献是模型改进的3.24倍。
本文表明，在指令调优中，输出格式混淆了数据质量指标和模型能力评估，导致显著的精度偏移，并使得当前方法在缺乏接口感知调整时失效。
本文探讨了令人印象深刻的AI演示与成功的生产系统之间的差距，强调了被忽视的挑战，如数据质量差和评估不佳，并邀请对人工智能根本性误解的意见。
本文研究了智能代理AI架构如何完成在线调查并通过注意力检查，从攻击和防御角度分析了漏洞。评估了多个开源模型，并提供了AI时代数据质量控制策略。
一场讨论，突出数据行业的不良做法，特别是针对AI模型的RLVR训练数据，指出了普遍存在的马虎现象。
文章对AI模型可能基于AI自身生成的数据进行训练提出了担忧，这可能导致模型崩溃等问题，并引用了Deezer移除数百万首AI生成歌曲以及AI创建的博客文章比例过高等例子。
本文探讨了利用其他AI系统生成的低质数据（常被称为'AI垃圾'）训练AI模型的问题，及其对模型可靠性和性能的影响。
本研究评估了 LLMs 在电子商务任务中作为数据质量标注器的表现，发现当需要背景知识时，它们优于基线方法，但对于具有强烈词汇信号的任务优势有限，同时展示了跨运行的高度一致性。
本文质疑AI模型质量是否是企业AI项目失败的主要原因，指出数据和上下文问题往往是真正的罪魁祸首，解决这些问题可以让AI实施变得更容易。
一篇博客文章及配套推文探讨了随着互联网充满合成内容，生成式AI之前的数据是否变得更有价值，讨论了来源、模型崩溃以及Anthropic的图书扫描。
一位开发者分享了在生产环境中运行AI报告生成器的经验教训，认为数据质量和验证远比模型的写作能力重要，因为流畅但错误的报告是危险的。
提出了一种用于LLM预训练的可扩展子文档去重框架，将重复检测与副本保留分离，采用频次与长度感知策略。在FineWeb-Edu和代码网页语料上的实验表明，模型性能得到提升。
文章指出，那些做出大胆AI承诺并兜售'套壳'产品的公司，比那些专注于数据质量、治理和企业集成等硬核工程问题的公司更容易赢得订单，反映出市场奖励炒作而非实质的现象。
介绍了一种可扩展的、仅需推理的数据估值管线，该管线通过近似Shapley值来审计LLM对齐数据集，将手动审计搜索空间减少了99.1%，并揭示了HelpSteer2和HH-RLHF中隐藏的标签错误。
作者提出一个正式的训练前控制层，用于审计训练数据工件，并基于明确标准给出判定（通过/不通过），作为数据准备与训练之间缺失的门控，并邀请讨论其实用性。
本文研究了将文档内化到LoRA适配器用于闭卷问答，发现一旦适配器容量足够，训练数据质量（尤其是答案简洁性）成为主导因素，其效果超过架构更改，并比BM25-RAG实现更高的准确率。