标签
antirez认为,把分类器称为「决策模型」是对机器学习的歪曲,因为这类模型(无论是通过预填充(prefill) logits 取值的小型大语言模型,还是 BERT 类的编码器)所做出的决策,都远少于一个通过思维链(CoT)推理来处理信息的大语言模型。
本文对情感分类器在讽刺性和AI改写社交文本上的行为进行了实证研究,揭示了对讽刺文本置信度较低、对AI改写文本准确率更高,以及通过处理低置信度输入来提升性能的弃权方法。
Anthropic正在全球重新部署Claude Fable 5,使用更新后的分类器来阻止网络安全任务,不过常规编码可能会触发回退到Opus。
AI智能体现在可以在几分钟内构建分类器,取代了以前需要一整个工程师和数据科学家团队的工作,如同在FactoryAI生成的Sentry错误分类器所展示的那样。
Abliteration 推出了一种按需定制的合成训练数据工作流,可为分类器生成负样本、罕见样本和对抗性样本,包含模式、真实世界事实、标签、来源追溯,并支持导出到 Hugging Face 等平台。