llms

本文探讨了AI代理是否已为企业使用做好准备，强调了在部署中确保安全性和可预测性以防止未授权行动的关键需求。

Spirit AI 正在使用大约1,000人手动操作真实物体，为机器人生成训练数据，与用于大型语言模型的免费互联网数据形成对比。

本文介绍了SWE-Proof，这是一个针对现实世界软件问题的经过形式验证的代码补丁基准，表明形式验证能提高LLM生成代码的错误检测能力，并将规范综合识别为一个关键开放问题。

LogicTrack 是一个神经符号框架，通过形式化逻辑求解器审计大型语言模型的推理轨迹，以确保逻辑有效性，从而同时提升推理链的可验证性和最终答案的准确性。

GameASG-Bench 是一个用于评估游戏开发中自主软件生成系统的基准测试平台，它通过静态与运行时检查来纳入行为可测试性。

本研究比较了人机对话与人人对话中道德、礼貌和对齐的作用，发现AI再现了合作的表面特征，但缺乏内在的社会适应性。

本文推荐Jev创始人Diogo Almeida的一次演讲，批评了ChatGPT和Claude Code等AI模型中RLHF的使用，并倡导超越人类偏好优化的真正自动化。

文章认为，LLMs的激增威胁人类创造力，导致原创性稀缺，并引发一场基于人类非AI智慧的新文艺复兴，在经济不平等的背景下。

文章讨论了一篇题为'Reasoning-Intensive Regression'的论文，该论文提出了MENTAT，一种轻量级方法，结合批次反思式提示优化与神经集成学习，以改进AI任务中从文本到数值分数的预测，显示比基线提高多达65%。

OpenAI 与 Microsoft 的高管在法庭文件中承认，LLMs 建立在被盗内容之上，并且正在摧毁网络，从而制造出一种“厄运循环”，威胁内容创作者的经济基础。

Simon Willison发布了一则通知，推广他的月度电子邮件简报，涵盖重要的LLM发展，并提供赞助选项。

本文介绍了使用LLMs将丰富的辅助信息整合到贝叶斯优化中的方法，展示出在基准测试和类似核聚变的实际任务中，优于标准和现有的基于LLM的方法。

一条推文预测，来自 @typesafeai 的 JEV 将成为一大现象，使普通程序员能够将快速、廉价的 AI 集成到代码库中，而前沿实验室可能会很快推出类似产品。

这篇博文认为，公开职位推荐计划会导致候选人收到垃圾信息，并降低推荐质量，因为推荐人可能并不了解候选人，使得过程更像候选人搜寻。

本文报道了ICCS会议，会上专家们讨论了人工智能的创造力和伦理问题，强调了LLM同意用户观点可能导致的虚假自信危险，并呼吁发展具有个性和伦理约束的人工智能。

本文介绍了用于从电子商务行为中识别消费者价值的行为到价值（B2V）任务，构建了B2V-Bench数据集，并提出了B2V-Verifier模型以提高测量准确性。

Andy 'TheFlow0' Nguyen，PS5 Linux项目的首席开发者，已放弃该项目，原因是开源项目中AI生成的代码泛滥，他声称这些代码由不理解代码的经验不足用户提交。

一名用户对LLMs导致主机研究领域分裂表示遗憾，指出这对该领域未来产生了负面影响。

这篇博客文章探讨了大型语言模型对NLnet Labs开源软件开发的影响，突出了社区贡献和安全报告方面的挑战，同时在AI时代保持对编程的热情。

论文证明，通过有监督的微调可以纠正大语言模型中的模式崩溃和过度离散，表明在数据充足时，多样性会收敛到目标分布，并得到了理论界限和实验的支持。