@jxmnop: 如今成功研究中最具预测性的特质似乎是过度谨慎，近乎偏执……
摘要
一个观察认为，过度谨慎是成功研究中最具预测性的特质，但AI代理往往使得错误更难被发现。
如今成功研究中最具预测性的特质似乎是过度谨慎，接近偏执。犯错误很容易，但发现错误却很难。
到目前为止，AI代理大多让这变得更加困难。
查看缓存全文
缓存时间: 2026/06/06 01:23
如今，成功研究最具预测性的特质似乎是过度谨慎，近乎偏执。犯错如此容易，找到它们却如此困难。
到目前为止，智能体大多使这变得更加困难。
相似文章
(Human) Attention Is (Still) All You Need: 人类监督使AI辅助的社会科学研究可靠
本文提出，AI辅助社会科学研究的可靠性取决于决策架构——即认知劳动在人类与机器之间的分工方式。通过一个预先指定的析因实验，作者表明，一个无约束的多智能体基线在72%的运行中失败，而采用三个架构承诺（限制LLM仅进行推理、确定性数据/估计、以及三个人类决策门控）的组织运行失败率仅为16%。
我认为很多人低估了不可靠 Agent 的成本有多高
作者指出，不可靠 AI Agent 的隐性成本在于持续人工监控所带来的认知开销，并强调在实际落地中，可预测性与环境稳定性远比模型的原始智能更重要。当 Agent 运行在受控且经过验证的环境中，而非充满不确定性的环境时，实际工作流的效率将得到显著提升。
AI代理最诡异的一点：人类失败模式开始显现
作者观察到AI代理展现出类似人类的失败模式，比如在上下文压力下过度自信和跳过步骤，这表明系统可靠性更多地依赖于稳健的验证和受控环境，而不仅仅是模型智能。
@jxmnop: https://x.com/jxmnop/status/2066668040557867368
一条推特讨论，为进行人工智能研究提供哲学和实践建议，强调阅读与实践相结合，深入理解基础而非追逐潮流，保持初学者心态，以及纪律和开放心态的重要性。
超越自主性：了解自身局限的智能体之力量
COWCORPUS项目通过对4200次人机交互的研究发现，能够预测自身失败和干预时机的智能体，比那些仅仅试图避免错误的智能体更有用。研究人员识别出人机协作中四种稳定的信任模式，并开发了完美时机评分（PTS）来衡量干预预测的准确性。