@mitsuhiko: 我觉得如果大家能坦诚地说明自己对某个话题/他们的拉取请求的实际理解程度就好了…
摘要
阿明·罗纳赫(@mitsuhiko)建议，人们在提交拉取请求时应坦诚说明自己对话题的实际理解，因为AI工具（称为'clanker'）让人很容易在缺乏真正知识的情况下显得很自信。
我觉得如果大家能坦诚地说明自己对某个话题/他们的拉取请求的实际理解就好了。现在每个人都能用他们的clanker自信地说话，要判断他们在用提示词时是否真的明白自己在做什么就变得太困难了 :(
相似文章
@rauchg: 拒绝不理解。低质量内容不仅仅是代码和PR。我们面临一个真实的风险，即*阅读*可能会完全被忽视…
这条推文警示AI生成低质量内容的风险，引用了一个例子：PR描述中错误地将性能提升归因于编译器变更，实则是由于算法改进。它主张AI应服务于增强理解与人类认知。
别做肉代理
一篇批评在对话和代码评审中照搬AI回复的习惯的博文，敦促读者理解、验证并改写AI输出，以增加真正的价值。
@karpathy：从我的时间线来看，人们对 AI 能力的理解差距正越来越大。我认为第一个问题在于时效性以及与……
Andrej Karpathy 指出公众对 AI 能力的认知正出现日益扩大的落差，他将其部分原因归结为许多人仍基于一年前过时的免费版 ChatGPT 体验来形成观点。
AI助手是否应该展示其不确定性？
文章认为AI助手应该清晰地传达不确定性，以防止在关键决策中出现错误信息，但对诸如来源链接或明确免责声明等有效方法提出疑问，而非使用虚假的置信度分数。
AI研究工具仍过于热衷将公开信号转化为确定性
作者批评AI研究工具对微弱信号过于自信，赞扬Komo AI的快速发现和附带来源的摘要，但强调需要更好地处理不确定性和矛盾。他们描述了一种工作流程，将发现、验证和结构化检查分散到多个AI工具中。