@mitsuhiko: 我觉得如果大家能坦诚地说明自己对某个话题/他们的拉取请求的实际理解程度就好了…
摘要
阿明·罗纳赫(@mitsuhiko)建议,人们在提交拉取请求时应坦诚说明自己对话题的实际理解,因为AI工具(称为'clanker')让人很容易在缺乏真正知识的情况下显得很自信。
我觉得如果大家能坦诚地说明自己对某个话题/他们的拉取请求的实际理解就好了。现在每个人都能用他们的clanker自信地说话,要判断他们在用提示词时是否真的明白自己在做什么就变得太困难了 :(
相似文章
别做肉代理
一篇批评在对话和代码评审中照搬AI回复的习惯的博文,敦促读者理解、验证并改写AI输出,以增加真正的价值。
@karpathy:从我的时间线来看,人们对 AI 能力的理解差距正越来越大。我认为第一个问题在于时效性以及与……
Andrej Karpathy 指出公众对 AI 能力的认知正出现日益扩大的落差,他将其部分原因归结为许多人仍基于一年前过时的免费版 ChatGPT 体验来形成观点。
AI研究工具仍过于热衷将公开信号转化为确定性
作者批评AI研究工具对微弱信号过于自信,赞扬Komo AI的快速发现和附带来源的摘要,但强调需要更好地处理不确定性和矛盾。他们描述了一种工作流程,将发现、验证和结构化检查分散到多个AI工具中。
引用 Armin Ronacher
Armin Ronacher 反思了软件项目的共享语言——即对概念、边界和不变量的共同理解——如何存在于文档、代码和对话中,以及协调的摩擦如何同步人们,而这一过程可能会被AI代理所打乱。
最近写了一篇文章,主张AI必须表明自己非人类的身份。希望得到社区的反馈!
主张在法律上要求AI在与人类互动时披露其非人属性,引用了科罗拉多州的新法律,以及更广泛的AI决策透明度的必要性。