标签
Wired/Quanta 报道指出,AI 基因组基础模型(如 Evo 2、Genos、AlphaGenome)仍无法解读人类基因组复杂的三维物理结构及其基因调控机制,说明 AI 目前尚不足以真正破解我们的基因组。
本文论证了用 Lean 对 AI 自动形式化进行验证,并不能保证原始自然语言证明的正确性:语义忠实的翻译在可解性复杂度指数层级中是不可判定的。作者展示了实际存在的 AI 误译案例,其中包括 OpenAI 宣布的 Navier–Stokes 爆炸证明中的一处不一致。
本文批判了检索增强生成(RAG)系统,通过实验证明嵌入无法捕捉矛盾等上下文细节,导致幻觉,并强调了强大底层模型在准确AI响应中的关键作用。
本文批评了软件开发中对 AI 的过度依赖,认为 AI 缺乏代码可维护性和架构方面的智慧,这可能会阻碍开发者的专业能力并导致长期问题。
一期Latent.Space播客节目,Typesafe AI的CEO讨论了为何AI能解决复杂问题却在基本任务上失败,重点探讨可靠AI和聊天优先AI时代的结束。@jeffreyhuber的推文赞扬这期节目给人一种Lyft 2012年的感觉。
本文探讨了如GPT和Grok等AI图像生成模型的质量,质疑其道德使用案例,并指出诸如深伪技术和特定场景生成中的不准确等问题。
文章主张,人工智能无法补偿企业对数据理解的不足,着重强调了人类判断和上下文在将数据转化为明智决策中的关键作用。
作者表达了对当前AI模型在提取高质量工作方面的不足的沮丧,强调了它们在适应性智能方面的局限性,至少到2026年。
作者批评LLMs,认为尽管有解决Navier-Stokes方程等突破,但它们在自主性和泛化方面存在局限性,且严格规范的高成本阻碍了它们作为人类工作者的替代品的使用。
这篇文章质疑了像Claude和ChatGPT这样的AI模型在需要深厚领域专业知识的任务中的可信度,以市场分析为例,指出其输出虽然表面看似合理,但缺乏实质性的策略。
Anthropic的演讲强调,Claude Code的最大挑战在于与外部工作流集成和管理有限的上下文窗口,突出了AI代理定制化和更好反馈的需求。
一项发表在Scientific Reports上的研究评估了七个大型语言模型在多轮对话中对错误信息的易感性,发现ChatGPT和Claude等模型在易感性和纠正能力上存在不同程度的表现。
作者对 Fable 和 Astra 等现有 AI 模型提出批评,指出尽管它们在特定领域的输出令人印象深刻,但本质上仍无法在不同抽象层级与时序维度之间实现综合;并认为,鉴于这些长期存在的架构限制,业界关于 AGI 的叙事很可能是过度炒作的。
Andrew G. Wilson认为,尽管AI取得了长足进步,现有系统在开展端到端科学研究方面的能力依然差得惊人。
AI模型因训练数据不足和RLHF对齐问题,无法处理多调古希腊语,导致能力下降并影响古典学系,提出的解决方案包括RAG和基于语料库的系统。
作者认为,理解AI的工作原理比仅仅学会使用AI更有价值,以一家诊所失败的AI实施导致理赔被拒为例,强调了AI系统中人类监督的必要性。
该推文认为,AI 只对个人能理解和验证的任务有用,并质疑 AI 是否真能取代人类价值。