标签
一位开发者讲述了在 Google Forms 插件中通过 AI“氛围编程”生成的日志功能如何导致欢迎界面持续显示 15 秒,并认为开发者如今必须扮演架构师的角色,在让 AI 生成代码之前先定义数据模型和约束,因为大语言模型不会对需求提出异议。
一位评论者认为,通用 LLM 和智能体在二阶优化、隐性专业知识以及数据稀缺领域方面能力有限,因此工作不会被 AI 消除,反而会变得更加丰富、更加专业化。
Skyfall AI 由 Maluuba 团队创立,正在构建世界模型(world models),用来预测公司在每次决策后将如何变化。他们认为 LLM 不适合长周期规划以及适应不断变化的现实条件。文章讨论了智能体在模拟环境中演练行动,以及后自动化时代商业决策的社会影响。
前 Google DeepMind 研究人员回顾 AlphaGo 的第 37 手,并指出当今的大模型仍然缺乏真正可审计的推理,呼吁借鉴 AlphaGo 的搜索与推理方式,构建全新架构。这篇观点发表于 MIT Technology Review 的新文章中。
Rohan Paul 解释了 AI 生成的小说为什么读起来像流水线垃圾——单提示的聊天机器人设计、上下文窗口有限,以及无法记住长篇故事中埋下的伏笔——并重点介绍了 Sherpa,该系统使用专门的智能体(创意、结构、研究、行文、审阅)加上一个叙事世界模型来追踪故事历史和连贯性。
一家英国初创公司 Worldmodeldata 正在使用视频游戏数据来训练 AI 世界模型,旨在克服数据短缺问题,以便教 AI 理解并与物理世界互动。
一个AI代理通过使用自定义AI生成的基于网络的排版工具套件,克服了LLM在分词方面的字谜限制,展示了在代理工作流程中的突破。
本文批评当前的AI智能体被过度炒作且根本上有限,认为它们本质上是带有脚手架的大语言模型,并且其依赖的下一个词元预测使其在长期规划和问责方面不可靠。
本文综合了近期关于LLMs在软件开发中的数据和研究,揭示了其在自主性、上下文处理和实际结果方面的显著局限,表明AI编码是放大现有优势,而非修复弱点。
本文揭示了前沿大语言模型由于位置编码的限制而在精确复制任务上表现困难,并提出 2D-RoPE 方法,将文本组织为二维网格以实现完美复制,在合成数据和大规模预训练中展现出优势。
一篇评论质疑AI顾问是否拥有真正的专业知识,还是仅仅依赖流行词汇,强调AI咨询领域实际价值与炒作之间的差距。
Yann LeCun在彭博社采访中解释,LLMs之所以有限,是因为它们只处理符号文本,而现实世界的理解需要儿童自然获得的大量感官数据。他引用莫拉维克悖论来强调这一差距。
这篇专栏文章认为,AI投资(特别是Dario Amodei的Anthropic)有重蹈互联网泡沫覆辙的风险,因为它押注于一个收取租金的垄断模式,同时面临大语言模型的局限性以及优势被开源侵蚀的问题。
分析表明,LLM 声称的大上下文窗口具有误导性,因为有效注意力在约 10 万 token 时会下降。为开发者提供实用建议:通过使用工件(artifacts)和切换(handoffs)将会话保持在“智能区”。
一位开发者构建了一个基于LLM的工单路由工具,但支持团队不信任其黑箱决策。客户付费将LLM替换为简单的规则引擎,结果准确率更高、成本更低、用户信任度也更高。
一篇评论文章,分析科技行业对AI颠覆日益增长的恐慌,突出高管们如何匆忙将自己定位为AI远见者,而该行业正面临着它曾经强加给别人的那种颠覆的自身版本。
本文探讨了将道德观念编程到自主AI驱动的军用无人机中所面临的伦理和技术挑战,并引用专家的观点,他们认为当前的AI系统(包括大型语言模型)从根本上无法进行道德决策。
本文批评当前AI记忆系统仅仅只是无法被纠正、更新或溯源至来源的只写日志,认为真正的记忆需要一个治理层。
本文批评了LLM中不断扩大上下文窗口的趋势,认为由于检索退化、数据量和缺乏结构,这并不能解决企业知识问题。文章主张在检索之前建立知识建模层,以映射关系和意图。
一项深度分析,探讨为何AI公司在知名研究者宣称缩放时代结束且收益递减已被广泛承认后,仍持续扩展系统,审视驱动该行业的结构与财务激励。