llm-limitations

标签

Cards List
#llm-limitations

我们把开发人员提拔为架构师,却没有告知他们。

Hacker News Top ↗ · 20小时前 缓存

一位开发者讲述了在 Google Forms 插件中通过 AI“氛围编程”生成的日志功能如何导致欢迎界面持续显示 15 秒,并认为开发者如今必须扮演架构师的角色,在让 AI 生成代码之前先定义数据模型和约束,因为大语言模型不会对需求提出异议。

0 人收藏 0 人点赞
#llm-limitations

@LotusDecoder:关于 AI 未来会取代人类工作的舆论喧嚣很多,但从我自己的实际体验来看……

X AI KOLs Timeline ↗ · 2026-10-06 缓存

一位评论者认为,通用 LLM 和智能体在二阶优化、隐性专业知识以及数据稀缺领域方面能力有限,因此工作不会被 AI 消除,反而会变得更加丰富、更加专业化。

0 人收藏 0 人点赞
#llm-limitations

@rohanpaul_ai:语言模型被训练来生成下一个优质回答,但经营一家公司问的是另一个问题:做完这个决定……

X AI KOLs Following ↗ · 2026-10-05 缓存

Skyfall AI 由 Maluuba 团队创立,正在构建世界模型(world models),用来预测公司在每次决策后将如何变化。他们认为 LLM 不适合长周期规划以及适应不断变化的现实条件。文章讨论了智能体在模拟环境中演练行动,以及后自动化时代商业决策的社会影响。

0 人收藏 0 人点赞
#llm-limitations

@ThoreG:十年前,AlphaGo 的第 37 手震惊世界。它的产生并非仅凭直觉。AlphaGo 可以搜索可能的未来,检验自己的直觉,并推理接下来会发生什么……

X AI KOLs Following ↗ · 2026-10-02 缓存

前 Google DeepMind 研究人员回顾 AlphaGo 的第 37 手,并指出当今的大模型仍然缺乏真正可审计的推理,呼吁借鉴 AlphaGo 的搜索与推理方式,构建全新架构。这篇观点发表于 MIT Technology Review 的新文章中。

0 人收藏 0 人点赞
#llm-limitations

@rohanpaul_ai:AI 生成的小说读起来像流水线垃圾,原因有几点:> 聊天机器人一次只回答一个提示 > 上下文窗口有限。h…

X AI KOLs Timeline ↗ · 2026-09-30 缓存

Rohan Paul 解释了 AI 生成的小说为什么读起来像流水线垃圾——单提示的聊天机器人设计、上下文窗口有限,以及无法记住长篇故事中埋下的伏笔——并重点介绍了 Sherpa,该系统使用专门的智能体(创意、结构、研究、行文、审阅)加上一个叙事世界模型来追踪故事历史和连贯性。

0 人收藏 0 人点赞
#llm-limitations

AI的下一个进化:从你的蹩脚游戏技能中学习

Wired ↗ · 2026-09-28 缓存

一家英国初创公司 Worldmodeldata 正在使用视频游戏数据来训练 AI 世界模型,旨在克服数据短缺问题,以便教 AI 理解并与物理世界互动。

0 人收藏 0 人点赞
#llm-limitations

通过让AI代理使用自定义AI生成的UI工具,克服LLM的字谜/分词限制

Reddit r/AI_Agents ↗ · 2026-09-20

一个AI代理通过使用自定义AI生成的基于网络的排版工具套件,克服了LLM在分词方面的字谜限制,展示了在代理工作流程中的突破。

0 人收藏 0 人点赞
#llm-limitations

当前的AI智能体被过度炒作且存在根本性限制

Reddit r/AI_Agents ↗ · 2026-08-23

本文批评当前的AI智能体被过度炒作且根本上有限,认为它们本质上是带有脚手架的大语言模型,并且其依赖的下一个词元预测使其在长期规划和问责方面不可靠。

0 人收藏 0 人点赞
#llm-limitations

AI软件开发——数据说了什么?

Lobsters Hottest ↗ · 2026-08-17 缓存

本文综合了近期关于LLMs在软件开发中的数据和研究,揭示了其在自主性、上下文处理和实际结果方面的显著局限,表明AI编码是放大现有优势,而非修复弱点。

0 人收藏 0 人点赞
#llm-limitations

前沿语言模型难以完成精确复制:文本在二维视角下更胜一筹

arXiv cs.CL ↗ · 2026-07-20 缓存

本文揭示了前沿大语言模型由于位置编码的限制而在精确复制任务上表现困难,并提出 2D-RoPE 方法,将文本组织为二维网格以实现完美复制,在合成数据和大规模预训练中展现出优势。

0 人收藏 0 人点赞
#llm-limitations

AI顾问是否真正了解AI,还是其中一半只是自信地虚张声势?

Reddit r/ArtificialInteligence ↗ · 2026-07-16

一篇评论质疑AI顾问是否拥有真正的专业知识,还是仅仅依赖流行词汇,强调AI咨询领域实际价值与炒作之间的差距。

0 人收藏 0 人点赞
#llm-limitations

@rohanpaul_ai:在彭博社的一次采访中,Yann LeCun(@ylecun)解释了为什么LLMs在现实世界智能方面存在局限……

X AI KOLs Following ↗ · 2026-07-06 缓存

Yann LeCun在彭博社采访中解释,LLMs之所以有限,是因为它们只处理符号文本,而现实世界的理解需要儿童自然获得的大量感官数据。他引用莫拉维克悖论来强调这一差距。

0 人收藏 0 人点赞
#llm-limitations

Dario为何火爆:互联网泡沫的教训。

Reddit r/LocalLLaMA ↗ · 2026-06-30

这篇专栏文章认为,AI投资(特别是Dario Amodei的Anthropic)有重蹈互联网泡沫覆辙的风险,因为它押注于一个收取租金的垄断模式,同时面临大语言模型的局限性以及优势被开源侵蚀的问题。

0 人收藏 0 人点赞
#llm-limitations

不要轻信大上下文窗口

Hacker News Top ↗ · 2026-06-14 缓存

分析表明,LLM 声称的大上下文窗口具有误导性,因为有效注意力在约 10 万 token 时会下降。为开发者提供实用建议:通过使用工件(artifacts)和切换(handoffs)将会话保持在“智能区”。

0 人收藏 0 人点赞
#llm-limitations

一位客户付钱让我把他们工具中的AI移除。

Reddit r/AI_Agents ↗ · 2026-06-08

一位开发者构建了一个基于LLM的工单路由工具,但支持团队不信任其黑箱决策。客户付费将LLM替换为简单的规则引擎,结果准确率更高、成本更低、用户信任度也更高。

0 人收藏 0 人点赞
#llm-limitations

同类相食

Lobsters Hottest ↗ · 2026-06-08 缓存

一篇评论文章,分析科技行业对AI颠覆日益增长的恐慌,突出高管们如何匆忙将自己定位为AI远见者,而该行业正面临着它曾经强加给别人的那种颠覆的自身版本。

0 人收藏 0 人点赞
#llm-limitations

自主AI驱动的杀人无人机能否具备道德观念? | 无人机(军事)

Reddit r/ArtificialInteligence ↗ · 2026-06-03 缓存

本文探讨了将道德观念编程到自主AI驱动的军用无人机中所面临的伦理和技术挑战,并引用专家的观点,他们认为当前的AI系统(包括大型语言模型)从根本上无法进行道德决策。

0 人收藏 0 人点赞
#llm-limitations

如果你无法纠正AI的信念,那你拥有的就不是记忆系统,而只是一个只写日志。

Reddit r/AI_Agents ↗ · 2026-05-29

本文批评当前AI记忆系统仅仅只是无法被纠正、更新或溯源至来源的只写日志,认为真正的记忆需要一个治理层。

0 人收藏 0 人点赞
#llm-limitations

更大的上下文窗口并未解决企业记忆问题——原因如下

Reddit r/ArtificialInteligence ↗ · 2026-05-22

本文批评了LLM中不断扩大上下文窗口的趋势,认为由于检索退化、数据量和缺乏结构,这并不能解决企业知识问题。文章主张在检索之前建立知识建模层,以映射关系和意图。

0 人收藏 0 人点赞
#llm-limitations

规模、计划与人员——无人满意

Reddit r/artificial ↗ · 2026-05-20 缓存

一项深度分析,探讨为何AI公司在知名研究者宣称缩放时代结束且收益递减已被广泛承认后,仍持续扩展系统,审视驱动该行业的结构与财务激励。

0 人收藏 0 人点赞
Next →
← 返回首页

提交意见反馈