@karpathy:我们将花更多时间去理解语言模型的输出。一些思考、技巧和窍门:……
摘要
Andrej Karpathy 分享了理解大语言模型输出的技巧,建议使用 ASD-STE100 这类受控语言来获得清晰简洁的表达,此外还推荐生成图表、HTML 网页以及定制讲解视频(例如用 ElevenLabs 配音的 3Blue1Brown 风格视频)等越来越有效的输出形式。
查看缓存全文
缓存时间: 2026/10/02 01:31
在理解语言模型的输出上,我们将投入多得多的时间。一些想法、技巧与窍门:
写作。 我个人实践下来很有成效的一个方法:让 LLM 按照 ASD-STE100 来解释某个内容。这是一套最初为航空航天维护文档开发的受控语言规范。LLM 对这种语言掌握得很好,而且该规范对行文的简洁与清晰有严格约束,读起来常常清晰得多。有时我会要求宽松一些,比如“朝着 ASD-STE100 的方向走 80%“,因为规范本身相当严苛。但更进一步的做法是:
图表 / 图像。 不用文字,而是让 LLM 生成一张图表。图表往往更容易处理、解析和理解。但更进一步的做法是:
网页。 要求以“HTML 形式“输出,得到一个漂亮的交互式网页。LLM 在前端方面已经相当出色,能创造出精美的体验和动画等等。但更进一步的做法是:
讲解视频。 我最看好的输出形式是针对任意主题生成完全定制的讲解视频。可以试试类似这样的提示词:“为 X 制作一个 3Blue1Brown 风格的视频讲解,音频旁白使用我的 ElevenLabs API key。”(后者需要你有对应的 API key,否则也可以让你的 LLM 帮你找一些利用本地算力的免费替代方案。)这其实已经开始变得可行了!
总结:
- 随着 LLM 不断进步,它们将越来越多地自主完成基础性的辛苦工作,而我们的工作会更多地上移到抽象层面,聚焦于监督与理解。
- 值得庆幸的是,LLM 在这方面也能帮上大忙:随着智能和代码的供给日益充裕,你可以要求生成大量定制化的、可随意丢弃的软件产物(例如 Web 应用、视频讲解等),而这些在过去根本不可能值得去做。在这里大胆尝试,你会大吃一惊。
相似文章
@uudonX:Karpathy 又在给行业发福利了!Codex / Claude code 会为你生成大量文本——但你真的会一字不落地读完吗……
Andrej Karpathy 分享了高效理解大模型海量输出的实用技巧:用 ASD-STE100 受控语言约束文本、生成图表与架构图、构建可交互 HTML 页面进行参数探索,以及制作 3Blue1Brown 风格的讲解视频——当「一次性软件」的成本趋近于零时,这些方法尤为实用。
@karpathy:我发现一个与 LLM 协作的好方法——来一场长而随性的闲聊。有时 LLM 需要更多的信息才能理解你试图实现的目标,但你懒得打那么多字。
Andrej Karpathy 分享了一个与 LLM 协作的技巧:使用语音进行 10 分钟漫无目的的闲聊,这有助于模型理解用户的意图,并且常常能生成更清晰的改述。
@karpathy: 顺便说一下,这个方法效果非常好。在查询的最后,让你的大语言模型“将回复组织为HTML格式”,然后查看生成的…
Andrej Karpathy 建议通过提示词引导大语言模型将回复组织为 HTML,以实现更好的可视化效果,并预测 AI 的输出将从文本演变为交互式神经视频。
@royvanrijn: 对于好奇的开发者,我构建了《大语言模型的解剖结构》,这是一个交互式解释器,展示了文本如何变成令牌、向量、注意力……
由 Roy van Rijn 构建的交互式可视化指南,解释了大语言模型的工作原理,从令牌化到注意力机制、Transformer 模块以及文本生成。
@pallavishekhar_: https://x.com/pallavishekhar_/status/2058460434035060758
解释大型语言模型实际所做的工作(下一个Token预测),以及为什么即使出错时它们听起来也很有信心。提供了一种心智模型和验证检查清单,用于安全使用LLM。