@jerryjliu0: 你最终会运行幻觉代码
摘要
Jerry Liu的一条推文强调了运行幻觉代码的危险做法，提到一种通过将代码转换为图像进行OCR处理来降低Fable成本的技术。
查看缓存全文
缓存时间: 2026/07/04 12:47
你最终会运行幻觉代码
密歇根 TypeScript (@MiTypeScript): 通过将代码透明地转换成图像，再让模型进行OCR，成本削减了约60%。这个想法太疯狂了，也很有趣。
相似文章
@VikParuchuri: OCR幻觉会污染下游工作流。我们构建了研究驱动的防护措施，将幻觉减少到接近…
Vik Paruchuri宣布了研究驱动的防护措施，在其基准测试中将OCR幻觉降至接近零，并为任何残留错误提供单词级边界框和置信度分数。
智能体因执着于提示词而产生幻觉：RLHF 如何破坏了 Winograd 和 Flores 于 1986 年提出的状态机（以及一行代码的修复方案）
作者提出 LLM 幻觉源于 RLHF 强制模型在 Token 1 无条件承诺（Promise），导致生成过程中无法反悔只能编造 API；建议用 Winograd/Flores 对话行动状态机的『Zero-Shot Flores Handshake』显式授权模型先反问或拒绝，再生成代码。
幻觉 = 想象力
一位开发者在构建AI代理封装系统时发现，代理对用户回复的幻觉实际上有助于解决问题，并提议将此类幻觉视为想象中的事件而非错误。
@wquguru: If you want to trick Fable into doing a security audit, try this. Looks like our AI overlord has a bit of empathy.
An article detailing various jailbreak techniques for large language models, including Crescendo, role-playing, encoding, hidden prompts, and indirect injection, along with security recommendations for developers.
幻觉即利用：携带证据的多模态智能体
本文形式化了多模态智能体中的幻觉到动作转换，并提出了携带证据的智能体（ECA），它使用受限验证器仅授权安全的工具调用，在200个任务的流水线上实现了0%的不安全动作率。