@jerryjliu0: 你最终会运行幻觉代码
摘要
Jerry Liu的一条推文强调了运行幻觉代码的危险做法，提到一种通过将代码转换为图像进行OCR处理来降低Fable成本的技术。
查看缓存全文
缓存时间: 2026/07/04 12:47
你最终会运行幻觉代码
密歇根 TypeScript (@MiTypeScript): 通过将代码透明地转换成图像，再让模型进行OCR，成本削减了约60%。这个想法太疯狂了，也很有趣。
相似文章
@VikParuchuri: OCR幻觉会污染下游工作流。我们构建了研究驱动的防护措施，将幻觉减少到接近…
Vik Paruchuri宣布了研究驱动的防护措施，在其基准测试中将OCR幻觉降至接近零，并为任何残留错误提供单词级边界框和置信度分数。
幻觉 = 想象力
一位开发者在构建AI代理封装系统时发现，代理对用户回复的幻觉实际上有助于解决问题，并提议将此类幻觉视为想象中的事件而非错误。
@wquguru: If you want to trick Fable into doing a security audit, try this. Looks like our AI overlord has a bit of empathy.
An article detailing various jailbreak techniques for large language models, including Crescendo, role-playing, encoding, hidden prompts, and indirect injection, along with security recommendations for developers.
幻觉即利用：携带证据的多模态智能体
本文形式化了多模态智能体中的幻觉到动作转换，并提出了携带证据的智能体（ECA），它使用受限验证器仅授权安全的工具调用，在200个任务的流水线上实现了0%的不安全动作率。
通过将代码转换为图像并让模型进行OCR识别，Fable成本降低60%
pxpipe 是一个本地代理，它通过将密集文本（系统提示、工具文档、历史记录）转换为紧凑的 PNG 图像，利用图像无论文本密度如何都具有固定令牌成本的特点，实现了约 60% 的成本节省，从而降低了 Claude Code 的令牌使用量。