仅通过聊天API的两个oracle查询能否重构闭源LLM的分词器？

Reddit r/LocalLLaMA 2026/07/11 06:17 论文

tokenizer reverse-engineering llm closed-source api oracles

摘要

本文探讨了仅使用闭源大语言模型聊天API的两个oracle查询来重构其分词器的可行性，该过程可能揭示模型的内部表示细节。

暂无内容

查看原文

相似文章

Hacker News Top

本文演示了一种从专有LLM API（Anthropic、OpenAI、Google）提取隐藏推理痕迹的方法，方法是将加密的思维链块重放入较弱的、已越狱的同族模型，从而在不直接攻击较强模型的情况下逐字恢复其原始推理过程。

Reddit r/singularity

本文讨论了如何有效地查询或与大型语言模型（LLMs）进行交互，以应用于各种场景。

TLDR AI

本文介绍了一种技术，该技术从LLM的最后一个提示标记处提取隐藏状态，无需文本生成即可进行分类，使用一个小型MLP读取模型的内部决策，从而实现快速且廉价的零样本分类器。

arXiv cs.CL

本综述论文系统回顾了大型语言模型与视觉语言模型的解码方法，聚焦于推理时方法以提升效率和控制生成过程。文中识别了新兴范式，指出了当前挑战，并探讨了未来研究方向。

arXiv cs.AI

本文介绍了ORCA，这是一个全面的基准，用于评估LLMs在数据科学代码翻译任务上的表现，强调了挑战并提出了一种意图增强的方法来提高性能。