标签
作者开发了一个确定性图像路由系统，对图像进行分类，决定是作为原始字节发送还是通过OCR提取文本，实现了LLM上下文集成中令牌消耗的88%减少。
作者反对将LLMs作为代理运行时的核心组件，提出在处理请求时采用确定性和语义路径的分离，并寻求对这一架构想法的反馈。