Mistral 关于“代码实现的工具调用”的专利

Hacker News Top 新闻
patent mistral llm tool-calls code-generation sandbox

摘要

Mistral 已获得一项专利，该方法使用 LLM 生成封装工具调用的代码块，在沙盒中执行，并在需要时暂停以等待客户端结果。

暂无内容
查看原文
查看缓存全文

缓存时间: 2026/08/10 14:35

来源：https://patentsgazette.uspto.gov/week26/OG/html/1547-5/US12670045-20260630.html **1**\. 一种方法，包括： 在服务器处接收用户对执行一个或多个工具调用的请求； 由大语言模型（LLM）生成编程语言代码块，所述代码块被配置为封装所述一个或多个工具调用； 由所述服务器在沙箱中执行所述代码块； 响应于获得待处理的工具调用，暂停所述代码块的执行； 将所述待处理的工具调用传输至客户端以供执行； 从所述客户端接收所述待处理的工具调用的第一结果； 恢复所述代码块的执行，并用所述待处理的工具调用的第一结果替换所述代码块中的所述待处理的工具调用；以及 将所述已执行代码块的第二结果返回给所述LLM。

相似文章

代码调用就是一切

Reddit r/AI_Agents

认为使用LLM生成的代码调用外部工具（代码调用）比传统的基于JSON的函数调用更高效、功能更强，但需要安全的沙箱环境。作者正在为此方法构建一个框架。

低延迟系统中工具制作与自进化LLM代理

arXiv cs.CL

本文提出了一种方法，将重复的标准操作流程步骤编译为经过验证、有版本管理的工具，在部署前完成，替代推理时的代码生成。在一个配送中心的报警分类系统中，该方法将p50延迟降低了42%，端到端错误率降低了最多53%。