Bad Theory Labs 推出的 BTL-3 27B 智能编码与工具使用模型（适配 8.39GB）

https://x.com/Badtheorylabs/status/2079306502897074249 一款 27B 开源权重智能体模型，专为智能编码和结构化工具使用而构建。完整模型仅需一个 8.39GB 文件即可容纳，每参数低于 2.5 比特，比 fp16 格式的 8B 模型还小，同时保留了 27B 模型 92.2% 的智能。BTL-3 针对真实智能体所处的循环进行训练：推理、行动、检查结果、恢复、继续。它支持单个、顺序和并行工具调用，并且知道何时正确的操作是不进行任何工具调用。HumanEval: 95.12% pass@1，BFCL v4 AST: 88.5%（完整 1,240 个案例集），多工具调用: 95.5%，工具调用弃权: 91.2%。262K 上下文架构。今日发布两个版本。BTL-3 是最高质量检查点，适用于 Transformers 和 vLLM。BTL-3 Compact 是完整模型，作为一个独立的 8.39GB GGUF 文件。无需基础下载，无需重建。一个文件，一条命令，一个运行中的智能体。将 27B 模型压缩至此程度通常会破坏模型。标准量化无法做到，因此我们自行构建了堆栈：打包 AVQ2 解码张量、仿射 INT4、测量精度孤岛、打包词汇矩阵、秩 32 输出校正、行为修复。导出时对 2,416 个张量进行了字节验证。然后我们测试了智能体是否幸存。在一个全新的封闭 100 轮工具合约门控上，Compact 保留了 92.2% 的教师校正行为——在单次、并行、顺序和弃权调用上均为 100%。在 RTX PRO 6000 上生成速度达 43 tok/s。完全本地运行。没有任何数据离开你的机器。BTL-3: https://huggingface.co/badtheorylabs/ BTL-3 Compact: https://huggingface.co/badtheorylabs/ BTL-3-Compact 运行时和源代码: https://github.com/Badtheorylabs/ BTL-3 采用 Apache-2.0 模型协议。MIT 运行时协议。