标签
DevinX 现在支持本地会话的完整模型选择,包括 Sol、Fable 5、GLM、Kimi 以及自适应成本平衡选项,外加推理努力控制。
一篇文章描述如何通过切换到需要更少推理时间的模型,而不是专注于解码速度,将AI智能体响应延迟降低1.7倍
一位拥有64GB显存的开发者分享了他使用unsloth版Qwen 3.5 122b-a10b模型进行编码的偏好,并向社区征求推荐。
比较了 Qwen 3.6 27B 和 Qwen 3.5 35B 模型在 AI 智能体应用中的使用情况,讨论了它们的性能和适用性。
文章讨论了AI模型诞生的随意性,提出从物理学模型中获得灵感并建立备选模型资料库,将选模型过程工程化的想法。
作者分享说,他不再比较AI模型,转而专注于工作流设计,结果输出质量反而提升了。他认为对于大多数实际用例,工作流比模型选择更具杠杆效应。
本文探讨了AI智能体中每提示词模型路由的挑战,质疑是否有人真正有效解决了这个问题。文章指出,当前实践依赖直觉,固定费率计划降低了优化压力,而分流层本身也可能带来额外成本。
提出ARIADNE,一种无需训练、适配器无关的路由框架,通过在嵌入空间中测量输入与适配器特定质心的接近度,在推理时选择最优的PEFT适配器,在23个任务上恢复了97.44%的上限性能。
本文系统评估了InferBERT框架中分类模型选择对因果不良药物事件检测的影响,发现领域特定预训练(BioBERT)优于简单模型及Med-LLaMA等大型语言模型。
本文认为,工具调用的可靠性往往不与模型能力成正比;较小的模型在遵循模式和格式规范方面可能超越较大的模型,这表明原始能力并非选择工具调用模型的唯一因素。
一位开发者构建了ModelGrep,这是一款免费工具,将来自OpenRouter、Artificial Analysis和Design Arena的AI模型数据聚合到一个可搜索的表格中,支持按价格、基准测试、吞吐量等进行筛选。
文章认为,AI生产力的关键在于不盲目追求新工具,而是为每个任务选择合适的模型,并将其与深刻的商业判断相结合。它强调并行运行多个模型,并利用人类专业知识来纠正AI的缺陷。
本文介绍了MedicalRec,一个基于Transformer的推荐系统,可为医学图像分类任务推荐最优模型,无需重新训练。该系统构建于从3000篇文章中编译的数据集(MedicalRec-Bench)之上,包含超过5000条记录。
这是一份全面指南,解释了模型路由技术,该技术能够智能地为每个请求选择最合适的AI模型,以优化成本、质量和延迟。文章将模型路由与AI网关进行了对比,并强调了其在代理型AI工作负载中的重要性。
本文提出DARS,一个从模型行为的分布视角构建路由监督的框架,旨在解决LLM路由中单次标签不可靠的问题。
TorchKM是一个开源的GPU加速核机器库(支持向量机、核逻辑回归等),采用scikit-learn风格的API。通过重用矩阵运算加速训练和模型选择,相比标准基线实现了显著的加速比。
提出EVIDENT框架,该框架整合贝叶斯训练与基于证据的排序进行神经架构选择,并在1型糖尿病的个体化血糖预测中演示,系统地选择泛化可靠的轻量模型。
本文提出了一个三阶段诊断框架,用于识别离线模型选择器为何无法胜过最佳单一模型,并将其应用于edX点击流数据上的辍学预测。研究发现瓶颈在于局部表征歧义,而非学习器选择或分布偏移,建议重新设计状态或收集新数据,而非进一步调优算法。
MOSAIC 提出了一种用于自动化数据科学的结构化代理框架,该框架基于记忆驱动的模型选择和工作流构建,并在金融时间序列任务上得到验证。其性能优于 AutoML 及其他基于代理的基准方法。
PRAXIS是一种新算法,能够高效近似接近最优决策树的罗生门集合,在运行时间和内存使用上实现数量级的改进,同时保持近乎完美的召回率。