标签
一个拉取请求为 llama.cpp 推理工具添加了对 NVIDIA Nemotron-3-Puzzle-75B-A9B 模型的支持。
本文报道了 llama.cpp 中针对 Qwen Flash Next 模型的最近错误修复和更新,建议用户频繁更新其构建版本。
DFlash2 的支持已通过拉取请求 #27342 合并到 llama.cpp 中,为 LLM 推理工具添加了局部卷积和候选选择器功能。
Devin,一款AI工具,现在通过生成测试计划、执行用户流程并提供带注释的录像,为应用测试提供视频收据,以直观验证工作。
介绍 Tastelint,一个在每个拉取请求上运行的 AI 代理,旨在提供设计反馈,弥合产品设计与代码开发之间的自动化差距。
一个用于自适应 MTP 的拉取请求 (PR#27210) 已提交到 llama.cpp,该实现是用于LLM推理的C/C++代码,设置简单且性能高效。
一个通过云端代理创建拉取请求来自动化处理应用内反馈的npm包。
文章描述了一个系统,通过移除'询问用户'工具并实施假设预算,使AI代理能够自主处理软件工单到拉取请求,减少中断并提高生产代码库的效率。
通过拉取请求向llama.cpp添加DSpark推测解码支持,提升推理性能。
支持MSA的Minimax M3模型已合并至llama.cpp,从而可以使用MSA架构对Minimax M3模型进行推理。
Sentry 发布了一个名为 'Seer' 的 AI 代理,它可以分析后端错误,确定根本原因,草拟修复方案,并自动打开一个拉取请求以供审查。
该拉取请求为 llama.cpp 添加了对 Laguna XS.2 和 M.1 硬件的支持,扩展了兼容性。
llama.cpp的一个新PR将ROCm上的提示处理速度提升了约15%,并修复了一个bug,使Q2_K量化速度提升了28倍。
此拉取请求为 llama.cpp 添加了对 Hy3 (hy_v3) 模型的支持及 MTP 推测解码,从而实现了该架构的高效推理。
作者构建了一个自主AI系统,运行真实产品,生成工作内容、进行质量把关、发起拉取请求,并基于分析结果自我改进。主要挑战在于让系统值得信赖,而非让模型更聪明。
作者构建了一个自主智能体,不仅能完成任务,还能通过观察结果、通过拉取请求进行更改,并使用账本验证每个更改来改进自身的代码和产品。关键洞察在于,一个严格的验证步骤——得出确认、拒绝或不确定的结论——对于系统真正学习至关重要。
该拉取请求为 llama.cpp 增加了初始的 ET 后端,扩展了大语言模型推理的硬件支持。
OpenHands Enterprise 现与 Azure DevOps 集成,允许用户评论工作项或 PR,OpenHands 会自动执行工作并在 Azure Repos 中打开拉取请求。
谷歌宣布将于7月17日关闭GitHub上Gemini Code Assist的消费者版本,而企业版本仍可使用。
提交的Pull Request旨在为llama.cpp添加对DeepSeek V4模型的支持,从而能够在多种硬件上对该模型进行推理。