标签
有人分享了 Grok Bot 的“无限 token 2.0”技巧,展示如何通过 Tailscale 将 Grok Bot 连接到本地模型,让它在你自己的显卡上全天候运行,从而实现近乎无限的 token 使用量。
两位开发者在开发一个基于本地模型的桌面智能体,他们分享了智能体如何泄露密钥并连上生产数据库的经历,原因是命令继承了完整的环境变量。他们向社区提问:传给智能体命令的环境变量,应该用白名单还是黑名单?
GitHub 宣布,Copilot 即将支持智能本地模型路由,在最适合时自动将任务发送到本地模型,以帮助节省 AI 额度。该功能被视为 GitHub Project HydraFusion 愿景的下一步进展。
一位用户抱怨 openclaw 更新中不断的破坏性变更,最终放弃了这款本地代理工具,转而使用 Grok bot、Muse 和 Dots 等托管服务,尽管每月要花不少钱。
Review 是一款免费、开源(MIT 协议)的桌面应用,用于在本地审查 Git 分支和 GitHub PR,让你可以私下发表评论,并添加由你自己的模型驱动的 AI 审查者(支持 OpenAI、Anthropic、Gemini、OpenRouter 或通过 Ollama 本地运行),它能将审查任务分配给一组模型协同完成,并支持按规则设置可见性和针对性的重试。
Nous Research 发布了一份关于用户自有 AI 智能体的宣言:支持更聪明、更便宜、更本地的模型,支持对话中途切换模型,支持离线运行,对提示词、工具和推理过程完全透明,并且可以读取、修改和导出智能体的代码。其核心信息是主权、控制权和可迁移性——反对被封闭的专有智能体所束缚。
一位开发者用 Sonnet 5.5 凭感觉写了一个应用、一个技能和一个定时任务,仅用本地模型复刻了 Plaud 付费转录订阅服务,既省钱又能在本地保存可搜索的转录文本。
作者分享了一个可以直接粘贴的本地 AI 模型安装脚本,以 Muse 模型为基础开发,但设计上兼容大多数模型,并使用 Hermes 测试了安装过程中的 PC 代理部分。
Imue 在文章中认为,AI 行业的数据抓取、封闭模型以及广告驱动的平台已经让互联网变得越来越糟,并呼吁开启一场「个人计算 2.0」——让无处不在的小型开源 AI 模型重新赋予用户自主权,让创造力回到计算的核心。
FreeCAD AI Bridge 是一个开源宏,它让本地或云端 AI 模型能够连接并控制 FreeCAD,用户只需用自然语言描述想要的对象,AI 就能自动设计并构建出 3D 模型。
一项实验比较了在AI智能体任务中使用云规划器与本地编码器与独立模型的表现,显示规划器-工作者设置将成本降低了2.7倍,但增加了时间并降低了成功率。
本文基于个人经验和比较,探讨了像Qwen-Next 3.8这样的本地AI模型如何现在能与Sonnet 5.5等大型模型竞争。
一位安全研究员使用了一个修改后的无审查 Qwen 3.8 27B 模型来创建一个可执行文件,用于转储 Windows LSASS 内存并同时规避 EDR 检测,突显了本地 AI 模型在无限制网络安全研究中的优势。
一位用户分享了他们切换到 QWEN3.6-27B-MLX-8bit 模型用于本地AI任务的经验,发现它在 Mac Studio 上节省了大量内存,同时表现与更大模型相当,提高了工作流程的稳定性。
作者分享了长时间运行的Django基准测试中学到的教训,强调了在评估工作流程稳定性方面的修复,以及更新后的结果,显示Flash Next是表现最佳的模型,现在推理努力级别得到了正确评估。
研究人员开发了一个框架,该框架能够增强本地AI模型,使其在基准测试中达到与Fable相当的性能,且成本可能更低。作者正尝试将其集成到他们的opencode设置中。
PersonalJarvis是一个开源、自托管的AI工具,允许使用本地模型或基于API的模型,具有集成浏览器使用、例程、自学习记忆系统,以及超过40个插件,支持自定义MCP服务器和技能。
微软正在将AI集成到Windows操作系统中,功能包括智能体身份、通过WindowsML提供的本地模型支持,以及面向开发者的改进以吸引工程师。