标签
作者用一台运行 Termux 的 CMF Phone 1 家用服务器取代了 Hetzner VPS,详细介绍了安装 postmarketOS 的种种陷阱,最终使用 Android 搭配 Termux、runit、Tailscale 和 Caddy 来托管 Surf 和财务追踪器等 Web 应用。
作者表达了对即将推出的 Qwen 3.8 模型的期待,分享了他们使用 Qwen 3.6 27B 进行本地 LLM 的体验,并讨论了自托管 AI 取代基于订阅的前沿模型的潜力。
一位Reddit用户比较了2026年为本地AI实现128GB以上内存的最廉价硬件方案,涵盖二手GPU、统一内存系统和云替代方案。
Superlinked发布了SIE,一个开源推理引擎,通过一个API提供85+个模型,支持按需加载和LRU逐出,为Agent流水线节省约75%的自托管GPU成本。
一份技术指南,演示如何使用开源工具在单个 GPU 上部署五个专用的小型模型(SLM、OCR、NER、重排序器、目标检测器),涵盖内存管理、批处理以及 Superlinked Inference Engine。
Jack Dorsey 开源了一个用于经营一人公司的免费工具,将聊天、搜索、Git 和自动化与可定制的 AI 智能体结合在一起。该 GitHub 仓库已获得 14.4K 星标。
Autonomous AI 开源了一款由 2x 或 4x NVIDIA RTX 5090 驱动的个人 AI 计算机构建方案,实现完全本地、私有的 AI 托管,无需 API 成本或速率限制。
作者正在开发ClawLite,一个开源、本地优先的个人AI助手,通过Ollama在你自己的机器上运行,并通过Telegram与你交互。它具备多智能体研究(含来源交叉核对)、带Markdown导出的分层记忆、默认拒绝的治理机制,以及轻量级Windows安装程序。作者正在向社区征集功能创意。
anarlog(原名 Hyprnote)是一款开源、本地优先的 AI 会议记录工具,可在本地转录并将会议内容保存为 Markdown 文件,支持多种 AI 提供商和灵活的同步选项。
最新基准测试显示,在8个B300节点上自托管Kimi K3实现了86.4%的任务解决率,硬件成本大约比在B200节点上运行的GLM-5.2高出20%,尽管吞吐量较低。
Manganin 是一个用 Zig 编写的新 Git 伪造,它通过基于信任的担保树和自托管设计重新构想了源代码管理,从而避免了供应商锁定。
Osmantic分享了将业务合作伙伴从云端迁移到自托管AI解决方案的初步问题,适用于Kimi K3及其他模型。
Moonshot 发布了最大的开源权重模型 Kimi K3(2.8 万亿参数),拥有出色的基准测试成绩,但自托管需要巨大硬件,对大多数用户而言,API 接入是更实际的选择。
一篇博客文章,主张在2026年自托管邮件是可行的,提供了关于需求(静态IP、DNS记录)的指导,并推荐了如docker-mailserver、Stalwart或Mailcow等软件。
作者详细介绍了在一家小型社区报社使用Nagios监控服务器、服务和Web应用的经验,强调了其低成本(每月4美元)和可靠性,尽管界面过时。
Cline 对比了使用 Kimi 和 Fable 进行 Token 推理的成本,发现 Kimi 便宜 3-12 倍,并预测随着 Token 消耗量增长,自托管开源权重模型将成为企业标配,尤其是在 Kimi K3 等模型的推动下。
作者讲述了其Raspberry Pi家庭服务器SD卡故障的经历,以及如何以NixOS、zram和外部备份为重点,通过最小化写入和提高冗余来重建的过程。
本文介绍了一种“硬核IndieWeb”方法,以每天仅需0.01美元的成本运行完全独立的个人网站,强调通过将内容保存在自己的硬盘上并使用最少的托管服务来实现完全控制和便携性。