标签
一位从业者询问,如何通过智能体故障转移路由来保持服务持续可用,同时不违反敏感医疗相关数据的隐私和合规要求;并比较了隐私优先的服务提供商和路由器,权衡自托管容量与 Bedrock 和 Google 等云端方案。
Olla v0.1.0 推出了一款轻量级开源 Go 代理,将多个本地 LLM 推理运行时(Ollama、vLLM、SGLang、llama.cpp、MLX 等)统一到单一端点,提供模型感知路由、负载均衡、故障转移、会话保持以及兼容 OpenAI/Anthropic 的 API。此次更新新增了对 Hugging Face TEI 的支持,重新设计了仪表板,支持配置重试行为,并改进了模型能力检测。
PlanetScale 解释其 Neki 数据库如何以最小中断完成计划中的主从切换,涵盖预检验证、收敛/提升、WAL 位置跟踪以及客户端恢复。
OpenCall 是一套值班智能体工作流剧本:PagerDuty 等告警触发后,智能体集群会在 Slack 中开启讨论串,调查代码与遥测数据,经人工一键批准后自动创建拉取请求以修复问题,并在 Claude、Codex、OpenCode 等运行框架之间自动进行故障切换。
Vercel 宣布为其 Sandbox 产品扩展区域支持,为开发者提供更低的延迟和故障转移选项。
Guillermo Rauch 发推文谈论 Vercel 的 Fluid 计算如何让多区域故障转移变得简单,并开玩笑地提到 AWS 中断和一张物联网床垫。
Jeff Geerling描述了如何在OPNsense路由器上使用辅助网关配置备用WAN,实现手动故障切换,无需物理重新连接电缆。
介绍了ContinuityBench,一个针对多提供商大语言模型路由中有状态故障转移的基准测试与系统研究,提出了新指标(CPR、CLO)和一种历史转发代理架构,实现了99.20%的上下文保留率。
本文介绍如何使用Linkerd的多集群扩展来联邦Kubernetes集群以实现零宕机故障转移,结合了层级、扁平及联邦模式,跨越三个GKE集群,采用全网格拓扑和混沌测试。
Coinbase 10小时宕机的事后分析报告显示,他们因延迟原因在全球交易中仅运行单一区域,且无自动故障转移机制,引发对其基础设施可靠性的担忧。