标签
Agent Substrate 是 Google 开源的运行时,支持大规模 AI 代理部署的高密度生命周期管理,通过 Kubernetes 和 microVM/gVisor 沙箱将多个有状态代理多路复用至更少的物理工作节点,并具备亚秒级挂起/恢复能力。
Olares 是一个来自 beclab 团队的开源个人云操作系统,基于 Kubernetes,专为全天候 7x24 小时在线的 AI Agent 设计,可将旧电脑或 NAS 改装成自托管 AI 平台,支持本地数据存储和自然语言操作。
一篇技术博客文章,探讨为什么 Karpenter 的节点整合看似有违直觉——集群容量保持不变,而节点不断更换——并解释其底层机制。
文章解释了 BYOC(自带云)是一系列部署模型的统称,包括 BYOC-Account、BYOC-VPC、BYOC-K8s 和隔离环境,这些模型由客户对数据驻留、安全性、成本对齐和数据引力等需求驱动。
Microsoft's Orchard is an open-source framework for agentic modeling, providing a Kubernetes-native environment substrate, RL training stack, and datasets for software engineering, GUI, and computer use agents.
Pinterest Engineering 分享了一项关于 CPU 瓶颈和网络驱动程序问题的详细调查,这些问题导致基于 Ray 的训练任务在其 Kubernetes 平台上崩溃,并提供了分析性能问题的经验教训。
一项针对4B模型分类任务的预注册消融实验表明,评估框架设计(规则位置、证据顺序、轮次结构)使准确率在60%到82%之间波动,说明糟糕的评估框架设计常常被误认为是模型能力不足。
FreeCodeCamp 发布了一本完整的书,教你如何从 homelab 到 AWS 构建一个生产就绪的 DevSecOps 平台,涵盖 Kubernetes、CI/CD、GitOps、安全扫描和可观测性。
作者分享了在其组织中构建基础设施的经验基础上,用于在 Kubernetes 上部署内部 LLM 推理的运行手册。
CNCF 与 Linux Foundation Research 共同开启了今年关于云原生采用的年度调查,涵盖了容器、Kubernetes 以及用户面临的挑战。受访者将获得 Linux Foundation Education 课程35%的折扣。
Infrawrench 是一款统一的云管理工具,可连接 25 个以上的提供商,提供 SSH、Kubernetes 管理、SQL 编辑、对象存储浏览和自定义仪表盘,全部集成于一个界面中。
文章将开源权重AI模型的崛起与Kubernetes相提并论,认为开源权重模型正成为AI创新的基础平台。它警告美国不要孤立自己,并鼓励开源权重AI生态系统中的竞争。
本文介绍了CRAWO,一个用于跨异构边缘基础设施的AI流水线自适应工作负载编排框架。它采用控制循环模型和基于Kubernetes的实现,以改善工作负载分布并减少对集中式云处理的依赖,并在车辆监控场景中进行了演示。
一份关于使用Backstage、ArgoCD和Crossplane构建内部开发者平台的综合指南,让团队能够自助获取基础设施和部署服务,无需手动填写工单流程。
Devin Outposts 让你能在任何机器上运行 Devin,包括 Mac mini、GPU 盒子、虚拟机、私有网络或 Kubernetes 集群,将 AI 编码代理带到本地或私有基础设施。
一个教育性的推文串,使用像亚马逊仓库和巡航控制这样易于理解的类比来解释Kubernetes的核心概念,分解了组件和期望状态机制。
一条推文列出了在推理工程中应构建的关键项目,以理解生产级LLM系统,包括推理服务器、分页KV缓存、推测解码、量化库和防护措施。
本教程说明如何使用标准的Linux工具(如网络命名空间、veth对、桥接器和NAT)从零开始为容器构建桥接网络,以揭示Docker和Kubernetes网络的奥秘。
讨论了大规模部署 AI 代理的运营挑战,并将其与 Kubernetes 解决容器编排问题的方式相类比。认为代理生态系统需要类似的基础设施突破。
探索了NVIDIA Dynamo,这是一个用于在多个GPU集群节点上部署LLM的工具,具有模型缓存、自动扩展、多节点部署以及Kubernetes集成等功能。