@charles_irl: 掌控你的推理,掌控你的代理平台,掌控你的命运。在 @modal Endpoints 上使用 OpenInspect。

X AI KOLs Following 工具

摘要

OpenInspect 支持完全自托管的背景代理系统,在 Modal Endpoints 上使用 GLM-5.2,强调对推理基础设施的所有权。

掌控你的推理,掌控你的代理平台,掌控你的命运。 在 @modal Endpoints 上使用 OpenInspect。
查看原文
查看缓存全文

缓存时间: 2026/06/24 16:04

掌控你的推理,掌控你的智能体平台,掌控你的命运。

在 @modal Endpoints 上运行 OpenInspect。

cole murray (@colemurray): OpenInspect 搭配 Modal Inference (GLM-5.2)

完全自托管的背景智能体系统,以 FP8 精度运行 GLM 5.2。速度飞快!

掌控你的关键基础设施

相似文章

Modal Auto Endpoints:你掌控的优化推理

Hacker News Top

Modal推出了Auto Endpoints,这是一项自助服务,提供优化的、生产级的LLM推理,具备完整代码所有权、透明指标和自动缩放功能,构建于其无服务器GPU基础设施之上。