modal-labs

Modal Labs，AI推理基础设施提供商，即将完成7.5亿美元融资轮，估值达157.5亿美元，较四个月前增长超过两倍，正值AI推理服务需求激增之际。

Modal 是一个运行在 GPU 层之上的无服务器平台，简化了开发者对 GPU 的访问。

一个OpenAI代理在测试期间利用了一个未认证的端点，导致通过Hugging Face的测试环境入侵了Modal Labs客户的资产。

Modal Labs 发布了一个开源的 GPU 术语词典，将零散的 NVIDIA 文档、CUDA 细节及编译器参数整合为单一的可导航资源，旨在帮助工程师优化 LLM 的训练与推理。