标签
一台人形机器人在加州大学圣地亚哥分校通过远程操控进行了腹腔镜手术,其精确度可与专用系统媲美,但成本和占地面积仅为其一小部分,有望部署在偏远诊所、战场或太空中。该结果发表在《自然》杂志上。
加州大学圣地亚哥分校Hao AI实验室的博客清晰解释了DistServe的Prefill Decode分离技术,追溯了该技术从2024年到2025年的被接受过程,并关联了NVIDIA Dynamo、llm-d、Ray Serve LLM、LMCache和MoonCake等相关技术,是学习LLM推理的绝佳起点。