spyre-accelerator

#spyre-accelerator

基于IBM LinuxONE的Spyre加速检索增强生成：一种安全、高通量企业AI推理的云原生架构

arXiv cs.AI ↗ · 2026-08-25 缓存

本文提出了一种云原生的RAG架构，用于在IBM LinuxONE上实现安全、高通量的企业AI推理，使用Spyre加速器实现低于两秒的延迟，与离平台解决方案相比，性能提升20倍。

0 人收藏 0 人点赞