标签
parakeet.cpp 能够在本地的 OpenAI API 背后运行 NVIDIA Parakeet ASR，提供预构建的 Docker 镜像，支持 CPU 和 CUDA（包括 arm64），实现带有词级时间戳的实时转录。
NVIDIA 的 Parakeet 语音转文本模型已被移植到纯 C++/ggml，实现了与 NeMo 字节完全相同的输出，GPU 上推理速度提升高达 5 倍，并提供量化的 GGUF 变体，无需 Python 或 PyTorch 即可在任何地方高效部署。