vaibhavs10/incredibly-fast-whisper

# Fast Whisper：在 Replicate 上实现高速转录 来源：https://replicate.com/vaibhavs10/incredibly-fast-whisper ## 极速 Whisper 由 🤗*Transformers*、*Optimum* 和 *flash-attn* 驱动 **TL;DR** — 用 OpenAI 的 Whisper Large v3（https://huggingface.co/openai/whisper-large-v3）在 100 秒内转录 150 分钟的音频。闪电般的转录速度现已成真！⚡️ 优化类型转录时间（150 分钟音频）Transformers（`fp32`）约 31（*31 分 1 秒*）Transformers（`fp16`+`batching [24]`+`bettertransformer`）约 5（*5 分 2 秒*）**Transformers（`fp16`+`batching [24]`+`Flash Attention 2`）**约 2（*1 分 38 秒*）distil-whisper（`fp16`+`batching [24]`+`bettertransformer`）约 3（*3 分 16 秒*）**distil-whisper（`fp16`+`batching [24]`+`Flash Attention 2`）**约 1（*1 分 18 秒*）Faster Whisper（`fp16`+`beam_size [1]`）约 9.23（*9 分 23 秒*）Faster Whisper（`8-bit`+`beam_size [1]`）约 8（*8 分 15 秒*） 模型创建时间超过 1 年前