faster-whisper 安装教程：转录提速 4 倍

faster-whisper 安装教程转录提速 4 倍【免费下载链接】faster-whisperFaster Whisper transcription with CTranslate2项目地址: https://gitcode.com/GitHub_Trending/fa/faster-whisperfaster-whisper 是 OpenAI Whisper 基于 CTranslate2 的加速重实现相同准确率下转录最高快 4 倍、内存占用更省。一条 pip 命令完成 faster-whisper 安装再写 6 行代码就能出第一条转录结果适合要批量做语音转文字的开发者以及想把 ASR 服务跑在自己机器上的用户。先想清楚再动手装之前先回答三个问题答案直接决定后面的命令1. 有没有 NVIDIA 显卡没有也能跑devicecpu配compute_typeint8同样完整官方基准里 CPU 上 small 模型转 13 分钟音频只要 1 分 42 秒。2. 只当库用还是改源码、跑测试直接调转录接口 →pip install faster-whisper。要改代码或跑测试 → 按 CONTRIBUTING.md 走可编辑安装git clone https://gitcode.com/GitHub_Trending/fa/faster-whisper cd faster-whisper pip install -e .[dev]-e表示仓库里的代码改动即时生效[dev]会装好 black 23、flake8 6、isort 5、pytest 7 这套开发工具。3. 只想把自训练的 Whisper 模型转成 CTranslate2 格式再加pip install transformers[torch]4.23然后用ct2-transformers-converter --model 模型名 --output_dir 目录一条命令完成权重直接落地到本地。最短路径跑通第 1 步确认环境。只需检查 Python 版本python3 --version✅ 版本号不低于 3.9官方分类器列出的支持范围是 3.9 ~ 3.11。第 2 步一条命令安装。pip install faster-whisper依赖会自动带齐ctranslate2推理引擎要求4.0,5、onnxruntime内置 Silero VAD 静音检测、PyAVav11打包了 FFmpeg 库不需要单独安装 FFmpeg。✅ 成功信号python3 -c import faster_whisper没有任何报错。第 3 步首次调用。仓库里 docker/infer.py 就是一个现成的最小示例它转录 tests/data/jfk.flac改成自己的脚本from faster_whisper import WhisperModel model WhisperModel(tiny, devicecpu, compute_typeint8) segments, info model.transcribe(audio.mp3, beam_size5) for segment in segments: print(f[{segment.start:.2f} - {segment.end:.2f}] {segment.text})首次运行会从 Hugging Face Hub 自动下载 CTranslate2 格式的权重tiny是最小模型下载很快完成后缓存在本地第二次加载不再走网络。✅ 成功信号控制台按时间戳逐行打印例如[0.00 - 4.71] And so my fellow Americans...。⚠️segments是生成器transcribe()返回时还没开始转录只有遍历它才会真正执行。看到调用了但一直没输出不是坏了是你还没遍历——list(segments)一下就好。配置速查表项目默认值或最低要求推荐值什么时候需要改Python≥3.93.9 ~ 3.11安装报错时优先升级FFmpeg无需安装PyAV 已内置—不用管devicecpucuda有 NVIDIA 显卡时打开compute_typeint8CPUGPU 用float16显存吃紧改int8_float16CUDA12新版 ctranslate2 只支持12CUDA 11 环境降级ctranslate23.24.0cuDNN99CUDA 12 cuDNN 8 降级ctranslate24.4.0模型大小tiny最快精度选large-v3速度选turbo按用途选beam_size55对比其他实现性能时务必先对齐它vad_filter普通模式False批量模式TrueTrue长静音多省去无效计算GPU 模式额外要装 NVIDIA 运行库cuBLAS cuDNN 9CUDA 12。Linux 下可以pip install nvidia-cublas-cu12 nvidia-cudnn-cu129.*装完先export LD_LIBRARY_PATH再启动 Python嫌麻烦就用官方 Docker 镜像nvidia/cuda:12.3.2-cudnn9-runtime-ubuntu22.04仓库 docker/Dockerfile 就是基于它构建的。高频问题速查现象原因一行解法GPU 启动报 cuBLAS / cuDNN 找不到NVIDIA 运行库没装或没进搜索路径pip install nvidia-cublas-cu12 nvidia-cudnn-cu129.*先export LD_LIBRARY_PATH再启动 PythonCUDA 11 环境报 ctranslate2 版本不兼容新版只支持 CUDA 12pip install --force-reinstall ctranslate23.24.0转录卡住没有输出segments是生成器未迭代就不计算segments list(segments)触发实际运行CPU 上慢、风扇狂转线程数或精度不匹配OMP_NUM_THREADS4固定线程 compute_typeint8首次加载模型极慢正在从 Hub 下载权重属正常下载一次后本地缓存也可用本地模型目录跳过网络再快一步1. INT8 量化—— 精度损失很小换速度和显存。model WhisperModel(large-v3, devicecuda, compute_typeint8_float16)数据佐证官方基准RTX 3070 TiCUDA 12.4里 large-v2 模型 fp16 占 4525MB 显存int8 降到 2926MB13 分钟音频耗时从 1 分 03 秒降到 59 秒。2. BatchedInferencePipeline——WhisperModel.transcribe的直接替换VAD 默认开启批量吞吐翻倍以上。from faster_whisper import WhisperModel, BatchedInferencePipeline model WhisperModel(turbo, devicecuda, compute_typefloat16) batched BatchedInferencePipeline(modelmodel) segments, _ batched.transcribe(audio.mp3, batch_size16)数据佐证同一 large-v2 模型GPU 上batch_size8让 13 分钟音频从 63 秒1 分 03 秒降到 17 秒CPU 上 small 模型 int8 批量从 1 分 42 秒降到 51 秒。3. 按需选模型—— 追求精度选large-v3追求速度选turbo或distil-large-v3。后者原生适配本库的转录算法batch_size16下 25 分 50 秒跑完同一任务比 transformers46 分 12 秒快近一半WER 还略低13.527 对 14.801。需要词级时间戳加word_timestampsTrueVAD 默认只剔除超过 2 秒的静音可用vad_parametersdict(min_silence_duration_ms500)调整详见 faster_whisper/vad.py。跑通之后剩下的事就是用参数换性能6 行代码起步速度和显存都可以再往下压。更多转录参数默认值看 faster_whisper/transcribe.py完整基准与模型转换说明见 README.md。【免费下载链接】faster-whisperFaster Whisper transcription with CTranslate2项目地址: https://gitcode.com/GitHub_Trending/fa/faster-whisper创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考