AI圈报
观点 / 方法普通

Baseten 优化 Qwen3-ASR 1.7B 批量转写,吞吐达原版 vLLM 的 7 倍

信息来源:Baseten 工程博客(网页)·
原始标题:The fastest, lowest-cost batch transcription with Qwen3-ASR

内容摘要

Baseten 优化了 Qwen3-ASR 1.7B 的批量转写部署,在 64 并发下吞吐比原生 vLLM 高 7 倍以上,成本降至每音频小时约 $0.0013,比闭源提供商低约 277 倍。
内容分类AI 观点与方法
内容层级普通情报
发布时间(北京时间)
本站收录时间(北京时间)
信息来源Baseten 工程博客(网页)
站内情报编号intel-b828ea80ce975f5ef95e5b04