Deepgram将Nova-3迁至Trainium2并优化批量转写

Deepgram与AWS将Nova-3语音转文本模型迁移至AWS Trainium2；AWS称，在Deepgram以吞吐量为重点的离线批处理测试中，按评估时的实例价格计算，每美元可处理的音频量较Deepgram此前使用的计算方案提高11%–70%。 最终配置在单个trn2.3xlarge实例上运行8个模型副本，通过融合内核、性能分析和定制内核提高吞吐量，并以Rust数据并行运行时连接Deepgram自有模型服务器。AWS称，优化后词错误率仍符合参考值与目标。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。