Deepgram 如何借助 AWS Trainium 优化大规模语音 AI 推理

Deepgram 与 AWS 将 Nova-3 语音转文本模型迁移至 AWS Trainium2，使离线批处理每美元可处理的音频量提高 11–70%。最终配置在单个 trn2.3xlarge 实例上运行 8 个模型副本，并通过融合内核、性能分析及定制内核优化吞吐量，同时保持词错误率符合参考值与目标。