如何使用 torchtitan 在 AWS Trainium 上训练 Qwen3

torchtitan 可在单台 trn2.48xlarge 上通过三种配置训练 Qwen3，支持从随机初始化预训练或微调已发布权重。三种方式分别使用 Transformers v5、原生 Qwen3 实现及自定义 MoE 内核，并采用相同的启动模式和配置结构。教程还展示了如何直接加载和保存 Hugging Face safetensors 检查点。