AWS Machine Learning Blog· Mijanur Palash·· 2 小时前AI 评分40
如何在 Amazon SageMaker HyperPod 上微调 GPT-OSS-20B,提升多语言推理能力
Fine-tuning GPT-OSS-20B for multilingual reasoning on Amazon SageMaker HyperPod
AI 导读
GPT-OSS-20B 在 Amazon SageMaker HyperPod 上进行多语言推理微调,主要改进来自 SFT。基础模型在 50 个测试样例中,仅有 22% 使用了指定语言进行推理。SFT 用于教会模型尚不具备的行为,GRPO 则在模型已能偶尔产生目标行为时进一步优化,效果取决于能力差距。
来源:AWS Machine Learning Blog · aws.amazon.com