开放模型的现实收益是否值得承担其风险？

开放模型通过可下载、可修改和本地运行，为研究、敏感数据处理及分散 AI 权力提供收益，但也更容易绕过过滤器并被滥用。文章指出，封闭模型的防护并不完美，开放模型也可能用于安全研究和网络防御，不能简单将开放模型视为危险、封闭模型视为安全。针对风险，研究者正在探索抗篡改训练等方法，文中还讨论了分阶段发布，以及将开放权重、训练数据和可用硬件纳入考量的做法。