Satya Nadella称应假定所有 AI 模型已被攻破并设置紧急刹车

Microsoft CEO Satya Nadella在X长文中表示，应假定 AI 模型从一开始就已被攻破，并对其进行 containment。Nadella主张不再把 AI 当作一组嵌套黑箱，而是建立可 containment、可观察并留下防篡改人类可读证据的透明系统。他还提到及时披露事件、独立审计、可验证数据，并称授权人员应始终能在任务中途暂停或关闭模型。