纳德拉发帖谈AI安全需紧急制动

微软 CEO Satya Nadella 在 X 发布长文，阐述对高度先进 AI 模型风险的看法。他表示不能再接受把 AI 当作一组嵌套黑盒、只对其建议和行动做接受或拒绝，主张建立可容纳、可观察并留下防篡改人类可读证据的透明系统。他提出必须从一开始就假定模型已被攻破并加以约束，像紧急刹车一样，授权人员应能随时暂停或关停执行任务中的模型，更先进的模型需要更高级的约束技术并加以标准化。

微软 CEO Satya Nadella 在 X 发文称，应重新审视 AI 的信任架构，把模型与编排其工作的 harness 分离，并将控制与防护措施外部化。他要求每个有意义的模型动作都留下防篡改、人类可读的证据，并让授权人员能随时暂停或关闭执行中的模型，称这就像“紧急刹车”。