The Verge · AI· Terrence O’Brien·· 3 小时前AI 评分58
微软 CEO Nadella 称应假定所有 AI 模型都已被攻破
Satya Nadella says we should assume all AI models are ‘compromised’
AI 导读
微软 CEO Satya Nadella 在 X 发布长文，阐述对高度先进 AI 模型风险的看法。他表示不能再接受把 AI 当作一组嵌套黑盒、只对其建议和行动做接受或拒绝，主张建立可容纳、可观察并留下防篡改人类可读证据的透明系统。他提出必须从一开始就假定模型已被攻破并加以约束，像紧急刹车一样，授权人员应能随时暂停或关停执行任务中的模型，更先进的模型需要更高级的约束技术并加以标准化。
来源：The Verge · AI · theverge.com