NVIDIA 谈 AI 智能体安全设计：重点不在指示什么，而在不让它做什么

NVIDIA 于 9 月 21 日发布博客，提出 AI 智能体安全应作为工程问题在智能体栈各层解决，而非只依赖模型判断。其设计原则包括为每个智能体分配可追踪 ID、按任务最小化权限、对高影响操作要求人工审批，并记录工具调用与授权判定。NVIDIA 还给出开源执行环境 NVIDIA OpenShell，在智能体无法自行修改的位置施加沙箱与网络访问策略。