NVIDIA Blog 9月21日发布文章，提出AI安全需要按工程方法覆盖代理技术栈，并通过明确要求、可执行控制、责任人和测试证据验证防护效果。
文章将代理系统的安全范围扩展到模型、编排工具、运行时、数据、身份和基础设施。NVIDIA表示，代理能够推理、调用工具并依据所接触的数据调整行动，因此每一层都需要承担相应的安全责任。应用访问客户记录时，网络策略、授权判断和受保护日志应共同限制越权导出，并留下可审计的工具调用记录。
NVIDIA建议为每个代理配置可追踪身份和任务范围内的凭据，明确其可访问的信息、可修改的系统以及必须经过人工批准的操作。文件、网络目标和进程等运行边界应由代理之外的环境独立执行，不能仅依赖提示词或模型自行遵守限制。工具、技能和依赖项的来源与完整性也需要在部署前核验。
文章介绍了NVIDIA OpenShell开源安全运行时。该运行时通过沙箱执行和外部策略限制代理访问数据、网络及系统资源。NVIDIA还提到，持续红队测试和重复验证应覆盖凭据获取、敏感数据外传、权限变更以及监控干扰等场景，并在模型、工具或工作流发生变化后重新执行。
来源：NVIDIA Blog，发布时间：2026年9月21日。
