全球首个！单智能体运行安全测试标准正式发布

近日，世界数字科学院（WDTA）在联合国日内瓦总部正式发布了 AI STR 系列新标准中的《AI 智能体运行安全测试标准》。这是全 球首 个针对单智能体运行安全的测试标准，由蚂蚁集团、清华大学、中国电信牵头，联合普华永道、新加坡南洋理工大学、美国圣路易斯华盛顿大学等二十余家国内外机构、企业及高校共同编制而成。

该标准的发布场合颇具分量，是在 AI for Good 全 球峰会期间，由联合国社会发展研究所（UNRISD）与世界数字科学院（WDTA）联合主办的 “数字技术与人工智能社会影响全 球咨询会” 上亮相的。其核心内容亮点突出，针对智能体跨越 “语言墙” 带来的 “行为” 风险，首次把输入输出、大模型、RAG、记忆和工具这五个关键链路与运行环境相对应，构建起全链路风险分析框架。同时，它还对智能体风险类型进行了细分，并完善且创新地提出了模型检测、网络通信分析和工具模糊测试等测试方法，有效填补了智能体安全测试技术标准领域的空白。

世界数字科学院执行理事长李雨航着重指出，“AI STR 系列标准致力于建立清晰、可执行的安全标准以及测评、认证体系，将伦理与责任融入 AI 的全生命周期，以此确保技术发展服务于人类的长远利益。”

蚂蚁集团大模型数据安全总监杨小芳在峰会上表示，当前 AI 技术应用正加速落地，但单智能体的安全风险缺乏统一的全链路安全测试标准，这使得潜在问题难以被量化和规避。单智能体标准的制定是 AI 治理的 “最小可行单元”，而多智能体治理则是未来 “摩天大楼” 的核心结构，下一步行业应从单点逐步向多智能体治理生态共建方向突破。

与其他国际标准相比，AI STR 系列标准有其独特之处，它不仅关注风险识别和风险分级，更提供从数据治理到模型落地的全流程管理方案，配套了具体的测试工具和认证流程，能帮助企业提升 AI 应用的安全性与可信度。

该标准的发布意义重大，不仅提供了一套可行可靠的智能体安全基准，也为全 球 AI 智能体生态的安全、可信和可持续发展增添了有益探索。目前，部分标准的测评与认证已在金融、医疗等领域落地应用。

值得一提的是，此前世界数字科学院已发布 3 项 AI STR 标准，包括 “生成式人工智能应用安全测试标准”“大语言模型安全测试方法” 和 “大模型供应链安全要求”，这些标准由 OpenAI、蚂蚁集团、科大讯飞、谷歌、微软、英伟达、百度、腾讯等数十家单位的多名专家学者共同参与制定。