国内首家落地对标《人工智能安全治理框架》1.0版评测体系
日期: 2024-09-30来源:中新网
日前,全国网络安全标准化技术委员会在国家网络安全宣传周主论坛上正式发布了《人工智能安全治理框架》1.0版(简称《框架》)。这一框架不仅是一项技术性文件,更是对全球人工智能治理的新实践,意在为中国及全球AI技术的安全、可靠和可持续发展提供指引。
“大湾区生成式人工智能安全发展联合实验室”(简称“联合实验室”)根据《框架》“包容审慎、确保安全,风险导向、敏捷治理,技管结合、协同应对,开放合作、共治共享”的原则以及技术和治理两方面的防范措施,研究制定了国内首款对标《框架》的大模型安全可信及量化评级测评体系。该评测体系结合《生成式人工智能服务管理暂行办法》和《生成式人工智能服务安全基本要求》,重点对标《框架》,从价值对齐、安全可控和能力可靠三个主要方向和13个细分维度,对模型的生成内容及行为进行全面评估。