深圳新闻网2024年9月10日讯(深圳特区报记者 陈行)9月9日,作为2024国家网络安全宣传周重要活动之一,网络安全技术高峰论坛主论坛暨粤港澳大湾区网络安全大会在广州南沙举办。现场重磅发布《人工智能安全治理框架》1.0版和2024年人工智能技术赋能网络安全应用测试结果这两项人工智能安全治理标志性成果。加快南沙(粤港澳)数据服务试验区建设启动仪式也同步进行。
加快南沙(粤港澳)数据服务试验区建设
中央网信办副主任、国家网信办副主任王京涛在致辞中表示,党的二十届三中全会为进一步全面深化改革、推进中国式现代化发起总动员、做出总部署,特别是对网络安全工作也提出一系列新任务、新要求,为国家网络安全工作指明前进方向,提供根本遵循。
他提出4个工作要点:健全网络安全指挥协调能力,构建纵深布防、高效协同的国家网络安全防御体系;建立人工智能安全监管制度,大力提升人工智能安全治理水平;强化数据安全治理监管能力,规范数据安全有序流动和有效利用;加强网络安全科技力量建设,加快形成教育技术产业融合发展的良性生态。
记者了解到,南沙(粤港澳)数据服务试验区旨在以促进数据跨境流动便利化为特色,推动粤港澳数据规则衔接,创新数据服务模式,培育国际化的数据服务产业集群,提升粤港澳大湾区的数字经济竞争力。此次启动仪式,为数据试验区建设按下加速键。南沙将以此为契机,打造全国数据服务产业发展最活跃、对外开放程度最高、数字创新能力最强的区域之一。
360数字安全集团高级副总裁郭亮认为,数据流动和数据服务是未来数字经济的基础,粤港澳大湾区作为世界四大湾区之一,经济一体化程度高,在南沙打造数据试验区是非常合适的。中航云电信股份有限公司副总裁闫晓华表示,其公司将继续加大在南沙投资力度,建设“国际数据传输枢纽”粤港澳大湾区广州南沙节点,统筹算力调度和算力共享,为入驻企业提供更强大的计算资源,助推南沙算力产业高质量发展。
《人工智能安全治理框架》1.0版发布
《人工智能安全治理框架》1.0版以鼓励人工智能创新发展为第一要务,以有效防范化解人工智能安全风险为出发点和落脚点,提出包容审慎、确保安全,风险导向、敏捷治理,技管结合、协同应对,开放合作、共治共享等人工智能安全治理的原则,推动政府、国际组织、企业、科研院所、民间机构和社会公众等各方,就人工智能安全治理达成共识、协调一致,有效防范化解人工智能安全风险。
它按照风险管理的理念,紧密结合人工智能技术特性,分析人工智能风险来源和表现形式,针对模型算法安全、数据安全和系统安全等内生安全风险和网络域、现实域、认知域、伦理域等应用安全风险,提出相应技术应对和综合防治措施,以及人工智能安全开发应用指引。其主要分为4个板块:人工智能安全治理原则、安全风险、技术应对与综合治理措施、安全开发应用指引。
其中,安全风险包括内生安全风险和应用安全风险。全国网络安全标准化技术委员会秘书处主要负责人表示,将积极开展人工智能安全标准的研制,加快构建并持续完善人工智能安全的标准体系,并加快推进生成式人工智能服务的训练数据安全、数据标注安全以及生成合成内容标识等重点急需标准的研制,结合重点行业应用推动标准落地实施。
2024年人工智能技术赋能网络安全应用测试结果发布
2024年人工智能技术赋能网络安全应用测试活动由中央网信办网络安全协调局、中国科学院网信办、中国人民银行科技司指导,国家计算机网络应急技术处理协调中心联合中国网络空间安全协会、中国科学院信息工程研究所、国家信息技术安全研究中心、中国网络安全产业联盟、长安通信科技有限责任公司举办,旨在挖掘人工智能技术在网络安全领域的应用潜力,推动网络安全产业整体技术水平不断提升。
据介绍,测试使用华为公司的AI服务器、计算架构作为基础软硬件环境,设置网络安全告警日志降噪、原始流量网络安全威胁检测、钓鱼邮件识别、恶意软件检测、软件缺陷分析与漏洞检测、网络金融用户账号欺诈登录行为检测等6个场景。测试结果显示,目前AI技术在其中4个网络安全场景具有较好的赋能效果。
在“网络安全告警日志降噪场景”中,来自京东科技信息技术有限公司、北京神州绿盟科技有限公司、深信服科技股份有限公司、奇安信科技集团股份有限公司、杭州安恒信息技术股份有限公司的团队取得较好成绩;在“钓鱼邮件识别场景”中,来自深信服科技股份有限公司、北京天融信网络安全技术有限公司、广东盈世计算机科技有限公司、北京神州绿盟科技有限公司、北京方向标信息科技有限公司的团队取得较好成绩。