2019年7月17日, 2019中国网络安全年会在广州召开,本次大会由国家互联网信息办公室指导,国家互联网应急中心(CNCERT)联合国内7家网络安全企业主办、中国通信学会协办。

　　2019中国网络安全年会现场

　　大会以“智能感知态势携手构建安全”为主题,旨在交流国内外网络安全工作新趋势、新问题、新思路,促进国家公共互联网网络安全应急体系成员间的合作,加强互联网行业的网络安全保障和突发安全事件的应急处置联动,促进政府部门、重要信息系统单位与网络安全产业界间的交流,普及宣传网络安全及网络安全应急工作知识,提升社会网络安全意识。

　　来自国内外的网络安全产业界人士及院士、专家学者们进行交流探讨,其平安金融安全研究院执行院长、大数据协同安全技术国家工程实验室-金融行业安全研究中心执行主任、网络安全与信息化专家李洋博士受邀出席年会,并在“未知威胁防控与人工智能技术论坛”上分享了《人工智能技术在网络安全中的应用及原生安全问题研究》的主题演讲,提出业界创新理论受到广泛关注。

　　网络安全与信息化专家李洋博士在CNcert年会现场做主题演讲

　　如今,人工智能已成为世界各大强国增强竞争力的聚焦点。为发展数字经济、实现网络强国战略,我国也积极推进互联网、大数据、人工智能同实体经济的深度融合,构筑先发优势。

　　然而,人工智能技术及应用层面的安全问题日渐暴露,利用系统漏洞进行恶意攻击的安全事件频发,严峻的人工智能安全发展现状,使整个社会都面临着避无可避及生死攸关的AI安全的发展机遇与挑战。李洋博士在演讲中提出了业界新一代人工智能安全的实践及创新理念——“原生人工智能生态系统安全”,并从内生安全和外生安全的维度阐述了原生安全的理念,此创新理论为数字化时代下的人工智能安全发展带来新的研究思路,引业界深思。

　　何为“原生人工智能生态系统安全”?李洋博士将其定义为:“AI系统在最初发布之时就已经存在的安全问题为原生AI系统安全,而AI生态系统在构建之时就已经存在的安全问题则为原生AI系统生态安全。由原生AI系统安全引起的问题将会直接影响原生AI生态系统安全的构建。”

　　原生AI系统安全包括内生安全和外生安全两个方面。内生安全研究的是AI本身机制所导致的安全问题,如,AI代码安全、数据完整性、模型保密性、模型鲁棒性等引起的安全问题,而通常攻击者会以后门攻击、诱饵攻击、模型窃取攻击、闪避攻击等手段进行攻击。外生安全研究的则是AI本身机制之外的因素所导致的问题,如,AI系统所依赖的物理层、系统层、网络层、数据层、应用层等层面的安全问题。这些机制之外的因素包括AI应用于不同的场景、所需要或所产生的数据安全性以及合法合规等。

　　网络安全与信息化专家李洋博士提出AI原生安全理念

　　最后,李洋博士从防御和实践的角度对防御技术等进行了分享,并提出“原生人工智能生态系统安全”的理念需一切从源头出发,内外双驱,关注新一代人工智能的安全威胁与风险,并重筑构AI生态系统安全。对于未来发展,李洋博士认为,应拓宽AI在各行业的应用,建立完善的数据生态系统和AI预警安全平台,实现智能感知态势。同时,倡导共建以“科技+安全+生态”为核心的安全防御体系,以安全驱动发展,夯实新一代人工智能在数字经济、网络强国战略中的核心技术地位,进一步将我国打造成世界人工智能创新中心。