9 月 18 日,2018世界人工智能大会·人工智能安全高端对话在上海召开,活动由上海赛博网络安全产业创新研究院和中国信息通信研究院安全研究所承办,腾讯公司安全管理部、上海社会科学院互联网研究中心和《探索与争鸣》杂志社共同协办。本次对话汇聚了全球人工智能安全领域的重量级学者、专家和产业精英,共同探讨“AI+安全”领域的安全挑战及应对之道。

上海社会科学院副院长王振主持论坛开幕式。中国互联网发展基金会理事长马利、上海市经济和信息化委员会巡视员陈跃华、中国信息通信研究院副院长王志勤以及腾讯信息安全执行委员会主任、腾讯公司安全管理部副总经理杨鹏出席活动并致辞。杨鹏表示腾讯一直致力于用“互联网+”连接一切,强调科技应当为我所用,造福于人类,AI+安全的加号代表着一种“赋能”和“助力”的理念,要求其更好地利用人工智能,保障、维护好人工智能的安全问题,实现健康有序的发展。

腾讯公司安全管理部副总经理杨鹏致辞

会议重磅推出了三份人工智能安全专题报告,其中腾讯公司安全管理部和上海赛博网络安全产业创新研究院联合重磅推出《人工智能赋能网络空间安全:模式与实践》。该报告聚焦 AI 在安全场景的应用模式与案例,从风险演进和技术逻辑的视角阐述了网络空间安全的内涵和趋势。引入安全防护范式,梳理出网络系统、网络内容和物理网络系统 3 个层面 14 个安全领域的 AI 应用情况,其中包括要解决的安全威胁,AI 技术如何应用的模式和具体实例 30 多个。

人工智能打击黑产初具成效

随着网络信息技术全面普及以及数据价值的持续增长,网络空间安全威胁持续严峻,且呈现出智能化、隐匿性、规模化的特点,这让网络空间安全的防御、检测和响应面临更大的挑战。人工智能以其独特的优势,正在各类安全场景中形成多种多样的解决方案。

腾讯在运用人工智能打击黑产方面,已经有诈骗信息打击、新型身份认证和网络安全态势感知等方面的应用。

在诈骗信息打击方面,腾讯公司基于其黑产对抗经验技术和反欺诈 AI 模型建造能力,打造“宾果反诈骗防控系统”,通过大数据分析和机器自我学习总结、预测警情中作案手法、通信行为、网络特征、资金流向等特点规律,从而能在诈骗事前、事中、事后等环节起到预警、分析作用。与警方开展合作,通过对合法获取的警情、通信、网络、金融等领域大数据的深度学习,宾果系统具有三项“自动能力”。一是可自动发现电信网络诈骗犯罪行为并自动预警,配合警方开展预防劝阻措施提供助力;二是自动关联作案工具,对有害账户进行自主收敛,宾果系统能够充分依托腾讯公司安全体系和机制,在最短时间内作出限权、封停等措施;三是可实现对电信网络诈骗窝点、人群的智能聚类,为警方开展刑事打击提供线索参考。

宾果反诈骗防控系统投入使用以来,全国重点诈骗区域诈骗号码大幅下降接近70%,有效遏制了诈骗态势蔓延;3月上线以来,预警超过50000起,准确率超过99%,覆盖全国31个省区市,累计为民众避免损失20亿元。

新型身份认证的应用方面,基于数据挖掘和人工智能技术的新型身份认证综合运用了数字签名、设备指纹、时空码、人脸识别等多项身份认证技术,目前在金融、社保、保险、电商、O2O、直播等行业均已有广泛应用。腾讯守护者计划基于长期积累的 AI 人工智能和神经网络的分析能力,引入多维度的动态验证机制对抗相关黑产。

新型网络安全态势感知,是利用数据融合、数据挖掘、智能分析和可视化等技术,从宏观角度实时直观显示网络安全状态,并对网络安全趋势做出预测,为网络安全威胁预警和防护提供参考。

腾讯守护者计划研发的智能金融安全感知系统“灵鲲”力争对非法集资、金融传销等涉众型金融犯罪“打早打小”,识别覆盖率可达90%以上;腾讯反传销态势感知系统通过海量数据的合法采集、自然语言处理等人工智能技术,全面分析汇总传销态势,该系统目前已协助公安机关破获了善心汇、五行币、云在指尖、星火草原等涉嫌网络传销案件。

人工智能也已经广泛应用于不同形态的网络信息内容治理中,腾讯研发的冰鉴系统引擎借助深度学习算法,开发应用了提供端到输出端全链条鉴黄检测服务,对于色情图片的识别准确率达99.9%以上,并可通过不断学习让模型更加智能,大大提高不良信息内容治理的效率。

人工智能助力车联网 安全先行

腾讯科恩安全实验室是全球知名且备受尊敬的安全研究团队,致力于保障智能网联汽车“大安全”。2016年曾通过移动网络识别、准备和实施攻击场景等技术成功发现特斯拉的重要漏洞,并遵循负责任的漏洞披露方式把漏洞威胁情况提交给特斯拉官方,供其完善智能防御系统,保障智能车辆安全。在当前智能攻防竞争态势中,这种先于黑客发现漏洞的自主安全保障能力是极其需要的。

对话现场,科恩实验室总监吕一平表示,网联汽车信息安全是汽车行业面临的全新挑战。他从科恩实验室首次全球成功“远程入侵”特斯拉的和对宝马不同车型进行的全面测试经验,总结了智能网联安全的4点思考:未来智能网联汽车“大安全”=功能安全+信息安全;攻易守难,信息安全建设需要全局思维;信息安全将成为汽车品牌的重要能力; 信息安全将成为汽车行业的国防。

“AI+安全”展望:共同努力应对各类安全威胁

人工智能时代,网络空间安全威胁全面泛化,如何利用人工智能思想和技术应对各类安全威胁,是国内外产业界共同努力的方向。

在“AI+安全”领域,腾讯提出了 5 个未来展望:人工智能安全将成为人工智能产业发展最大蓝海,人工智能的本体安全决定安全应用的发展进程,“人工”+“智能”将长期主导安全实践,人工智能技术路线丰富将改善安全困境,网络空间安全将驱动人工智能国际合作。

随着智慧城市、工业互联网、自动驾驶等将在未来十年普及,人工智能安全将成为产业发展的蓝海。腾讯在运用人工智能赋能网络空间安全方面,已经积累了丰富的技术、模式与经验。

面对技术规范、行业标准、法律法规尚未健全的人工智能新领域,制定统一的安全监测标准、安全防范架构、安全评估体系需要各国参与共同协调,网络空间安全成为人工智能国际间合作的重要领域。随着人工智能技术日趋成熟,人工智能在“AI+安全”领域不仅能够全面提高网络空间各类威胁的响应和应对速度,而且能够全面提高风险防范的预见性和准确性。