业界专家把脉人工智能发展：要重视安全问题

“第九期网络安全创新发展高端论坛——人工智能安全主题论坛”3月15日在上海举办。

在今年两会期间，“人工智能”第三次在国务院《政府工作报告》中被重点提及，这意味着人工智能被进一步上升为国家战略，为加强对人工智能发展的潜在风险的研判和防范，推动人工智能健康发展，国家信息中心国信卫士网络空间安全研究院于3月15日在上海举办了“第九期网络安全创新发展高端论坛——人工智能安全主题论坛”，国家信息中心国信卫士网络空间安全研究院副院长叶红、中共上海市委网络安全和信息化委员会办公室总工程师杨海军出席会议并致辞。会上，业界专家学者、企业高管就人工智能安全问题发表了真知灼见。

“人工智能既是盾也是矛”，中国科学院院士何积丰在《安全可信人工智能》报告中提出。何院士表示，人工智能面临着诸如无人机黑飞、乱飞，自动驾驶汽车程序失控，造成失误错误等内部问题，同时还存在着被恐怖主义、黑客组织恶意利用等外部问题，但另一方面，人工智能在预测和防御恶意应用、监测工具漏洞、对抗分布式拒绝服务攻击等方面发挥着积极作用，因此，保证人工智能安全可信极为重要。

信息内容分析技术国家工程实验室主任、上海交通大学教授、博导李建华在做《人工智能与网络空间安全》的主题报告中提出，“网络空间威胁朝泛化和复杂化的趋势在发展，各类网络攻击也更加具有持续性和隐蔽性，网络空间安全亟需智能化安全技术，在这方面，人工智能可运用于用户行为分析、入侵监测、反欺诈活动、威胁情报处理等过程。”

针对保障人工智能安全方面，国家信息中心国信卫士网络空间安全研究院特聘专家、中国电子科技集团首席专家、卫士通总工程师董贵山认为，密码作为保障网络安全的核心技术手段—数据安全，控制安全，必将在人工智能安全领域继续发挥着核心作用，与此同时，人工智能的发展也为密码技术及基于密码的安全防护提供了全新思路。

上海机器人产业技术研究院副院长、上海大学教授、博导郭帅，深圳奥联信息安全技术有限公司首席专家程朝辉，翼盾（上海）智能科技有限公司创始人、CEO 朱易翔分别做了“人工智能与网络安全在机器人产业中存在的技术问题初探”、“人工智能身份认证技术研究”以及“基于身份标识的机器人安全框架”的主题演讲。

在上海社会科学院互联网研究中心主任惠志斌主持的圆桌讨论环节中，KEEN公司CEO、GeekPwn大赛发起和创办人王琦,国家信息中心国信卫士网络空间安全研究院特聘专家、中国电子科技集团首席专家、卫士通总工程师董贵山,魔笙科技CEO吴薇薇几位嘉宾还就“AI变脸”的技术原理与实现，主要应用场景以及“AI变脸”技术带来的安全挑战展开了高端对话。同时，各位专家还就“AI变脸”技术的安全应对措施，未来的研究方向发表了众多精彩观点。

人工智能现阶段还处在初级发展阶段，面临着包括伦理道德方面的挑战以及各种不可预知的安全风险，要使人工智能朝着造福人类的方向发展，必须要筑牢人工智能安全防线，确保人工智能安全、可靠、可控。

最后，记得关注微信公众号：镁客网（im2maker），更多干货在等你！