2017 年 8 月 16 日下午，第三届中国互联网安全领袖峰会（Cyber Security Summit）在北京召开，极客公园与腾讯安全合作共同举办了人工智能与安全伦理分会场，邀请了人工智能领域的多位专家及大咖围绕「人工智能如何有效地提升网络和信息安全」这一主题展开讨论，同时，也分享了人工智能与安全领域的前瞻议题。
首先，极客公园 COO 吴江上台发表了一段开场白，他表示自从去年 AlphaGo 战胜人类之后，人们逐渐感受到人工智能为我们生活带来的巨大影响，但与此同时，人工智能对互联网安全和未来互联网发展来说，是利还是弊依然是个未知数，因此，作为互联网从业者，我们在面对这样一个问题时，应该持有一个理性而客观的态度，并且还要有坚定的探索精神，这也就是我们今天邀请来这么多专家学者做分享的原因。
首先上台的是 Geekpwn Lab 的总监王海兵，他从黑客的角度谈了谈人工智能的安全问题。
2014 年，他们第一次举办了 GeekPwn 大赛，到目前为止，一共举办了 5 次，向各厂商汇报了几百个严重的安全漏洞，并协助修复，破攻破的设备种类繁多，摄像头、路由器、无人机和 POS 机等都有被攻破。
现在，他们也进军了 AI 领域。王海兵表示，「我们注意到一个 AI 应用系统，应用到人们的生活当中去帮助大家的时候，也会运行在一个特定的信息系统环境当中。作为一个整体，作为人工智能这一块即使非常安全，其他环节出了问题，一样会有问题。」
因此他们在尝试攻破 AI 领域应用较为成熟的人脸识别门禁系统的时候，并没有找到人脸识别本身算法的问题，而是发现了应用系统的问题，最终达到了一样的效果——任意人脸都可以通过门禁。
王海兵将对 AI 的黑客攻击分为 3 个层次，最核心的是算法的层面，即对抗样本算法。比如聊天机器人之前出现过一些「不良」表现，就是学习的样本出现了问题，从而使 AI 代理被污染。此外还有基础设施层面的攻击，AI 应用层面的攻击。
对 AI 来说，做出一个错误的决策和判断，与整个系统被控制，在黑客看来是没有区别的，任何地方有弱点有漏洞都会被攻击。王海兵表示他发现安全界和 AI 界交流不畅，而 GeekPwn 愿意站出来作为一个桥梁来沟通两边，让 AI 更加安全健康地发展。
与王海兵探讨如何攻击 AI 相反，微软的首席安全官邵江宁分享了微软如何运用AI检测恶意网络攻击。微软目前是安全领域整体技术能力最强的 IT 公司之一，同时也是人工智能领域技术能力最强的公司之一。
传统网络安全防护手段如：反病毒、入侵检测和防火墙，由于网络威胁特性的演化，在今天的网络空间安全对抗过程中面临着新的挑战，需要重构和进化，打造新的网络安全生态体系。微软在新的时代，建立了新的体系化的整体安全策略，包括：平台，合作，和安全情报。
邵江宁分享了微软内部AI 在安全领域运用的成功经验和「可度量的要素」：包括AI模型可自适应，它能够适应恶意代码新的变种；其次，必须可解释，人工智能检测的结果需要与安全专业知识能够相互融合，能由安全专家理解和解释得通，能够运用在实际；最后，要可执行。「人工智能输出的结果，需要帮助安全响应链条的安全专家、响应团队降低工作量，提高响应速度。」
「人工智能成功使用于网络安全防御，要达到三个效果：速度、质量、响应。微软在 Azure 云安全中心上使用先进的人工智能和安全响应专家专业技能的组合，使用原子/特征检测，基于传统的特征检测，用户端遭遇的未知恶意代码在会使用智能云端超过160种机器学习算法模型进行检测和分析；基于网络威胁情报的检测，发现用户 IP 和僵尸网络的控制服务器的通讯；基于行为分析，对新型恶意变种软件但是可疑行为已知，把新威胁识别出来。」
紧接着中山大学人工智能实验室主任翟振明教授分享了他对于 AI 和人机交互的看法。
在翟教授看来，真正会给人类带来危险的，不是那些人工智能，反而是埃隆·马斯克的 Neuralink 这样将人类大脑与机器大脑融合的项目更加危险：「其实 AI 的危险性根本没有那么大，他做这种东西是更大的威胁。」