第4章 人工智能助力安全

4.1 人工智能助力安全概述

任何新技术的出现，势必会伴随着新的安全问题出现。在第3章中已经讲到，新的信息技术通常会因其自身尚不成熟、不完备而引发两种新的安全问题：一种是新技术系统自身的脆弱性导致系统自身出现问题，称之为内生安全；二是新技术的脆弱性并未给系统自身带来问题，但却会引发其他领域的安全问题，称之为衍生安全。从内生安全的角度来看，部分原因是因为新技术存在着一些安全漏洞，但这些通常是会被发现并且被改进的；还有一种情况就是新技术存在着天然的缺陷，使得有一些问题属于客观存在，无法通过改进来解决，只能采取其他手段来加以防护。从衍生安全的角度来看，其本质就是新技术的脆弱性带来了危害其他领域的副作用，但因其对新技术系统本身不产生什么影响，因此这种脆弱性就不会被新技术自身主动地加以改进。例如，社交网络如果是非实名制的，这对社交网络本身没有什么危害，但却有可能引发社会安全问题。其实“新技术赋能攻击”效应本身也能反映出与衍生安全类似的特征，只不过新技术赋能的特征在于新技术系统很强大，被用在了安全攻击的用途上，如现在许多花样翻新的考试作弊手段就是恶意地利用了新的信息通信技术，这使得反作弊技术也在不断提升。从安全攻击的角度来说，新技术的衍生安全和新技术的赋能攻击都能助力于攻击行为，差别仅是前者依赖于新技术系统的脆弱性且新技术自身不可掌控，后者依赖于新技术系统的强大能力且应用目标明确。

近几年来，人们见证了云计算、边缘计算、物联网、人工智能、工业互联网、大数据、区块链等新兴领域的信息技术的不断出现及普及。虽然这些新技术具有巨大的影响潜力，但它们也带来了巨大且不可避免的安全挑战。同样，人工智能也会给安全领域带来一系列安全挑战^[1]。本章将从助力防御和助力攻击两方面论述人工智能如何助力安全。