2022年04月08日
引言人工智能技术已经融入到各行各业，从自动驾驶、人脸识别到智能语音助手。人工智能带来了便利，但也造成了一些安全问题。一方面，攻击者使用低门槛的人工智能技术实施非法行为，造成安全问题；另一方面，由于人工智能，特别是深度神经网络本身的技术不成熟，应用人工智能技术的系统容易受到黑客攻击。深度神经网络的技术不成熟主要在于模型的不可解释性，从模型培训到测试阶段都存在安全问题。培训阶段主要是数据中毒问题，通过在培训数据中添加一些恶意样本来误导模型的培训结果。测试阶段的安全问题主要是对抗样本。在原始样本中添加