AI数据投毒:你的智能助手正在被"下药"
AI数据投毒:你的智能助手正在被"下药"在人工智能技术快速发展的今天,AI系统正面临着一种新型安全威胁——数据投毒。这种攻击方式如同给智能系统"下药",通过污染训练数据来操控AI行为,其危害性正随着AI应用的普及而日益凸显。一、数据投毒的运作机制数据投毒攻击主要分为两类:主动污染和被动污染。主动污染是指攻击者有意向训练数据中注入误导性样本,如在图像识别系统中插入带有特定标记的错误标注图片。被动污染则源于AI系统在采集网络数据时,无意中吸收了虚假或偏见信息。研究表明,即使仅有0.001%的训练数据被污染,AI系统的有害输出就可能上升7.2%。二、攻击者的多重动机实施数据投毒的动机呈现多元化...

最近评论