AI看图暗藏隐私陷阱,你的数据正被无声窃取
AI看图暗藏隐私陷阱,你的数据正被无声窃取近日,网络安全研究机构 Trail of Bits 的研究人员揭示了一种新型AI攻击方式,攻击者通过在高分辨率图像中嵌入恶意指令,利用AI系统对图像进行自动降采样的过程,使隐藏的指令显现并被大语言模型执行,从而造成用户数据泄露等风险。这一手法的出现,再次为AI应用的安全性敲响警钟。该攻击方法的灵感来源于2020年德国布伦瑞克工业大学提出的图像缩放攻击理论。研究人员Kikimora Morozova与Suha Sabi Hussain进一步将其应用于AI场景,利用AI平台为节省计算资源而普遍采用的图像降采样机制,实现了对模型的隐蔽指令注入。具体而言...

最近评论