AI攻击新手法：高分辨率图片隐藏恶意指令
创始人
2025-08-26 20:42:11
0次
据悉，Trail of Bits研究人员开发出新型AI攻击手法，将恶意提示词隐藏在高分辨率图片中。AI系统自动降采样处理后恶意指令显现，可能被大语言模型执行，从而窃取用户数据。该方法由Kikimora Morozova与Suha Sabi Hussain提出，灵感来源于2020年德国布伦瑞克工业大学的图像缩放攻击理论。攻击者在高分辨率图片中嵌入肉眼不可见的指令，利用AI系统降采样算法使其显现。
AI平台通常会自动降采样用户上传的图片，使用最近邻、双线性、双三次插值等图像重采样算法。攻击者可针对特定算法设计图片，让隐藏的色块在降采样后形成可识别文字。例如，图片深色区域会变红，并在双三次降采样后显现黑色文字。一旦文字显现，AI模型会将其视为用户输入的一部分，可能引发数据泄露或其他风险操作。
研究人员在Gemini CLI环境中利用此漏洞，在Zapier MCP“trust=True”模式下，未经用户确认便提取了Google日历数据并发送至指定邮箱。该方法已在多个平台测试有效，包括Google Gemini CLI、Vertex AI Studio（Gemini后端）、Gemini网页与API接口、安卓手机上的Google Assistant及Genspark。
研究团队还发布了开源工具Anamorpher（测试版），可生成针对不同降采样方法的攻击图片，表明其潜在威胁范围远超已验证的工具。
相关内容
热门资讯
杭州跑出的AI独角兽，突围大模...
不仅是杭州六小龙，更是空间智能“破壁者”。 作者｜Iris 编辑｜王博 进入2025年，AI行业正经...
深入实施“人工智能+”行动，重...
21世纪经济报道见习记者冉黎黎 北京报道 人工智能处在应用落地的关键窗口期。为深入实施“人工智能+”...
重磅！国务院人工智能+行动意见...
智东西 编辑 | 李水青 智东西8月26日消息，今日，我国首部“人工智能+”行动政策来了，国务院发布...
青州市“互联网+护理服务”推进...
青州市针对人民群众多样化、多层次的护理需求，积极整合优质护理资源，通过“互联网+”平台将优质护理服务...
为运载火箭打造“防护铠甲”，上...
长征六号甲运载火箭卫星整流罩防热涂层。本文图片 受访者供图 8月26日，2024年度上海市科学技术奖...
世界互联网大会文化遗产数字化论...
由世界互联网大会主办，陕西省人民政府承办的2025年世界互联网大会文化遗产数字化论坛，将于9月16日...
2025高性价比手机充电宝精选...
在数字设备日益普及的今天，充电宝已成为现代人不可或缺的随身伴侣。面对市场上琳琅满目的充电宝品牌，消费...
首款光子计数能谱CT获批上市
据国家药监局官网8月26日消息，由联影医疗自主研发的中国首款光子计数能谱CT uCT Ultima正...
益思科技申请无线遥控设备等相关...
金融界2025年8月26日消息，国家知识产权局信息显示，深圳市益思科技有限公司申请一项名为“无线遥控...
构建完善信创云服务体系，移动云...
在数字化转型升级步入“深水区”之际，信创既是推动我国技术革新的有力手段，也是保障国家信息安全的坚实护...
智慧医院建设再攀高峰！盐城滨海...
近日，国家卫生健康委医院管理研究所正式公布了2024年度电子病历系统功能应用水平分级评价高级别医院名...
助力青年创新创业，AI人工智能...
新京报讯（记者吴为）8月26日下午，海淀八里庄举行以“昆玉链新·AI融创·共享未来”为主题的“燃梦讲...
马斯克起诉OpenAI和苹果垄...
鹭羽 发自 凹非寺 量子位 | 公众号 QbitAI 马斯克又双叒叕把OpenAI告了，这次买一送一...
AI攻击新手法：高分辨率图片隐...
据悉，Trail of Bits研究人员开发出新型AI攻击手法，将恶意提示词隐藏在高分辨率图片中。A...
西北工业大学！刷新世界纪录！
8月25日 央视《新闻联播》 以《中国空间站科学实验取得新进展》为主题 报道了西北工业大学 魏炳波院...
“人工智能+”将带来哪些变化？...
《关于深入实施“人工智能+”行动的意见》今天发布。为何要出台这份文件？“人工智能+”将给生产生活带来...
行业观察｜招行应变：AI潮下的...
招行始终清醒：技术并非用来炫技的工具，而是让服务传递温度的载体，终究要回归到服务人的本质上来 文｜吴...
联影医疗研发取得重大突破 中国...
8月26日，记者从国家药监局获悉，由联影医疗自主研发的中国首款光子计数能谱CT uCT Ultima...
DeepSeek部署的最低硬件...
Deepseek系列模型因其出色的性能和开源特性，成为许多用户本地部署的首选。然而，不同规模的Dee...
上海感先取得挡位传感器编程工装...
金融界2025年8月26日消息，国家知识产权局信息显示，上海感先汽车传感器有限公司取得一项名为“一种...