Cursor AI的YOLO模式让编程助手失控,安全公司警告
创始人
2025-07-23 12:22:17
0

Cursor的AI编程智能体在YOLO模式下可以自动运行。据Backslash Security称,用户可能需要三思而后行。

如果使用YOLO一词——你只活一次——还不足以警告该公司对计算机安全的处理方式,那么位于以色列特拉维夫的Backslash表示,Cursor用于防止其智能体删除数据的所谓安全措施之一"严重不足,甚至完全无用"。

YOLO模式,或称自动运行模式,允许Cursor智能体执行多步骤编程任务,无需在每个步骤都获得人工批准。该模式配备了几项设置,旨在限制可能造成的损害范围。这些设置包括:允许列表(使特定命令对智能体可用)、拒绝列表(指定智能体不应调用的命令),以及防止文件被删除的复选框。

正如企业家Jason Lemkin最近使用Replit AI编程工具的经历所显示的,基于大语言模型的代码帮助如果使用时缺乏足够的谨慎,可能会做出删除生产数据库等激烈行为。

Cursor提供拒绝列表试图防范此类问题。例如,通过将"rm"命令添加到拒绝列表,Cursor智能体应该无法使用该命令删除文件。因此,一些Cursor用户采用了冗长的拒绝列表。

但据Backslash称,拒绝列表的实现可以被轻易绕过。

应用安全分析师Mustafa Naamneh和Micah Gold在博客文章中表示:"我们发现了不少于四种方式,被入侵的智能体可以绕过Cursor拒绝列表并执行未经授权的命令。"

该公司表示,拒绝列表无法阻止混淆命令。因此,即使"curl"在拒绝列表中,智能体也会忠实地执行以Base64编码的命令echo JChjdXJsIGdvb2dsZS5jb20pCgoK | base64 -d | zsh,该命令等同于echo $(curl google.com)。

如果命令包含在子shell中(如bash -c "curl google.com"),或者写入shell脚本中(如echo curl google.com > curl.sh && chmod +x curl.sh && ./curl.sh),拒绝列表也会运行被禁止的命令。

最后,在bash环境中可以通过使用双引号或多组引号来绕过拒绝列表,这样就无法明确阻止所有潜在的攻击变体。

Naamneh和Gold表示:"Cursor的拒绝列表不可靠。虽然它可能阻止智能体天真地运行某些Linux命令,但无法阻止被入侵的智能体运行它想要的任何命令。"

安全公司表示,智能体执行任意命令的能力意味着Cursor针对自动运行/YOLO模式事故的其他防御措施(如文件删除预防)都是无用的。

此类命令如何到达Cursor智能体?据Naamneh和Gold称,开发者可能会"从随机GitHub存储库导入rules.mdc文件——可重用的智能体指令——而不对其进行审核"。

Backslash Security联合创始人兼首席技术官Yossi Pik告诉The Register,Cursor智能体执行风险命令还有其他方式。例如,智能体可以处理来自共享代码库的注入文本,如README或代码注释。或者智能体可以从包含恶意指令的外部站点获取并执行内容。

Pik解释说:"智能体只需要处理包含注入命令的文件、规则或响应——无论是本地的、共享的还是远程获取的。攻击成功并不需要网页。"

你只活一次,但遗憾却是永恒的。

Cursor没有立即回应评论请求。据报告此问题的Backslash称,Cursor打算在1.3版本中弃用拒绝列表功能,但在本文发布时该版本尚不可用。

相关内容

热门资讯

陈天桥罕见公开呼吁: 科创投资... 近日,长期未出现在公众视线中的全球知名创新企业家、慈善家,盛大集团和天桥脑科学研究院创始人陈天桥,罕...
传vivo Y400 5G即将... 【CNMO科技消息】近日,CNMO注意到,最新信息显示,vivo计划于8月初在全球市场推出其新款中端...
潮汐、水温、航道...也有人“... 海洋数据是海洋科学研究的基础,是海洋经济活动开展的依据,更是我国海洋强国战略的支撑和保障,涉及国家战...
《时间简史(插图版)》五大升级... 7月25日至28日,汇聚百万图书、千场活动、4500展位的第33届全国图书交易博览会(以下简称“书博...
开源鸿蒙持续壮大:社区共建提速... 7月23日,2025开放原子开源生态大会开源鸿蒙主题演讲在北京国家会议中心成功举办。大会聚焦开源鸿蒙...
猿编程推动中美青少年AI实践,... 2025年7月中旬,美中青少年学生交流协会组织140余名中美青少年在北京开展为期7天的中美青少年交流...
小扎火速挖走谷歌IMO金牌模型... 梦晨 发自 凹非寺 量子位 | 公众号 QbitAI 扎心了!谷歌这边刚刚宣布获得IMO金牌,三位核...
BOE(京东方)携手生态伙伴推... 2025年7月23日,由BOE(京东方)联合京东、OPPO、OUTPUT打造的公益微电影《以一束光 ...
原创 国... 空间智能赋予物理空间感知、理解、决策与交互的智能能力,成为第三代人工智能的核心演进方向。作为上榜胡润...
三层交换机和路由器的“边界”在... 许多人刚接触网络时,总觉得三层交换机和路由器是“类似的东西”,毕竟它们都负责网络层的工作,都涉及 I...
哈尔滨工业大学党委书记、中国工... 编者按 2025年4月25日,习近平总书记在中共中央政治局第二十次集体学习时指出,“要把握人工智能发...
建设社会保险经办智能化场景,人... 7月22日,人力资源和社会保障部举行2025年二季度新闻发布会,介绍2025年上半年人力资源和社会保...
AI时代的云网数智融合底座,从... 来源:IT时报 人工智能正在对全球产生重大而深远的影响,万物皆AI,在千行百业奔赴“AI大厦”之时,...
东数西算再进阶:2025中国互... 当北京AI企业调用宁夏智算中心的算力成本降低37%,当长三角企业上半年调用西部算力总量激增210%,...
上半年通信业运行平稳 5G、千... 上半年通信业运行平稳 5G、千兆用户规模持续扩大 记者从工业和信息化部了解到,今年上半年,通信业运...
低空经济崛起:2025中国互联... 当深圳的美团无人机将一杯咖啡精准投送到30层写字楼窗口,当成都的eVTOL空中出租车完成第1000公...
冠志电子取得一种太阳能锂电储能... 金融界2025年7月23日消息,国家知识产权局信息显示,东莞市冠志电子科技有限公司取得一项名为“一种...
4699元起,华为Pura80... 据“华为终端”官方微博消息,华为Pura80数字版今日(7月23日)10:08开启预售,7月30日正...
上海做rfid标签的厂家 在当今快节奏的市场环境中,RFID(无线射频识别)技术的应用越来越广泛,尤其在物联网的发展中扮演着重...
AI赋能,数智升级——浪潮智慧... 日前,中国卫生信息技术/健康医疗大数据应用交流大会暨软硬件与健康医疗产品展览会(2025CHITEC...