莫让数据污染冲击人工智能安全
创始人
2025-08-17 02:21:18
0次
国家安全部近日发文提示，人工智能的训练数据良莠不齐，其中不乏虚假信息、虚构内容和偏见性观点，造成数据源污染，给人工智能安全带来新的挑战。
数据是人工智能发展的基础。人工智能模型通过分析和处理大量的训练数据来理解世界，进而驱动内容生产和智能决策。高质量的数据能提升人工智能模型的准确性和可靠性，但数据如果被污染，则会扭曲人工智能模型的认知，导致决策失误，甚至诱发有害输出。有研究显示，当训练数据集中有0.01%的虚假文本时，模型输出的有害内容会增加11.2%。
当下，互联网作为人工智能模型的重要“语料库”，各类信息鱼龙混杂，准确性难以保证，即使模型训练时尽力过滤可疑数据，也很难完全避免虚假或有害内容的渗透。
如今，从美食推荐到自动驾驶，从金融决策到医疗诊断，人工智能已深度融入人们生活。每一次因数据污染作出的误判，都可能引起连锁反应，带来不可估量的损失。比如，在自动驾驶领域，误判路况造成交通事故；在金融领域，炮制虚假信息引发股价异常波动。
由此可见，防范数据污染不仅是人工智能领域的技术挑战，更关乎社会信任和公共安全。当前，《生成式人工智能服务管理暂行办法》已将人工智能训练数据纳入监管，各方也在探索多种方法识别和抵御恶意数据的影响。但随着数据污染日益隐蔽，要为人工智能构筑起更强大的“免疫系统”，不断升级技术手段，建立更严格的数据筛选验证机制，从源头过滤掉虚假、错误以及带有偏见性的可疑内容。同时，完善动态监测和反馈机制，对模型的异常行为及时纠偏，定期依据法规标准清洗修复受污数据，筑牢人工智能数据底座。（作者：余 悦 来源：经济日报）
相关内容
热门资讯
OpenAI计划斥巨资数万亿美...
近期，OpenAI的首席执行官山姆·奥尔特曼在一篇由彭博社发布的报道中透露了公司的宏伟计划。他宣布，...
莫让数据污染冲击人工智能安全
国家安全部近日发文提示，人工智能的训练数据良莠不齐，其中不乏虚假信息、虚构内容和偏见性观点，造成数据...
ChatGPT最新版本消耗多少...
最新版本的ChatGPT消耗多少能量？没有人确切知道，但有一件事是肯定的——这是很多。ChatGPT...
原创 8...
8月份的新机市场继续升温，所加入的新机越来越多，而且各类机型均有，比如折叠屏、旗舰机、电竞手机、入门...
“北京超高清视听·行！”主题活...
央广网北京8月16日消息（记者 朱冠安）近日，由北京市广电局主办的“北京超高清视听·行！视听奇境”主...
具身机器人搭载“通智大脑”起舞...
音乐响起，搭载了“通智大脑”的双足人形机器人“通小舞”翩然起舞，肢体动作流畅。8月16日，它在一众参...
从治疗到“智”疗 解码河南数智...
河南日报记者 李晓敏 实习生 金玉茹 科技浪潮奔涌，数智力量正以前所未有的深度融入卫生健康领域。“互...
通研院BIGAI-Unitre...
来源：市场资讯 （来源：贝壳财经） 通研院BIGAI-Unitree战队夺冠。受访者供图 新京报贝...
涉“外星生命”，科学家有新突破
据美国趣味科学网站8月7日报道， 化学家们已人工合成出一种“超级酒精”，它此前曾被认为过于不稳定而无...
IDC：上半年蓝牙耳机市场出货...
IT之家 8 月 14 日消息，根据 IDC《中国无线耳机市场月度出货量跟踪报告，2025 年 6 ...
西安技达取得电炉闲置热量循环利...
金融界2025年8月16日消息，国家知识产权局信息显示，西安技达工业设备有限公司取得一项名为“一种电...
华为余承东亲测鸿蒙智行尚界 H...
IT之家 8 月 16 日消息，据新浪科技报道，近日余承东现身上汽亲测尚界新车，不仅与上汽总裁贾健旭...
罗布乐思Roblox进不去/无...
《罗布乐思》是一款自由度极高的沙盒游戏，玩家可以在这里创作自己的游戏世界，或者体验其他玩家设计的丰富...
上海虚拟电厂今夏实现多个“首次...
8月14日16时左右，室外气温直逼35℃，国网上海市电力公司营销服务中心的大屏上，“上海总负荷”曲线...
AI赋能全球首届人形机器人运动...
025 年 8 月 14 日—17 日，首届世界人形机器人运动会在北京国家速滑馆（「冰丝带」）举办。...
石化油服获得实用新型专利授权：...
证券之星消息，根据天眼查APP数据显示石化油服（600871）新获得一项实用新型专利授权，专利名为“...
小米手机诞生14周年，雷军宣布...
8月16日，小米集团创始人雷军通过微博宣布，当天是小米手机诞生14周年纪念日。为回馈用户支持，小米将...
华勤技术获得发明专利授权：“一...
证券之星消息，根据天眼查APP数据显示华勤技术（603296）新获得一项发明专利授权，专利名为“一种...
原创 短...
作者| Mia 编辑| 李寻欢 这个暑期档，短国可谓风起云涌，英雄辈出。 爆款不断刷新上限，IP化系...
聚焦前沿新材料 石墨烯产业发展...
来源：滚动播报 （来源：千龙网） 8月15日，2025（第二届）国际前沿新材料大会暨第五届中国（重庆...