近日,在第八届数字中国建设峰会期间,奇安信董事长齐向东接受中国证券报记者采访。他告诉记者,人工智能时代,网络安全数据安全产业或将迎来爆发性增长。齐向东解释,借助人工智能大模型,企业通过对设计、生产等数据进行加工处理,形成精华“小数据”,而这些“小数据”的安全问题正是数字经济时代的核心关切,“如果中等规模的企业都会产生巨大刚需的话,这个产业一定会爆炸性增长,我觉得安全行业在人工智能的推动下有机会在短时间内引爆市场。”
● 本报记者 杨洁
“小数据”一失万无
在数字经济时代,数据如同驱动发展的“石油”,人工智能则是“发动机”。齐向东表示,过去人们谈及数据多是在谈“大数据”,但是这些数据往往规模庞大,质量参差不齐,价值挖掘困难。如今,借助人工智能大模型,企业通过对设计、生产等数据进行加工处理,形成精华“小数据”,这些“小数据”成为企业核心竞争力所在,但是一旦“小数据”被窃取、泄露或篡改,企业多年积累的优势将瞬间崩塌。因此,齐向东强调,“小数据”一失万无,“小数据安全”成为数字经济时代的核心关切。
“小数据安全”的重要性可能直接会推动安全市场的爆发。齐向东告诉记者,“网络安全是大企业的事情”,这是一种典型的错误认知。他表示:“人工智能最大的应用领域其实是传统的制造业、传统的服务业,可能是几十万甚至上百万营收规模的中小企业,这些企业在使用人工智能大模型的时候,一定要把自己看家底的业务数据对接到大模型上,大模型才能够帮助企业业务实现提升,但是当企业把这些核心业务数据放在大模型下边时,这也会面临前所未有的风险。一旦这些数据被拷走、被泄露,可能这个企业就倒闭了,所以一定会爆发出更大的网络安全、数据安全的需求。”
“如果中等规模的企业都会产生巨大刚需的话,这个产业一定会爆炸性增长,我觉得安全行业在人工智能的推动下有机会在短时间内引爆市场。”齐向东说。
他也坦言,过去这几年数据安全市场的增速并不理想,主要原因就是以前的数据都是以大数据形式存在,但数据单位体系和数据的价值密度并不高,所以这些数据哪怕丢了100G,可能也没有产生明显的负面影响,“安全一定是有伤害才想到花钱,没有伤害就想不到花钱,就能省尽量省”。
现在,不安全所带来的危害也越来越可见可触,大家的痛感会越来越明显,也进一步提升各行各业对网络数据安全的投资力度。“所以,我预计数据安全市场引爆在即,至于未来增速是多少很难估计。”同时,齐向东也强调,“网络数据安全公司也一定要加大技术创新投入,我相信基本规律就是苦尽甘来,当技术创新投入浓度达到一定程度的时候,一定会契合产业的爆发性需求。”齐向东表示。
筑牢人工智能安全底线
当前,人工智能大模型应用迎来大爆发,政企机构正在大模型的驱动下,焕发出更澎湃的生产力、创造力。然而,新技术犹如一把双刃剑,在带来机遇的同时,也面临着诸多挑战。
值得警惕的是,有不少大模型服务器都处于“裸奔”状态,极有可能引发链式危机。齐向东介绍,奇安信资产测绘鹰图平台监测发现,8971个Ollama大模型服务器中有6449个活跃服务器,其中近九成都在“裸奔”,任何人无需认证即可随意调用、访问服务,甚至能删除重要模型文件,进而导致与大模型关联的应用业务中断。
齐向东还表示,随着人工智能的深入应用,人们对人工智能辅助决策的依赖日益加深,这会给一些不法分子可乘之机。“比如,从外部攻击视角看,黑客可以通过漏洞利用、数据投毒等方式,干扰大模型的决策,披着大模型的外衣作恶;从内部运营视角看,如果内部员工在更新知识库时,引入错误信息会污染模型学习环境,使其输出错误结论。”
在这些风险之下,如何筑牢人工智能安全底线?齐向东介绍,奇安信提出了安全“红域”概念,将大模型应用涉及的数据、算力、平台、应用以及域内管理的终端及人员划归到专属安全空间中进行防护,并在每个与大模型交互的接入点设置安全空间控制单元,通过多维度的边界隔离,为大模型应用落地“强基础、控权限、审数据、拦攻击、清风险”。此外,通过堡垒机、“零信任”等技术措施,对开发、训练等相关特殊人员和终端进行增强式安全管控,并构建贯穿大模型全生命周期的内容安全治理机制。
用AI对抗AI
齐向东表示,“未来网络安全得AI者得天下”,面对人工智能落地应用带来的多重安全挑战,要用AI对抗AI,增补面向大模型攻击及异常行为的检测手段,实时监测针对大模型的攻击行为,并实现高效拦截,形成安全运营的闭环,从而确保人工智能大模型应用安全落地,发挥出驱动数字经济发展的正向价值。
“我们提出AI驱动安全理念,安全产品全面AI化进展显著,‘AI+SOC’‘AI+天眼’‘AI+天擎’‘AI+椒图’等在实际应用中,受到来自金融、能源、医疗等领域客户的广泛好评。”齐向东介绍。
他表示,近年来,奇安信不断精进技术创新和服务,在终端安全、数据安全、威胁情报、安全服务等领域长期处于领先地位。同时,公司也大胆出海,拿下多个亿元大单,不仅为北非、亚太、拉美、海湾地区等地打造多个标杆性国家级安全设施建设项目,还为“走出去”企业做好网络和数据安全保障,为全球网络空间安全贡献中国企业的力量。
“未来,奇安信将聚焦网络安全主业,进行多维度发力,包括以科技创新筑牢安全底座、以全球化视野拓展安全边界、以责任担当护航国家战略、以生态协同激活产业动能,为中国式现代化筑牢网络安全防线。”齐向东说。