广西人工智能安全研究院正式揭牌。

9月17日，中国—东盟人工智能安全前沿论坛在南宁举行。广西壮族自治区党委书记陈刚，全国工商联副主席、奇安信集团董事长齐向东出席并致辞，共同为广西人工智能安全研究院揭牌。

陈刚表示，愿进一步深化与人工智能安全企业合作，携手东盟共同解决人工智能时代的安全问题。

人工智能是引领新一轮科技革命和产业变革的战略性技术，在未来10年、20年将不可阻挡地成为推动产业、科技、文化、教育、医疗等领域变革的重要力量。

但同时，人工智能是一把“双刃剑”，在推进经济社会发展的同时，也将带来新的困难和挑战。

此前就有专家表示，“人工智能因其脆弱性、不稳定性、不可解释性等特点，在与经济社会深度融合应用的过程中，极易引发国家、社会、企业和个人等层面的安全风险。”有调查显示，安全性是受访者最关心的问题，71%的受访者认为生成式人工智能会给企业的数据安全带来新的风险。

因此，在AI浪潮席卷全球的当下，应对人工智能风险、维护和保障安全也是重要议题。

今年4月，中共中央政治局就加强人工智能发展和监管进行第二十次集体学习。习近平总书记提到，要“推动我国人工智能朝着有益、安全、公平方向健康有序发展”“确保人工智能安全、可靠、可控”。

对于广西来说，当前正大力度推进人工智能产业，深耕东盟市场、“打好东盟牌”，是广西发展人工智能的关键之举。

从东盟层面来看，当前，东盟国家正处于数字化转型的关键阶段，渴望拥抱人工智能时代，迫切需要建立主权大模型，但又缺乏支撑开源大模型研发的算力、算法以及相应的资金和人才，对人工智能应用安全风险也存在诸多顾虑。

协同推进中国—东盟人工智能安全治理，是广西的重要工作之一。陈刚表示，广西明确提出要以“人工智能+”赋能千行百业，把发展人工智能安全作为重要的产业来配置资源，与东盟合作伙伴共享共用相关技术，共同维护人工智能发展生态。

“愿进一步深化与人工智能安全企业合作，携手东盟共同解决人工智能时代的安全问题，提升人工智能安全治理能力，驱使人工智能更好地服务人类，不断增进各国人民福祉。”

研究院是专注于人工智能安全领域的新型研发机构，定位于研发可落地的大模型安全核心技术，推出具有市场竞争力的AI安全产品，服务于广西重点行业数字化转型，并面向东盟拓展应用市场，打造成我国面向海外开展网络安全业务的龙头品牌。

在此次会议上，奇安信集团董事长齐向东提到，AI安全问题主要归因为大模型、智能体向“超人”的演进。AI“超人”具备超级权限和超级能力，能力越大风险越大，让AI“超人”安全地为我所用，关键是管住“框数人链”四个环节，即“对话框”、“数据”、“内鬼”和“生态链”的安全。

研究院将聚焦三个方向：一是立足人工智能场景开展“数网智”安全技术创新；二是推动人工智能安全规范互认互通；三是打造人工智能安全人才交流与培育平台，最终形成我国面向海外开展网络安全业务的龙头品牌。研究院将落实三项工作，分别是人工智能安全标准研究；安全检测与评估服务；安全能力创新研究。

来源：北京青年报、广西新闻

编辑：王宇豪 | 审核：嘻嘻