聚焦2024中关村论坛年会 | 郭毅可：推动负责任和安全的人工智能应用
4月26日，在2024中关村论坛年会“数据安全治理与发展论坛”上，英国皇家工程院院士、欧洲科学院院士、香港科技大学首席副校长郭毅可说，“通过建立健全的法规，采用先进技术，加强国际合作和遵守最佳实践，我们可以推动负责任和安全的人工智能应用，确保数据安全治理的有效实施。”
当前，作为引领新一代科技革命和产业变革的关键技术，人工智能大模型深刻改变着信息和知识的生产方式，重塑了人类与互联网技术的交互模式，与之而来的数据泄露、虚假内容生成等安全风险也引起广泛关注，生成式人工智能的应用和治理已成为国际社会面临的共同挑战。
郭毅可发表视频演讲
从国际上的数据安全治理趋势看，近年来世界各国纷纷出台涉及人工智能的立法和政策，这彰显了国际社会对数据安全治理的重视。“在国际数据安全治理中，我们可以看到不同的制度规则和方法。”郭毅可说，一些国家采取专门的法律和法规来覆盖人工智能发展和应用中涉及的广泛问题，另一些国家则采取针对不同应用或类型的人工智能制定各种规章制度的策略。
“当前，区块链和量子密码学等前沿技术已提供了增强数据安全的有希望的解决方案。”郭毅可说，区块链技术是一种有前景的解决方案，可增强数据安全。区块链透明和不可更改的特性确保了数据的完整性，降低了未经授权的修改和数据篡改的风险，基于区块链的解决方案，在金融、医疗和供应链管理等行业中特别有价值。
“面对人工智能和大型语言模型革新各个行业背景，确保强大的数据安全治理显得尤为重要。”郭毅可说，为防止未经授权的访问和数据泄露，组织必须采取严格的安全措施，通过数据匿名化技术，用户同意和隐私设计原则，以及实施数据分类、访问控制和加密方法，保护知识产权和防止未经授权的披露。
郭毅可说，加密和匿名化技术的应用也是数据安全治理的重要方面。通过采用加密技术可以保护数据在禁止的传输过程中的安全。此外，可以使用差分隐私或者数据屏蔽等匿名化技术来删除个人身份信息，以确保数据的精密性，同时保留其对人工智能模型训练的有用性。
郭毅可表示，在数据安全治理方面，除了制定明确的政策和框架，有效的数据分类和归类以外，访问控制和权限管理也是确保数据安全的关键因素。基于决策的访问控制，多因素身份验证和定期审查访问权限，对于确保数据安全至关重要，监控和审计对于确保数据安全至关重要，实施监控和定期审计人工智能模型的活动和数据法规，有助于检测异常，未经授权的访问尝试等异常模式。
郭毅可说，“在人机共生的时代，我深信，我们将通过数据治理，以及安全可信的人工智能，携手创造出充满无限可能的未来。”
贵州日报天眼新闻记者 袁航
编辑 罗秋红
二审 石云华
三审 岳振