【OpenAI尝试平衡青少年使用AI的安全、自由和隐私】当地时间周二,OpenAI的萨姆·奥特曼发布博客,称公司正努力在青少年安全、自由和隐私间找平衡,且承认这些原则相互冲突。 当天,美国参议院犯罪和反恐小组委员会举行听证会,审查AI聊天机器人危害,一些孩子自杀身亡的父母出席,这些孩子曾与聊天机器人交谈。 奥特曼在帖子中表示,要区分未满18岁和其他用户,正建“年龄预测系统”,依使用方式估计年龄,存疑时默认未满18岁体验,部分情况或国家可能要求提供身份证。 他还称,公司计划对青少年用户设不同规定,避免调情式对话及参与自杀或自残相关对话;若18岁以下用户有自杀念头,会先联系父母,联系不上则联系当局。 奥特曼在社交平台公布博客全文,称不指望大家都认同这些权衡,但解释决策很重要。 博客中提到,保护AI使用隐私权很重要,正开发安全功能确保数据私密,自动化系统会监控潜在严重滥用,关键风险会人工审核。 第二个原则是自由,希望用户在广泛安全范围内按意愿使用工具,模型默认行为有限制,但成年用户有要求可满足。 第三个原则是保护青少年,将其安全置于隐私和自由之上,正建年龄预测系统,分享了相关及新家长控制措施。 公司意识到原则冲突,虽艰难,但与专家交流后认为决策最佳,希望保持意图透明。
本文由 AI算法生成,仅作参考,不涉投资建议,使用风险自担