OpenAI新举动：新建团队收集民意塑造人工智能模型行为
中关村在线
2024-01-17 14:39:05
0次
2024-01-17 12:41:08 作者：姚立伟
OpenAI 于美国当地时间周二宣布，他们正在组建一个名为“集体对齐”（Collective Alignment）的全新团队。这个团队主要由研究人员和工程师构成，将专注于设计和实施收集公众意见的流程，以帮助训练和塑造其人工智能模型的行为，从而解决潜在的偏见和其他问题。
OpenAI 在博客中阐述道：“我们的目标是打造一个系统，它能够收集和‘编码’公众对我们模型行为的看法，并将这些宝贵的见解融入我们的产品和服务中。这样一来，我们未来的人工智能模型就能更好地‘与人类价值观保持一致’。”
为了实现这一目标，OpenAI 正积极招募来自不同技术背景的研究工程师加入这个新团队。他们表示：“我们将与外部顾问和其他团队紧密合作，包括开展试点工作，将原型整合到我们的模型中。我们需要来自不同领域的专家，共同助力这项工作的推进。”
“集体对齐”团队其实是 OpenAI 去年 5 月启动的公共项目的一个延伸。该项目旨在资助建立一个“民主程序”的实验，以确定人工智能系统应遵循的规则。OpenAI 曾明确表示，该计划旨在资助个人、团队和组织开发概念验证，以回答有关人工智能护栏和治理的问题。
研究工程师、OpenAI 新团队创始成员泰纳埃伦杜（Tyna Eloundou）强调：“随着我们不断追求超级智能模型的发展，这些模型将逐渐成为我们社会不可或缺的一部分。因此，让人们有机会直接提供意见至关重要。”
相关内容
热门资讯
业绩狂飙16370%！固态电池...
固态电池革命：技术跃迁与万亿赛道共振下的产业狂飙 行业大会密集落子，固态电池进入“技术奇点”窗口期 ...
海螺新模型海外爆火：一夜之间，...
机器之心报道 编辑：张倩 一个猫咪跳水的视频，5 小时就引得上百万人围观，这是动物界的奥林匹克？ ...
天智航：以原研创新为帆 破浪骨...
本报记者 许林艳 在骨科手术的微观世界里，毫厘之差足以决定患者的行走能力与生活质量。因此，减少创伤、...
优化特殊审批程序 高端医疗器械...
转自：北京商报 近日，国家药监局官方平台发文称，审议通过《关于优化全生命周期监管支持高端医疗器械创新...
当AI性能狂飙，类脑之路却“南...
深度神经网络（DNN，Deep Neural Network）作为 AI 领域的重要突破，在视觉感知...
福建省发布推进“人工智能+教育...
教育观察 经济观察网讯 据福建日报报道，福建省教育厅日前发布推进“人工智能+教育”十条措施，推动人...
一彩微粉取得塑料粉末原料清洗装...
金融界2025年6月21日消息，国家知识产权局信息显示，安徽一彩微粉科技有限公司取得一项名为“一种塑...
新豪轴承取得抛丸弧高度测量仪专...
金融界2025年6月21日消息，国家知识产权局信息显示，新豪轴承（泰州）有限公司取得一项名为“一种抛...
沃得福取得用于芯片烧录设备移动...
金融界2025年6月21日消息，国家知识产权局信息显示，昆山沃得福自动化设备有限公司取得一项名为“一...
纳米级成像技术：原子力显微镜(...
纳米级成像在现代研究和工业中至关重要，它能够在原子和分子层面对材料进行详细分析。主要的成像技术包括原...
“超级工厂”逐鹿中原 ——河南...
夏至时节，中原大地上一片火热的生产和创新景象：宁德时代洛阳基地1秒产出1个动力电池电芯，郑州比亚迪工...
九国友人走进上海电影博物馆 探...
上海6月22日电 (记者 陈静)记者22日获悉，由上海电影制片厂旧址改造而来的上海电影博物馆迎来了一...
格力电器取得一种旋转压板装置专...
金融界2025年6月21日消息，国家知识产权局信息显示，格力电器（成都）有限公司、珠海格力电器股份有...
祝贺！它将全面实现国产化！
6月20日晚间，我国在西昌卫星发射中心使用长征三号乙运载火箭，成功将中星9C卫星发射升空，卫星顺利进...
原创 美...
最近，美国NASA做出了一个让全世界都瞠目结舌的决定——将一颗价值15亿美元的超级卫星交给印度的火箭...
隐藏在太阳系边缘黑暗里的“大家...
科学家通过热追踪发现疑似太阳系“第九行星”目标。 隐藏在太阳系边缘黑暗里的“第九行星”想像图。右上...
产业观察：中国人形机器人生态链...
今年春晚宇树机器人爆火以来，在人工智能浪潮的推动下，人形机器人正从实验室走向商业应用，成为备受瞩目的...
华为云全栈AI：解锁30余行业...
在芜湖海螺水泥厂的2号产线上，一个巨大的钢铁圆筒缓缓旋转，这是水泥生产的“心脏”——回转窑。热浪与石...
机器人“警察”在中国城市街头上...
6月16日，机器人“警察”在天府广场开展日常巡逻。新华社发 新华社成都6月22日电（记者任卓如、萧永...
科技创新赋能产业新赛道
太重智能高端液压挖掘机产业园区内，AGV小车来回穿梭，机械手臂有序进行备料、焊接、加工、涂装工序，每...