OpenAI新举动：新建团队收集民意塑造人工智能模型行为
中关村在线
2024-01-17 14:39:05
0次
2024-01-17 12:41:08 作者：姚立伟
OpenAI 于美国当地时间周二宣布，他们正在组建一个名为“集体对齐”（Collective Alignment）的全新团队。这个团队主要由研究人员和工程师构成，将专注于设计和实施收集公众意见的流程，以帮助训练和塑造其人工智能模型的行为，从而解决潜在的偏见和其他问题。
OpenAI 在博客中阐述道：“我们的目标是打造一个系统，它能够收集和‘编码’公众对我们模型行为的看法，并将这些宝贵的见解融入我们的产品和服务中。这样一来，我们未来的人工智能模型就能更好地‘与人类价值观保持一致’。”
为了实现这一目标，OpenAI 正积极招募来自不同技术背景的研究工程师加入这个新团队。他们表示：“我们将与外部顾问和其他团队紧密合作，包括开展试点工作，将原型整合到我们的模型中。我们需要来自不同领域的专家，共同助力这项工作的推进。”
“集体对齐”团队其实是 OpenAI 去年 5 月启动的公共项目的一个延伸。该项目旨在资助建立一个“民主程序”的实验，以确定人工智能系统应遵循的规则。OpenAI 曾明确表示，该计划旨在资助个人、团队和组织开发概念验证，以回答有关人工智能护栏和治理的问题。
研究工程师、OpenAI 新团队创始成员泰纳埃伦杜（Tyna Eloundou）强调：“随着我们不断追求超级智能模型的发展，这些模型将逐渐成为我们社会不可或缺的一部分。因此，让人们有机会直接提供意见至关重要。”
相关内容
热门资讯
凯普斯取得实芯轮胎装配自动扒胎...
金融界2025年8月6日消息，国家知识产权局信息显示，江苏凯普斯工业科技有限公司取得一项名为“实芯轮...
深圳一初中生，入选“国家队”
近日，北京天文馆正式公布入选 2025年度国际天文奥赛 中国代表队学生名单 来自全国多个省市学校的 ...
歌尔股份取得发声装置和电子设备...
金融界2025年8月6日消息，国家知识产权局信息显示，歌尔股份有限公司取得一项名为“发声装置和电子设...
ISC.AI 2025在京开幕...
8月6日，第十三届互联网安全大会（ISC.AI 2025）在北京开幕。智能体作为大会的核心议题，实现...
苏州赛伍取得膜材制备生产线专利...
金融界2025年8月6日消息，国家知识产权局信息显示，苏州赛伍应用技术股份有限公司取得一项名为“膜材...
青原排查整治涉铊企业风险隐患
近日来，青原生态环境局严格按照“全覆盖、零容忍、明责任、严执法、重实效”的要求，通过创新监管模式、引...
聚焦临床科研 破解行业痛点
来源：新民晚报 本报讯（记者 左妍）目前，我国AI技术已在应急救治、远程会诊等场景广泛应用，显著提升...
原创 仅...
赶在去年最后一天，小米低调的上架了一款起售价499的新机红米14C，而在沉默了两天后，这款新机也是如...
青岛恒森聚工贸取得一种激光切割...
金融界2025年8月6日消息，国家知识产权局信息显示，青岛恒森聚工贸有限公司取得一项名为“一种激光切...
AT&T宣布：达成Op...
C114讯 8月6日消息（艾斯）美国AT&T官网消息显示，该运营商近期与其合作伙伴爱立信和富士通实现...
泰斗微电子申请定位方法相关专利...
金融界2025年8月6日消息，国家知识产权局信息显示，泰斗微电子科技有限公司申请一项名为“定位方法、...
新疆库车市：科技赋能让棉花管理...
库车市将物联网、大数据技术与棉花种植深度融合，依托智慧水务平台构建起数字棉花智能化管理系统，棉农只需...
原创 地...
能量守恒定律指出：能量既不会凭空产生，也不会凭空消失，它只会从一种形式转化为另一种形式，或者从一个物...
OpenAI发布两款开源大语言...
来源：至顶网 OpenAI今日发布了新的生成式AI模型，虽然不是GPT-5，但这些新模型可能更加有...
立铠精密取得型材自动循环上升夹...
金融界2025年8月6日消息，国家知识产权局信息显示，立铠精密科技（盐城）有限公司取得一项名为“型材...
DJI ROMO P 首发评测...
是的，大疆做了个扫地机器人。 小雷知道很多人都一脸诧异，这家专注运动相机、无人机和影像周边设备的企业...
聚焦2025数博会｜今年这些内...
2025数博会脚步渐近，一系列丰富且极具看点的活动安排浮出水面，从前沿产品展示到深度交流研讨，从精彩...
TD产业联盟：2025年2季度...
今天分享的是：TD产业联盟：2025年2季度5G产业和市场发展报告 报告共计：30页 《2025年二...
友邦集成吊顶取得石膏顶用隐藏式...
金融界2025年8月6日消息，国家知识产权局信息显示，浙江友邦集成吊顶股份有限公司取得一项名为“一种...
美的取得三相无源电路线路板布局...
金融界2025年8月6日消息，国家知识产权局信息显示，广东美的制冷设备有限公司、美的集团股份有限公司...