关闭广告

OpenAI组建新团队:收集公众意见以确保AI大模型"与人类价值观保持一致"

网易科技报道12736人阅读

1月17日消息,美国当地时间周二,人工智能领域的佼佼者OpenAI在其博客上宣布,他们正在组建一个名为“集体对齐”(Collective Alignment)的全新团队。

这个团队主要由研究人员和工程师构成,将专注于设计和实施收集公众意见的流程,以帮助训练和塑造其人工智能模型的行为,从而解决潜在的偏见和其他问题。

OpenAI在博客中阐述道:“我们的目标是打造一个系统,它能够收集和‘编码’公众对我们模型行为的看法,并将这些宝贵的见解融入我们的产品和服务中。这样一来,我们未来的人工智能模型就能更好地‘与人类价值观保持一致’。”

为了实现这一目标,OpenAI正积极招募来自不同技术背景的研究工程师加入这个新团队。他们表示:“我们将与外部顾问和其他团队紧密合作,包括开展试点工作,将原型整合到我们的模型中。我们需要来自不同领域的专家,共同助力这项工作的推进。”

这个“集体对齐”团队其实是OpenAI去年5月启动的公共项目的一个延伸。该项目旨在资助建立一个“民主程序”的实验,以确定人工智能系统应遵循的规则。OpenAI曾明确表示,该计划旨在资助个人、团队和组织开发概念验证,以回答有关人工智能护栏和治理的问题。

研究工程师、OpenAI新团队创始成员泰纳·埃伦杜(Tyna E

版权与免责声明:本文内容转载自其他媒体,目的在于传递更多信息,不代表本网观点或立场,不承担此类作品侵权行为的自己责任及连带责任。
猜你喜欢
精彩推荐

激怒特朗普 BBC身陷数十年来"最严重危机"

鲁中晨报 浏览 32218

英伟达大跌5.6%:市值蒸发超千亿美元 AI泡沫已非常严重

雷递 浏览 12390

父亲:我在赖因德斯小时候告诉他,能当上职业球员就不用去学校了

直播吧 浏览 10501

清华大学:华为和比亚迪是本届毕业生就业民企前两名

智车情报局 浏览 12680

林允儿回应新剧争议,语带挑衅惹众怒,曝与韩方合作将全面收紧

扒虾侃娱 浏览 1676

流量生的选剧策略,怎么让人看不懂?

仙女事件簿 浏览 10807

过年穿新衣!这8套时尚搭配可以参考,不仅简约大方还耐看

静儿时尚达人 浏览 13123

这些气质穿搭真适合40岁女人!优雅、时髦、耐看,冬季可照搬

静儿时尚达人 浏览 13044

今年秋天最流行的6条半裙,怎么搭都好看!

LinkFashion 浏览 1912

林高远崩盘!一天连输两场0-3 遭张本智和横扫 日乒一哥握拳怒吼

体坛扒客 浏览 13154

安琪酵母投15亿元补产能缺口

北京商报 浏览 423

躲在流量后面的人,被监管点名了

钛媒体APP 浏览 59

吉利自研了神盾短刀电池,用在银河E5上会怎么样

汽车圈生活 浏览 10968

“资产荒”加剧,10年期国债收益率跌破2.3% 债牛还会延续吗?

经济观察报 浏览 12377

天空体育:维拉总价1600万英镑签罗杰斯,曼城有二次转会分成

直播吧 浏览 12490

东体:地区超重塑观众的心理认同,足协应让草根和职业贯通

懂球帝 浏览 1048

讴歌全新轿车专利商标注册!外观酷似TLX/明年发布

网上车市 浏览 20358

人社部就业促进司:我国人口红利没有消失

新华社 浏览 16146

试过了,“和SIM卡并无差异”

都市快报橙柿互动 浏览 838

众星欢乐过腊八:刘诗诗杨紫晒腊八粥,张馨予在雪地开心打滚

萌神木木 浏览 12392

小牛队球星卢卡·东契奇因颈椎劳损,被列为第4场对阵快船队的比赛出战成疑

趣看热点 浏览 26144
本站所有信息收集于互联网,如本站收集信息侵权,请联系我们及时删除
沪ICP备20017958号-1