关闭广告

OpenAI组建新团队:收集公众意见以确保AI大模型"与人类价值观保持一致"

网易科技报道12734人阅读

1月17日消息,美国当地时间周二,人工智能领域的佼佼者OpenAI在其博客上宣布,他们正在组建一个名为“集体对齐”(Collective Alignment)的全新团队。

这个团队主要由研究人员和工程师构成,将专注于设计和实施收集公众意见的流程,以帮助训练和塑造其人工智能模型的行为,从而解决潜在的偏见和其他问题。

OpenAI在博客中阐述道:“我们的目标是打造一个系统,它能够收集和‘编码’公众对我们模型行为的看法,并将这些宝贵的见解融入我们的产品和服务中。这样一来,我们未来的人工智能模型就能更好地‘与人类价值观保持一致’。”

为了实现这一目标,OpenAI正积极招募来自不同技术背景的研究工程师加入这个新团队。他们表示:“我们将与外部顾问和其他团队紧密合作,包括开展试点工作,将原型整合到我们的模型中。我们需要来自不同领域的专家,共同助力这项工作的推进。”

这个“集体对齐”团队其实是OpenAI去年5月启动的公共项目的一个延伸。该项目旨在资助建立一个“民主程序”的实验,以确定人工智能系统应遵循的规则。OpenAI曾明确表示,该计划旨在资助个人、团队和组织开发概念验证,以回答有关人工智能护栏和治理的问题。

研究工程师、OpenAI新团队创始成员泰纳·埃伦杜(Tyna E

版权与免责声明:本文内容转载自其他媒体,目的在于传递更多信息,不代表本网观点或立场,不承担此类作品侵权行为的自己责任及连带责任。
猜你喜欢
精彩推荐

呼延庆-一个误国误民的历史罪人,老百姓至今把他当大英雄崇拜

趣看热点 浏览 26711

利文斯顿谈当年重伤:4根韧带撕裂3根 医生把这当成车祸&谈论截肢

直播吧 浏览 16233

夏天最美的4个颜色,这样穿高级又时髦!

LinkFashion 浏览 11140

刘亦菲与45岁霍建华船戏吸睛,强吻、摸胸肌,这剧的尺度可真带劲

肆季娱乐 浏览 11192

我国又添“超级充电宝”:世界坝体最高抽水蓄能电站全面投产发电

IT之家 浏览 794

广联达被传全体员工年终绩效清零

财联社 浏览 12580

0-2落后,8-7晋级!迈阿密创造奇迹,梅西导演超级翻盘:助攻双响

侃球熊弟 浏览 14480

生育津贴直接发放至个人 这些地方已实现

央视财经 浏览 883

西安地铁8号线已发现古墓1356座,春节期间出土各类文物140余件

趣看热点 浏览 26141

E句话 | 为什么没回去当教练?郭晶晶的回答很坦诚

仙女事件簿 浏览 10825

李平康:国安在谈一名东欧外教,其人在北京&还是以前的渠道

懂球帝 浏览 762

经济观察报:深圳4-4卓尔涉5000万的假球,没赢是李铁不想输

懂球帝 浏览 996

吴京易烊千玺主演的《长津湖》杀青了,这个是抗美援朝题材电影

趣看热点 浏览 27894

主力车增配降价,丰田销量明显上涨,能带动日系车反攻吗?

路咖汽车 浏览 1511

热巴工作室再发无效声明 评论区大失控

萌神木木 浏览 15279

遭吹杨穿裆戏耍后单打利拉德找回场子,杜兰特12中7贡献18分

懂球帝 浏览 12051

普京批准俄罗斯与古巴军事合作协议

上观新闻 浏览 950

航母“弹射三连”释放哪些信号

经济日报 浏览 1518

男篮吸金王 郭艾伦网红坐头等舱旅游 13年首度落选国家队无碍收入

厝边人侃体育 浏览 16496

世纪美少女被曝出轨后退圈,曾经的她有多火?

毒舌电影 浏览 15382

合规上路的“老爷车” Cyan发布P1800 GT复刻版

撩车视界 浏览 12538
本站所有信息收集于互联网,如本站收集信息侵权,请联系我们及时删除
沪ICP备20017958号-1