关闭广告

OpenAI组建新团队:收集公众意见以确保AI大模型"与人类价值观保持一致"

网易科技报道12733人阅读

1月17日消息,美国当地时间周二,人工智能领域的佼佼者OpenAI在其博客上宣布,他们正在组建一个名为“集体对齐”(Collective Alignment)的全新团队。

这个团队主要由研究人员和工程师构成,将专注于设计和实施收集公众意见的流程,以帮助训练和塑造其人工智能模型的行为,从而解决潜在的偏见和其他问题。

OpenAI在博客中阐述道:“我们的目标是打造一个系统,它能够收集和‘编码’公众对我们模型行为的看法,并将这些宝贵的见解融入我们的产品和服务中。这样一来,我们未来的人工智能模型就能更好地‘与人类价值观保持一致’。”

为了实现这一目标,OpenAI正积极招募来自不同技术背景的研究工程师加入这个新团队。他们表示:“我们将与外部顾问和其他团队紧密合作,包括开展试点工作,将原型整合到我们的模型中。我们需要来自不同领域的专家,共同助力这项工作的推进。”

这个“集体对齐”团队其实是OpenAI去年5月启动的公共项目的一个延伸。该项目旨在资助建立一个“民主程序”的实验,以确定人工智能系统应遵循的规则。OpenAI曾明确表示,该计划旨在资助个人、团队和组织开发概念验证,以回答有关人工智能护栏和治理的问题。

研究工程师、OpenAI新团队创始成员泰纳·埃伦杜(Tyna E

版权与免责声明:本文内容转载自其他媒体,目的在于传递更多信息,不代表本网观点或立场,不承担此类作品侵权行为的自己责任及连带责任。
猜你喜欢
精彩推荐

今夏适合穿"云朵鞋" 时髦好看还舒适

她暖 浏览 17181

涉及中国 日本高官公开道歉并撤回错误言论

环球时报国际 浏览 32811

新版《聊斋》杀青,六个单元主演全亮相,林允、宋祖儿倾力加盟

最爱酷影视 浏览 1627

微信AI团队,悄悄干了件大事,算力消耗暴降44%!

智东西 浏览 693

年底是购车黄金期吗?看懂购置税博弈再下订不迟!

百姓评车 浏览 825

单奖约725万!8位学者获这项大奖,两人贡献涉及高温超导材料

每日经济新闻 浏览 14687

十五运会开幕式收视出炉!最高破3.9%,刘德华上场涨出小高峰

萌神木木 浏览 662

台失联战机同队士官长自杀,此前于深海已确认黑匣子信号

趣看热点 浏览 70283

连续第4晚发生骚乱 法国已部署4.5万名警察和执法车辆

环球网 浏览 90248

海口警方通报 "一女子穿仿制日本军服在夜市嬉闹"

环球网资讯 浏览 19487

"点读机女孩"高君雨紧急转进ICU 家长:持续发烧不退

红星新闻 浏览 69602

外卖小哥蹊跷失踪22天:凌晨独自到水库 现场找到电动车

极目新闻 浏览 997

女星参加晚会丢2万元戒指 哭诉自己赔不起被吐槽

娱乐团长 浏览 12896

铁!北京本场三分20中3 赛季首次连续两战三分命中率不足20%

直播吧 浏览 19238

波兰外长访乌 泽连斯基称愿与波兰分享实战经验

看看新闻Knews 浏览 1559

曾成功应用于马斯克脑机接口临床实验!西门子医疗脑机接口全流程解决方案亮相

上观新闻 浏览 686

本田东京车展亮相0系列电动概念车 揭示未来出行

网易汽车 浏览 740

比亚迪奖励21位线索提供人:初步奖励最高30万元

快科技 浏览 10477

美媒:美国计划再向乌克兰提供12亿美元军事援助

环球网资讯 浏览 19577

波点裙,现在穿美的很过分!

Yuki女人故事 浏览 11622

日本前首相麻生太郎窜台 解放军军机"伴飞"警告

上游新闻 浏览 14722
本站所有信息收集于互联网,如本站收集信息侵权,请联系我们及时删除
沪ICP备20017958号-1