关闭广告

OpenAI组建新团队:收集公众意见以确保AI大模型"与人类价值观保持一致"

网易科技报道12744人阅读

1月17日消息,美国当地时间周二,人工智能领域的佼佼者OpenAI在其博客上宣布,他们正在组建一个名为“集体对齐”(Collective Alignment)的全新团队。

这个团队主要由研究人员和工程师构成,将专注于设计和实施收集公众意见的流程,以帮助训练和塑造其人工智能模型的行为,从而解决潜在的偏见和其他问题。

OpenAI在博客中阐述道:“我们的目标是打造一个系统,它能够收集和‘编码’公众对我们模型行为的看法,并将这些宝贵的见解融入我们的产品和服务中。这样一来,我们未来的人工智能模型就能更好地‘与人类价值观保持一致’。”

为了实现这一目标,OpenAI正积极招募来自不同技术背景的研究工程师加入这个新团队。他们表示:“我们将与外部顾问和其他团队紧密合作,包括开展试点工作,将原型整合到我们的模型中。我们需要来自不同领域的专家,共同助力这项工作的推进。”

这个“集体对齐”团队其实是OpenAI去年5月启动的公共项目的一个延伸。该项目旨在资助建立一个“民主程序”的实验,以确定人工智能系统应遵循的规则。OpenAI曾明确表示,该计划旨在资助个人、团队和组织开发概念验证,以回答有关人工智能护栏和治理的问题。

研究工程师、OpenAI新团队创始成员泰纳·埃伦杜(Tyna E

版权与免责声明:本文内容转载自其他媒体,目的在于传递更多信息,不代表本网观点或立场,不承担此类作品侵权行为的自己责任及连带责任。
猜你喜欢
精彩推荐

或2027年发布 全新丰田凌放Harrier谍照曝光

车质网 浏览 833

阿里京东,洗牌余波未了

市界 浏览 15490

五六十岁男人:不建议留这3种发型,听着洋气,实际显老油腻

潮人志Fashion 浏览 11634

为什么总有人“关心”林依晨的婚姻?

扒圈818 浏览 15889

2号种子险爆冷!张本智和打满5局逆转日本悍将,8强战约战勒布伦

乒谈 浏览 816

小米开源语音大模型Xiaomi-MiMo-Audio,对话自然度达拟人水准

IT之家 浏览 1678

今日热点:电影《震耳欲聋》定档1004;《惊天魔盗团3》发布新预告……

伊周潮流 浏览 2040

美今夏发卫星欲跟踪中俄航天器?专家解读

环球网资讯 浏览 16464

何小鹏的“回旋镖”与超级增程的“阳谋”

1号车盟 浏览 77

300135前三季度由盈转亏!池州国资入主后大动作,沥青龙头跨界投资半导体

时代周报 浏览 923

全国人大代表、华海药业总裁陈保华:建议制定全国层面的人才发展促进法

经济观察报 浏览 12170

无糖饮料可能更增强食欲,它才是你减肥计划的内鬼!

趣看热点 浏览 25873

祁发宝张开双臂的震撼瞬间祁发宝个人介绍

趣看热点 浏览 26178

美媒披露普京停火条件:基辅必须彻底放弃顿涅茨克

参考消息 浏览 967

朱玲玲陪现任老公出席活动 和百亿身家的继女同框

素素娱乐 浏览 14974

收评:创业板指涨0.38% 6G、消费板块活跃

网易财经 浏览 19455

俄军前线攻势迅猛,泽连斯基急访欧洲三国要军援

环球网资讯 浏览 11165

世界头号高尔夫球手老虎伍兹发生车祸,腿部多处受伤正在接受手术

趣看热点 浏览 158450

氛围感帅哥,都梳起了小辫儿?

YOKA网 浏览 13342

收藏这篇就够了!本地人私藏的广州逛吃指南

黎贝卡的异想世界 浏览 631

有望明年初亮相 小米YU9假想图曝光

车质网 浏览 821
本站所有信息收集于互联网,如本站收集信息侵权,请联系我们及时删除
沪ICP备20017958号-1