关闭广告

OpenAI组建新团队:收集公众意见以确保AI大模型"与人类价值观保持一致"

网易科技报道12745人阅读

1月17日消息,美国当地时间周二,人工智能领域的佼佼者OpenAI在其博客上宣布,他们正在组建一个名为“集体对齐”(Collective Alignment)的全新团队。

这个团队主要由研究人员和工程师构成,将专注于设计和实施收集公众意见的流程,以帮助训练和塑造其人工智能模型的行为,从而解决潜在的偏见和其他问题。

OpenAI在博客中阐述道:“我们的目标是打造一个系统,它能够收集和‘编码’公众对我们模型行为的看法,并将这些宝贵的见解融入我们的产品和服务中。这样一来,我们未来的人工智能模型就能更好地‘与人类价值观保持一致’。”

为了实现这一目标,OpenAI正积极招募来自不同技术背景的研究工程师加入这个新团队。他们表示:“我们将与外部顾问和其他团队紧密合作,包括开展试点工作,将原型整合到我们的模型中。我们需要来自不同领域的专家,共同助力这项工作的推进。”

这个“集体对齐”团队其实是OpenAI去年5月启动的公共项目的一个延伸。该项目旨在资助建立一个“民主程序”的实验,以确定人工智能系统应遵循的规则。OpenAI曾明确表示,该计划旨在资助个人、团队和组织开发概念验证,以回答有关人工智能护栏和治理的问题。

研究工程师、OpenAI新团队创始成员泰纳·埃伦杜(Tyna E

版权与免责声明:本文内容转载自其他媒体,目的在于传递更多信息,不代表本网观点或立场,不承担此类作品侵权行为的自己责任及连带责任。
猜你喜欢
精彩推荐

兰博基尼 CEO 温科尔曼称至少十年内不会放弃内燃机

IT之家 浏览 895

华为公布金融四大战略方向 坚定投入GaussDB数据库

网易科技报道 浏览 16823

法比奥-席尔瓦:不在意外他人评价,进球让自己更有信心

趣看热点 浏览 25768

米兰1月最佳球员4人候选:阿德利、特奥、约维奇、奇克

直播吧 浏览 12361

香港火灾初步调查结果:贴在窗户上的发泡胶板高度易燃

南方都市报 浏览 14858

马塞洛:当年觉得皮克是个自以为是的蠢货,太烦人了

懂球帝 浏览 1044

高市早苗自嘲:有人说我是当不上首相的可怜女人

澎湃新闻 浏览 4509

抖音留不住头部主播?东方甄选进军淘宝直播,俞敏洪亲自带队

澎湃新闻 浏览 14160

她刚爆火一个月,就被扒出一堆「黑料」

独立鱼 浏览 16558

这是美国现在最头疼的问题!

牛弹琴 浏览 14731

小鹏将推出长途增程混合动力X9,单次续航1600公里

MOTO 浏览 1754

云南女大学生失联被传12万遭贩卖至缅北 本人发声

红星新闻 浏览 85789

春天日常出门也要精心打扮,参考这21套搭配示范,优雅又时髦

静儿时尚达人 浏览 11592

侮辱诽谤格力高管 自媒体多人被拘留或处罚

财联社 浏览 12220

2023年夏天鞋履趋势是“BIRKENSTOCK效应”?

潮人 浏览 15568

中俄南非今天开启海上联演 中方参演兵力有亮点

环球网资讯 浏览 19072

大回血,股票型ETF一周猛增1000亿元!上周两明星产品遭“反噬”,但资金“越跌越买”|ETF规模周报

每经牛眼 浏览 832

英国公司研发出空气钻石,绿色环保的现代炼金术

趣看热点 浏览 26055

正月里建议多穿“红色”衣服!好看喜气,满眼都是节日氛围感

静儿时尚达人 浏览 12709

俄总统新闻秘书:普京愿与特朗普在莫斯科会晤

环球网资讯 浏览 35444

中国观众认定的烂片,北美观众当成宝,首周末破4.3亿夺全球冠军

靠谱电影君 浏览 992
本站所有信息收集于互联网,如本站收集信息侵权,请联系我们及时删除
沪ICP备20017958号-1