关闭广告

OpenAI组建新团队:收集公众意见以确保AI大模型"与人类价值观保持一致"

网易科技报道12713人阅读

1月17日消息,美国当地时间周二,人工智能领域的佼佼者OpenAI在其博客上宣布,他们正在组建一个名为“集体对齐”(Collective Alignment)的全新团队。

这个团队主要由研究人员和工程师构成,将专注于设计和实施收集公众意见的流程,以帮助训练和塑造其人工智能模型的行为,从而解决潜在的偏见和其他问题。

OpenAI在博客中阐述道:“我们的目标是打造一个系统,它能够收集和‘编码’公众对我们模型行为的看法,并将这些宝贵的见解融入我们的产品和服务中。这样一来,我们未来的人工智能模型就能更好地‘与人类价值观保持一致’。”

为了实现这一目标,OpenAI正积极招募来自不同技术背景的研究工程师加入这个新团队。他们表示:“我们将与外部顾问和其他团队紧密合作,包括开展试点工作,将原型整合到我们的模型中。我们需要来自不同领域的专家,共同助力这项工作的推进。”

这个“集体对齐”团队其实是OpenAI去年5月启动的公共项目的一个延伸。该项目旨在资助建立一个“民主程序”的实验,以确定人工智能系统应遵循的规则。OpenAI曾明确表示,该计划旨在资助个人、团队和组织开发概念验证,以回答有关人工智能护栏和治理的问题。

研究工程师、OpenAI新团队创始成员泰纳·埃伦杜(Tyna E

版权与免责声明:本文内容转载自其他媒体,目的在于传递更多信息,不代表本网观点或立场,不承担此类作品侵权行为的自己责任及连带责任。
猜你喜欢
精彩推荐

美军新锐舰队为应对中国大举集结 集结地却远在夏威夷

枢密院十号 浏览 5345

全智贤花7700万买新豪宅,夫妻名下房产估值超9亿

素素娱乐 浏览 18943

突发闪崩!最新回应来了

中国基金报 浏览 10674

每体:拉菲尼亚伤势恢复不如预期,出战国家德比存疑

懂球帝 浏览 968

刘嘉玲怒怼肉娱小鲜肉?

港剧叔 浏览 729

万科三季度净利润亏损160.69亿,深铁今年第十次“输血”

财视传播 浏览 755

单臂抡扣点燃全场!王浩然14中5 砍下全队最高的20分

直播吧 浏览 15610

对标丰田4Runner 本田新款Passport最新消息曝光

乐选爱车 浏览 1070

被记者询问涉移民言论 德国总理回呛"问你们女儿去吧"

环球时报国际 浏览 8345

学会这些穿衣窍门 变好看真的很简单

虎哥说衣不二 浏览 17002

新华保险首个中资产康养旅居社区落地开启旅居养老新范式

经理人杂志 浏览 734

陈伟霆何穗官宣结婚生子,夫妻俩抱娃露面幸福满溢,二人隐藏好深

扒虾侃娱 浏览 984

美军宣布再次打击"贩毒船" 致4人死亡

环球网资讯 浏览 731

意媒:拥有意大利血统的苏莱已经收到阿根廷国家队集训的征召

懂球帝 浏览 13451

越涨越卖?英伟达市值冲破5万亿,黄仁勋半年套现10亿美元

华尔街见闻官方 浏览 738

300多个APP,想让我和AI谈感情

豹变 浏览 919

乔治谈最被低估球员:小火车、杰威、怀特、里德、格雷森-阿伦

直播吧 浏览 12361

世体:弗里克团队否认在巴塞罗那会见过巴萨主席拉波尔塔

直播吧 浏览 12000

VLOG:直升机博览会初探

新华社 浏览 965

查尔斯加冕礼,阿黛尔等歌星以档期为由拒绝献唱

环球网资讯 浏览 18972

江西三地现任书记在反腐专题片出镜 谈及落马的原书记

政知新媒体 浏览 76126
X
本站所有信息收集于互联网,如本站收集信息侵权,请联系我们及时删除
沪ICP备20017958号-1