关闭广告

OpenAI组建新团队:收集公众意见以确保AI大模型"与人类价值观保持一致"

网易科技报道12735人阅读

1月17日消息,美国当地时间周二,人工智能领域的佼佼者OpenAI在其博客上宣布,他们正在组建一个名为“集体对齐”(Collective Alignment)的全新团队。

这个团队主要由研究人员和工程师构成,将专注于设计和实施收集公众意见的流程,以帮助训练和塑造其人工智能模型的行为,从而解决潜在的偏见和其他问题。

OpenAI在博客中阐述道:“我们的目标是打造一个系统,它能够收集和‘编码’公众对我们模型行为的看法,并将这些宝贵的见解融入我们的产品和服务中。这样一来,我们未来的人工智能模型就能更好地‘与人类价值观保持一致’。”

为了实现这一目标,OpenAI正积极招募来自不同技术背景的研究工程师加入这个新团队。他们表示:“我们将与外部顾问和其他团队紧密合作,包括开展试点工作,将原型整合到我们的模型中。我们需要来自不同领域的专家,共同助力这项工作的推进。”

这个“集体对齐”团队其实是OpenAI去年5月启动的公共项目的一个延伸。该项目旨在资助建立一个“民主程序”的实验,以确定人工智能系统应遵循的规则。OpenAI曾明确表示,该计划旨在资助个人、团队和组织开发概念验证,以回答有关人工智能护栏和治理的问题。

研究工程师、OpenAI新团队创始成员泰纳·埃伦杜(Tyna E

版权与免责声明:本文内容转载自其他媒体,目的在于传递更多信息,不代表本网观点或立场,不承担此类作品侵权行为的自己责任及连带责任。
猜你喜欢
精彩推荐

云南外援奥斯卡连续七场联赛参与进球,刷新个人中超最长纪录

懂球帝 浏览 740

KAWS x 优衣库又回来了!

NOWRE现客 浏览 15317

学会这些让小个子女生时髦一整个冬天

Yuki女人故事 浏览 13222

南部战区空军航空兵某旅组织实战化飞行训练

极目新闻 浏览 12275

多多买菜回应被处罚150万元 :将积极整改

中国证券报 浏览 25548

贵州15岁少年刺死"校霸"获刑8年 检方发再审检察建议

红星新闻 浏览 92380

深埋江门地下,捕捉“幽灵粒子”的巨型实验装置预计明年运行

南方都市报 浏览 11285

太阳报:奥利塞帮助埃泽适应枪手新生活,二人经常会在线下棋

懂球帝 浏览 376

警惕!日本巨头密集收购中国中药企业

中国财富网 浏览 18644

王传福的眼泪为谁而流

经济观察报 浏览 14731

明略科技通过聆讯:上半年营收6.4亿,经调整利润转正 腾讯是股东

雷递 浏览 1051

本田将通过自然减员来降低中国员工数量 此前大量裁员

智车情报局 浏览 12550

林允儿回应新剧争议,语带挑衅惹众怒,曝与韩方合作将全面收紧

扒虾侃娱 浏览 1676

定位旗舰车型 别克GL8电动版或2024年上市

车质网 浏览 12220

江南春:成功皆因顺大势,失败多由内卷

虎嗅APP 浏览 15825

命运多舛的英伦跑车:解读Marcos Mantis历史

老爷车 浏览 204

从美国到东南亚,TikTok电商重心转移

虎嗅APP 浏览 1629

太阳报:曼联考虑在非洲杯期间让小将谢伊-莱西进入一线队

懂球帝 浏览 707

文晏回应争奖!直言不认识白百何否认沪圈投资,白百何再次内涵

萌神木木 浏览 713

甄子丹称约杨紫琼庆功要排队 合作可能排到30年后

网易娱乐 浏览 20008

NBA战报:尼克斯134-98狂胜篮网取NBA4连胜,唐斯28+12+2

懂球帝 浏览 643
本站所有信息收集于互联网,如本站收集信息侵权,请联系我们及时删除
沪ICP备20017958号-1