关闭广告

OpenAI组建新团队:收集公众意见以确保AI大模型"与人类价值观保持一致"

网易科技报道12740人阅读

1月17日消息,美国当地时间周二,人工智能领域的佼佼者OpenAI在其博客上宣布,他们正在组建一个名为“集体对齐”(Collective Alignment)的全新团队。

这个团队主要由研究人员和工程师构成,将专注于设计和实施收集公众意见的流程,以帮助训练和塑造其人工智能模型的行为,从而解决潜在的偏见和其他问题。

OpenAI在博客中阐述道:“我们的目标是打造一个系统,它能够收集和‘编码’公众对我们模型行为的看法,并将这些宝贵的见解融入我们的产品和服务中。这样一来,我们未来的人工智能模型就能更好地‘与人类价值观保持一致’。”

为了实现这一目标,OpenAI正积极招募来自不同技术背景的研究工程师加入这个新团队。他们表示:“我们将与外部顾问和其他团队紧密合作,包括开展试点工作,将原型整合到我们的模型中。我们需要来自不同领域的专家,共同助力这项工作的推进。”

这个“集体对齐”团队其实是OpenAI去年5月启动的公共项目的一个延伸。该项目旨在资助建立一个“民主程序”的实验,以确定人工智能系统应遵循的规则。OpenAI曾明确表示,该计划旨在资助个人、团队和组织开发概念验证,以回答有关人工智能护栏和治理的问题。

研究工程师、OpenAI新团队创始成员泰纳·埃伦杜(Tyna E

版权与免责声明:本文内容转载自其他媒体,目的在于传递更多信息,不代表本网观点或立场,不承担此类作品侵权行为的自己责任及连带责任。
猜你喜欢
精彩推荐

全国人大代表、东方财富董事长其实:加大对于早期科创的支持力度

时代周报 浏览 12486

意媒:佛罗伦萨关注阿拉维斯中场布兰科,转会费1000万欧

懂球帝 浏览 10487

晋武帝司马炎的“太康之治”是怎么一回事?西晋开国皇帝对政治上的改造

趣看热点 浏览 25751

有气质的中年女人不瞎穿,试试这三种受欢迎的冬季单品,时尚大气

Yuki时尚酱 浏览 13336

美宣布对台军售之际 解放军战机巡航台海

参考消息网 浏览 16001

球王马拉多纳心脏骤停去世阿根廷全国哀悼三天,梅西、C罗等发文缅怀

趣看热点 浏览 25829

媒体:中美元首会晤让赖清德坐立不宁、寝食难安

环球时报新闻 浏览 11655

iX3的“弟弟”来了,BMW iX1测试伪装曝光,2027年登场

ams车评网 浏览 1039

争议!周琦输急眼:肘击詹姆斯头部+夹胳膊 后者狂轰63+21创纪录

厝边人侃体育 浏览 12814

辛纳2-0德米纳尔,12连胜对手晋级ATP500维也纳站决赛

懂球帝 浏览 819

让男人上头的“伟哥”,遭遇大败退

花朵财经 浏览 693

杨明洋:感谢罗慕洛为我助攻,也感谢南通球迷一直支持我

懂球帝 浏览 999

手握200亿基金,寻找想打造品类第一的创业者

创业家 浏览 971

约6000人被埋加沙废墟下 哈马斯:不会离开自己的土地

红星新闻 浏览 1000

媒体:菲自我感觉良好 以为能跟大陆和台湾都说得上话

新民晚报 浏览 76086

74岁张纪中与年轻妻子结婚,真的过得幸福吗

丹妮观 浏览 888

2021世俱杯改为日本承办,24支球队缩减至7支

趣看热点 浏览 25473

牛弹琴:“可怜”的泽连斯基 又被特朗普“戏弄”了

上游新闻 浏览 6804

杨紫琼带小金人为父扫墓 手持香烛鞠躬显虔诚

网易娱乐 浏览 19817

​中年女人要想穿出女神范,选择时尚单品时,注重展现气质美

静儿时尚达人 浏览 11316

​柳岩香港随拍照片曝光 穿白色印花裙赏夜景

蜜蜂会穿搭 浏览 14959
本站所有信息收集于互联网,如本站收集信息侵权,请联系我们及时删除
沪ICP备20017958号-1