关闭广告

OpenAI组建新团队:收集公众意见以确保AI大模型"与人类价值观保持一致"

网易科技报道12730人阅读

1月17日消息,美国当地时间周二,人工智能领域的佼佼者OpenAI在其博客上宣布,他们正在组建一个名为“集体对齐”(Collective Alignment)的全新团队。

这个团队主要由研究人员和工程师构成,将专注于设计和实施收集公众意见的流程,以帮助训练和塑造其人工智能模型的行为,从而解决潜在的偏见和其他问题。

OpenAI在博客中阐述道:“我们的目标是打造一个系统,它能够收集和‘编码’公众对我们模型行为的看法,并将这些宝贵的见解融入我们的产品和服务中。这样一来,我们未来的人工智能模型就能更好地‘与人类价值观保持一致’。”

为了实现这一目标,OpenAI正积极招募来自不同技术背景的研究工程师加入这个新团队。他们表示:“我们将与外部顾问和其他团队紧密合作,包括开展试点工作,将原型整合到我们的模型中。我们需要来自不同领域的专家,共同助力这项工作的推进。”

这个“集体对齐”团队其实是OpenAI去年5月启动的公共项目的一个延伸。该项目旨在资助建立一个“民主程序”的实验,以确定人工智能系统应遵循的规则。OpenAI曾明确表示,该计划旨在资助个人、团队和组织开发概念验证,以回答有关人工智能护栏和治理的问题。

研究工程师、OpenAI新团队创始成员泰纳·埃伦杜(Tyna E

版权与免责声明:本文内容转载自其他媒体,目的在于传递更多信息,不代表本网观点或立场,不承担此类作品侵权行为的自己责任及连带责任。
猜你喜欢
精彩推荐

跨界电动SUV,长安启源E07申报图曝光

天天汽车 浏览 12482

美防长患前列腺癌瞒着拜登 专家:其并发症很罕见

新京报外事儿 浏览 12511

22岁医学生被前男友扼颈杀害 生前开公司转至男方名下

扬子晚报 浏览 6791

王坚:Sora意义非凡,只谈对短视频行业影响是羞辱它

南方都市报 浏览 11381

"希腊船王"继承人战胜癌症 被虫子咬一口莫名其妙死了

新民晚报 浏览 20139

全球第二,欣旺达,再冲固态电池!

飞鲸投研 浏览 977

朔尔茨:德国与瓦格纳事件无关 德无意干涉俄内政

环球网 浏览 15249

联合国首个中国年,美欧怎么过?

国际金融报 浏览 12688

欧冠周最佳球员评选:DV9、马库斯-图拉姆、拉什福德、特林康

懂球帝 浏览 1585

官方通报贵州习水食物中毒事件:学生89人住院

界面新闻 浏览 18692

媒体:西方又给解放军戴"不专业"帽子 还有人谩骂

新民周刊 浏览 16343

男子驾车撞死闯国道野猪被判全责 特斯拉修车费超2万

红星新闻 浏览 12511

蔚来推新ES6 30万台纪念版,整车售价34.98万元

财闻 浏览 538

夏天试试这些裙子和裤子 舒适自然又显气质

Yuki时尚酱 浏览 15922

耐克阿迪卖不动了?全球最大运动鞋代工商在越南将裁撤6000人

财联社 浏览 19660

泽连斯基:乌美就领土问题讨论6.5小时

每日经济新闻 浏览 241

贺军翔否认侵犯女荷官!狗仔曝二人只见面三分钟,男方已经喝醉了

萌神木木 浏览 10739

海报疑似抄袭,贩卖女性焦虑,放弃春晚的贾玲,这次“危险”了

不八卦会死星人 浏览 12809

闹哪样!离婚风波后 洪欣与老公张丹峰又秀恩爱

家庭小医师 浏览 16170

纳米级OLED突破:科学家开发出全球最小发光像素,仅 300nm² 见方

IT之家 浏览 828

杨天真打不开自己特斯拉从后备箱爬进去 客服回应

极目新闻 浏览 10310
本站所有信息收集于互联网,如本站收集信息侵权,请联系我们及时删除
沪ICP备20017958号-1