关闭广告

OpenAI组建新团队:收集公众意见以确保AI大模型"与人类价值观保持一致"

网易科技报道12732人阅读

1月17日消息,美国当地时间周二,人工智能领域的佼佼者OpenAI在其博客上宣布,他们正在组建一个名为“集体对齐”(Collective Alignment)的全新团队。

这个团队主要由研究人员和工程师构成,将专注于设计和实施收集公众意见的流程,以帮助训练和塑造其人工智能模型的行为,从而解决潜在的偏见和其他问题。

OpenAI在博客中阐述道:“我们的目标是打造一个系统,它能够收集和‘编码’公众对我们模型行为的看法,并将这些宝贵的见解融入我们的产品和服务中。这样一来,我们未来的人工智能模型就能更好地‘与人类价值观保持一致’。”

为了实现这一目标,OpenAI正积极招募来自不同技术背景的研究工程师加入这个新团队。他们表示:“我们将与外部顾问和其他团队紧密合作,包括开展试点工作,将原型整合到我们的模型中。我们需要来自不同领域的专家,共同助力这项工作的推进。”

这个“集体对齐”团队其实是OpenAI去年5月启动的公共项目的一个延伸。该项目旨在资助建立一个“民主程序”的实验,以确定人工智能系统应遵循的规则。OpenAI曾明确表示,该计划旨在资助个人、团队和组织开发概念验证,以回答有关人工智能护栏和治理的问题。

研究工程师、OpenAI新团队创始成员泰纳·埃伦杜(Tyna E

版权与免责声明:本文内容转载自其他媒体,目的在于传递更多信息,不代表本网观点或立场,不承担此类作品侵权行为的自己责任及连带责任。
猜你喜欢
精彩推荐

这双鞋太火了!怎么搭都好看|好物

LinkFashion 浏览 10950

马斯克动人类脑子的计划又进一步,西湖大学研发出1平方毫米大小神经芯片,你准备好在脑子里装芯片了吗?

都市快报橙柿互动 浏览 16348

4年1亿也能接受!曝湖人愿匹配任何里夫斯报价:为何仍准备替代者

罗说NBA 浏览 15730

张柏芝与向太的关系彻底崩塌?

涵豆说娱 浏览 1417

媒体:王沪宁参加台湾代表团审议 信号很明确

直新闻 浏览 82233

苹果新手机开售即破发 砍单到几乎停产

21世纪经济报道 浏览 5343

德容:梅西曾是我的偶像,对我来说他是史上最佳

懂球帝 浏览 965

让新能源汽车“出得了城、下得了乡”,浙江将建成至少230万个充电桩

银柿财经 浏览 14416

闹大了!薛之谦演唱会对“性感”女粉丝开黄腔,网友:粉丝别洗了

娱乐白名单 浏览 10574

《孤注一掷》爆了!可惜片中有两个败笔……

不八卦会死星人 浏览 14654

奇瑞集团10月份销售汽车281161辆 同比增长3.3%

网易汽车 浏览 762

土耳其成功首飞“可汗”五代战机

环球网资讯 浏览 12382

发现新疆戈壁"为人民服务"标语遭破坏 博主决定去修复

极目新闻 浏览 6521

今年夏天流行这4种连衣裙 谁穿谁好看

小西的穿搭日记 浏览 19027

特斯拉将在明年1月提高内华达超级工厂部分工人时薪

界面新闻 浏览 12689

智能座舱也能“深度思考”?荣威M7 DMH做到了

IT之家 浏览 577

坦克300Hi-T宁德时代版上市 售24.98万

车质网 浏览 217

或2027年发布 全新丰田凌放Harrier谍照曝光

车质网 浏览 827

秦刚:敦促有关国家停止鼓噪"今日乌克兰 明日台湾"

环球网资讯 浏览 95862

日本首相选举局势突变 高市早苗的竞争对手出现了

极目新闻 浏览 4116

媒体:中美在"香会"唇枪舌剑 美国高官"跑步"访华

直新闻 浏览 17019
本站所有信息收集于互联网,如本站收集信息侵权,请联系我们及时删除
沪ICP备20017958号-1