关闭广告

斯坦福大学团队推出「许可证神谕」:让AI学会说「我不知道」

科技行者2596人阅读


当你向ChatGPT询问某位哲学家的出生日期时,它总是信心满满地给出答案,哪怕这个答案完全错误。这种现象被研究者称为「幻觉」,就像AI患了妄想症,总是编造一些听起来很有道理但实际上完全错误的信息。来自加州圣迭戈RA软件公司的理查德·阿克曼和保加利亚索菲亚大学的西蒙·埃马努伊洛夫在2025年发表的这项研究,提出了一个革命性的解决方案——「许可证神谕」系统。

这项研究发表在2025年的学术期刊上,研究者通过设计一种全新的架构,让AI在回答问题前必须先检验自己的答案是否正确,就像给AI装上了一个严格的「事实核查员」。研究团队在实验中取得了惊人的成果:传统方法只能达到56.7%的准确判断率,而他们的系统达到了完美的100%准确率,完全消除了虚假答案的产生。

研究者首先深入分析了AI产生幻觉的根本原因。在他们之前发表的研究《大型语言模型是如何被设计来产生幻觉的》中,研究团队指出,这个问题并非来自训练数据不足或模型调优不当,而是源于变换器架构本身的局限性。变换器模型就像一个只会模仿的学生,它能够生成语法正确、听起来合理的句子,但缺乏验证这些句子是否符合事实的能力。研究者将这种现象比作「平面语义空间」,在这个空间中

版权与免责声明:本文内容转载自其他媒体,目的在于传递更多信息,不代表本网观点或立场,不承担此类作品侵权行为的自己责任及连带责任。
猜你喜欢
精彩推荐

精读季报丨好气!姜诚管理规模掉到115亿元,相较巅峰缩水1/4

一地基毛 浏览 2458

萧敬腾在岳父追思会上拥抱妻子,含泪致辞

素素娱乐 浏览 2327

50+女人更适合基础款,掌握3个高段位搭配思路,轻松提升品味

静儿时尚达人 浏览 2016

克洛普:斯洛特是特别好的人;当时没人告诉我还能这么花钱

懂球帝 浏览 3713

“玻璃大王”曹德旺提前退休,儿子曹晖接班后福耀帝国走向何方?

尺度商业 浏览 3757

谢娜演唱会现场曝光!场子不大舞台很小,网友直言花上千元不值得

萌神木木 浏览 321

前男友转身花5亿娶闺蜜,徐梵溪的选择耐人寻味

失宠的小野猪 浏览 2878

在国家德比爆发冲突后,亚马尔社媒取消对卡瓦哈尔的关注

懂球帝 浏览 3655

引力一号遥二运载火箭发射成功

环球网资讯 浏览 3789

这几条裙子太适合度假了,减龄又时髦!

LinkFashion 浏览 315

成熟女性秋天衣服怎么穿?看看这些穿搭就有灵感,舒适又简约

静儿时尚达人 浏览 3852

新机发售之际,荣耀手机影像专家言论争议不断、引翻车质疑

观察者网 浏览 3743

60岁老人猥亵7岁女童:将手伸入女童的生殖器官

中国新闻周刊 浏览 8386

高盛暂停为与芝商所事故相关的数据中心公司发售债券

华尔街见闻官方 浏览 3052

奔驰今年大动作: 推15款新车 智驾覆盖全系

网易汽车 浏览 2574

牛弹琴:伊朗和美以停火又悬了 有三点实在太诡异

现代快报 浏览 1063

前安永合伙人,因酒吧斗殴被解雇,早前涉嫌勾引已婚女合伙人被警告

财通社 浏览 3531

50+女人怎么穿出时尚感?掌握这3招技巧,重新定义优雅与潮流

静儿时尚达人 浏览 3871

AI发展日新月异如何跟上变化?徐汇工匠学院人工智能训练师课程助你一臂之力

上观新闻 浏览 2789

何赛飞年初二下海岛拜年,圈外老公罕出镜

小徐讲八卦 浏览 2071

量产型Atlas进步巨大,但波士顿动力前途依旧黯淡

汽车公社 浏览 2577
本站所有信息收集于互联网,如本站收集信息侵权,请联系我们及时删除
沪ICP备20017958号-1