关闭广告

斯坦福大学团队推出「许可证神谕」:让AI学会说「我不知道」

科技行者1602人阅读


当你向ChatGPT询问某位哲学家的出生日期时,它总是信心满满地给出答案,哪怕这个答案完全错误。这种现象被研究者称为「幻觉」,就像AI患了妄想症,总是编造一些听起来很有道理但实际上完全错误的信息。来自加州圣迭戈RA软件公司的理查德·阿克曼和保加利亚索菲亚大学的西蒙·埃马努伊洛夫在2025年发表的这项研究,提出了一个革命性的解决方案——「许可证神谕」系统。

这项研究发表在2025年的学术期刊上,研究者通过设计一种全新的架构,让AI在回答问题前必须先检验自己的答案是否正确,就像给AI装上了一个严格的「事实核查员」。研究团队在实验中取得了惊人的成果:传统方法只能达到56.7%的准确判断率,而他们的系统达到了完美的100%准确率,完全消除了虚假答案的产生。

研究者首先深入分析了AI产生幻觉的根本原因。在他们之前发表的研究《大型语言模型是如何被设计来产生幻觉的》中,研究团队指出,这个问题并非来自训练数据不足或模型调优不当,而是源于变换器架构本身的局限性。变换器模型就像一个只会模仿的学生,它能够生成语法正确、听起来合理的句子,但缺乏验证这些句子是否符合事实的能力。研究者将这种现象比作「平面语义空间」,在这个空间中

版权与免责声明:本文内容转载自其他媒体,目的在于传递更多信息,不代表本网观点或立场,不承担此类作品侵权行为的自己责任及连带责任。
猜你喜欢
精彩推荐

韩国U23 4-2逆转黎巴嫩U23,姜成真、金泰元建功,文承旻破门

懂球帝 浏览 1632

阿尔巴:对我帮助最关键的是埃梅里;我心中梅西就是历史最佳

懂球帝 浏览 2626

数据不会说谎!《向往8》收视0.3

手工制作阿歼 浏览 2359

外媒:泽连斯基向特朗普展示俄境内潜在打击目标地图

环球网资讯 浏览 8270

LLM越狱攻击威胁被系统性高估? 基于分解式评分越狱评估新范式

机器之心Pro 浏览 2897

NBA战报:活塞122-117步行者取NBA12连胜,西亚卡姆24分

懂球帝 浏览 2284

特朗普:我说服了自己暂缓对伊朗采取军事行动

澎湃新闻 浏览 1600

曾以105.6万成交的"凶宅"再次上架 26.6万元起拍

封面新闻 浏览 7784

湖人123-120险胜猛龙,八村垒三分绝杀,詹姆斯17中4仅8分

懂球帝 浏览 2124

小城大事:郑德诚风波解除,李秋萍为空降镇长

少女的烦恼 浏览 1694

美团、京东外卖、淘宝闪购:自愿执行《外卖平台服务管理基本要求》国家标准

澎湃新闻 浏览 2177

沃尔沃S60也开始卷价格?最高优惠12.6万

汽车网评 浏览 2007

她是钟小姐的穿搭榜样,从20岁到70岁,每一套都让人想copy

黎贝卡的异想世界 浏览 2643

宽基ETF被抢筹,市场风格走向何方?

国际金融报 浏览 1976

泽连斯基称俄罗斯正为更大规模冲突做准备 俄方回应

红星新闻 浏览 3273

娜扎被抢休息室,网友扒出疑似林允

萌神木木 浏览 2758

滴滴自动驾驶不甘落后

虎嗅APP 浏览 2822

美媒称美国允许乌对俄使用远程导弹 特朗普:假新闻

界面新闻 浏览 2592

何健麒公开无犯罪记录证明,回应前女友涉毒举报

韩小娱 浏览 1481

孙红雷和妻子王骏迪逛街,比老婆矮显娇小

八怪娱 浏览 1716

陈赫去国外度假,俩女儿一个像爸一个像妈

大嘴爱哔哔 浏览 1638
本站所有信息收集于互联网,如本站收集信息侵权,请联系我们及时删除
沪ICP备20017958号-1