关闭广告

斯坦福大学团队推出「许可证神谕」:让AI学会说「我不知道」

科技行者1604人阅读


当你向ChatGPT询问某位哲学家的出生日期时,它总是信心满满地给出答案,哪怕这个答案完全错误。这种现象被研究者称为「幻觉」,就像AI患了妄想症,总是编造一些听起来很有道理但实际上完全错误的信息。来自加州圣迭戈RA软件公司的理查德·阿克曼和保加利亚索菲亚大学的西蒙·埃马努伊洛夫在2025年发表的这项研究,提出了一个革命性的解决方案——「许可证神谕」系统。

这项研究发表在2025年的学术期刊上,研究者通过设计一种全新的架构,让AI在回答问题前必须先检验自己的答案是否正确,就像给AI装上了一个严格的「事实核查员」。研究团队在实验中取得了惊人的成果:传统方法只能达到56.7%的准确判断率,而他们的系统达到了完美的100%准确率,完全消除了虚假答案的产生。

研究者首先深入分析了AI产生幻觉的根本原因。在他们之前发表的研究《大型语言模型是如何被设计来产生幻觉的》中,研究团队指出,这个问题并非来自训练数据不足或模型调优不当,而是源于变换器架构本身的局限性。变换器模型就像一个只会模仿的学生,它能够生成语法正确、听起来合理的句子,但缺乏验证这些句子是否符合事实的能力。研究者将这种现象比作「平面语义空间」,在这个空间中

版权与免责声明:本文内容转载自其他媒体,目的在于传递更多信息,不代表本网观点或立场,不承担此类作品侵权行为的自己责任及连带责任。
猜你喜欢
精彩推荐

斯坦福大学团队推出「许可证神谕」:让AI学会说「我不知道」

科技行者 浏览 1605

萨高大战流产!萨巴伦卡将挑战赛变授课堂,高芙被小白菜扫成服妹

网球之家 浏览 1468

官方首次披露龚晓莉已被查:在考试录用中泄露试题

新京报 浏览 8408

捐款超1500万,嫣然医院欠租问题有望解决,但更麻烦的事在后面

数字财经智库 浏览 1606

波利塔诺:我们应铭记输给埃因霍温,提醒自己要一直全力以赴

懂球帝 浏览 2504

印度称成功在轨道式移动平台上发射导弹

新京报 浏览 2754

大S离世一周年,S Hotel酒店大门被木板封住

素素娱乐 浏览 1332

北溪爆炸案一嫌犯身份曝光 案发时为乌军现役士兵

财联社 浏览 1933

《狂野时代》外网爆口碑!西方观众惊叹,中国连电影都遥遥领先

娱乐圈笔娱君 浏览 2297

外媒:安世半导体已暂停向中国工厂供应晶圆

澎湃新闻 浏览 13476

AI算力需求疯狂,微软“新云”交易额超600亿美元

华尔街见闻官方 浏览 2494

抖音:卖茅台低于市场行情价将被处罚

第一财经资讯 浏览 2490

退出春晚25年,陈佩斯和朱时茂的生活差别太大了

贵州小娟 浏览 2690

华熙生物:前三季度业绩双降计提减值准备超九千万元 联营企业或以子公司自居现疑云

金证研 浏览 2576

中国队手下败将逆袭进联合杯四强,袁悦45分钟速败引发网友热议

网球之家 浏览 1674

特斯拉你学坏了!发文内涵国内车企,国产纯电轿车、SUV挨个躺枪

小李车评李建红 浏览 1993

从“道地药材”到“数字服务”,九州通“链”出中药增长新动能

正经社 浏览 2652

没想到这3个小习惯,给我生活带来这么大的变化

黎贝卡的异想世界 浏览 2788

午评:创业板指半日跌3% 稀土永磁板块逆势爆发

网易财经 浏览 2848

《逍遥》大结局:秉烛结束了红烨,肖瑶曾为妖王!

肆季娱乐 浏览 1765

宁愿净身出户,也要与闫妮离婚的邹伟现状如何?

律便利 浏览 2731
本站所有信息收集于互联网,如本站收集信息侵权,请联系我们及时删除
沪ICP备20017958号-1