关闭广告

OpenAI ChatGPT自动切换严格模型处理情感话题,用户却不知情

IT之家4425人阅读

IT之家 9 月 29 日消息,当用户提交情感化或个性化提示词时,OpenAI 旗下的 ChatGPT 会自动切换到限制性更强的语言模型,但这一过程不会通知用户。


目前,OpenAI 正在 ChatGPT 中测试一款全新的“安全路由系统”,该系统可根据对话主题自动将交流内容导向不同模型。ChatGPT 负责人尼克・特利(Nick Turley)表示,只要对话涉及“敏感或情感类主题”,该系统就会启动干预。

在实际应用中,ChatGPT 会将用户提示词临时转交至更严格的模型进行处理,例如 GPT-5,或是专用模型“gpt-5-chat-safety”。特利指出,这种模型切换仅针对单条消息触发,且只有当用户专门就此向模型提问时,切换行为才会显露出痕迹。

IT之家注意到,OpenAI 早在 9 月的一篇博客文章中就首次披露了这类基于情感的路由机制,并将其描述为针对“严重心理困扰”场景的防护措施。而特利此次的最新表态则将该机制的适用范围扩大到所有涉及敏感或情感领域的对话。

莱克斯(Lex)对这套新路由系统开展的技术评估显示,即便是无害的

版权与免责声明:本文内容转载自其他媒体,目的在于传递更多信息,不代表本网观点或立场,不承担此类作品侵权行为的自己责任及连带责任。
猜你喜欢
精彩推荐

豆瓣9.1,宫崎骏大师动画神作最后告别放映!

幕味儿 浏览 3473

台"馆长"称"把赖清德狗头斩下来" 遭民进党当局约谈

环球时报新闻 浏览 21390

特斯拉在华重要招聘!

电动知家 浏览 2790

场均2.70分,阿隆索登顶皇马主帅前10场西甲场均拿分榜

懂球帝 浏览 3443

业主84万元新房被粪水环绕 管道一天直排粪水10余次

潇湘晨报 浏览 6640

X把伊朗国旗改成狮子太阳旗 哈梅内伊把"国旗"删了

澎湃新闻 浏览 13239

新国标电动车被指不能带小孩、超速会断电 官方回应

新京报 浏览 35796

今年冬天最火搭配:毛衣+毛衣,放松穿更好看!

LinkFashion 浏览 2535

标配华为乾崑智驾 深蓝S07售15.69万起

网易汽车 浏览 4437

33岁的张一山惊艳亮相,杨紫这次真得避嫌了?

探长影视解说 浏览 3490

美国政府进入史上"停摆"最长时间 特朗普表态

红星新闻 浏览 16173

宁波方正携手山东未来机器人,聚焦深海机器人业务

财闻 浏览 3649

A股继续走牛有底气

IPO日报 浏览 2639

造议员假丑闻、给假新闻链接,谷歌 Gemma AI模型遭投诉后下架

IT之家 浏览 3380

长安马自达正在寻找新能源时代连接用户的新方式

澎湃新闻 浏览 3455

德约六王赛退赛向观众道歉遭网友怒喷来捞钱,球迷用成绩狠狠打脸

网球之家 浏览 3723

伊朗官员提开放霍尔木兹海峡条件

央视新闻客户端 浏览 1070

美军打击“箭在弦上” 伊朗有哪些应对手段?

澎湃新闻 浏览 2297

卡内基梅隆大学打造"神经侦探":让AI像破案一样学会理解语音

科技行者 浏览 2746

美军演练与解放军大规模作战 专家分析

北京日报 浏览 1731

男子给小35岁情人转1340万 妻子:第三者生活极度奢侈

极目新闻 浏览 16417
本站所有信息收集于互联网,如本站收集信息侵权,请联系我们及时删除
沪ICP备20017958号-1