关闭广告

OpenAI ChatGPT自动切换严格模型处理情感话题,用户却不知情

IT之家4431人阅读

IT之家 9 月 29 日消息,当用户提交情感化或个性化提示词时,OpenAI 旗下的 ChatGPT 会自动切换到限制性更强的语言模型,但这一过程不会通知用户。


目前,OpenAI 正在 ChatGPT 中测试一款全新的“安全路由系统”,该系统可根据对话主题自动将交流内容导向不同模型。ChatGPT 负责人尼克・特利(Nick Turley)表示,只要对话涉及“敏感或情感类主题”,该系统就会启动干预。

在实际应用中,ChatGPT 会将用户提示词临时转交至更严格的模型进行处理,例如 GPT-5,或是专用模型“gpt-5-chat-safety”。特利指出,这种模型切换仅针对单条消息触发,且只有当用户专门就此向模型提问时,切换行为才会显露出痕迹。

IT之家注意到,OpenAI 早在 9 月的一篇博客文章中就首次披露了这类基于情感的路由机制,并将其描述为针对“严重心理困扰”场景的防护措施。而特利此次的最新表态则将该机制的适用范围扩大到所有涉及敏感或情感领域的对话。

莱克斯(Lex)对这套新路由系统开展的技术评估显示,即便是无害的

版权与免责声明:本文内容转载自其他媒体,目的在于传递更多信息,不代表本网观点或立场,不承担此类作品侵权行为的自己责任及连带责任。
猜你喜欢
精彩推荐

店主被城管咬破手指 想拿砖头砸人被劝"想想你儿子"

极目新闻 浏览 41355

进化是否足够?法拉利Amalfi首测:新名字,旧传统

ams车评网 浏览 2716

陈伟霆何穗官宣当爸妈!圈内仅5位明星送祝福,女方为爱放弃事业

萌神木木 浏览 3085

肖战主演电影《得闲谨制》,有点东西!

不八卦会死星人 浏览 2954

CEO们不再为了流量吹牛,挺好的

汽车公社 浏览 3096

董忠云:保持战略定力,增强必胜信心,A股有望恢复震荡上行趋势

首席经济学家论坛 浏览 3529

推动新场景大规模应用要打通哪些堵点?专访工信部赛迪研究院胡国栋丨聚焦国常会

封面新闻 浏览 3443

三年半亏19亿,行政处罚超400条,享道出行IPO了

市值Observation 浏览 3467

遭央视起底 台媒:沈伯洋内心已经相当恐惧

北京日报客户端-长安街知事 浏览 8210

芯天下弃A转港,2025年前三季度业绩扭亏,毛利率回升至18%|港E声

时代周报 浏览 2695

秦昊一家五口度假,伊能静少女打扮但很显胖

八怪娱 浏览 2926

央视一周 4 次点名全红婵,夺冠后真实处境揭开

寒士之言本尊 浏览 3339

戳破马拉松泡沫经济

诗与星空 浏览 3602

刘亦菲慷慨捐款150万助力香港,助力灾后重建与心理支持

茶韵浮生 浏览 3106

让AI沉下来 北京锻造人工智能第一城

北京商报 浏览 2431

苹果预计今年不会发布标准版 iPhone 18 推迟到 2027 年

威锋网 浏览 2735

阿里发布生态级AI助手数字人形象——千问“小酒窝”

大象新闻 浏览 813

俄乌两国元首新年同时强硬 泽连斯基邀特朗普"直飞"乌

上观新闻 浏览 17855

《东北警察3》票房受挫;谢苗又白努力了

靠谱电影君 浏览 2389

斯坦福大学团队推出「许可证神谕」:让AI学会说「我不知道」

科技行者 浏览 2594

在特斯拉model Y和小米 YU7里二选一,怎么选?

蜗牛车志V 浏览 2620
本站所有信息收集于互联网,如本站收集信息侵权,请联系我们及时删除
沪ICP备20017958号-1