关闭广告

OpenAI ChatGPT自动切换严格模型处理情感话题,用户却不知情

IT之家3397人阅读

IT之家 9 月 29 日消息,当用户提交情感化或个性化提示词时,OpenAI 旗下的 ChatGPT 会自动切换到限制性更强的语言模型,但这一过程不会通知用户。


目前,OpenAI 正在 ChatGPT 中测试一款全新的“安全路由系统”,该系统可根据对话主题自动将交流内容导向不同模型。ChatGPT 负责人尼克・特利(Nick Turley)表示,只要对话涉及“敏感或情感类主题”,该系统就会启动干预。

在实际应用中,ChatGPT 会将用户提示词临时转交至更严格的模型进行处理,例如 GPT-5,或是专用模型“gpt-5-chat-safety”。特利指出,这种模型切换仅针对单条消息触发,且只有当用户专门就此向模型提问时,切换行为才会显露出痕迹。

IT之家注意到,OpenAI 早在 9 月的一篇博客文章中就首次披露了这类基于情感的路由机制,并将其描述为针对“严重心理困扰”场景的防护措施。而特利此次的最新表态则将该机制的适用范围扩大到所有涉及敏感或情感领域的对话。

莱克斯(Lex)对这套新路由系统开展的技术评估显示,即便是无害的

版权与免责声明:本文内容转载自其他媒体,目的在于传递更多信息,不代表本网观点或立场,不承担此类作品侵权行为的自己责任及连带责任。
猜你喜欢
精彩推荐

躲在流量后面的人,被监管点名了

钛媒体APP 浏览 2121

牛弹琴:英国"动真格"了 王子被"大义灭亲"剥夺头衔

上游新闻 浏览 13552

与特朗普会晤前 泽连斯基亮明“红线”

上观新闻 浏览 1936

学者:欧洲想实现核心发展目标 除了中国没有其他选择

澎湃新闻 浏览 6317

西蒙尼:要变得更强,朱利亚诺必须努力、谦虚并保持当前状态

懂球帝 浏览 2529

问界M9 2024款开放华为ADS小蓝灯升级服务

网易汽车 浏览 2859

男子给小35岁情人转1340万 妻子:第三者生活极度奢侈

极目新闻 浏览 15170

全新前脸/三种座椅布局可选 第三代豪越L内外饰曝光

网易汽车 浏览 2606

IPO观察丨东鹏饮料再递表港交所,大单品收入占比近8成,上半年广告费超8.8亿元

红星资本局 浏览 2869

冲刺第一股,中国最大独立模型厂商的成色、能力与野心

晚点LatePost 浏览 1933

雪佛兰会退出中国市场吗?

正在说车 浏览 2737

王宝强没想到,和马蓉离婚9年后,自己的一双儿女开始为他争光了

TVB的四小花 浏览 3349

输深圳山西球迷绝望了!末节攻守全崩,精气神也丢,该清理混子了

篮球资讯达人 浏览 1638

N7单月交付破万,东风日产成功“续命”

汽扯扒谈 浏览 3514

隐形大佬入主3年后,紫光集团怎样了?

华商韬略 浏览 2873

浙大突破:经验学习提升AI智能体现实世界物理认知

科技行者 浏览 1443

又一位香港老戏骨离世

皮皮电影 浏览 2492

特朗普调侃让委内瑞拉成第53个州

红星新闻 浏览 1387

一块“十全十美”饼干,盛满星辰大海的甜

我们的太空 浏览 2524

闪充加持 新款方程豹豹8申报信息曝光

车质网 浏览 554

尴尬的是最后输了,狄龙回喷骂自己垃圾的热火球迷:看看比分,f**k

懂球帝 浏览 1591
本站所有信息收集于互联网,如本站收集信息侵权,请联系我们及时删除
沪ICP备20017958号-1