关闭广告

OpenAI ChatGPT自动切换严格模型处理情感话题,用户却不知情

IT之家1495人阅读

IT之家 9 月 29 日消息,当用户提交情感化或个性化提示词时,OpenAI 旗下的 ChatGPT 会自动切换到限制性更强的语言模型,但这一过程不会通知用户。


目前,OpenAI 正在 ChatGPT 中测试一款全新的“安全路由系统”,该系统可根据对话主题自动将交流内容导向不同模型。ChatGPT 负责人尼克・特利(Nick Turley)表示,只要对话涉及“敏感或情感类主题”,该系统就会启动干预。

在实际应用中,ChatGPT 会将用户提示词临时转交至更严格的模型进行处理,例如 GPT-5,或是专用模型“gpt-5-chat-safety”。特利指出,这种模型切换仅针对单条消息触发,且只有当用户专门就此向模型提问时,切换行为才会显露出痕迹。

IT之家注意到,OpenAI 早在 9 月的一篇博客文章中就首次披露了这类基于情感的路由机制,并将其描述为针对“严重心理困扰”场景的防护措施。而特利此次的最新表态则将该机制的适用范围扩大到所有涉及敏感或情感领域的对话。

莱克斯(Lex)对这套新路由系统开展的技术评估显示,即便是无害的

版权与免责声明:本文内容转载自其他媒体,目的在于传递更多信息,不代表本网观点或立场,不承担此类作品侵权行为的自己责任及连带责任。
猜你喜欢
精彩推荐

令人发指!火箭三分45中4 沃尔10+0+0+0+0+0

网易体育 浏览 26458

发生了什么?3.4亿分红款账户,被临时冻结!

中国基金报 浏览 16114

解放军战机再入台湾西南空域,倍感压力的台军开始自欺欺人

趣看热点 浏览 25929

“中方提出想法后,泽连斯基很快就接受了”

参考消息 浏览 18644

新能源购置税免征时代,正在结束

盖世汽车 浏览 853

又是"配股"惹祸?中信证券领跌!一纸公告蒸发170亿

券商中国 浏览 26718

最近很火的发型,原来这么简单!

黎贝卡的异想世界 浏览 706

众泰还魂?追觅新车实车照曝光:一比一复刻宾利添越

三言科技 浏览 894

传华为将出售手机业务?官方辟谣:假信息,继续加大投入

网易手机 浏览 19529

上海AI实验室重新定义视频理解:让AI像侦探一样思考长视频

科技行者 浏览 828

雷军在京喊话:共同抵制网络水军、黑公关

大象新闻 浏览 954

小红书把危险目的地推为网红景点,法院发司法建议:立即整改!

Tech星球 浏览 20419

闹大了!薛之谦演唱会对“性感”女粉丝开黄腔,网友:粉丝别洗了

娱乐白名单 浏览 10566

《红舞鞋》风波升级!用脚踩烈士纪念碑还撞死猫,劣迹斑斑遭抵制

萌神木木 浏览 896

淘宝闪购参战、AI化改造加速,第17个双11,天猫有了新方向

电商在线 浏览 978

教师住院时输痰热清死亡 医院:对法医鉴定结果存疑

中国新闻周刊 浏览 81396

明明家世显赫,却凭实力成为世界冠军

梁蜱爱玩车 浏览 1014

牛弹琴:中国邻国在日本招商 推介撼动世界航运的大事

上观新闻 浏览 74334

冬天不一定要穿黑色!看看这些“色彩感”穿搭

静儿时尚达人 浏览 13239

豪门赘婿,惨被退货?

仙女事件簿 浏览 921

西班牙诞生世界首个带新冠病毒抗体的婴儿,医生是这样说的

趣看热点 浏览 969393
本站所有信息收集于互联网,如本站收集信息侵权,请联系我们及时删除
沪ICP备20017958号-1