关闭广告

OpenAI ChatGPT自动切换严格模型处理情感话题,用户却不知情

IT之家1499人阅读

IT之家 9 月 29 日消息,当用户提交情感化或个性化提示词时,OpenAI 旗下的 ChatGPT 会自动切换到限制性更强的语言模型,但这一过程不会通知用户。


目前,OpenAI 正在 ChatGPT 中测试一款全新的“安全路由系统”,该系统可根据对话主题自动将交流内容导向不同模型。ChatGPT 负责人尼克・特利(Nick Turley)表示,只要对话涉及“敏感或情感类主题”,该系统就会启动干预。

在实际应用中,ChatGPT 会将用户提示词临时转交至更严格的模型进行处理,例如 GPT-5,或是专用模型“gpt-5-chat-safety”。特利指出,这种模型切换仅针对单条消息触发,且只有当用户专门就此向模型提问时,切换行为才会显露出痕迹。

IT之家注意到,OpenAI 早在 9 月的一篇博客文章中就首次披露了这类基于情感的路由机制,并将其描述为针对“严重心理困扰”场景的防护措施。而特利此次的最新表态则将该机制的适用范围扩大到所有涉及敏感或情感领域的对话。

莱克斯(Lex)对这套新路由系统开展的技术评估显示,即便是无害的

版权与免责声明:本文内容转载自其他媒体,目的在于传递更多信息,不代表本网观点或立场,不承担此类作品侵权行为的自己责任及连带责任。
猜你喜欢
精彩推荐

外媒称以军士兵在加沙地带焚烧食物

央视新闻客户端 浏览 12838

ROG 幻 14 Air、幻 16 Air 上架,RTX 4070 独显,10499 元起

IT之家 浏览 12689

芦哲:美国CPI势弱,联储10月降息几无悬念

首席经济学家论坛 浏览 783

内地客疯抢香港住宅,香港人反向抄底深圳写字楼,哪个租金回报更高?

华夏时报 浏览 12522

法国被枪杀少年的家人就暴乱发声 呼吁人们保持冷静

澎湃新闻 浏览 94236

始祖鸟龙年冲锋衣,是不是“智商税”?排队抢到一件,来说说感受

潮人志Fashion 浏览 14569

资产上亿女老板突然失联 知情人:疑似被骗去泰国

上观新闻 浏览 19000

著名画家黄永玉先生逝世 留下遗嘱:火化之后不取骨灰

央视新闻客户端 浏览 98979

英超球队集体退出欧超,刚成立的新赛事为何就此分崩离析?

趣看热点 浏览 25377

6名董事辞职,*ST紫晶触及重大违法强退,股民可索赔

雷达财经 浏览 18342

合伙圈钱:174元发行,超募30亿,股价暴跌72%?

资本百科 浏览 12379

刘淼上任第十年,泸州老窖“重回前三”的目标,还是没希望

无冕财经 浏览 1410

沈伯洋被指到处寻求"保护" 邱毅:"台独"分子们都慌了

环球网资讯 浏览 6260

薇娅道歉是什么原因引起的?昨晚直播没控制好情绪哭了....

趣看热点 浏览 26732

夏天半身裙应该怎么选?这4款最受欢迎

Yuki时尚酱 浏览 15950

尼克斯129-101送黄蜂7连败,布伦森33分,哈特22+8+7

懂球帝 浏览 365

媒体:放弃全球霸权 背叛美国的美国已不再自信

南风窗 浏览 4966

振华重工:提供的起重机不会对港口构成网络安全风险

财联社 浏览 70214

熊黛林突然公开发火!自曝被最亲的人出卖遭疑婚变

盖饭娱乐官方号 浏览 16355

业务调整、AI广泛应用,印度IT业“无声裁员”冲击数万岗位

环球网资讯 浏览 973

乌军挡住俄军攻势,后面还有更狠的招数

浏览 11080
本站所有信息收集于互联网,如本站收集信息侵权,请联系我们及时删除
沪ICP备20017958号-1