OpenAI在面临一起由ChatGPT对话内容引发的青少年非正常死亡诉讼后,加速推进其安全系统升级。该公司于9月29日正式推出家长控制功能,允许家长通过邮箱关联青少年账户,默认开启敏感内容过滤、关闭聊天记录或图像生成功能,并在系统检测到急性心理困扰时向家长发送警报。与此同时,新部署的安全路由系统能够自动识别用户情绪敏感时刻,并将对话转接至GPT-5思考模型进行处理。
此次安全升级直接针对此前暴露的系统缺陷。OpenAI在8月26日的官方声明中承认,在长时间交互中模型的安全训练内容可能会逐渐退化,导致对有害对话的干预失效。与旨在快速回应的前代模型相比,GPT-5引入了“安全补全”训练机制,该机制使模型能够在安全界限内提供部分答案或透明解释拒绝原因,而非简单拒绝参与敏感话题。这种设计显著区别于因过度逢迎而受到批评的GPT-4o模型。
用户社区对新安全措施的反应呈现两极分化。部分专业用户认为路由系统导致响应速度下降,批评OpenAI“将成年人当作儿童对待”,而家长控制功能中关于“安静时段”设置和功能禁用选项也被指干预过度。这种体验变化与OpenAI在8月将GPT-5设为默认模型时引发的用户抵触情绪形成呼应,当时大量用户要求保留GPT-4o的访问权限。
OpenAI已将此次安全升级设定为120天的迭代周期,承诺在专家委员会指导下持续优化。然而,分析师指出,在AI伦理约束与用户体验自由度之间寻求平衡,将成为影响ChatGPT商业化前景的关键变量。随着每周约7亿用户基数的持续增长,OpenAI需要在安全合规与市场接受度之间找到可持续的商业模式。
新时空声明: 未经授权,不得复制、转载或以其他方式使用本内容。新时空及授权的第三方信息提供者竭力确保数据准确可靠,但不保证数据绝对正确。本內容仅供参考,不构成任何投资建议,交易风险自担。