AI聊天不再绝对私密 OpenAI确认:威胁他人将转交警方

作为全球用户最多的AI应用,ChatGPT自上线以来一路火爆,同时也伴随着不少争议。近日,OpenAI在官网发文承认,过去在处理用户心理健康危机方面曾出现过失误。
更引人关注的是,OpenAI透露,他们已经开始监测用户对话中涉及“危害他人”的内容。一旦判定存在严重威胁,将交由公司内部专门小组进行人工审查;若确认对他人安全构成紧急风险,相关信息甚至会直接转交执法部门。
换句话说,如果有人在ChatGPT里讨论“伤害他人”的计划,不仅账号可能被封禁,还可能被警方找上门。
不过,OpenAI也强调,这套机制目前仅限于“威胁他人”的情况。至于涉及自残或自杀的对话,平台不会主动报警,而是提供心理援助资源链接,以尊重用户隐私。
消息曝光后引发热议:有人认为这是保障公共安全的必要措施,但也有人担心,AI聊天的“私密性”正逐渐被打破。