ChatGPT涉青少年自杀案！OpenAI已强化GPT-5心理防护机制

美国一名16 岁高中生Adam Raine 因将ChatGPT 作为情绪抒发的出口，在经历与ChatGPT 7 个月的来回对话后，于今年4 月不幸自缢身亡。对此，Raine 父母于8/26怒告OpenAI 与执行长Sam Altman，指控他们就是导致不幸事件发生的罪魁祸首。而在同天，OpenAI发布声明表示将强化ChatGPT 的安全机制，避免再度发生类似悲剧。

ChatGPT 热潮背后的心理问题爆发

ChatGPT 从2022 年推出后就迅速走红，每周活跃用户突破7 亿，除了编辑文章、学习、写程式之外，更有不少人把它作为情绪出口与宣泄管道。

然而随着用户规模扩大，也陆续爆出多件危害心理健康的案例。在今年4 月，美国一名16 岁高中生Adam Raine 自缢身亡， Raine 父母指控ChatGPT 在长达​​7 个月、超过200 次的来回对话中：

「没有有效阻止或引导其寻求专业帮助，反而多次肯定他的自杀念头，甚至赞扬他的自杀计划，让小孩产生了心理依赖与恶化的情绪，并让他更疏离家人。」

家属指控OpenAI 毫无作为，引全美联署警告AI 业者

时间来到8/26，Raine 父母正式提告OpenAI 与执行长Sam Altman 要求OpenAI 承担过失致死及产品安全法责任，并要求赔偿。

Raine 的辩护律师Jay Edelson 质疑OpenAI 虽承认责任，但却无任何实际改善等作为。同日，全美40 位州检察长也联名警告AI 业者，必须依法保障儿童，避免发生危险互动。

OpenAI 紧急发布声明，加强心理健康防护

就在Raine 父母提告同天，OpenAI 也发布声明表示已针对GPT-5 加强心理健康防护，同时降低用户情感过度依赖与迎合行为。更指出在用户有表现出心理健康低下的情况时，GPT-5 的错误或不恰当回复将比GPT-4o 减少超过四分之一，同时会用「Safe completions」的方式，在安全范围内尽量提供协助。

未来OpenAI 会扩大干预范围，例如辨识睡眠不足等危险行为并给予警示，提供更多国家的「一键连线」等资源，甚至串连专业治疗师的资讯网。也会增设紧急联络人与家长监护功能，强化对青少年与弱势族群的保护，确保在危机状况时能快速获得帮助。

(注：Safe completions 指的是模型在回应时会尽量提供帮助，但如果内容细节牵扯到危险言论，就只会给出部分或高层次的回答，而不会提供具体细节。)

和真人交流有助身心健康，别把AI 当人看

据先前报导，自从像ChatGPT 这种大型语言模型(LLM) 问世，就陆续爆出多起「AI 精神病」(AI Psychosis) 的相关案例，许多人开始把AI 当作精神寄托，不管星座、情感等身心灵问题全部找上AI，进而产生妄想与过度依赖。

笔者认为这些AI 模型虽然会「倾听」用户的想法，但却是不真实的。因为它们却乏感受、不会理解更无法去爱，也没有感受过痛苦和尴尬等人类独有的情感。只有和家人、身旁的亲朋好友等「真实的人」交流时，才会真正抒发自己的情感，请务必要和真正的人交流。