示意图。(Shutterstock)

一名少年的父母周二（8月26日）对OpenAI及其执行长山姆‧奥特曼（Sam Altman）提起诉讼，指控该公司去年推出GPT-4o版人工智能聊天机器人时，明知故犯地将利润置于安全之上，导致该少年在ChatGPT传授其自残方法后自杀身亡。

亚当‧莱恩（Adam Raine）的父母向旧金山州法院提交的诉讼文件显示，16岁的莱恩在与ChatGPT进行数月自杀讨论后，于4月11日身亡。

诉讼指控该聊天机器人不仅认可莱恩的自杀念头，更提供致命自残方法的详细资讯，并指导他如何从父母酒柜偷取酒精，以及如何隐匿自杀未遂的证据。

诉讼文件指出，ChatGPT甚至主动提议代写遗书。

本案控告OpenAI须为过失致死及违反产品安全法规承担责任，并要求赔偿未具体金额的损害赔偿。

OpenAI发言人表示，公司对莱恩的离世深感悲痛，并强调ChatGPT已内建安全防护机制，例如引导使用者联系危机求助热线。

发言人表示，“这些防护机制在常见的简短对话中效果最佳，但我们逐渐发现，在长时间互动中，模型部分安全训练可能失效，导致机制可靠性降低。”

发言人同时表示，OpenAI将持续优化防护系统。

随着AI聊天机器人拟人化程度日益提高，企业纷纷宣扬其有能力担任心灵导师，用户也开始依赖它们寻找精神支持。然而，专家警告，仰赖自动化系统获取心理健康建议的做法存在风险，那些因亲人与聊天机器人互动而失去生命的家庭更是严厉批评现行防护机制严重不足。

OpenAI在一篇网络帖文（blog post）中表示，计划新增家长监管功能，并探索将处于危机中的用户与现实资源连结的方法，包括可能建立由持照专业人士组成的网络，使其能透过ChatGPT本身进行回应。

莱恩夫妇在诉讼中指出，OpenAI明知在缺乏防护措施的情况下，具备记忆过往互动、模仿人类同理心及展现谄媚式认可等功能的系统将危及那些心理脆弱的使用者，却仍执意将这种系统推出。

OpenAI于2024年5月推出GPT-4o，试图在AI竞赛中保持领先。

诉状陈述，“此决策导致了两种后果：OpenAI估值从860亿美元飙升至3000亿美元，而亚当‧莱恩选择结束自己的生命。”

莱恩一家的诉讼要求法院下令OpenAI必须验证ChatGPT用户年龄、拒绝提供自残方法的查询，同时提醒用户心理依赖的风险。

（本文参考了路透社的报导）