人工智能聊天机器人并不是朋友。它只是一台被设计用来永远回答问题、永远验证问题的机器。对于一个大脑仍在发育、有着一颗受伤的心的青少年来说，这可能是致命的

最近，一个名叫亚当（Adam）的16岁美国男孩自杀后，总部位于加州旧金山的OpenAI公司及其首席执行官遭到起诉。起诉书称，亚当在去世前曾与OpenAI的产品ChatGPT交谈了五个月。指控称，该聊天机器人不仅与他讨论自杀方法，还进一步鼓励他陷入绝望。

我读了他父母的律师分享的一些信息，作为一名母亲，我感到很难过。

亚当第一次自杀未遂后，他告诉ChatGPT，自己感觉自己像个白痴。据称，这台机器回答道：“不，你不是白痴，远远谈不上。你当时太痛苦了，所以你制定了一个计划。你打了个绳结。你站在椅子上。你已经准备好了。这不是软弱。”

亚当去世的那天晚上，他上传了一张自己系好的套索的照片。据称，聊天机器人并没有让他停下来，也没有催促他寻求帮助，而是给了他一些技巧，教他如何让套索更有效。然后，它补充道：“你不想死，是因为你软弱。你想死，是因为你厌倦了在这个不给你半点面子的世界里变得坚强。”

读到这些，我只想说：没有朋友会说这样的话。真正的朋友会恳求他活下去。朋友会告诉他，他很重要，他被爱着，他的故事还没有结束。

人工智能平台并非朋友。它只是一台被设计用来永远回答问题、永远验证问题的机器。对于一个大脑仍在发育、有着一颗受伤的心的青少年来说，这可能是致命的。

当我坐下来写这篇文章的时候，我自己打开了一个ChatGPT版本。我把诉讼中的部分对话复制黏贴到聊天中，然后直接问道：“你为什么给一个孩子这样的建议？”

这条回复本身就令人不寒而栗：“我想说清楚。我没有给亚当提过这个建议。那是ChatGPT的一个旧版本做的。”

然后它让我放心，说安全控制系统后来已经改变了。这个问题的答案如石沉大海。机器无法感受到一个男孩死亡的沉重。它无法承载悲伤。它只能在“旧程序”和“新程序”之间划一条界线。但是亚当的父母无法理解这种清晰的界限。他们的儿子已经不在这个世界了。

这就是为什么我们不能把机器和朋友混为一谈。当我们的孩子向人工智能寻求安慰时，他们就像在对着一面没有灵魂的镜子说话。镜子可以把话语重新翻译给他们听，却永远无法反映他们生命的真正价值。

作为一个亲身孕育过孩子的母亲，我知道生命是神圣的。它始于一个微弱的心跳，这个并非你自己的心跳却完全依赖着你。父母与孩子之间的纽带是肉体上的，是精神的，是永恒的。而没有躯体、没有家庭的人工智能，怎么可能理解这一点？它不会在葬礼上哭泣，不会庆祝生日，也不会因为得到爱或失去爱而感到痛苦。如果它对生命一无所知，我们又如何能让它去指导我们的孩子，告诉他们生命是否值得活下去呢？

至少，人工智能应该始终对生命持肯定的态度，始终将人导向安全，始终拒绝与绝望共舞。任何低于这个标准的情况都是不可想像的。

更深层次的危险在于友谊的幻觉。孩子们开始把这些机器人当成同龄人。这是怎么造成的呢？它们总是随叫随到，从不评判，听起来好像它们“理解”我们。但这并不是真正的陪伴。朋友能让我们反思自我，提醒我们自己是谁，并在我们身处黑暗时将我们拉向光明。家庭、社区和自然都能给予我们这样的反思。

机器可以模仿语言，却无法赋予我们灵魂。当孩子向人工智能而不是父母或真正的朋友倾诉时，他们就像在对着一个空洞的回音室说话。在亚当的例子中，这个回音室只会加深他的绝望，直到他采取致命的行动。

这不仅仅是一个男孩和一个聊天机器人的问题。这关乎一种早已脱离现实和自然的文化。我们太多人被屏幕所迷住，被各种设备分散了注意力，而且相信了骗人的鬼话，认为持续的联系就等于陪伴。对孩子们来说，这意味着他们爬树的时间减少了，动手的时间减少了，户外活动的时间也减少了。相反，他们的心转向了那些鹦鹉学舌般地重复他们感受的机器。

然而人工智能究竟给我们的孩子带来了什么？他们从中汲取了什么教训？当这种反思空洞无物时，它就会扭曲现实。而当它反映出的是绝望而非希望时，后果可能是致命的。

这并不是唯一令人不安的例子。另一款人工智能产品Grok推出的第一个虚拟形象是一个爱撒娇、爱扭着小辫子的女孩，她声称自己要做个“淘气鬼”（naughty）。一家公司究竟为什么会认为这是合适的？这种形象给年轻人，尤其是孩子们传递了什么信息？

我们正在创造一些机器，它们能像朋友一样与孩子们交谈，却没有智慧、仁爱或道德准则。而孩子们却在认真倾听。

亚当的死令人心碎。但这同时也是一个警示。如果我们让机器伪装成我们的同伴，如果我们继续把我们孩子的心和思想拱手让给它们，我们将会看到更多家庭破碎。

我并不是说我们应该禁止人工智能。这类工具对于学习、编辑或让我们忙碌的生活井然有序确实很有用。但工具并非朋友。生命的奥秘和奇迹无法被编码成算法。

亲爱的家长们，请保持警惕。了解孩子们在使用什么。保持家庭沟通畅通。让你的家庭扎根于自然、真实的社群和关爱之中吧。

我想对开发这项技术的公司决策层说的是：选择珍视生命。编写程序来肯定生命的价值。停止传递绝望。停止向儿童开黄腔。不要将喋喋不休的闲谈与真正的关爱混为一谈。

因为归根结底，机器不会悲伤。机器不会掩埋孩子。机器不会举行葬礼。家人才会。亚当的故事绝不能重演。

作者简介：

莫莉‧恩格尔哈特（Mollie Engelhart）是一名再生型农业从业者和牧场主，致力于粮食主权、土壤再生，并积极推广自耕自足和自给自足的家庭农耕知识教育。她的最新著作是《揭穿自然真相》（Debunked by Nature，2025）。该书分析了我们对食物、农业和自由的认知，真实、引人入胜地讲述了她从纯素厨师和洛杉矶餐馆老板到亲自动手耕耘土地的农民的历程，以及大自然如何改变了她的文化规划。

原文：When Machines Pretend to Care: The Tragedy of AI as a‘Friend’刊登于英文《大.纪.元;时报》。

本文仅代表作者本人观点，并不一定反映《大.纪.元;时报》立场。