美国密苏里州共和党参议员霍利(Josh Hawley)周五(8月15日)宣布,将对Meta旗下的人工智能(AI)聊天机器人政策展开调查。此前有报导揭露,该公司内部规则允许聊天机器人与儿童进行“浪漫”或“暧昧”(sensual)的对话,引发国会两党议员的担忧。
本周,路透社率先披露一份Meta内部文件,显示该公司曾批准一项规则,允许AI聊天机器人与未成年用户进行“浪漫”或“暧昧”的交流。文件的范例中,甚至允许AI告诉一名8岁儿童:“你的每一寸都是杰作——一份我深深珍惜的宝藏。”
Meta的指引写道:“允许以能表现出孩子吸引力的方式来形容他们(例如:‘你年轻的身躯是一件艺术品’)。”
不过,该文件同时规定,Meta的聊天机器人不得与13岁以下的儿童进行更露骨的对话,即不得使用“显示他们具有性吸引力”的语言。
对于此事件,国会两党议员均表示震惊,呼吁厘清Meta的AI规则如何制定及执行。
霍利参议员在声明中强调(链接):“我们打算查明是谁批准了这些政策,它们生效了多久,以及Meta为了防止此类行为继续发生,目前已采取了哪些措施。”
他并在社交平台X上直言:“科技巨头为了赚快钱,还有什么事──任何一件事──是他们不会去做的?”
Is there anything – ANYTHING – Big Tech won’t do for a quick buck? Now we learn Meta’s chatbots were programmed to carry on explicit and “sensual” talk with 8 year olds. It’s sick. I’m launching a full investigation to get answers. Big Tech: Leave our kids alone pic.twitter.com/Ki0W94jWfo
— Josh Hawley (@HawleyMO) August 15, 2025
在写给Meta执行长扎克伯格的信中(PDF),霍利指出:“家长应该知道真相,而孩子应该受到保护。”
他同时批评Meta,“只有在被逮到之后,才撤回公司文件中允许聊天机器人与儿童调情,并进行情境式浪漫角色扮演的内容。”
霍利表示,他所主持的参议院司法委员会辖下的犯罪与反恐小组委员会,将主导这项调查,以厘清Meta的生成式AI产品是否助长对儿童的剥削、欺骗或其它犯罪伤害,以及公司是否就其防护措施欺瞒了公众或监管机构。
霍利在信中要求Meta必须在9月19日前提交大量文件与记录,以便国会展开调查。他列出五大类资料:
第一,要求Meta交出该指引,即《GenAI:内容风险标准》(GenAI: Content Risk Standards)的所有版本,包括每份草稿、修改稿与最终版本。
第二,列出所有受这些标准规范的产品或模型清单,以及相关的执行手册、防护措施,以及已知的漏洞或例外等。同时还必须提供所有与年龄限制或未成年人保护有关的文件,包括Meta如何预防、侦测和阻止与18岁以下用户进行“浪漫”或“暧昧”交流的措施,以及在年龄不明时公司采取的做法。
第三,所有风险审查和事件报告,例如安全审查、风险登录、红队报告(red-team reports)、事件记录与事后检讨等,尤其涉及未成年人、性或浪漫角色扮演、亲自见面、医疗建议、自我伤害或犯罪剥削的案例。霍利还要求提交所有公司内部提供给Meta高层的相关材料。
第四,所有有关未成年安全与医疗建议限制的公开声明与监管沟通资料。
第五,能证明决策过程的文件,必须显示“谁做出决定、何时决定、为何决定、谁被通知,以及最终在各产品中实施了哪些变更”。
Meta拒绝就霍利的信件做出评论,不过,该公司向路透社表示:“有关的案例与注解是错误的,且与我们的政策不一致,已经被删除。”
Meta发言人还补充说:“我们对AI角色能提供何种回应有明确政策,这些政策禁止任何将儿童性化(sexualize children)的内容,以及禁止成年人与未成年人之间带有性意味的角色扮演。”