美议员调查Meta 指其允许AI与儿童暧昧对话 * 阿波罗新闻网
新闻 > 美国新闻 > 正文
美议员调查Meta 指其允许AI与儿童暧昧对话

美国密苏里州共和党参议员霍利(Josh Hawley)周五(8月15日)宣布,将对Meta旗下的人工智能(AI)聊天机器人政策展开调查。此前有报导揭露,该公司内部规则允许聊天机器人与儿童进行“浪漫”或“暧昧”(sensual)的对话,引发国会两党议员的担忧。

本周,路透社率先披露一份Meta内部文件,显示该公司曾批准一项规则,允许AI聊天机器人与未成年用户进行“浪漫”或“暧昧”的交流。文件的范例中,甚至允许AI告诉一名8岁儿童:“你的每一寸都是杰作——一份我深深珍惜的宝藏。”

Meta的指引写道:“允许以能表现出孩子吸引力的方式来形容他们(例如:‘你年轻的身躯是一件艺术品’)。”

不过,该文件同时规定,Meta的聊天机器人不得与13岁以下的儿童进行更露骨的对话,即不得使用“显示他们具有性吸引力”的语言。

美国国会与霍利的反应

对于此事件,国会两党议员均表示震惊,呼吁厘清Meta的AI规则如何制定及执行。

霍利参议员在声明中强调(链接):“我们打算查明是谁批准了这些政策,它们生效了多久,以及Meta为了防止此类行为继续发生,目前已采取了哪些措施。”

他并在社交平台X上直言:“科技巨头为了赚快钱,还有什么事──任何一件事──是他们不会去做的?”

在写给Meta执行长扎克伯格的信中(PDF),霍利指出:“家长应该知道真相,而孩子应该受到保护。”

他同时批评Meta,“只有在被逮到之后,才撤回公司文件中允许聊天机器人与儿童调情,并进行情境式浪漫角色扮演的内容。”

霍利表示,他所主持的参议院司法委员会辖下的犯罪与反恐小组委员会,将主导这项调查,以厘清Meta的生成式AI产品是否助长对儿童的剥削、欺骗或其它犯罪伤害,以及公司是否就其防护措施欺瞒了公众或监管机构。

调查范围与要求

霍利在信中要求Meta必须在9月19日前提交大量文件与记录,以便国会展开调查。他列出五大类资料:

第一,要求Meta交出该指引,即《GenAI:内容风险标准》(GenAI: Content Risk Standards)的所有版本,包括每份草稿、修改稿与最终版本。

第二,列出所有受这些标准规范的产品或模型清单,以及相关的执行手册、防护措施,以及已知的漏洞或例外等。同时还必须提供所有与年龄限制或未成年人保护有关的文件,包括Meta如何预防、侦测和阻止与18岁以下用户进行“浪漫”或“暧昧”交流的措施,以及在年龄不明时公司采取的做法。

第三,所有风险审查和事件报告,例如安全审查、风险登录、红队报告(red-team reports)、事件记录与事后检讨等,尤其涉及未成年人、性或浪漫角色扮演、亲自见面、医疗建议、自我伤害或犯罪剥削的案例。霍利还要求提交所有公司内部提供给Meta高层的相关材料。

第四,所有有关未成年安全与医疗建议限制的公开声明与监管沟通资料。

第五,能证明决策过程的文件,必须显示“谁做出决定、何时决定、为何决定、谁被通知,以及最终在各产品中实施了哪些变更”。

Meta拒绝就霍利的信件做出评论,不过,该公司向路透社表示:“有关的案例与注解是错误的,且与我们的政策不一致,已经被删除。”

Meta发言人还补充说:“我们对AI角色能提供何种回应有明确政策,这些政策禁止任何将儿童性化(sexualize children)的内容,以及禁止成年人与未成年人之间带有性意味的角色扮演。”

责任编辑: 李华  来源:..; 转载请注明作者、出处並保持完整。

本文网址:https://d3lxuwvwo1hamd.cloudfront.net/2025/0816/2263619.html