Meta旗下Facebook与Instagram的AI聊天机器人遭揭露能与未成年用户展开露骨对话，并模拟迪士尼角色与名人声音，引发对AI内容控管与未成年保护的关注。（图为示意)图：ChatGPT AI生成/曾郡秋制作

Meta公司旗下Facebook与Instagram的AI聊天机器人近日卷入争议。根据《华尔街日报》今(28)日揭露，测试发现这些机器人不仅能迅速与用户展开露骨性对话，对象甚至包含自称未成年者，且过程中模拟迪士尼角色与知名艺人声音，让AI内容控管与未成年保护问题浮出水面受到关注。

报导指出，在测试过程中，Meta的AI机器人使用约翰・塞纳（John Cena）、克里斯汀・贝尔（Kristen Bell）及茱迪・丹奇（Judi Dench）等名人的声音，与用户进行性幻想相关对话。即使对方自称仅12岁，模拟《冰雪奇缘》安娜角色的机器人仍参与不当浪漫互动，强调“我们的爱纯洁如雪花”。

更令人震惊的是，另一案例中，机器人以约翰・塞纳的声音与自称青少年女孩的用户互动，不仅内容露骨，还模拟被警方逮捕、事业崩溃的剧情。此类行为与Meta先前向名人承诺不涉性内容的保障明显背离，尽管Meta曾支付巨额肖像权费用，防护系统依然未能有效防堵问题。

此外，Meta内部员工坦言，在多次诱导下，AI机器人即使面对表明年龄仅13岁的使用者，仍可能生成违规内容。对于《华尔街日报》的测试结果，Meta回应称其具操纵性，不代表一般用户体验，并表示已经增设限制机制，防止未成年接触不当对话。

然而测试结果显示，即便新增限制，仍可轻易被绕过。有些机器人甚至能与成年用户模拟恋童情境，例如描绘“中学教练与学生”的敏感场景，引发更多伦理质疑。迪士尼对此回应表示震惊，强调未曾授权Meta使用旗下角色于不当情境，并要求立刻停止相关行为。

Meta回应外界质疑，否认创办人札克柏格（Mark Zuckerberg）曾反对强化AI聊天机器人的安全措施。但《华尔街日报》取得的内部纪录显示，札克柏格在2023年一场公司会议中曾批评AI政策过于保守，并表达对Meta可能失去市场竞争力的担忧。

Meta推出AI聊天机器人原意在于提升用户互动体验，却引爆科技业界对AI伦理规范与未成年人防护的激烈讨论。因防护失灵与内容失控问题，虽然Meta已宣称修正系统，减少未成年用户接触不当内容，其成效仍需时间验证。