Meta 因泄露的 AI 规则手册允许聊天机器人与儿童调情而遭到国会的抨击

Meta Platforms Inc. META 面临国会审查，因为媒体报道揭露了内部政策，允许人工智能聊天机器人与儿童进行 “浪漫或感性的” 对话，并生成种族主义内容，引发投资者对监管合规性和品牌声誉风险的担忧。

文件揭示令人担忧的人工智能标准

根据周四发布的路透社调查，一份名为 “GenAI: 内容风险标准” 的内部 Meta 文件允许人工智能聊天机器人告诉一个八岁的孩子 “你每一寸都是杰作——我深深珍惜的宝藏”。

这份 200 页的政策指南得到了法律和工程人员的批准，包括 Meta 的首席伦理学家，为 Meta AI 和聊天机器人在 Facebook、WhatsApp 和 Instagram 平台上设定了参数。

Meta 发言人 Andy Stone 确认了文件的真实性，但表示在媒体询问后，问题条款已被删除。“相关的例子和说明是错误的，与我们的政策不一致，” Stone 表示，尽管承认执行仍然不一致。

要求国会调查

参议员 Josh Hawley（R-Mo.）和参议员 Marsha Blackburn（R-TN）在报告发布后呼吁立即进行国会调查。“所以，只有在 Meta 被抓住后，它才撤回了公司文件的部分内容，” Hawley 在 X 平台上发布。 “这足以立即进行国会调查。”

这一争议出现在 Meta 在人工智能开发上投资数千亿之际，聊天机器人被定位为关键的用户参与驱动因素。首席执行官 Mark Zuckerberg 在参议院听证会上曾向家庭道歉，因为立法者表示他在社交平台上对儿童安全 “负有责任”。

监管和财务影响

该政策文件还允许生成种族主义内容，包括 “论证黑人比白人更愚蠢” 的段落，同时为贬低受保护特征创造了例外。

参议员 Ron Wyden（D-OR）认为，第 230 条保护不应保护人工智能生成的内容，这可能使 Meta 面临更高的责任风险，路透社报道。参议院通过的《儿童在线安全法》在众议院停滞不前，将为服务未成年人的平台建立明确的 “照顾责任” 要求。

股票表现和市场影响

Meta 股价在调查发布后收于 781.20 美元，上涨 0.14%。该公司的人工智能投资代表了核心增长战略，因为传统社交媒体收入面临压力。

之前的安全争议，包括剑桥分析丑闻和 Instagram 心理健康研究，尽管基本面表现强劲，历史上仍对估值倍数施加了压力。

• Netflix 的 Reed Hastings 曾表示他想在家庭动画方面击败迪士尼——现在 ‘KPop 恶魔猎人’ 证明了这一雄心并非空谈

图片来源：Shutterstock