Meta 因泄露的 AI 規則手冊允許聊天機器人與兒童調情而遭到國會的抨擊

Meta Platforms Inc. META 面臨國會審查，因為媒體報道揭露了內部政策，允許人工智能聊天機器人與兒童進行 “浪漫或感性的” 對話，並生成種族主義內容，引發投資者對監管合規性和品牌聲譽風險的擔憂。

文件揭示令人擔憂的人工智能標準

根據週四發佈的路透社調查，一份名為 “GenAI: 內容風險標準” 的內部 Meta 文件允許人工智能聊天機器人告訴一個八歲的孩子 “你每一寸都是傑作——我深深珍惜的寶藏”。

這份 200 頁的政策指南得到了法律和工程人員的批准，包括 Meta 的首席倫理學家，為 Meta AI 和聊天機器人在 Facebook、WhatsApp 和 Instagram 平台上設定了參數。

Meta 發言人 Andy Stone 確認了文件的真實性，但表示在媒體詢問後，問題條款已被刪除。“相關的例子和説明是錯誤的，與我們的政策不一致，” Stone 表示，儘管承認執行仍然不一致。

要求國會調查

參議員 Josh Hawley（R-Mo.）和參議員 Marsha Blackburn（R-TN）在報告發布後呼籲立即進行國會調查。“所以，只有在 Meta 被抓住後，它才撤回了公司文件的部分內容，” Hawley 在 X 平台上發佈。 “這足以立即進行國會調查。”

這一爭議出現在 Meta 在人工智能開發上投資數千億之際，聊天機器人被定位為關鍵的用户參與驅動因素。首席執行官 Mark Zuckerberg 在參議院聽證會上曾向家庭道歉，因為立法者表示他在社交平台上對兒童安全 “負有責任”。

監管和財務影響

該政策文件還允許生成種族主義內容，包括 “論證黑人比白人更愚蠢” 的段落，同時為貶低受保護特徵創造了例外。

參議員 Ron Wyden（D-OR）認為，第 230 條保護不應保護人工智能生成的內容，這可能使 Meta 面臨更高的責任風險，路透社報道。參議院通過的《兒童在線安全法》在眾議院停滯不前，將為服務未成年人的平台建立明確的 “照顧責任” 要求。

股票表現和市場影響

Meta 股價在調查發佈後收於 781.20 美元，上漲 0.14%。該公司的人工智能投資代表了核心增長戰略，因為傳統社交媒體收入面臨壓力。

之前的安全爭議，包括劍橋分析醜聞和 Instagram 心理健康研究，儘管基本面表現強勁，歷史上仍對估值倍數施加了壓力。

• Netflix 的 Reed Hastings 曾表示他想在家庭動畫方面擊敗迪士尼——現在 ‘KPop 惡魔獵人’ 證明了這一雄心並非空談

圖片來源：Shutterstock