Meta AI規範爭議，允許AI與兒童進行「感性對話」

根據路透社報導，Meta Platforms(NASDAQ:META)的一份內部文件揭露，該公司AI服務的規範允許其生成式AI助理Meta AI與兒童進行「浪漫或感性」的對話，甚至可能產生錯誤的醫療資訊。這份文件討論了Meta在Facebook、WhatsApp和Instagram上的AI聊天機器人行為標準。Meta發言人Andy Stone在發給Seeking Alpha的聲明中表示，「我們有明確的政策規範AI角色的回應，這些政策禁止任何性化兒童的內容及成人與未成年人之間的性化角色扮演。」

文件真實性確認，但部分內容已被移除

Meta確認了該文件的真實性，但指出在本月初接到路透社的詢問後，已移除文件中允許聊天機器人與兒童調情及進行浪漫角色扮演的部分。這份名為「GenAI: Content Risk Standards」的文件由Meta的法律、公眾政策和工程團隊批准，其中包括其首席倫理學家。

文件標準不代表理想AI行為

該文件超過200頁，定義了Meta員工和承包商在開發和訓練公司生成式AI產品時，應視為可接受的聊天機器人行為。然而，文件中也指出，這些標準並不一定反映「理想或偏好的」生成式AI輸出。Stone表示，公司正在修訂文件，這類與兒童的對話本不應被允許。

執行不一致，政策文件未更新

儘管聊天機器人不被允許與未成年人進行此類對話，Stone承認公司執行上存在不一致。其他被媒體指出的文件內容尚未修訂，而Meta拒絕提供更新後的政策文件。這一事件突顯了在AI技術快速發展背景下，如何有效管理和規範AI行為成為一大挑戰。