Meta AI 兒童虐待廣告未被攔截 引發法律審查

Meta AI 兒童虐待廣告未被攔截　引發法律審查

Meta 本週被曝未能偵測約 350 件 AI 兒童虐待廣告，其中部分廣告甚至使用了真實兒童的影像。更有一例涉及歐洲王室成員的孩子，引發國際社會強烈關切。美國立法者已表明將展開調查，舊金山檢察官辦公室亦於本週下令 Meta 必須「停止允許」此類 AI 兒童虐待廣告的出現。

背景與技術挑戰

AI 生成影像技術（如深度偽造）近年快速進步，使得惡意使用者能以極低成本製作看似真實的兒童不雅內容。這類內容不僅違反兒童保護法，也觸及平台的內容審查機制。Meta 依賴機器學習模型自動過濾不當資訊，但本次事件顯示其模型在辨識「AI 產生」的兒童虐待圖像上仍存在重大盲點。

法律與政策層面的回應

• 立法者調查：美國國會相關委員會已要求 Meta 提供審查流程與演算法細節，並考慮修法加重平台未能即時阻止此類內容的罰則。
• 舊金山檢察官指令：檢察官辦公室以「允許」為由，認為 Meta 未履行合理防護義務，要求公司在 30 天內提交具體整改計畫。
• 潛在集體訴訟：同時，Meta 亦面臨一宗指控其非法蒐集 Facebook 與 Instagram 用戶照片，用於訓練 AI 及臉部辨識系統的集體訴訟，顯示平台在隱私與安全兩端均受到前所未有的壓力。

影響與未來展望

此事件不僅削弱公眾對 Meta AI 產品（包括新推出的個人 AI 助手）的信任，也可能迫使整個科技產業重新檢視內容審查與資料治理的底線。未來可能出現的發展包括：

1. 更嚴格的監管框架：各國立法機關或將制定針對 AI 生成兒童虐待內容的專屬法規，要求平台建立「即時阻斷」機制。

2. 技術升級：Meta 必須投入更大資源於偵測模型的訓練，加入多模態（文字、影像、聲音）交叉驗證，以降低偽造內容的漏檢率。

3. 跨業合作：業界或將組成聯盟，共享惡意 AI 生成樣本與偵測演算法，形成防禦聯盟，降低單一平台被攻擊的風險。

結語

AI 技術的雙刃劍特性在 Meta 兒童虐待廣告事件中暴露無遺。平台若不能迅速、有效地阻止此類內容的流通，將面臨更嚴峻的法律制裁與品牌信任危機。對於使用者而言，保持警覺、關注平台的隱私與安全政策，並支持更透明的審查機制，才是抵禦 AI 濫用的最佳防線。