Meta廣告醜聞：臉書及Instagram上出現AI生成兒童性虐待內容

Meta近期面臨一項嚴重的廣告醜聞，該公司的平台上出現了數十則包含AI生成兒童性虐待內容的付費廣告。這些廣告不僅在臉書和Instagram上出現，還達到了數千個用戶，遍佈美國、英國和多個歐洲國家。

根據研究人員的發現，這些廣告包含明確的兒童性虐待內容，包括圖片和影片，甚至有一些廣告直接連結到所謂的「裸體化」或「脫衣」應用程式。Meta的廣告庫是一個透明度工具，記錄了在公司平台上顯示的廣告，顯示這些廣告在臉書、Instagram、Messenger和Threads上都有出現。

廣告內容和影響

這些廣告的內容非常令人憂慮，包含AI生成的兒童性虐待圖片和影片，甚至有一些廣告使用了兒童的面部圖片，將其合成成人性行為的影片中。研究人員指出，這些廣告並沒有任何掩飾或隱藏其內容，直接將兒童性虐待內容呈現給用戶。

根據Meta的廣告庫數據，這些廣告從去年11月到今年8月初期間發布，多數廣告只針對男性用戶。其中一個廣告甚至使用了一個孩子坐在地板上的圖片，添加了文字「實現深層幻想，使用生成AI」。當用戶點擊這個廣告時，會播放成人性行為的影片，並將孩子的面部圖片合成到性行為中。

對Meta的批評和影響

這項發現對Meta來說是一個嚴重的打擊，該公司近期面臨了多次關於兒童性虐待內容的批評。研究人員指出，Meta的廣告審查機制存在嚴重的漏洞，允許這些廣告通過審查並出現在用戶的畫面上。

Meta的回應是，這些廣告已經被移除，並且公司將繼續加強廣告審查機制，以防止類似事件再次發生。然而，研究人員和批評者認為，Meta需要做更多的工作來防止兒童性虐待內容在其平台上出現，包括加強AI生成內容的審查和提高用戶報告的效率。

這項事件提醒我們，科技公司在防止兒童性虐待內容方面需要承擔更多的責任。作為用戶，我們需要更加警惕和關注，報告任何可疑的內容，並要求科技公司加強審查和監管。

同時，這項事件也凸顯了AI生成內容的風險和挑戰。隨著AI技術的發展，生成內容的能力將越來越強大，但是這也增加了內容審查的難度和風險。因此，科技公司和監管機構需要共同努力，制定和實施有效的內容審查和監管機制，以防止兒童性虐待內容在網路上出現。