最近幾週，圍繞著 TikTok 爆發了一場爭議。 由於大規模傳播 人工智慧生成的種族主義視頻這些創作得到了廣泛的傳播，並引發了人們對新人工智慧工具風險的警惕，也引發了人們對平台和開發者自身遏制 仇恨言論 以全速在網路中傳輸。
爭議的焦點是Google的新人工智慧， 維奧 3，最近推出，並因其產生 長達八秒的超現實主義片段 僅僅透過一段文字。根據 Media Matters 等機構的多份報告，這些影片已從數十個帳戶上傳到 TikTok，累計觀看次數達數百萬次。
充斥著種族主義刻板印象和非人化內容的視頻
媒體事務投訴重點關注 將黑人描繪成猴子、罪犯或某些食物成癮者的內容以及移民、猶太人和亞裔人士被嘲笑和惡意比較的圖像。例如，在一段最熱門的影片中，兩名白人警察在巡邏車裡指著一名黑人並開槍打死了他，這一幕的觀看次數超過14萬次。
其他視頻，由 維奧 3，影片中亞洲男性被洗漱用品追趕，或被貓狗圖像包圍，這些畫面暗指著古老的刻板印象；而猶太社區成員則追逐金幣，或被直白地影射納粹主義和集中營。在這些影片片段中，許多都帶有明顯的Google人工智慧浮水印，並被冠以#Veo3或#AI等標籤，進一步加速了病毒式傳播。
除了露骨內容外，貼文評論還包含 大量強化或慶祝的訊息 所呈現的刻板印象 擴大歧視性言論的範圍 並有助於使其正常化。
人工智慧安全措施有缺陷，監管面臨挑戰
這些影片的出現表明了它是多麼簡單 繞過人工智慧的自動過濾器。儘管 Google 宣傳 Veo 3 是一款具有高級保護措施（包括浮水印和自動阻止某些請求）的工具，但用戶還是發現 系統漏洞 生成攻擊性內容。
專家指出，人工智慧並不總是能夠捕捉 一些種族主義符號和參考的微妙之處這使得看似無辜的圖像能夠通過技術過濾，但其中包含歧視性信息，這些信息很容易被那些想要消費此類材料的人識別。 語境理解失敗 導致許多有問題的作品在被人工審核之前就被漏網。
據 TikTok 發言人稱，該社交網路將檢測演算法與 手動審核 打擊仇恨和虛假訊息，並聲稱已刪除數十個涉案帳戶和視頻，其中許多是在醜聞被媒體曝光之前。然而， 傳播速度 採取行動時損害已經造成。
TikTok 和谷歌面臨加強政策的壓力
兩家公司都重申 它們明確禁止散播仇恨言論或歧視性內容 TikTok 在其平台上強調， 使任何群體失去人性而谷歌則聲稱其人工智慧服務包括在檢測到有害術語或意圖時自動阻止。
然而在實踐中， 大眾審核不足這些公司自己也承認 影片量 越來越多的新資料上傳使得有效的即時控制變得困難。此外，就人工智慧而言，開發人員面臨著編寫所有可用於規避限制的語言和符號變體的難題。
此事引發軒然大波，民間組織、專家和學者紛紛要求 加強保障措施 在數位內容生成方面。提案包括改進人工智慧上下文過濾器、建立可見且不可移除的浮水印，以及創建用於識別視訊來源的公共工具。
病毒式傳播與演算法：仇恨被放大
這些影片的影響不僅限於TikTok。 Instagram和X（原Twitter）也發現了類似的情況，儘管影響較小。關鍵在於 推薦算法，它提高了知名度並獎勵最具病毒式傳播的內容，無論是正面的還是負面的。
分析家認為，這種現象產生了 惡性循環內容越極端，引發的反應就越多，這反過來又擴大了其影響力和輿論影響力。區分真實影片和人工智慧生成的影片的難度使得這項任務更加困難，尤其是在年輕用戶中。
令人擔心的是，如果 Google 將 Veo 3 與 YouTube Shorts 等產品集成這將促進此類影片的大規模傳播，並再次考驗審核系統的有效性。
TikTok 上的這個案例表明 迫切需要重新思考政策和技術 與人工智慧和內容平台相關的。創新不僅為創造力提供了新的工具，也催生了 道德和社會挑戰 這一點不容忽視。如果沒有一個堅實的框架，人工智慧成為仇恨傳播者的風險比以往任何時候都更大。