委內瑞拉總統尼古拉斯馬杜羅下台後，人工智慧生成的假慶祝活動影片在網路上瘋傳。
這些完全由人工智慧生成的影片片段顯示，大批人群鼓掌、揮舞旗幟，並感謝唐納德·川普總統和美國軍方。然而，問題是，這一切實際上都沒有發生過。
最早也是最熱門的影片片段之一是由一個名為「華爾街猿猴」（Wall Street Apes）的成人帳號發布的，該帳號擁有超過 100 萬粉絲。影片顯示，委內瑞拉公民哭泣、互相擁抱，並讚揚美國擊敗了馬杜羅。
這篇貼文在社群公告中被標記，但此時它已被3.8萬人轉發，瀏覽量達560萬人，甚至在用戶刪除之前還出現在了埃隆·馬斯克的動態消息中。公告中加入了以下警告：
“這段影片是由人工智慧產生的，目前卻被當作事實陳述來展示，其目的是為了誤導公眾。”
人工智慧平台助長了有關委內瑞拉的虛假影片的傳播。
BBC 和法新社的事實查核人員追溯到原始影片來自一個名為 @curiousmindusa 的 TikTok 帳戶，該帳戶經常發佈人工智慧生成的影片片段。
雖然我們未能找到確切的來源，但兩家新聞機構都證實這是舊版。這段影片是在1月3日美軍發動空襲和地面突襲，導致馬杜羅被捕後出現的。
在他被拘留的照片在政府發布官方照片之前就已經在網路上流傳開來，而且那些早期的照片也都是假的。
法新社也指出了其他一些誤導性內容。一段看似拍攝於加拉加斯街頭派對的視頻，實際上是智利的一段舊視頻，此前卻被冒充為委內瑞拉街頭派對的視頻。
這並非人工智慧首次被用來扭曲突發新聞的真相，也絕對不會是最後一次。類似的模式曾在俄烏衝突和巴以衝突中出現。但這一次，有關委內瑞拉的假新聞傳播速度之快、逼真程度之高，使其顯得格外不同尋常。
像Sora和 Midjourney 這樣的平台使得在幾分鐘內製作虛假影片變得極其容易，而人們仍然不斷上當受騙。
社群媒體平台難以應付虛假內容。
這些影片的製作者往往試圖宣傳某些政治觀點，或只是為了在網路上製造混亂。而且他們的確奏效了。去年，一段人工智慧生成的影片顯示，一些虛構的女性因美國政府停擺期間失去食品券福利而哭泣。福斯新聞曾將這段影片當作真實事件播放，直到後來刪除。
所有這些都引發了社群媒體平台日益迫切的訴求，要求更清晰地標註人工智慧產生的內容。印度甚至提出了一項法律草案，強制要求標註人工智慧產生的內容；西班牙也批准對任何未標註的內容處以3500萬歐元的罰款。
一些網站正在努力追趕。 TikTok 和 Meta 聲稱已經開發出基於人工智慧檢測和標記影片的工具。 CNBC 在 TikTok 上發現了一些關於委內瑞拉的虛假視頻，這些視頻已被正確標記。但結果參差不齊。
另一方面，X 主要依賴其社區筆記系統。批評人士指出，該系統的反應速度不夠快。等到人工智慧發出警報時，數百萬人已經瀏覽並分享了相關內容。
平台高層也發出了警告。 Instagram 和 Threads 的經營者亞當·莫塞里寫道：“所有主流平台都能很好地識別人工智慧內容，但隨著時間的推移，隨著人工智慧越來越擅長模仿現實，它們的表現會越來越差。”
亞當補充說：“越來越多的人和我一樣認為，對真實媒體進行指紋識別比對虛假媒體進行指紋識別更實際。”
免費加入高級加密貨幣交易社群 30 天，通常每月收費 100 美元。