
OpenAI推出的Sora AI影片生成器,令深偽內容的逼真度達到新高,模糊了虛實界線。隨著Sora 2應用程式爆紅,公眾對虛假資訊傳播的憂慮日益加劇。本文將深入探討Sora帶來的技術挑戰,並教授三大實用方法,助讀者辨識AI生成影片的真偽,包括檢查水印、元數據以及留意平台標籤。
即刻【按此】,用 App 睇更多產品開箱影片
AI深偽影片更逼真:Sora 2來襲,教你三招辨識真偽
OpenAI旗下ChatGPT的母公司推出的AI影片生成器Sora,令深偽影片(deepfakes)的像真度提升至前所未有的水平,進一步加劇了虛擬與現實界線模糊的難題。特別是全新的Sora 2社交媒體應用程式,在網上迅速爆紅,用戶正想方設法「獵取」邀請碼。
Sora火速爆紅:深偽噩夢與技術疑慮
Sora並非一般的社交媒體平台,它是一個「AI深偽世界」:平台上所見的一切影片均由AI生成,並非真實片段。雖然初看起來人畜無害,但其潛在風險不容忽視。
從技術層面看,Sora影片相比起如Midjourney的V1或Google的Veo 3等競爭對手,表現令人刮目相看:
高解像度
音訊同步
創意驚人
Sora一個名為「cameo」的熱門功能,容許用戶利用他人的樣貌,將其植入到任何AI生成的場景中,效果嚇人地逼真。正因如此,眾多專家對Sora表示憂慮,擔心它使人更容易製作危險的深偽內容、散播假資訊,令公眾人物及名人更容易成為受害者,如SAG-AFTRA等工會已促請OpenAI加強其防護措施。
辨識AI生成的線索:水印與元數據
要分辨影片是否出自Sora等AI生成工具,科技公司和社交平台正持續面對挑戰,但並非全無希望。以下是幾種可循的辨識方法:
1. 留意Sora水印
所有透過Sora iOS應用程式下載的影片,都會附帶一個水印。
這個水印是白色的Sora標誌(雲朵圖示),會在影片邊緣彈跳,類似TikTok影片的水印模式。
為內容加上水印是AI公司協助用戶辨識AI生成內容的主要方法之一,例如Google的Gemini「nano banana」模型會自動為其圖像加上水印。
不過,水印並非萬無一失。靜態水印易被剪裁,即使是Sora這種會移動的水印,市面上也有專門的應用程式可移除。OpenAI行政總裁Sam Altman曾表示,社會必須適應這個「任何人都能為任何人製作假影片」的世界,這也突顯了單靠水印並不足以驗證真實性。
2. 查核影片元數據(Metadata)
元數據是內容創建時自動附帶的一系列資訊,包括鏡頭類型、拍攝地點、日期、時間及檔案名稱等,不論是真人或AI製作的影片都具備。
大量AI生成內容會包含內容憑證,標示其AI來源。OpenAI加入了內容溯源與真實性驗證 C2PA,意味著Sora影片會包含C2PA元數據。
用戶可透過內容真實性倡議(Content Authenticity Initiative)的驗證工具來查核影片、圖像或文件的元數據。
步驟:
前往指定URL:
https://verify.contentauthenticity.org/上傳欲查核的檔案,點擊「Open」。
查看右側面板資訊。若為AI生成,內容摘要會包含相關標示。
經此工具查驗的Sora影片,會顯示「issued by OpenAI」,並註明是AI生成。
然而,此類AI偵測工具亦非百分百準確。若影片經第三方應用程式處理(例如移除水印),並重新下載,則可能難以被工具標示為AI生成。作者測試確認,如Midjourney等非Sora製作的AI影片,此工具亦未能偵測。
3. 留意社交媒體平台的AI標籤及創作者披露
如Meta旗下的Instagram或Facebook,以及TikTok和YouTube,均設有內部系統和政策,嘗試標記並標示AI生成內容。雖然系統不完美,但用戶可留意被標記的貼文。
最可靠的辨識方法,是創作者自行披露。現時不少社交平台提供設定,讓用戶標示貼文為AI生成,或在內容描述中簡單說明。
在離開Sora應用程式分享AI生成影片後,披露其來源成為我們集體的責任,以幫助區分真實與AI製作的內容。
保持警覺:勿盡信眼前所見
沒有一勞永逸的方法能準確地一眼判斷影片真假。最好的防範措施是不盲目相信網上所見的一切。
相信直覺:如果影片看起來不真實,它很可能就是假的。
細心觀察:在現今這個AI充斥的年代,最好的防禦就是仔細檢查觀看的影片,而非快速掃視和滑過。
留意異常:檢查是否有文字扭曲、物件消失或違反物理定律的情況。
Source:cnet
【相關報道】
【相關話題】實測教學 Google Gemini一鍵AI生成Powerpoint 只需3步高效出簡報
Google 正為其 Gemini 應用程式內的互動工作空間 Canvas 推出重磅功能,讓學生和職場人士能透過簡單提示或上載特定文件,即時生成帶有主題和圖像的專業簡報。此功能可直接匯出至 Google Slides 進行後續編輯和協作,現正逐步開放予個人及 Workspace 帳戶使用。
Source: ezone.hk
