AI造假影像內容查證指引【初版】's OG Image

AI造假影像內容查證指引【初版】

更新時間:2025/11/26 10:30
尚無人精選
icon-dot
Newsroom’s guide to Detecting AI- Generated Content

編輯彙整團隊:FactLink 數位素養實驗室團隊 馬麗昕、陳慧敏、李惟平

更新時間:2025/11/20

若需要PDF完整版,請聯繫Factlink數位素養實驗室 factlinktw@gmail.com

【AI時代】媒體如何辨認影像真偽?

AI時代,我們正遊走在一條介於真實和虛幻的臨界線。當AI造假影像製作的速度、技術質量超越查證的速度時,媒體、事實查核工作者、技術專家將面對的是一場「貓追老鼠」的追趕遊戲。而面對這場艱困的挑戰,關鍵在於媒體記者能否守住最重要的真相防線。

造假影像歷史由來已久,從過往的後製剪輯、移花接木斷章取義等,到DeepFake、AI生成等造假影像。如今只需要幾分鐘就能創造數個「好」的AI假影像,而查證的時間往往是造假時間的數倍。在緊急新聞事件時就會對社會造成影響。

FactLink團隊透過與技術專家的協作設計一套「AI影像查證指南」。我們深知,在編輯截稿時間壓力下,如何快速且精確的辨認影像真偽是最關鍵的核心,因此,本指南將從第一線媒體記者、事實查核工作者的角度出發,設計出三階段查證原則:

  • 緊急事件影像基礎查證方法

  • 「AI影像」人眼辨認檢測表

  • AI偵測工具包

緊急事件影像基礎查證方法

愈複雜反而需要愈簡單,AI影像是最新趨勢,需要有新的策略、工具偵測。但是影像的真偽辨認需建立於「基礎」的查證原則。尤其是在緊急新聞事件、天災戰爭等,基本查證原則是最簡單卻總有效的方法。

當緊急新聞狀況、天災戰爭發生時:

當緊急事件、區域衝突等重大事件發生時,編輯室可以迅速建立機制,透過關鍵字來收集社群平台上熱傳的(多分享、同時多人張貼)貼文和影像,但編輯檯更核心的工作,是要檢視和查證這些來自社群上的貼文、影像是否為真實,查證是媒體最核心,也最有價值的工作。

在收集方面,社群媒體如「Facebook」、「Instagram」、「Threads」,而國際衝突事件,熱傳的影像通常是出現在X平台。

影像查證基礎原則:

來源鑑定:透過以圖反搜等方式搜尋影像最早的來源,並分析來源是否可信。

檢視來源的可信度:來源是誰?是否有辦法取得此資訊?來源平時發什麼文?此外,GoogleAI生成的影像,使用Google以圖反搜時,選擇圖片檢視可以辨認出來。
查看其他線索:交叉比對影像來源跟社群文字是否相符;找到影像的其他版本,可以做版本的比較,其他版本可能留有「AI浮水印」;檢視社群貼文下方的留言,也可能留有線索。
確認人事時地物:人事時地物、影像內容是否合理、一致。
求證:向當事人、相關單位、來源者求證。
檢視畫面:影像畫質是否不合理失真、存在明顯怪異之處。

「AI影像」人眼辨認檢測表

AI影像常出現不合常識的破綻,如聲音嘴形對不上、畫面有明顯不合物理、現實知識,人物群體經常出現破綻。以下整理人眼可以快速辨認的方向,快速辨認是否可能是AI造假影像。

聽聲音、看嘴型

  • 聽聲音與嘴型是否對得上?

  • 講話語氣、節奏停頓、呼吸是否自然?

  • 音質是否自然?

分析畫面元素

  • 影片是否出現明顯可見的AI工具浮水印圖像?下圖整理出目前常見的AI浮水印標籤對照表,若有留存浮水印可證明為相應的AI工具生成。

當媒體嘗試查證社群平台的熱傳影像時,可以留意在影像是否留有「浮水印」,「浮水印」是為影像為AI生成的直接證據,比如,若影像由sora生成,影像中看到sora字樣。

不過,這些影像貼文常會被「加工」,用部分影像馬賽克或特定logo遮掩起來,讓讀者看不到浮水印。針對此情況,在影像查證時,運用Google的以圖反搜,找到社群平台或網站上,同一影像的不同版本,有可能其他版本或原始版本仍留有「浮水印」,這是方法之一。

  • 影像是否出現明顯破圖、畫面生成斷裂、文字失真扭曲?

AI技術進步快速,截至2025年11月20日,影片破圖、畫面斷裂的情況已近乎很少出現;另外,「文字失真」狀況已逐漸改善。以最新Gemini3模型為例,繁體中文字出現較少失真狀況。僅偶有文字比例失真情形。

  • 影像畫質是否過於精緻完美、無顆粒感?如地景、天空是否過度平滑或過於規律?以及物件表面過度光滑:牆、布料、水面是否「噴砂感」?

分析人物、人群

  • 身體和五官辨認:人臉與身體接合處是否自然,有斷裂感嗎?人物手指、五官是否正常?是否出現不自然眨眼,或是根本沒眨眼?

  • 人臉細部:眼睛肌膚是否過度平滑、零毛孔、髮絲是否有獨立髮絲?齒列與嘴唇是否糊在一起?

  • 人群:人群過度同類(同年齡、性別、族群)、眾人目光同向、人與人間距相同、表情僵硬?

分析消失點與透視線

檢視消失點與透視線的合理性:真實的影像建築物、道路會在透視點匯聚(如圖);若是AI影像,透視線不會匯聚在同一點。空間幾何仍是主流AI生成的弱點,可多加利用。

例如下圖的AI主播播報畫面,可明顯看見建築的透視線匯聚在不同消失點上,為明顯破綻。

又例如下圖的真實照片,周圍建築的透視線收束在同一個消失點上。

分析光影變化、反射

  • 光影是否合理?

找出光源方向是否一致、檢查陰影是否同向,陰影方向是否互相衝突?如下圖影片一段號稱是優勝美地光影瀑布的畫面,影片一開始光影照射在左上山頭,但隨後光影隨著瀑布而下,但山頭光影並未變化,明顯不合理。

  • 物品與反射的角度是否合理?

正常的影像會有符合物理原則的折射方向。但如下圖AI生成照,人臉的角度與鏡像中明顯不符合物理常規。

確認時事、地理脈絡

  • 若出現真實事件的地點,是否有失真扭曲?可用地理工具交叉驗證比對

  • 季節/天氣/衣著:是否與宣稱時間、地點不符?

AI影像鑑定偵測工具包(更新 2025.11.20)

透過基礎查證、AI快速檢測方法,可以初步判斷影像是否為造假。若判斷為造假,可進一步分析造假的類型,不同的造假手法將會運用不同的偵測工具,或是交叉檢驗。

資安院前瞻研究中心指出,影像造假類型多元,若以造假的「技術」分類,可將影像造假類型分成cheap fake,如後製P圖,以及AI合成影音兩大類。然而,鑑定AI影像不能仰賴單一工具、方法,影像來源、人事實地物查證、常識判斷、工具偵測的綜合判斷。

了解影像攻擊手法和趨勢

AI影音造假類型多元且複雜,根據資安院數位訊息分析組分析,可分為語音變造,如文字轉語音、語音複製技術,又叫做深偽語音;以及影像變造,如換臉、唇形同步,為深偽影片(Deepfake)。

此外,生成式AI技術的進步,帶來造假影片的革新。如聲音、影片的生成,讓圖片說話、動作同步,以及用AI創作的虛擬人物「數字人」技術等。

在辨識影像時,可以採取資安的「紅藍」攻防概念,從影像怎麼被產製來思考怎麼選擇AI影像偵測來做拆解。完整且最新的影像造假手法拆解,可參考資安院數位分析組整理「影像鑑識流程」。

影像偵測工具的使用要點與心法:

在辨識影像上,可以先初步判斷影像造假方式的幾種可能,再選擇適合的AI偵測工具。要留意的是,AI辨識工具只能是記者判斷的指標之一,僅能作為參考,不能作為判斷影像真或假的唯一證據。

一、AI偵測工具的辨識準確率有限,結果應跟專家、學者討論。

二、AI偵測工具時常跟不上技術發展,工具時常難以完全偵測最新AI模型生成。

誤區一:是錯用工具而誤讀結果,比如,網民或媒體錯用AI偵測工具來查P圖影像、用生成式AI偵測工具來看臉部深偽影像,而錯把結果當作是「真實影像」。

誤區二、此外,在實務查證經驗上,也可見到造謠者會運用降低解析度、加入影像雜訊等「專業造謠」方式,來干擾AI偵測工具的信度和效度。

以下分別介紹傳統影像鑑定工具AI偵測工具、數位浮水印技術工具

傳統影像鑑定工具


檢視元數據(Metadata)

透過Metadata找尋影像的拍攝時間、拍攝裝置、拍攝地點等線索。但Metadata容易在影像上傳下載過程中遺失,且也容易移除、竄改。


metadata2go.com

用於檢視圖片/影像的 EXIF 資訊,例如拍攝時使用的相機設定、拍攝日期與位置資訊,以及縮圖等內容。

Online EXIF Viewer

用於檢視圖片/影像的 EXIF 資訊,特色是速度非常快。


檢視影像後製痕跡

檢視影像後製痕跡,若圖片經過修圖、後製可透過影像畫素鑑定工具找出後製痕跡。


FotoForensics

提供數位圖片分析工具,包含錯誤等級分析(ELA)、EXIF資料檢視、教學資源,是進行圖片真偽初步分析的常見網站之一。

Forensically

一個數位影像鑑識分析平台,提供多種分析工具,幫助檢視圖片的潛在修改痕跡與隱藏資訊。


例如將圖片放進「FotoForensics 」工具後,並使用「錯誤層級分析」(ELA)、色階調整,可發現圖片中的「芒果冰」畫素、顏色明顯與周圍不同,即能初步判斷該處是後製可能性高。

傳統影像鑑定使用注意:影像鑑定分析是一項相當複雜的工作,過度解讀分析結果可能會出錯。請不要期待單一工具能明確告訴你某張照片是否「造假」。

FotoForensics 的創辦人也提醒:「任何單一的分析算法都可能產生雜訊,進而導致偽陽性的判斷。你應該搭配其他分析方式來確認結果。『觀察』是一個很好的方法,『常識』也是。」

AI影音偵測工具


深偽影音偵測工具

聽聲音、看嘴型、人臉置換感。可能是單純文字轉語音的深偽語音,或是換臉、唇形同步的深偽影片。


Deepware

檢測深偽影片,免費開源使用。網站提供教學案例,且可請教專家解析。

Elevenlabs

專門測聲音偽造,但商業公司,不提供免費開源使用。


生成式AI影像

人物細節、光影、畫質是否過度精緻完美。類型多元,如完全用GenAI生成的影像、數字人、讓圖片說話、圖像修復、局部編輯。


imagewisper

以調查記者、研究人員與事實查核者為對象的圖像驗證工具,能分析一張影像是否含有 AI 生成跡象

was it AI

免費的快速檢查工具,操作簡便,適合快速驗證。

sightengine

提供強大的內容、影像與影片審查平台,其中 AI 生成影像偵測為一項功能,可用於大量內容自動化處理

Decopy AI

免費、免註冊的 AI 影像、文字偵測工具,即時、簡單使用。


綜合性工具

Hive Moderation

可檢測聲音、影片、圖片。免費使用其AI偵測工具,且速度、信效度高。

Scamio

免費個人詐騙檢查工具。使用者可在chat對話裡面提供可疑的簡訊、 Email、聊天截圖、圖片、連結,系統會協助判定是否有詐騙可能、圖片是否是AI合成。

資安院多媒體鑑識平台

綜合性檢測影片造假類型,使用需與資安院數位分析組專管技轉組申請授權使用。


看不見的浮水印:數位浮水印偵測技術

相對於「看得見」的AI生成工具浮水印圖像,數位浮水印如同隱藏在AI圖像後面的身份標籤,需透過特定技術才能偵測得到。目前各大科技公司如Google、Adobe、微軟皆在發展數位浮水印偵測技術。

截至目前(2025/11/20),產業尚未有統一的偵測標準,目前主流發展的數位浮水印技術,為C2PA、Google SynthID技術。

C2PA溯源技術2021年,Adobe、微軟、Intel 等科技大廠合作,發展C2PA憑證。其原理是在圖像後面植入溯源標籤,讓數位影音內容得以被溯源。

Google SynthID「SynthID」 是由 Google DeepMind 推出的數位浮水印(Digital Watermark)技術,主要目的是識別 AI 生成或編輯的內容。

核心技術在於將浮水印直接嵌入影音內容裡面,不過,這種浮水印人眼無法察覺,但透過專用工具可以檢測是否來自 Google 的 AI 工具(如 Imagen、Gemini、Veo、Lyria 等)。

C2PA與SynthID差別是?

C2PA 與 SynthID 不同,C2PA 容易在圖像轉存、壓縮時遺失標記;而 SynthID 嵌入內容中,相對穩定,但僅限 Google 工具生成的AI內容才能被偵測。

如何使用SynthID偵測GoogleAI內容?

方法一:提問 Gemini(目前僅限於圖片偵測)

你可以上傳圖片並詢問類似「這是 AI 假圖嗎?」的問題。這時 Gemini 會回覆詳細說明,包括:哪些部分被 AI 修改、所使用的 AI 工具、被AI編輯的比例。

或是可以選擇在 Gemini 輸入「@SynthID + 圖片」,但僅會得到簡短的回答,例如:「此圖片的部分或全部內容由 Google AI 生成。」

方法二:SynthID Detector(工具尚未公開,只能加入等候名單等待開放)

Google完整的SynthID 檢測工具,預計將提供專業檢測功能,如圖像熱點地圖(heatmap):以藍色(檢測到浮水印)、灰色(不確定)、橘色(未檢測到浮水印)表示是否檢測到浮水印。

該工具目前尚未公開,目前僅限少數研究人員與媒體可申請候補名單使用,尚未開放大眾。且具體偵測方式仍待後續工具實際開放使用才知道。

諮詢專家、內容取材來源: 國立陽明交通大學智慧系統與應用研究副教授許志仲、資安院前瞻籌獲研究中心數位訊息分析組經理江禹賢、研究員戴毓辰。
知識共享原則:本指引依據CC BY-NC-ND 4.0使用原則。在註明出處情況下可自由使用、引用,但禁止商業使用,以及修改、延伸、編輯創作。

新聞