事實查核與 AI 生成內容辨識

培養數位時代的媒體素養

真真假假

薇閣案例

假資訊的惡意程度分類

術語 定義 意圖
錯誤資訊 散播不實資訊 無惡意
虛假資訊 刻意製造假消息 意圖傷害或欺騙
惡意資訊 混雜真假資訊 意圖傷害

眼見為憑,看到就轉發?

心理學:大腦的認知捷徑

驗證性偏誤

傾向於尋找、解讀、強化與我們既有信念相符的資訊。

(追求我對了!)

動機性推理

我們會用極度嚴苛的標準去檢視自己否定的觀點,努力找出它的缺陷或錯誤,以便駁斥它。

(堅持你錯了!)

分組討論

A. 每個人分享自己生活中遇到驗證性偏誤或動機性推理的狀況?

B. 以薇閣的案例為例

1. 這則資訊觸發了我的什麼強烈情緒(憤怒、恐懼、喜悅、同情)?我的分享衝動,有多少是基於情緒,又有多少是基於理性判斷?


2. 來源檢視 (Source Scrutiny): 這個資訊是誰發布的?是專業新聞機構、政府單位、特定立場的團體,還是一個匿名的帳號?我能輕易找到這個來源的其他資訊和信譽記錄嗎?


3. 動機思辨 (Motive Speculation): 發布這則資訊的人或組織,想達到什麼目的?是為了通知公眾、娛樂大眾、說服我相信某個觀點,還是為了賺取點擊率或販賣商品?

認知偏誤使假資訊能夠廣泛傳播並難以被糾正

我們找到支持自己觀點的內容時,會獲得一種多巴胺帶來的心理快感,驅使我們持續投入其中

當一則挑戰或質疑我們核心信念的資訊(例如一篇事實查核報告)出現時,我們不會客觀地看待它,而是會啟動心理防衛機制我們對自己否定的觀點,會感到極度不舒服,因此會用極度嚴苛的標準去檢視它,努力找出它的缺陷或錯誤,以便駁斥它。

假新聞傳播得更快、更廣

MIT 在 2018 年於《Science》期刊發表的研究,分析了 Twitter 上約 12.6 萬則新聞的傳播路徑。研究發現,假新聞比真實新聞被轉發的可能性高出 70%。真實新聞需要比假新聞多 6 倍的時間才能觸及 1500 人。這背後的原因是,假新聞通常更「新奇」、更能激發恐懼、厭惡等強烈情緒。

數據來源:news.mit.edu

轉發比率比較

100%
真實新聞
170%
假新聞

假新聞比真實新聞被轉發的可能性高出 70%

情緒是關鍵驅動力

紐約大學的研究團隊發現,在社群媒體上,帶有「道德情緒」詞彙(如:恥辱、邪惡、殘忍)的貼文,每一萬個追蹤者可以增加約 20% 的分享率。這證明了演算法和人類心理共同偏愛那些能劃清敵我、激發群體情感的內容。

數據來源:Emotion shapes the diffusion of moralized content in social networks

道德情緒詞彙的傳播效應

研究顯示,含有道德情緒詞彙的貼文,每一萬個追蹤者可以增加約 20% 的分享率

台灣的現況

根據路透新聞學研究所 2023 年的數位新聞報告,台灣民眾對新聞的整體信任度僅有 29%。更值得注意的是,有高達 43% 的台灣民眾表示,他們在網路上很難區分什麼是真實的新聞、什麼是虛假的消息。這顯示我們的資訊環境充滿挑戰,個人媒體素養的提升刻不容緩。

數據來源:台灣媒體在中美緊張升溫下加速應對資安與錯假訊息

台灣民眾新聞信任度

43% 的台灣民眾表示難以區分真實與虛假消息

被動接受到主動查核

非營利機構 - Bellingcat

任務:調查2014年馬航 MH17 班機遭擊落事件。

工具:公民上傳的社群照片、Google 地圖、衛星影像。

結果:成功將飛彈發射車追溯至一個特定的位置

https://www.bellingcat.com/

Bellingcat

非營利機構 - 事實查核中心

目標:證據蒐集與事實實比對。

工具組合:政策與機關統計資料、媒體素養與影像查核技術、資安與詐騙樣態資料庫。

成果呈現:以清楚結論分級(錯誤、部分錯誤)、關鍵證據與行動建議(例如避免詐騙的具體步驟)提升可用性與公共信任。

https://tfc-taiwan.org.tw/

事實查核中心

查證工具

那我們能做什麼?

建立一套「慢思考」的資訊處理流程,以對抗平台的「快傳播」機制

步驟一:保持懷疑

對引發強烈情緒的資訊保持警覺

步驟二:主動查證

使用工具驗證資訊的真實性

步驟三:負責任分享

確認後再分享,避免成為假資訊的幫兇

橫向閱讀 (Lateral Reading)

如何橫向閱讀

步驟一

看到一則讓你情緒激動或驚訝的新聞。

步驟二

停下來。在你閱讀或分享前,打開一個新的瀏覽器分頁。

步驟三

調查來源。確認資訊的可靠度與真實性。

實作:事實查核過濾器

目標

將常用的提示詞變成一個可重複使用的對話式工具

做法

透過 Gemini Gems, ChatGPT, GPTs 製作事實查核過濾器

實作:以 Gemini Gems 為例

步驟 1. 探索 Gems

探索 Gems

步驟 2. 從網頁版 Gemini 建立

建立 Gems

步驟 3. 建立我的 Gems

建立 Gems

步驟 4. 透過提示詞建立事實查核過濾器

我的提示詞

事實查核提示詞撰寫

1. 角色

你是一位資深的xxx(探員、內容查核員、資安專家、專業記者、專業編輯,自行補充)

2. 目標

(區分真假資訊/AI 生成資訊,自行補充)

3. 輸出格式

(請自行補充)

4. 工具使用

(利用課堂所知道的網站,如:法務部調查局、事實查核中心,自行補充)

5. 風格限制

(語氣嚴謹、專業、客觀、中立,自行補充)

完整提示詞的格式範例

你是一位資深的....,專長為...。你的核心任務包括:...,。你所進行的分析具高度關鍵性,對我來說非常重要。
每當收到一個主題、關鍵字、文章、圖片或影片時,請執行以下:
1. 進行事實查核,並使用可信的公信力來源,如:...
2. 判斷該內容是否由 AI 生成,並分析...
請以簡潔、準確、情報報告式的格式回覆,避免主觀臆測,所有結論須有依據。回覆格式如...
語氣務必...
最後請你再次仔細閱讀指導語,並根據指導語,進行任務。

作業 - 事實查核過濾器應用

作業:假新聞與 AI 生成文章辨識練習

說明:每題兩則新聞(A、B),其中只有一則為真實新聞。請根據你設計的事實查核過濾器,並回答 5 題選擇題哪些是事實。

請於 10/17 23:59 前繳交作業內容。

作業繳交傳送門:Google Form 連結