在數位科技與新傳播方式推波助瀾下，網路及社群媒體足以讓各種話題及輿論快速地獲得討論與關注。在人人皆可成為自媒體情況下，使有心人士得以編造假新聞，以虛構或移花接木內容仿新聞媒體形式散布於社群平台。
疫情至今尚未緩解，關於新冠病毒的假新聞也跟著大流行。路透社研究指出，今年1到3月假新聞查核數量較去年同期暴增九倍，各種防疫假新聞禁之不絕，如連續憋氣十秒代表肺部無纖維化或喝大量鹽水能擺脫新冠病毒等，這些都是世界衛生組織證實的假新聞，WHO更稱這些假新聞為「資訊傳染病（Infodemic）」。
網路言論已不僅限於意見表達與分享，背後操弄的假新聞對國家運作已造成實際影響，有鑒於此，美國、加拿大、法國及新加坡等政府近三年來分別透過立法希望對假新聞散播者進行制裁。我國為遏止假新聞氾濫，2019年8月成立「假訊息防制中心」，今年4月升格為「調查局資安工作站」，以強化政府對打擊網路犯罪能力。
假新聞以數量多、散播快速且觸及面廣大特性，實難單憑人力查核控管，因此各大社群媒體紛紛借助AI力量來對抗。
假新聞因應對策與具體作法成為各大社群媒體被大眾檢視的要點，社群媒體相繼借重AI用以打擊假新聞。全球最大搜尋引擎Google透過演算法辨識出最具權威及可靠的資訊來源，在搜尋引擎中提高具公信力的資訊排名，將品質較低或帶有惡意的資訊降至較不顯眼的位置，並且與外部評估人員合作，持續評估平台演算法的適切性與品質。
2020年Google提供名為Source的應用程式，透過AI圖像辨識協助亞洲各地區的新聞編輯室能夠更有效追溯圖片來源、真實性及是否有操弄紀錄。旗下子公司Youtube採用人機協做為內容進行把關，先以機器學習協助大規模識別違規影片，再交由內部數千名專業審查人員進一步標記。除把關影片內容外，為防止以聳動或誤導性影片標題賺取點擊率，Youtube改善過去只採計點擊量的推薦系統演算法，將影片的觀看時間和完整觀看次數納入考量。
Facebook則在民權組織聯合品牌大廠的「Stop Hate for Profit」抵制行動後，對平台上的爭議性言論做出些微改變，除以AI辨識公開貼文，並將可疑資訊交由第三方事實查核機構審核真實性，也計畫設置新標籤「Newsworthy」用以標註具有價值的新聞內容。Facebook還研發辨識偽造帳戶與分析帳戶活動屬性的AI模型，此模型宣稱在2019年移除66億個假帳戶。而Twitter以機器學習辨識及標記受操縱或合成的影片，用以識別深度偽造的換臉影片。
綜觀擁有廣大用戶的社群媒體，對於假新聞的因應對策主要有三個方向，一是調整平台演算法及計分權重，將具公信力的資訊置頂採優先劣後策略；二是人機協作進行事實查核，先以AI大規模辨識假新聞，再交由專業查核人員審查；三是持續研發AI技術以對假新聞及深度偽造技術。雖然各大社群媒體積極研發AI技術以對抗假新聞，但AI的造假技術也不斷提升。現今AI自然語言生成技術能撰寫出高品質的新聞文章，AI深度偽造技術從影像到聲音都可竄改，假新聞的氾濫讓社群媒體難以一己之力對抗。
因此國際上AI新創或資安公司開始投入對抗假新聞行列，除解決假新聞問題，亦擴展產品面向。例如資訊驗證防火牆、企業品牌保護以及惡意帳戶辨識等資訊安全產品。
（本文刊登於2020/11/22 經濟日報 A12版）