資安院AI每天識別萬筆詐騙內容 通報平台下架率9成

(中央社記者蘇思云台北19日電)資安院運用AI技術研發詐騙關鍵字提取、資料探勘深化等打詐技術,每天偵測網路上可疑詐騙內容約5000筆到1萬筆,通報數位平台後的下架比率達9成,未來盼數位平台下架處理時間可少於8小時。

由數發部數位產業署委託國家資通安全研究院研發的「詐騙關鍵字提取、資料探勘深化、訊息溯源」等系列打詐技術,相關計畫經費約新台幣2000萬元。數發部今天上午舉行資安院AI打詐技術發表會,數發部政務次長林宜敬、資安院副院長林盈達都親自與會。

資安院今天分享社群詐騙廣告的「變臉術」,資安院前瞻研究籌獲中心代理經理江禹賢指出,詐騙已成為全球性問題,透過AI分析詐騙廣告的關鍵字排行第一名是「詐騙」,因為廣告內容強調不是詐騙、甚至訴求幫民眾追回詐騙等。

江禹賢表示,97%詐騙廣告只在平台刊登不到2天,超過3天以上的數量很少,因為偵測到之後廣告很快就會撤下。觀察名人詐騙內容,偵測到最多的其實是「486先生」,詐騙集團也緊跟時事,像是先前輝達(NVIDIA)執行長黃仁勳訪台時,相關詐騙廣告數量就明顯增加。

團隊今年起持續透過分類AI進行觀測廣告內容與社群訊息貼文等,透過深化資料探勘技術,發展廣告自動化巡檢機制,每月巡檢量達50萬筆,持續精進詐騙廣告特徵分析等技術。資安院開發中的人名及帳號識別結果,準確率可達93%以上。

資安院也提醒民眾,目前最盛行的是金融投資、身分冒充、愛情交友的混合式詐騙。網路上近期也冒出愛情交友諮詢、官方網址混淆、虛假課程、活動報名騙取個資、假冒慈善捐機構詐騙等新興詐騙手法。

林盈達表示,團隊透過末端清掃、偵測各類型的詐騙廣告,再透過輕量級的人工確認程序。不過,詐騙廣告存活時間短,確實增加打詐困難度,「就像打地鼠」。由於偵測內容到通報平台下架仍有時間差,未來希望詐騙內容在平台存活時間更短,減少民眾接觸到詐騙內容。

目前數位平台下架詐騙內容的時間平均約需要8小時,媒體關注平台在通報後的下架效率跟所需時間。

林宜敬表示,確實仍不滿意平台下架速度,未來持續精進3大策略,一是以自動化偵測技術取代人工作業,二是針對詐騙內容也設定優先順序進行處理,三是盼透過打詐專法草案賦予法律依據,讓平台下架詐騙內容上不用擔心法律風險。

林宜敬指出,資安院相關資料庫也會匯入數發部未來推出的「打詐通報查詢網」,民眾看到可疑訊息可以到查詢網進行查詢與通報。以名人詐騙為例,未來希望透過自動化方式跟名人確認訊息,再做後續下架機制。目前零星下架錯誤狀況,未來盼透過自動化方式、留下紀錄,提高準確度。(編輯:楊凱翔)1130619