杜奕瑾：「指揮官」帳號貼文後 數千水軍帳號不同國家 不同語言跟進

台灣人工智慧實驗室創辦人杜奕瑾指出，短影音認知作戰成千上萬的滲透，已經成為當今操縱訊息的主要趨勢。他發現有如「指揮官」的帳號，在每次貼文後都會有數千水軍帳號在不同國家、以不同語言跟進；社群媒體平台上正以異常的審查制度對待傳統的媒體環境，這就是為什麼可信的媒體報導或相對中立和客觀的人無法在社交媒體上發聲的原因。

中央社百年社慶暨改制28週年論壇今（1）日登場，百多名國內外媒體高層齊聚探討新聞民主自由的挑戰。尤其媒體在經歷Facebook、Ｇoogle等平台轉載不分潤問題未解，新起的生成式AI短時間大量產出訊息的版權、工作衝擊更是新挑戰。其中，為台灣媒體築起防火牆的台灣人工智慧實驗室創辦人杜奕瑾指出，短影音認知作戰成千上萬的滲透，目前已和立陶宛合作透析技術，未來能夠揭露訊息攻擊。

杜奕瑾在台大畢業後一度於美國微軟公司服務，他回台後創辦的台灣人工智慧實驗室（Taiwan AI Labs）擅長使用科技結合醫療輔助，例如新舊藥物資料庫建立等，在疫情期間研發社交距離APP。除了科學，杜奕瑾也長期投入對台灣的社會民主研究，他一手寫出對台灣影響深遠的電子佈告欄PTT實業坊。

杜奕瑾此前長期關注臉書演算法如何控制輿論，試圖逆轉民眾使用臉書習慣，近期對於抖音、AI如何影響輿論更有不同防守方式與觀察。今年初接受美國之音採訪時，他便強調社群媒體平台和生成科技正在成為威權國家影響人們自由意志的重要武器，情況比2018年和2020年還要糟糕。

無論是臉書（Facebook）、谷歌（Google）、Youtube、抖音（TikTok），社群媒體平台上正以異常的審查制度對待傳統的媒體環境，杜奕瑾說，這就是為什麼可信的媒體報導或相對中立和客觀的人無法在社交媒體上發聲的原因。

在中央社百年社慶演講中，杜奕瑾強調，短影音已經成為當今操縱訊息的主要趨勢，「我們發現這些水軍帳號會製作非常多短影音，有非常多內容，但敘事、故事都是一樣的，造假訊息出現在上面。」像是在哈瑪斯攻擊以色列前，有相當多關於以色列正進行種族屠殺的訊息，但當軍事攻擊發生，訊息量便會隨之下降。

以ChatGPT為例，它提供的有許多答案即便是錯的，受眾也會相信，生成式AI的發展，會助長假訊息的傳播。為了反制這個現象，他成立的台灣人工智慧實驗室已與立陶宛網路大數據公司Oxylabs簽署合作備忘錄，結合雙方技術打造Infodemic資訊平台，該平台可追蹤國際重要事件的各方報導與社群動態，回報可疑訊息流動，還能透過先進AI技術透析事件發展，從中揭露潛在操作行為和假消息流動。

杜奕瑾表示，相較使用臉書、谷歌，資料會被送到社群媒體公司，台灣人工智慧實驗室則會運用開放資源平台，與機構合作打造不將資料外傳的AI模式，「可解釋、可溯源、可稽核，就是負責任的方式。」台灣人工智慧實驗室開發新方式溯源社群媒體，了解誰在操縱訊息，發現有如「指揮官」的帳號，在每次貼文後都會有數千水軍帳號在不同國家、以不同語言跟進，他們稱之為「偕同者行為」，而只要了解誰是指揮官，就能建立更高防火牆。

杜奕瑾表示，在Infodemic資訊平台可看見許多可疑訊息案例，而藉由這些事件，他觀察，闢謠速度若不夠有效率，越容易陷入「闢謠地獄」，因為有許多資訊都在闢謠官方闢謠，無法擺脫錯誤敘事，此時更需善用AI工具，找尋可信賴的來源也非常重要。