高嘉瑜喊「民進黨快倒台」?AI假影片竄全網 徐巧芯:若民眾轉傳被告怎麼辦?
立法院外交及國防委員會今(14)日審查「114年度中央政府總預算案關於國家安全局收支公開及機密部分」,國民黨立委徐巧芯拿出中共製作的前民進黨立委高嘉瑜的深偽影片,內容出現高嘉瑜稱「期望民進黨快點倒台」等言論。徐指出,民眾誤信傳播影片,若被提告要怎麼辦?這些民眾沒有惡意,卻可能從被害人變成加害人;民進黨召委王定宇也要求,國安局對此要積極研議,不要讓國民從受害者變成加害者,人人都可能受害。
徐巧芯關切,明年度國安局要招募AI反制人才等等計畫,但為何沒有出現在相關預算列表?蔡明彥說,這主要集中在人才培訓,以及AI技術至情工的運用,每個單位都有AI小組,並鼓勵每個小組做航向經驗分享。
徐巧芯追問,AI小組有何功能、預算多少?蔡明彥說,首先是應用到內部龐大的資料庫,因為AI作業速度較快,可進行初步分析,精簡人力;其次是AI技術系統應用,會應用新技術去了解假帳號如何生成,又用哪些AI文字透過異常帳號傳散,可用我方AI系統掌握全貌。
蔡明彥:高嘉瑜深偽影片瘋傳 背後疑有專業組織
對此,徐巧芯秀出一段影片,指出該影片中,高嘉瑜曾在某政論節目上抨擊民進黨「期望民進黨快點倒台」,雖然高嘉瑜已在臉書澄清,但相關影片已經快速傳散,除此之外也有數起類似案件,但民眾也是無惡意的轉傳,只是誤信AI影片,國安局如何處理?
蔡明彥回應,國安局有注意到該影片,是擷取高嘉瑜在1月24日政論節目的內容,再進行後製變更講話內容,目前除了在Line的封閉群組內部快速傳散之外,也有在Tiktok的異常帳號傳散,且這些異常帳號背後的IP位置不斷更動,很像專業、有系統、有組織的傳散。
蔡明彥說明,若影片危害當事人權益,國安局也會尊重當事人的法律作為,到了司法檢察國安單位,會有相關系統證明影音的真偽,可幫助偵辦及法律的攻防。 但徐巧芯指出,問題的癥結在於民眾誤信傳散影片,若被提告要怎麼辦?這些民眾是沒有惡意的,但卻可能從被害人變成加害人。
對此,民進黨召委王定宇也表示,國安局對此要積極研議,不要讓國民從受害者變成加害人,人人都可能受害。
針對後續處置,蔡明彥指出,若AI傳散涉及違法,會移請司法警察機關偵辦,若是違反社群平台內部管理機制,會積極與社群平台溝通將其下架;若是涉及到政府單位需要即時澄清的,國安局有通報機制可讓各單位快速澄清。
更多風傳媒報導