影/死人復活、莫迪跳舞…AI深偽技術滲透印度選舉 假新聞缺乏監管引憂

記者孫蔣君/綜合報導

隨著印度大選進入投票階段,網路上充斥著使用AI工具生成的深度偽造(Deepfake)內容,當地專家擔心這些缺乏監管的假訊息將影響選情。

近日,印度總理莫迪(Narendra Modi)跳舞的深偽影片在X上走紅。(圖/翻攝自X)
近日,印度總理莫迪(Narendra Modi)跳舞的深偽影片在X上走紅。(圖/翻攝自X)

據英國BBC16日報導,2023年11月,印度南部的一名事實核查員奇納杜賴(Muralikrishnan Chinnadurai)在觀看英國一場以泰米爾語進行的直播活動時注意到,有一名中年女子自稱是恐怖組織「泰米爾猛虎」頭目的女兒,現身並呼籲世界各地的泰米爾人繼續為自由鬥爭。然而,這名女子早在2009年的一場空襲中身亡,且從未找到當時23歲的她的遺體。

奇納杜賴經過仔細觀察才發現影片破綻,原來這名女子是人工智慧所生成的虛擬形象,用來煽動泰米爾納德邦(Tamil Nadu)當地民眾的情緒,而這只是印度大選前夕迅速傳播的假訊息的冰山一角。

隨著印度大選進入投票階段,網路上大量出現與選舉相關的人工智慧生成內容,從競選影片到客製化錄音,甚至可以模仿候選人的聲音自動撥打電話。有內容創作者使用AI工具展示了印度政治家從未有過的形象:穿著休閒運動服,演奏音樂和跳舞。隨著工具變得更加複雜,專家們擔心這些虛假新聞可能影響真實的選情。

印度政黨不是世界上第一個利用最近人工智能發展的政黨。就在巴基斯坦邊界以外,它讓被囚禁的政治家伊姆蘭·汗(Imran Khan)發表了一次集會演講。

而在印度本土,總理莫迪(Narendra Modi)也已經充分利用新興技術有效地進行競選活動——通過使用政府創建的AI語言翻譯工具Bhashini,可以實現印地語和泰米爾語的即時翻譯。

6日,莫迪在X上轉推了一段AI生成的自己跳舞的影片,並表示:「我和大家一樣喜歡看自己跳舞。在選舉高峰期展現的這種創造力確實令人愉悅。」
6日,莫迪在X上轉推了一段AI生成的自己跳舞的影片,並表示:「我和大家一樣喜歡看自己跳舞。在選舉高峰期展現的這種創造力確實令人愉悅。」

據BBC報導,目前對於此類深偽內容創作者還缺乏監管,創作者在採訪時表示,自己完全是依靠個人道德來決定要做什麼和不做什麼。此外,深偽色情影片和錄音也成為攻擊政治對手的常見手段。

專家表示,這些假新聞已經進入主流媒體,但目前印度選舉委員會仍對此保持沉默。印度前選舉委員會委員庫雷希(SY Qureshi)表示,「謠言一直是選舉活動的一部分,但在社群媒體時代,它可能像野火般蔓延。」

延伸閱讀
影/第2個「N號房」!南韓首爾大學爆「深偽」色情影像案 已有61女受害
輝達看漲!Q1淨利年增7倍將分拆股票 黃仁勳:AI工業革命已展開
新聞集團授權OpenAI內容使用 5年價值2.5億美元