使用AI仿冒拜登聲音打給選民 美國名嘴挨罰1.9億

美國政治名嘴克萊默涉嫌用AI假冒拜登聲音誤導選民,遭政府重罰600萬美元。(圖/翻攝自CBS新聞影片)
美國政治名嘴克萊默涉嫌用AI假冒拜登聲音誤導選民,遭政府重罰600萬美元。(圖/翻攝自CBS新聞影片)

人工智慧(AI)科技愈來愈成熟,卻經常被不肖人士濫用為犯罪工具。美國聯邦政府近日祭出一筆罰款,認定一位擁有民調公司的名嘴克萊默(Steven Kramer),涉嫌利用AI工具仿冒拜登(Joe Biden)聲音,在1月份首場總統初選期間打給選民,藉此干擾拜登選情,如今克萊默將面臨高達600萬美元(約新台幣1億9382萬元)的高額罰款,外加最高7年監禁的刑事訴訟。

《美聯社》報導,現年54歲的政治名嘴克萊默,因為使用AI科技假冒拜登聲音,打電話干擾選民投票的行為,遭到聯邦通訊委員會(FCC)開罰600萬美元(約新台幣1億9382萬元),他本人也被新罕布夏州檢察官以26項罪名起訴,包含13項聯邦重罪,像是冒充候選人,最高可判處一年刑期。至於協助傳送虛假電話訊息的公司Lingo Telecom,也同樣被裁罰200萬美元(約新台幣6460萬元)。

引述外媒報導,克萊默已經承認,他在1月23日首次總統初選前2天,刻意策畫使用人工智慧,創造貌似拜登聲音的自動電話「假訊息」,電話內容故意暗示選民,若在初選當天投票,將無法在11月投票的錯誤資訊。對於自己的行為,克萊默先前在電視台專訪時表示,他並沒有要干擾或誤導選舉結果,當時花費150美元(約新台幣4845元)製作仿冒錄音,只是為了告訴大眾、AI科技潛在的危險性。

拜登總統聲音遭AI仿冒影響選情。(圖/達志影像路透社)
拜登總統聲音遭AI仿冒影響選情。(圖/達志影像路透社)

這也是第一起利用人工智慧,「干預介入」美國國家級政治活動的已知案例,此例一出,未來無論是聯邦或州級別的執法機關,都將特別關注類似案件,避免讓即將登場的總統大選受到干擾。

更多 TVBS 報導
韓版小玉!製作散播千部「換臉」色情片 2首爾大學高材生被捕
AI語音激似黑寡婦OpenAI下架!本人怒批:早已拒絕提供聲音
黃仁勳看好AI生成影片 帶動更多輝達晶片需求
OpenAI推出新模型「GPT-4o」!類人逼真對話反應快