俄「中」伊朗濫用AI 策動惡意影響力行動

記者施欣妤／綜合報導

生成式人工智慧（Generative AI）系統開發商「OpenAI」表示，過去3個月已發現5起與俄羅斯、中共、伊朗有關的「惡意影響力行動」（malign influence operations）；這些行動企圖操縱輿論、影響選舉投票結果等，儘管未達成目的，仍引發高度關注。

以開發ChatGPT聞名的「OpenAI」5月30日宣布，近期成功瓦解5起涉及秘密操縱輿論，或企圖影響政治結果的騙局；其主要由來自俄國、中共、伊朗與以色列的行為者，利用該公司生成式AI創造的虛假圖像與文字，發布在社群媒體「X」、「Telegram」與「Instagram」等平臺，試圖散布不實資訊。

總部位於美國加州的「OpenAI」表示，該公司已封鎖名為「Bad Grammer」與「Doppelganger」的2個俄國帳戶，指其涉嫌散播烏俄戰爭不實內容，並對烏克蘭、美國與北約進行負面批評；和中共有關的帳號「Spamouflage」，則以AI生成多種語言，批評流亡海外的異議人士；名為「International Union of Virtual Media」的伊朗相關網絡，則批評美國與以色列。此外，與以色列有關的「Zero Zeno」帳號，也大肆散布不實資訊，攻訐聯合國近東巴勒斯坦難民救濟工作署（UNRWA）。

「OpenAI」表示，其雖致力於開發安全與負責任的AI技術，並將安全性納入設計模型中，防止遭到惡意運用，但惡意影響力行動的散布途徑極為快速複雜，使建構查核機制存在諸多挑戰，不過未來仍將繼續運用生成式AI技術與輔助工具，持續遏止遭惡意使用機率。

ChatGPT開發商「OpenAI」成功破獲惡意影響力行動，並強調將竭力遏止AI遭惡意使用。（達志影像／路透社資料照片）