2024年全球逾50場全國選舉 谷歌防AI假資訊有撇步
[Newtalk新聞] 隨著生成式 AI 技術的快速發展,谷歌(Google)今天發布提升AI內容透明度報告書,包括內容來源和真實性聯盟 (Coalition for Content Provenance and Authenticity, C2PA) 的合作,以及Google打擊「2024年選舉中人工智慧欺騙性使用技術協議」的承諾。
尤其是今年全球將舉行 50 多場全國性選舉,包括即將舉行的美國總統選舉,網路搜尋引擎巨擘的Google究竟採取哪些措施,防範假新聞發生,並提升內容透明度?
一、Google如何提升生成式 AI 內容的透明度?以下為Google回答。
Google 正在協助開發新的技術,幫助大家更容易理解數位內容是如何製作和修改的,就像食品包裝上的營養標示一樣,我們希望讓 AI 產生的圖片或影片也帶有標示,告訴使用者這些內容是如何被創造出來的。C2PA 就像一個聯盟,制定了這些標示的標準,而 Google 也參與其中,努力讓網路上的 AI 內容更加透明化,包含:
內容憑證(Content Credentials):Google 參與開發 C2PA 最新版本的內容憑證標準;這個版本更加安全,可以抵禦更廣泛的篡改攻擊,因為它對驗證內容來源歷史記錄的技術要求更加嚴格。
整合C2PA 的技術標準至 Google 的產品與服務:Google 也將整合上述內容憑證標準到 Google 搜尋、廣吿等產品中:
Google搜尋: 如果圖片包含 C2PA 中繼資料(metadata),使用者將能透過的「關於這張圖片(About this image)」功能查看它是否是由 AI 工具創造或編輯的。「關於這張圖片」的功能有助於為使用提供圖片的背景資訊,並可在 Google 圖片、Lens 和以圖搜圖中使用。
Google 廣告: 我們的廣告系統將開始整合 C2PA 中繼資料。我們的目標是逐步增加這項功能,並使用 C2PA 的訊號作為執行廣告政策的條件之一。
持續發展 SynthID:Google DeepMind 的 SynthID 技術是一款為 AI 生成圖像加入浮水印與並進行識別的實驗性工具。此項技術將數位浮水印直接嵌入圖像的畫素中,人眼無法分辨,但能作為鑑定用途。Google 將持續開發 SynthID 並將數位浮水印嵌入更多元的 AI 生成內容,包含文字、音訊、圖像與影片等。
二、Google 和 YouTube 遵守《技術協議》的進展?以下為Google回答。
作為《打擊 2024 年選舉中人工智慧欺騙性使用技術協議》的原始簽署方,為履行該科技協議中的承諾,我們已在各項產品中採取多項措施,以降低蓄意、未公開和具欺騙性的 AI 生成圖像、音訊或影片可能對選舉程序完整性造成的風險,這些措施包含:
負責任地開發和評估人工智慧模型:我們利用 Model Card 來提高透明度,並增進大家對於 AI 模型的了解程度。
偵測和處理欺騙性內容:我們採用AI 來輔助紅隊測試,並限制在生成式 AI 的應用程式中進行選舉相關查詢。
讓使用者能夠識別人工智慧生成的內容:Google 是第一家要求選舉廣告商明確揭露其廣告包含合成或數位變造內容(包括透過 AI 工具生成)的科技公司。YouTube 也要求創作者在製作逼真的修改或合成內容時進行揭露,並會顯示一個內容標籤,讓觀眾知道他們正在觀看的內容是合成的,同時我們也將 SynthID 浮水印延伸到更多內容格式。
促進跨產業韌性和公共透明度:Google 也積極分享經驗和專業知識,並與民間社會組織合作,例如 C2PA。
更多Newtalk新聞報導
谷歌砸10億美元 插旗泰國搶攻AI版圖
1208座大安森林公園減碳效果!永豐、開陽再誕生「綠電信託」