新聞室裡的AI 倫理問題

人工智慧，特別是生成式AI是非常先進好用的科技，但是，水能載舟，亦能覆舟，傳播媒體應如何善用此一新科技，不可不慎。

今年國際公評人組織ONO（The Organization of News Ombudsmen

and Standards Editors）在倫敦召開的年會有一場與AI引發的新聞倫理問題相關的小組討論，「新聞編輯室中的人工智慧——新聞倫理的新問題」，由加拿大 JournalismAI.com的安德魯‧科克蘭（Andrew Cochran）主持，參與討論的分別是英國《衛報》的編輯創新主管克里斯‧莫蘭 (Chris Moran)，《路透社》高級研究員尼克‧紐曼（Nic Newman），和BBC的記者兼愛丁堡大學研究員布朗尼‧瓊斯（Bronwyn Jones）。

主持人開場時就引述AI教父傑佛瑞‧辛頓（Geoffrey Hinton）的話，認為在人工智慧AI長足發展的今天，我們不應該再稱呼其為人工智慧，而應該是區分「數位智能」和「生物智能」（digital intelligence vs. biological intelligence）。科克蘭指出，構成數位智能的是四種要素：1、越來越快速的電腦；2、越來越多元龐大的資料；3、越來越厲害的演算法；4、越來越多的資本需求（金錢）。

首先發言的是《路透社》高級研究員尼克‧紐曼，他以一份簡單的PPT說明目前人工智慧AI在新聞媒體的運用，最常使用的部分是客製化推薦、付費專區、新聞室的自動化等，內容的產製端，則最常見用AI來做總結（summarization）。 其他像整理資料、製圖等，也是常見的用法。

接著發言的《衛報》編輯創新主管克里斯‧莫蘭 (Chris Moran)則對媒體使用AI，特別是目前流行的生成式AI ChatGPT抱持批判而謹慎的態度。他首先舉出他自己今年4 月 6 日在《衛報》上發表的一篇名為 “ChatGPT is making up fake Guardian articles. Here’s how we’re responding” (ChatGPT 正在編造虛假的《衛報》文章。 這是我們的回應方式) [1]的文章[2]。他的基本立論是，除非新聞工作者對於輸入生成式AI的資料（data）是自己完全可以控制的，否則不應該將生成式AI產生的內容當作事實，而應該當成意見（opinion）來處理。

在後續的發言中，《路透社》高級研究員尼克‧紐曼提及生成式AI現在也被用在一些其他技術的開發上，例如將PDF檔快速轉換成文字檔的應用。另外提及彭博社目前也已經發展出他們自己的GPT[3]，也就是指使用他們自己報導的新聞作為生成式AI學習的資料，企圖排除有不符事實未經查證的資料被滲入，影響後續生成內容的真實性與正確性。 彭博社於2023年三月底宣布推出了一個大規模人工智能模型，該模型經過金融數據訓練，可以改進現有的自然語言處理任務，例如情緒分析和新聞分類。

在近一小時的小組討論中，其實重點只有一點，就是《衛報》編輯創新主管克里斯‧莫蘭 (Chris Moran)說的，除非新聞工作者對於輸入生成式AI的資料（data）是自己完全可以控制的，否則不應該將生成式AI產生的內容當作事實，而應該當成意見（opinion）來處理。

國外已有不少媒體針對如何使用AI訂定準則，並向社會公告以示負責，例如英國公視BBC[4]、加拿大公視CBC，以及英國《衛報》、《路透社》（Reuters）等媒體組織也都由總編輯以公開信方式，於今年5、6月間向員工宣示了使用生成式AI的必要遵循原則，以及若干具體要求。相關細節，公視董事長胡元輝近期已在其投書《天下獨立評論》的文章〈興奮之外，更須警惕！媒體業急需制訂AI倫理規約〉[5]有非常詳盡的說明。

人工智慧，特別是生成式AI是非常先進好用的科技，但是，水能載舟，亦能覆舟，傳播媒體應如何善用此一新科技，不可不慎。

[1] https://www.theguardian.com/commentisfree/2023/apr/06/ai-chatgpt-guardian-technology-risks-fake-article

[2] https://www.mnews.tw/story/20230427ombuds001 鏡電視外部公評人翁秀琪在〈當生成式AI捏造虛假的媒體來源和內容 新聞專業將毀於一旦〉一文中，即曾介紹過註一提及的克里斯·莫蘭 (Chris Moran)的文章〈ChatGPT 正在編造虛假的《衛報》文章。 這是我們的回應方式〉，有興趣的讀者可以找來閱讀。

[3] https://www.institutionalinvestor.com/article/2bsts3kce1udcfcy33z7k/portfolio/the-bloomberg-terminal-just-got-a-chatgpt-style-upgrade

[4] https://www.bbc.co.uk/rd/projects/bbc-machine-learning-engine-principles

[5] https://opinion.cw.com.tw/blog/profile/52/article/13952 天下獨立評論