Yahoo奇摩新聞 工作將被AI取代？陳縕儂上風傳媒「一日客座總編輯」揭實務：別過度恐慌
人工智慧（AI）近年飛速發展，在科技巨頭接連取得突破性發展後，生成式AI也逐漸成為人類社會的利器，但蓬勃發展的生成式AI也埋下不少隱憂。對此，帶領團隊合作開發台灣專屬大語言模型的台大資訊工程學系副教授陳縕儂，於《風傳媒》十周年特別企劃《一日客座總編輯》中分析，若不夠了解生成式AI就可能會過度恐慌，但AI其實能為人類賦能，讓人類的能力變得更強。
「知己知彼，百戰百勝！」陳縕儂指出，近期AI已成各界討論的熱門關鍵詞，無論是當今或在未來，AI也都將扮演非常重要的角色，但人類應了解與AI的合作之道，才得以知曉AI能如何讓人類生活變得更好，而近年各界討論熱烈的AI，也早已從抽取式AI（Extractive AI），進化為生成式AI（Generative AI，AIGC）。
陳縕儂說明，過往抽取式AI如同剛進公司的新鮮人，上頭提出任何要求，它都會遵照標準作業程序（SOP），把已知的資訊抽出進行答覆，相對之下AIGC則近似有經驗的專家，能依所學知識生成解答應對各式各樣的提問；而AIGC的訓練模式也與人類相似，首先是要閱讀吸收非常多的書籍與知識，接著再練習、考試。
不過，隨著AIGC發展日趨成熟，其是否將對人類不利，也成近年社會討論的熱門話題，陳縕儂說，目前許多國家正探討建立法規監管AI發展，擔憂AI能力若超越人類恐造成危害，但AIGC就如同人類所用的其他工具，在使用任何工具其實都有一體兩面，正確運用就能成為神助，倘若不當利用也確有可能危及人類。
曝AI監管重點方向 陳縕儂：人機協作很重要
「如果給它太多的權限，它在不受控的時候，的確就有可能危害人類。」陳縕儂認為，監管AIGC重點是應考慮能力層級，若能限縮於特定範圍內，避免其需負荷各式任務，就算失控也仍可控，「就像養小孩，要讓它有空間發展，但又不至於讓它受傷，可能就會有個圍籬讓它在裡面活動，最差可能就是撞到圍欄跌倒。」
儘管各行業人士皆出現自身工作恐遭AI取代的憂慮，但陳縕儂分析，大眾其實不必擔憂被替代，因為AI最重要的目的仍是幫助人類，以管理顧問公司麥肯錫（McKinsey & Company）的實驗為例，分析師在與AIGC人機協作下所產出的報告，平均而言較人類獨力製作的報告更有邏輯組織，且資料也更豐富。
然而，陳縕儂續指，前述麥肯錫公司的實驗也發現，雖人機協作產出的報告更優質，但當中也出現諸多錯誤，原因是AIGC給出豐富資訊的同時，內容仍可能有不少錯誤訊息，而這也是人機協作如此重要的原因，「現在AI還不完美，我們需要用人類的專業知識帶領AI，一起讓它可以幫助人類寫出更好的報告。」
AIGC也有假訊息！陳縕儂籲培養媒體識讀、事實查核
「如果你沒有事實查核的能力，你常常就會被AI給誤導。」陳縕儂提到，曾有實驗發現，就算提前警告使用者系統訊息可能有錯，使用者仍會照樣接收並相信，必須要系統反覆警示、提醒查核，使用者才會小心確認；這也近似當今的假訊息操作，若不斷聽到某項錯誤資訊，久而久之就可能「三人成虎」的誤以為真。
陳縕儂示警，前述實驗結果是非常危險的問題，若錯誤資訊一再出現且被使用者相信，極可能影響使用者的思維、知識、價值觀，並改變使用者的意識形態；而外界都明瞭在應對認知作戰時，媒體識讀、事實查核都非常重要，這其實也和判斷AIGC產出內容是否正確應具備的能力如出一徹。
陳縕儂強調，人類應對AIGC產出資訊保持警覺心並確認真實性，不應一昧相信接收到的所有資訊，如同應對假新聞應有的媒體識讀能力；實際上假新聞的錯誤資訊也未必是有意使然，但報導內就是有錯誤訊息，「具備媒體識讀能力、進行事實查核，其實才是我們這個世代，以及未來世代，應該要培養的重要能力。」
指訓練AIGC如育兒 陳縕儂：要把它養成住台灣的小孩
事實上，當前AIGC的問題不僅有不實資訊，陳縕儂直指，倫理問題是更棘手的難解議題，因AIGC在訓練過程所讀資料，可能會致其產生各式偏見，如對職業的性別刻板印象等，但就猶如養育孩童，「小朋友也有可能走歪，可能會有些不可控的狀況出現，如何導正、教育、跟它和平共處，其實都是非常重要的議題。」
此外，陳縕儂表示，目前AIGC雖能用繁體中文與台灣使用者互動，但由於資料集不足，不時會出現簡體中文或用詞落差等問題，導致無法將AIGC生成的答覆直接運用，仍需要做人工修正，也使得AIGC作為工具在台灣還不夠好用，而這也是AIGC需在地化的原因，「讓它有點像是住在台灣的小孩。」
「大家應該要多了解AI，因為在不了解的時候，你就會過度的恐慌。」陳縕儂也說，真正了解後就會發現AIGC其實沒那麼可怕，人類只要妥善利用，就能減少工作時間、提升工作效率，「AI是可以empower（賦能）人類，讓你能力變得更強，所以未來遇到任何事情的時候，你可以都試著用AI的思維來想想看。」
更多風傳媒獨家內幕：
‧ 【新新聞】金控股利活跳跳 2大亮點搶先掌握、今年獲利動能「這類型」最強
‧ 幕後》民進黨內「大數據」早算出行政院長是他！賴清德挑中卓榮泰有最重要原因
‧ 台灣綠能、SRF、長照全被插旗 「美國ISQ基金」何方神聖，背景有多硬？
更多風傳媒報導
