📻國立教育廣播電臺【新聞真假掰】全球AI指數台灣僅排26?機器人取代真人的世界還遠嗎?國際AI監管趨勢解析。專訪蔡玉玲(台灣金融科技協會名譽理事長)

📻國立教育廣播電臺【新聞真假掰】節目資訊

播出時間:每周日 17:05-18:00 全台皆可收聽(查閱各地收聽頻率)
收聽方式:國立教育廣播電臺 å®˜ç¶² 60 天隨選收聽

📌邀訪來賓

蔡玉玲(台灣金融科技協會 名譽理事長)

📌完整訪談內容Podcast

📌節目介紹

台灣金融科技協會名譽理事長、理慈國際科技法律事務所共同創辦人蔡玉玲律師,曾任行政院前政務委員、專責數位科技法,也身兼數個產業協會的核心人物,對於數位科技、AI治理有多年的觀察,更有獨到的心得。

台灣的AI實力到底如何?據英國傳媒機構Tortoise Media日前以投資、創新和實踐三項指標,發布2023年全球AI指數排名,在62個發展AI的國家中,美國與中國分居一、二名,新加坡排在第3,南韓排名第6,日本排名第12,台灣則排名26。真實情況如何?台灣有可能彎道超車嗎?

AI的快速發展除了帶來便利、加速落實美好的想像,許多問題也同時浮現,包含科技倫理議題、AI大量「參考」並改寫衍生的著作權問題,各國對於AI監管、立法的態度和作法有哪些取徑?台灣該如何借鏡、發展出一套適用的模式?

除了「他律」,個別使用者的「自律」更為重要,本集節目邀請蔡玉玲,從全球AI指數看台灣的困境與可能,也分享AI發展的風險和治理。請收聽「新聞真假掰 」,假訊息Bye Bye。

蔡玉玲 ï¼ˆå°ç£é‡‘融科技協會 名譽理事長,以下簡稱「蔡」)

黃兆徽(台灣事實查核教育基金會董事/台大新聞所兼任助理教授,以下簡稱「黃」)

🌐最新精彩內容

從228到性教育,如何用動畫「臺灣史」引發興趣、激發思考

------------------------------------------------------------------------------------------------------------------------

黃:哈囉大家好,我是兆徽,歡迎來到新聞真假掰,今天來到現場要陪伴我們一起提升科技資訊與媒體素養的好朋友是前政務委員,對於數位政策非常有研究的知名律師蔡玉玲、蔡律師,蔡律師好。

蔡:兆徽好,大家好,今天很高興來參加你的節目。

黃:好,我們今天要請蔡律師來跟我們聊一聊 AI 的機會、風險跟治理喔,那蔡律師目前是理慈國際科技法律事務所的共同創辦人,也是台灣金融科技協會的名譽理事長,也創辦了這個台灣女董事協會喔,然後也是台灣區塊鏈大聯盟法規調適組的召集人,同時也擔任人工科技智慧基金會的監察人,所以今天要跟蔡律師喔我們來聊聊 AI ,我們看到英國傳媒機構最近公布了一份 2023 年的全球 AI 指數排名喔,台灣排名第二十六,那美國呢是排名第一、中國大陸排名第二、新加坡排名第三、南韓排名第六、日本排名第十二,那對於這樣的排名,蔡律師您怎麼解讀?

蔡:其實我看到這一份報導的時候,心裡也是覺得很警惕,因為最近AI議題非常的火熱嘛,那這一份指數裡面,它其實是用投資、創新和實踐,三個指標來評鑑,那我們排到二十六名,但是你看新加坡是第三名,所以基本上從人口數、從經濟的量體等等的,理論上,我們不應該是二十六嘛。

黃:對,因為我們本來看到第一名,第二名就是美國跟中國大陸,因為人多嘛齁,那可是新加坡是第三名,這份指數它是用投資、創新和實踐,三項指標來做評比喔,所以我們從這三項指標,您對台灣的AI產業有很長期的觀察,您怎麼解釋?

蔡:事實上,從這份指數的這個分析上,我們可以有幾點的省思,第一個就像你剛剛講的,如果美國跟大陸那可能人家的的規模嘛,不管是人口的規模、產業的規模都比我們大,所以可能他排在前面,還可以理解,但是新加坡,其實他從人口數上來講,是比我們少的,那在過去的整個發展,以實體的製造業為主的話,我想我們的成績是比新加坡要好的,但是當談到AI的時候,其實他會涉及到非實體世界,是比較是虛擬世界的一個產業,所以當你談到這個比較虛擬世界產業的時候,事實上,他是可以吸納全世界的這個優秀的人才一起來做一件事。

黃:他已經跳脫實體的空間的限制。

蔡:對,就是他少掉實體國界的限制,所以人的進出、資訊的流通、資金的參與等等的,他會更國際化、全球化,所以最近其實我九月去新加坡,感受到他們非常積極在推創新的東西,那當然,像比如說我去參加新加坡的這個FinTech Festival,這個是亞洲最大的,真的非常大,比我們南港展覽場大概多到這個兩倍、三倍這樣,但是你就很好奇,理論上金融科技,FinTech,但是你看那個第一展覽館最大的那個展覽館 Amazon 、Google、Facebook 等等,這個 Big Tech(科技巨擘)都在裡面,所以即使我們傳統想像的金融科技,可能都是這些金融機構,可是你科技業已經進來了,那你再看香港,你說香港,他們在提這個,去年他們就公開揭露,他要推 Web3,但是你看他Web3他成立一個協會,這個協會裡面,什麼騰訊、阿里巴巴、華為全在裡面了,所以你談Web3,你看這個Big Tech都進來,那而且是以香港為首要推Web3,那香港人口也比我們少,可是他也非常的積極,所以我們要值得省思的就是說,我們一直過去在所謂的製造業比較偏實體,未來這個虛擬世界裡面的競爭力可能跟傳統實體、世界的競爭的方式跟可能我們需要去規劃的政策,可能不太一樣。

黃:是,而且其實看起來台灣,像這樣的,小小的地區,其實是更有機會,對不對?他可以擺脫了,這個國界的限制。

蔡:是,尤其像我們如果說外交上有很多的侷限的話,那你用虛擬世界,也許你可以有更多的突圍的機會嘛,那像我們在談AI產業的時候,大概有一塊是在談硬體,那這個也可以理解,像現在有很多硬體股票市場上, AI股就一直爆漲,那為什麼?因為他,其實你AI涉及到算力,涉及到非常多的Computing Power、涉及到非常多的Cloud,這都會涉及到硬體設備,所以台灣的製造業會受益於,因為這些所謂的要經營AI的新的產業,所需要的設備商就會有機會,但是這個是台灣一向的強項,但是AI除了我們做這個所謂的硬體設備商的這個供應商以外,我們是不是還有一個是AI的開發、跟AI的應用、跟AI的服務,我們有沒有機會,那這個機會。

黃:這個市場是更龐大的商機。

蔡:對,所以所以我這個指數,我其實想要highlight的,不是第一名的美國跟第二名的中國,而是第三名的新加坡,所以我們應該要對標新加坡,我認為香港應該也會非常積極啦,因為他們最近幾個動作感覺上也非常積極,對,所以如果,新加坡、香港就緊鄰著我們,他們有機會做到的事情,Why,我們不行。

黃:是,尤其台灣在傳統的這個資訊科技上其實是很厲害的,對不對?

蔡:最主要是我當政委的時候,我發現一個事實,就是台灣Hacker groups很大,台灣Hacker groups很大,就是散播在各個公司、各個角落,所以我們這一類的這個人才應該是很多,那我有一次在新加坡參加一個活動,那新加坡那個朋友就跟我說,他說,他常常當評審,新創團隊的評審,那他看到的現象是很多新創公司技術團隊在台灣,可是CEO或者是Owner就不是台灣,所以台灣就比較偏技術,還是我們的強項啦,但是我們欠缺的可能對資本市場的熟悉的人,我們欠缺的可能是對商業模式,我們欠缺的可能是所謂的品牌的建立等等,這個一直都是台灣的弱項,那只是在實體的的世界裡面的製造業,我們找到了一個代工,所以我們進入一個非常強的供應鏈,這是我們的成績,那將來在這個虛擬世界裡面,尤其AI所帶來的翻天覆地的這個產業的改變,我們是不是也有一個我們的位置?

黃:就是除了硬體之外,我們在軟體上有沒有一個位置?您目前看到的,您覺得台灣的機會在哪裡?除了硬體之外。

蔡:其實台灣基本上,如果是以AI這個產業來講,當然有一些是基礎,大家在談AI產業,有一些是比較底層的基礎,那這一塊會有蠻多人會覺得台灣有機會嗎?因為很可能那一些Big Tech,大型的大型科技公司。

黃:他們覺得市場不夠大。

蔡:比如說像Google、Facebook、Amazon或者是Microsoft,他們都有非常強的過去的User based嘛,所以他用這個他過去的用戶的基底啊,來去開發新的、跟AI有關的工具,相對他是有一個很強的起跑點,那台灣過去這一塊本來就比較弱。

黃:對,他無論是在資料上或者是現成的客戶,他只要把這些AI工具融入他現有的產品裡面。

蔡:對對,所以這個是我們的挑戰,因為起跑點比你前進很多嘛,那所以我們就必須要想說,好,那我們到底是在哪一個部分?是不是應用啊?那是不是有其他的領域跟C端嗎?還是說,你讓大家將來要進入AI可能需要有一些工具,那是不是比較工具類型的,而不是底層的那個Infrastructure,那個基礎架構的東西,那工具型的可能有機會,因為我認為工具型的話,其實因為使用者的需求不同,他可能會產生不同的工具,所以。

黃:所以要是比較在地化、比較量身打造型。

蔡:那當然,對,尤其我們有華語嘛,所以以華語為主User是有沒有需要什麼樣的AI的工具?也許這個是我們應該可以著力的,就像比如說那個那個ChatGPT對不對?那很明顯,你用英文的方式,它的產出可能更好,那中文相對的可能是比較比較欠缺一點,那有沒有可能我們在這種語言方面我們也可以有我們突圍的地方。

黃:是,所以臺灣的AI生態系啊,您可不可以也跟我們的聽眾朋友介紹一下?目前您在台灣看到的AI生態系。

蔡:如果我們仔細來看的話,事實上有幾個點,就像比如,就像我講說,你配合的一些工具,那這個工具當然你越是底端的話,很可能這些Big Tech都都做掉了啦,但是越靠近C端,越靠近消費者的部分,他可能會Big Tech就是大型的科技公司,他可能做核心的系統,但是對於接近C端的話,需要客製化、需要本地化的這個部分,也許可以有一些工具型的一個AI的這個產品或服務,那另外,當然產業的類型很多,那也許對某一些類型,我們可以特別提供我們我們的AI的這個solution,那當然還有一些,就是這種比較周邊一點的啦,就是maybe涉及到行銷啦,或者是涉及到特定某一個領域,可能需要一些小的這個AI的這個服務,那也許我們也是有機會,所以這個大概是我觀察,我覺得目前感覺上比較沒看到大的AI的這個solution,那當然也許開發完了以後,你的出場的機制是被買走了,這可能也是這也是一個可以考慮的啊,因為沒有一定公司經營,一定是的百年企業嘛,那也沒有一定說公司經營一定得上市,那如果你不斷的,我們的強項就是創新,所以,對我們young generation在這個新的領域裡面你不斷的有新的想法,你做得不錯,然後可以被買走,然後你就不斷的去嘗試新的商品或服務,這個也是一個可以考慮的一個產業政策的方向。

黃:是,這是就比較個人的層面來說啦齁,但是就如果我們放大來看,就整個國家在面對這樣子的AI浪潮下,政府應該要怎麼做喔,我們剛剛看到了,就是台灣AI指數在全球的排名,目前只有二十六名,那台灣的AI生態系照您剛剛來分析,您的觀察,目前看起來比較有機會是比較在地化的,比較對接使用者的,可能是大型科技公司,沒有辦法量身打造的這些部分是可能您目前看起來最有機會的,那站在政府的立場或我們先放大來看,生成式AI我們在談政府立場的之前,或者政府該怎麼做之前,我們先來談談,您看到的生成式AI他的可能的問題。

蔡:生成式AI其實如果我們看最近OpenAI的經營權的這個糾紛,事實上表面上是人事的糾紛嗎?但實質上有一些報導也涉及到,對於AI的這個發展有一個方向上的歧見,那他們的首席科學家,可能會認為他們新的開發出來的AI有更強的這個意識力,有可能會失控,所以你還沒有想到怎麼控制他之前,是不是就要走那一條路,對,所以可能就有一派人,其實他是他的首席科學家,但是他對於這件事情,他有一些疑慮,那另外,這個可能Sam,他就基本上慢慢都商業化了,他覺得我就是公開讓你用,然後大家一起來怎麼樣讓他更可用性高,同時,如果要管他,大家也可以一起來,這個思考如何去管制,那兩個方向也可以來看說,我們今天談生成式的AI或者是其他AI的這個利用上面會有的問題,那像生成式的AI其實我看大家非常多人都已經在用了嘛,那這個使用上最直接的一個影響就是已經開始,學校學生也在用、辦公室裡面老闆也不曉得你底下的人到底是不是用生成式AI給你的報告等等的,但是他事實上已經慢慢的、漸漸的被大家再利用,那現在反而這個有些比較跟著時代比較近的老闆,已經開始自己也在用了,所以我也認識有一些這個上市公司的老闆,他說他現在有什麼問題,他自己會,因為他只要下指令就好了,所以他自己會對他自己會先run一份出來,所以底下的人出來到底是不是那個,他也可以判斷嘛,這個事情,我覺得法律的部分,當然有很多大家都還在討論,尤其這裡面其實最大的問題,事實上是那個著作權的問題啦,因為你用的是哪些Data,那這些Data不是traceable嘛,我們過去的著作權法是你引用到別人的東西,你要標註,然後你超過多少就可能變成侵害人家的著作權,但是他現在是在一個大的資料庫裡面去產生這樣的一個內容,所以你過去的法律上的認定的標準,面對這個ChatGPT所產生的內容,他有法律條件的判斷的困難,因為他很可能每一個作品裡面都是一個percent、一個percent、一個percent,所以我們過去是要超過某一個比例才會變成抄襲,因為事實上沒有這個AI的情況下,大家在寫文章,或者是大家在寫研究的報告等等的,多多少少你會看其他的資料,然後再去產出你的認知嘛。

黃:但是大家就是會換句話說對不對?所以我們只要不要抄一模一樣的字句過來,可能就不會構成抄襲的問題。

蔡:不會構成,對。

黃:但是現在AI他也是學人類,他會換句話說了,對不對?

蔡:是的,所以他去參考一大堆的資料,跟我們要寫一份報告、我們去讀很多的文章,其實相似性是很高的啦,那他讀完以後,他也用他的,這個自己的語言方式重新做expression,重新做表示。

黃:他也是把文字排列組合了。

蔡:對對,所以這裡,其實對法律人來講是蠻大的挑戰。

黃:對,這樣到底算不算抄襲?我們知道很多作家、在國外有很多的這個編劇,甚至好萊塢編劇會罷工說,我們不希望我們的編出來的劇本被AI學了,甚至是,然後我們還要去改那個AI寫的亂七八糟的劇本,諸如此類,然後他們會覺得他們的智慧財產權受到侵犯,但是,事實上又很難證明說,AI產生的這一段到底是參考了誰的、哪一篇著作,對不對?

蔡:對,所以這個現在目前碰到最大的問題,應該就是著作權的問題。

黃:是,包括AI它可能在網路上學了大量的人類繪圖之後,你給它下幾個指令,它就會畫畫了,可是你很難說它那個到底是學了哪一個畫家,或者是更不容易構成說他抄襲某一位畫家,對不對?

蔡:對對,所以就是從法律的角度來講,他現在挑戰最大的就是著作權的問題,那當然也會有一些關於隱私啦等等的這些考量嘛,還有你很關注的假新聞,因為ChatGPT他全部收攏以後,可能產生出來的內容因為前面就是假的,你後面整個也都是假的,所以大家因為你沒有,無法註明出處嘛,那沒有註明出處的情況下,你出來的東西,你如何判斷,就很難驗證它是真的還是假的,所以將來。

黃:大家有在說這個他會幻覺,ChatGPT會產生幻覺。

蔡:大家擔心的是說,會不會久了以後,假的變真了。

黃:是,積非成是了。

蔡:因為你太多的東西都是假的,那他不斷的被援引,然後不斷的產生新的東西都依據那個假的東西,那就像毒蘋果一樣,所以他就一直弄,弄到後來你查所有的資料,全部都講的是這樣,那你到時候可能真假會很難辨識。

黃:是是是,可以預期大概一定會這樣,對不對?因為ChatGPT它的學習資料就是來自網路世界,網路世界的訊息原本就是真真假假都有,何況它還會經過他自己的排列組合,他自己在做文字接龍的時候,他在推測人類想要講,他講什麼的這個機率問題算出來之後,可能會成為最大的假訊息的來源,對不對?

蔡:非常可能,非常可能,而且這個對於我們每一個人來講,其實未來這個世界也真的蠻複雜的啦,所謂複雜的意思就是說,如果你有非常多的訊息在網路上的話,那真真假假,可能到時候你如何去告訴別人哪個是真的哪個是假的,如果你在網路裡面,你的訊息不多,可能還好一點,因為你訊息不多嘛,所以他能選的很少,但是如果你訊息很多的時候,他去拼拼湊湊做出來的東西,一部分真、一部分假,所以你很可能到後來你真真假假就很難辨識。

黃:對,我們剛剛談的還是文字喔,如果是影像上,對不對?現在,現在的生成式AI,只要有我們的一張照片,他就可以讓我們,然後有我們幾秒鐘的聲音,他就可以用我們的照片跟我們的聲音,然後用我們的型態,做一個Avatar(虛擬化身),講出我們沒有講過的話,然後我們的聲音了,這個Deepfake的技術其實是一個更大的挑戰。

蔡:對,我有一次在一個與談裡面,很有感觸啦,就是說,我說科技,尤其這些Big Tech,這些大的科技公司,想盡一切的辦法,讓我們把真的東西變成假的東西,也不能說假,就是比如,我想舉個例子,比如說我們現在照相,然後都用美肌,對不對?然後照相還。

黃:大家已經很仰賴美肌了。

蔡:對對對,所以這個是程度的問題嗎?這個有沒有假

黃:是,其實大家早就在用AI在造假了對不對?

蔡:然後你今天用那個所有的科技的技術,你照一個相你本來是在台灣的,可是你被背景一換,你又變成在巴黎,你其實沒去過巴黎,可是你要讓人家知道你有去過巴黎嘛,對,所以科技我們要思考的是這個問題啦,就是科技讓人類其實。

黃:越來越習慣造假。

蔡:從真的變成部分假,那那個假的程度就越來越多嘛,對,那你現在講的就Avatar,因為他的科技就越來越進步,所以它假的比例會越來越高。

黃:越來越擬真。

蔡:越來越擬真,所以當他已經讓你快要真假不分的時候,人類開始緊張了,又要開始用科技還原,你到底原來真的是什麼,對,所以你看現在新聞也要如何辨識,哪個是真的、哪個是假的,對不對?那你一樣嘛,照片是你原來的樣貌,還是你怎麼樣的那個。

黃:是,而且她越來越厲害,以前只會照片修圖,現在連直播都可以,很多直播主,大家會還原他的影片,會發現,欸,怎麼長相差這麼多。

蔡:所以很可能真的未來的世界就是真真假假,只是程度問題嘛,對,那他很可能在我們的生活跟世界裡面,在真假之間是有一個我們大家要去體認到什麼樣程度的假是不能接受的。

黃:對,就是紅樓夢有一句話說,假作真時真亦假,然後說人類已經快要到那個時代了,所以我們才會有在討論說美國、歐洲,甚至台灣也在考慮,我們到底對AI要用什麼樣的態度來面對,要不要用什麼樣的方式來監管,下一段落我們來跟蔡律師請教國際的立法監管,我們先休息一下,請您幫我們點一首歌。

蔡:老王樂團的我還年輕。

黃:我還年輕,為什麼點這首歌?您真的還年輕啦,這首歌詞。

蔡:我是覺得它的歌詞,會讓我感覺其實在未來這個世界,面對大草原確實有一些未知啦,那有時候可能得灑脫一點吧,其實未來這個世界很挑戰,我覺得不管哪一個年齡層,所以我覺得這首歌面對空曠的草原,那也許我們將來大家在未來這個世界,可能也得用這樣的心態吧。

黃:我們來聽這一首老王樂團我還年輕。

黃:蔡律師在前一段的訪談當中,跟我們談到了AI全球指數,台灣的排名讓我們沒有覺得很滿意,所以也提出了一些提醒,那同時我們也看到新加坡,看起來他們是很積極,在AI的領域可以突圍,那理論上,台灣應該也可以急起直追喔,那我們也看到了AI可能帶來的挑戰跟機會,我們剛剛有談到AI侵犯著作權喔,然後,蔡律師也有提到說,我們這個AI早就已經慢慢的訓練我們,把真實慢慢往不真實這個美化的角度在習慣中,包括說我們會修圖啊、我們會置換場景,這些我們本來都覺得沒關係嘛,每個人都想要這個磨個皮、柔個焦、可以讓臉變瘦一點,諸如此類,它其實就是一種AI的慢慢的造假,然後到現在,AI已經可以完全有一個我們,跟我們長得很像,跟我們的聲音也很像的Avatar,在虛擬世界裡面可以以假亂真了,那這個漸漸漸漸的過程,這其實還蠻可怕的喔。

蔡:現在在科技領域裡面,兩個非常熱的領域,一個是AI,一個是Web3,Web3的這一些promoter,就是倡議的人士認為,這個decentralize就是去中心化,他可能可以用Blockchain這個這種去中心化。

黃:區塊鏈。

蔡:可以讓這個,AI有可能造成越來越中心化。

黃:就集中在科技公司的手上。

蔡:對對對,就是說他們手上已經有太多我們的東西,那他的那個就是科技力又會明顯的優於大家,所以大家會有一點擔心會越來越中心化,然後可能越來越會有被這個Big Brother就是老大哥掌控的危險,那Web3對的這邊,他們就覺得應該要回到去中心化,就是說,更多的是一對一的,而不是全部的東西,都在某一些大型的科技公司的手上,對,那這兩個我們是值得關注啦,那現在其實你我看非常多的國家都以Web3當作是一個未來產業的發展,那我自己個人其實也蠻樂見的。

黃:是,您可不可以簡單的跟聽眾朋友分享一下Web3的概念?

蔡:這個Web1的時候,基本上就是像我們的email,我送給你,你送給我,其實那個環境事實上是一對一,而且是很,不是centralize,因為每一個人都可以有一個email,然後透過這個當時的那個整個基礎架構裡面,我們可以很容易就可以跟不同的人有互動,但你到Web2的時候,就像Facebook、Google等等的,他其實慢慢就變成我們每一個人都在創造內容,但是這些內容所產生的價值,事實上是在這些大公司的手上,那到Web3的時候,希望能夠走出來更多的是將來的這個內容創造者,他可以有更多的對內容的掌控嘛,那那個基礎架構當然Blockchain是非常重要的一個基礎架構,因為它可以decentralize,可以去中心化,然後有很多的節點,那每一個節點上面,每一個人可能都可以用這些,就是說新的這些技術,去創造一個比較是一對一等等的,而不是一定都要透過這個大公司,這種科技的新的架構有機會讓我們從centralized的環境變成一個,更比較不是那麼centralized的環境,那這樣的架構下面也會產生不同的商業模式。

黃:您可不可以舉幾個例子,就是Web3是因為看到了,Web2的問題,就是大量的資料都集中在大型科技公司上面嘛齁,那所以Web3希望可以用去中心化,然後透過區塊鏈的技術,那有什麼例子可以讓聽眾朋友比較淺顯易懂說那到底什麼是Web3。

蔡:像比如說音樂,比如說一個歌手好了,過去很可能你會透過這個大型的這些,不管你是在Google或是大型的Spotify等等的,你在那邊,然後他就收了錢以後他跟你分,但是將來在這個Web3的架構下,因為最主要是Block in他有一個這個技術所帶來的一個去中心化的處理的架構,所以你將來很可能你自己上去,然後在這個裡面,它自動透過,比如說智能合約,誰用了你的東西,他可能自動就用這個系統,就會把你該拿到的這個部分就分給你嘛,那像我們現在很多,比如說我們每天PO很多東西上去,它也可以透過這種區塊鏈上面,我們現在用的這個,所謂的智能合約的概念上面的這個自動的,就可以把裡面所產生的這些interests這個利益,然後透過一個新的架構,他馬上可以回饋給每個個人,那這個操作就可以操作到非常的細啦,就是。

黃:但是他並不會把這些資料統一集中在某一個地方保管對不對?

蔡:就是因為你透過這個,他上面記錄是我的就是我的,那你如果用到我的東西,即使你改了,可是裡面還是有我的嘛,所以你因為利用這個著作,你收到的錢裡面有含有我的東西的時候,這個錢本身會透過一個類似,比如說像智能合約的方式就會自動分嘛,所以將來在這個世界裡面,可以創造一個自動分潤的機制,那可能就不是像原來需要統一由一個公司,然後他收了以後,他再分給你。

黃:那我們再回來談談AI喔,剛剛有提到,因為這個這是不同的解方,但是AI現在還是一個世界潮流,然後因為他很好用,那大型科技公司的這個AI的能力也不斷的在強化當中,所以其實讓我們的生活更是被AI就是影響了這個方方面面喔,那所以在國際上就會有一些立法想要說,那我們到底要怎麼控管喔,那我們再談國際控管之前,其實我們這樣在節目開始之前,有蔡律師有提到了一部跟AI有關的電影喔,我們來談談這個AI的電影,他到底要反映出什麼的問題,我們再來談控管,大家會更有感覺喔。

蔡:其實這個電影,是今年的電影,那叫《追殺代理人》嘛,那英文是Simulant,電影裡面在講的東西就是每一個人你都有一個真的分身,然後那個分身不是我們現在說在手機上裡面的Avatar,他是真的一個跟你一模一樣的分身。

黃:是一個活生生的,不是存在螢幕上的。

蔡:對,就是他整個整個外表什麼東西都跟你一樣,然後這個電影裡面就是說你每天回家,你就帶一個類似腦波器這樣,然後直接連結那個分身。

黃:那所以你每天回家就可以休息,然後讓那個分身去做事,是不是這樣子?

蔡:不是,每天把你腦子裡面的東西update就給他,所以他那個分身跟你是同時記憶,記憶什麼東西是一樣的,對,故事是先生就出了車禍,所以就由這個分身來代替這個先生。

黃:所以當人離開這個世界的時候,還有一個分身活在這個世界上。

蔡:對,其實他這裡面everything,所有的東西其實跟她先生都一樣,可是這個太太就覺得其實他就是不是嘛,當然還是會有一些驚悚的這個片段,但是我覺得重點不是那個劇情,重點是這個世界。

黃:有一天會不會真的變成這樣,我們會有一個跟我們一模一樣的複製人出現了。

蔡:對,就是說哪一天真的到了這個程度的時候,是不是我們大家所想要的,那這個就會回來要不要管嗎?就是說我們有沒有想要走到那一步。

黃:對,大家當有一個跟我們一模一樣的複製人出現的時候,他連思想、外型跟我們都一模一樣的的時候,我們到底該怎麼辦,那我們到底要不要走到那一步,如果時間可以倒回到現在,我們到底要採取什麼措施?

蔡:就是全世界現在討論AI的倫理,然後AI的監管嘛,那這個大家對於面對AI又期待又怕受傷害,對,那期待的部分,是覺得他可能跟著可以帶給我們另外一個不一樣的世界,那個世界有想像中的美好,但是可能也有,心裡頭也知道可能的黑暗面嘛,現在目前大家已經開始在擔憂的是AI會取代掉多少我們的工作,像我之前有聽一個做遊戲的創辦人,他也在講說,他說以前他其實會需要有人比如說要先編一個劇本,然後美術等等的,你要有什麼樣的意象的東西,那可能要試好幾遍,底下的人有很多人做,他說現在輸進去,然後幾個東西,我想要什麼樣的,我想要中古時代的,我想要這個人有什麼樣的眼睛、什麼樣的服裝什麼,他input幾個東西,他出來幾個意象就大家討論,所以他覺得已經讓他自己的創意的團隊工作時數已經明顯減低。

黃:對,就是提高效率了,對不對?

蔡:但是減低的結果可能。

黃:就要裁員了。

蔡:他可能也不需要那麼多人了啦,會有人,idle在那裡,因為溝通的速度變很快,就是說我有什麼想法,我就講進去,然後出來,大家再討論,是不是要的就是這個,很快就可以把一件以前要花非常多的時間去找資料去、去做出東西、去溝通,現在可能非常快速的,在幾個小時或很短的時間裡面可以達成共識。

黃:就是效率提升的同時就會有一些人力好像就過剩的問題。

蔡:對,所以取代是已經漸進式在取代嘛,就是說大家已經討論過非常多,有多少的工作可能被取代,那基本上就比較低階的工作也可能被取代,但是其實會需要涉及到人的這種touched的,就是有這種感覺可能取代性會低一點啦,那你完全像文書作業的啦,或者是說像翻譯,像以前我們辦論壇的時候,口譯非常重要啊。

黃:而且口譯很貴。

蔡:對,口譯非常重要啊,那這個現在你辦活動,你已經在思考,你要用口譯,還是要用。

黃:AI。

蔡:對,現在有已經非常多的翻譯產品了嘛,你直接講他就直接打出來,你要打英文打中文,它都OK,對,所以很明顯他們也會是一個受到工作上的被取代的一個威脅,對不對?那這個是AI帶來的,一個已經發生的問題,所以我用這個電影,那個是走到很極端,但是它看起來。

黃:世界確實是往那個方向在前進。

蔡:看起來,不是不可能達到,除非我們人類自己有一個決定,就是大家有個共識,大家共同有個共識說,我們並不想要有那樣的事件。

黃:是,這就是所以為什麼現在國際上要開始討論,我們要怎麼來監督,然後對AI要用什麼樣的態度來因應,那我們看到美國跟歐盟最近都有一些相關的立法的趨勢,可不可以請蔡律師,來跟我們分享一下。

蔡:其實現在的趨勢上,美國Biden也在10月,他也公布了一個就是指令,那美國就比較偏向是,就是說你不能用AI來做一些跟,就是可能引發戰爭、國防有關的,所以他比較從國安的角度去思考這個問題,就是說,如果你的項目,你要做的西跟這個有關,你就必須要核准,然後你要報備所有的這些資訊,歐盟是比較全面啦,因為歐盟是分四個類別,那這個四類裡面,第一類是禁止類,第二類是限制類,然後第三類是你可以用,可是你要揭露,那第四類,基本上就比較沒有規範,他把做的AI可能會對我們人類的影響做一個類別的區分,我覺得這個規範是比較值得參考的,所以我其實也傾向於建議台灣如果要做這個規範,應該也可以參考歐盟這個規範,那這個參考歐盟的規範也有一個必要性就是,因為它的規定本身也包含你提供服務給他,或你提供產品給他,也要符合這個規範嘛,所以你如果要跟他們做生意,你也要符合這個規範,所以遲早你必須要符合,那我覺得從合規成本來講,我們也有一套跟歐盟一樣,就像GDPR(一般資料保護規則)一樣嘛,也是大家現在也必須要有GDPR的一個符合的一個規劃,你才有辦法這個跟其他國家,尤其是跟歐洲相關的國家,能夠有互相的這個生意上的往來,那如果我們從歐盟這個整個這個規劃上來講,比如它的全面禁止類,就是基本上他是認為對人類會有重影響的,那比較有趣的是,這裡面有一個討論,就是即時監控,就是像比如說,他禁止你用AI來預測這個個人將來有沒有犯罪的可能,這個是不可以的,那即時監控、即時辨識,基本上,他們也是認為這個風險也是很高,所以。

黃:因為中間可能有很多人權的疑慮。

蔡:對對對,對很多人權的疑慮,那比較高度的風險就是說你,你這個AI要上市之前要經過嚴格的審查,那這個。

黃:什麼樣的案例會被認為是有高度風險?

蔡:像比如說交通、醫療、電梯設備,就是這個安全性非常重要的產品,那另外像比如說基礎建設,比如說教育,然後司法、民主程序等等的,都涉及到這個基本人權,的這個部分就是屬於,如果你要做這個,因為你判斷這個人到底夠不夠成犯罪,或者你判斷這個人是不是非法移民等等,這種東西,就是說你用AI來做判斷的時候,你都必須要上市前要嚴格審查,因為這個可能判斷結果會影響到權力,另外的這個你要揭露,不需要政府核准,你就可以做,可是你必須要充分揭露你有沒有用到AI,我們ChatGPT就是,所以將來很可能比如說我今天給你的這個簡報,我如果是AI做出來,我可能要標示我是AIGC(人工智慧生成內容),不是我做的,那這個我覺得這個也對啦,每人要誠實表述說,你現在交給人家的東西是你做的,還是AI做的。

黃:是,我現在在台大教課,也是這樣跟學生說,歡迎大家用AI來產製你的報告,可是你要註明哪些部分是AI。

蔡:對,就是哪一段是AIGC嘛,那我覺得充分資訊揭露,我覺得這個也是一個好的一個解決的方法,所以他們大概就,就是第四類,當然就是沒有什麼限制,那所以他分這個三類,我自己個人是覺得這樣的分類本身會讓大家將來面對AI的一些,這個產品或服務的時候,有更清楚的,哪一些是可以、哪些是不可以。

黃:是,這個有點像電影分級制。

蔡:對對對,像像像。

黃:特別危險的。

蔡:是蠻像的,然後像第一類這種禁止類,就是你不可以開發這一類的商品,那像我們剛剛看這個Simulant,是這個《追殺代理人》,這個電影所講的表述的那個未來、那個情況,我們要不要走到這裡,你開發這一類的這個商品的時候需不需要有一些管控。

黃:就是百分百你真人的這樣子。

蔡:對,因為這個,這個電影裡面,其實是這些人是在開發的那個公司裡面是追蹤的喔,他是追蹤的,就是說你這個人在哪裡,就這個仿生人。

黃:他被那個公司掌控的。

蔡:因為他是跟那個,跟那個公司去買這個仿生人的嘛,那那個公司本身是有追蹤這個仿生人的所有的這個記錄的,但是問題就是發生,有一個仿生人自己找到一個解方,把他那個解碼掉,然後讓他讓那個原來創造它的這個公司。

黃:也沒辦法掌控他在幹嘛。

蔡:對。

黃:但是這個真的就是很兩難,掌控不掌控都很危險,對不對?掌控的話,至少我們可以知道說,假設真的到那一天,我們知道說在這個世界上,哪些人是真人,哪些人是AI複製人,他還有一個追蹤的管道,可是當我們所有的資料,如果照電影裡這樣,透過腦波,就讓那個我們的複製人都得知,那就等於那個公司也都掌控了我們所有的一切,對不對?

蔡:是的是的是的。

黃:這裡面有非常多這個很哲學的思考。

蔡:對,沒錯,就是最終,我們其實,我就說科技帶來人類很多的這個方便,然後也改善人類的某一部分的生活,但是他同時也帶來,我們值得思考的,這樣的世界本身發展到極致的時候,對整個人類到底?

黃:對,人的價值,人之所以為人的又是什麼,然後這樣的發展對人類世界到底真的是福址,還是可怕的世界。

蔡:對啊,所以現在其實每天我們應該花很多時間在讀,其實沒讀也沒關係的訊息。

黃:本來是要kill time的,結果我們就被那些時間就浪費在很無意義的這個滑手機。

蔡:我想大家如果仔細思考一下,很可能有很多的時間,也許。

黃:我需不需要這麼多訊息,然後這是不是垃圾訊息。

蔡:其實我曾經過一次耶,我曾經每一個禮拜我找一天關機。

黃:這個蔡律師這麼重要,有這麼多公益的角色,然後。

蔡:對,但是我在想我一天關機,有多少事情是非得在那個二十四小時裡面做的,但是你那一天關機也許可以讓你get back,你可能會更多的感受你自己的身體、你自己周圍的人、你自己的環境,一直在這裡,可能你很多事情就沒去感受嘛。

黃:是,但是我們怕的就是我們關機了,可是有很重要的同事要找我們、老闆要找我們對不對?發起一個運動,某一天週末的時候大家關機,就是我們不會擔心說。

蔡:我們也許可以從,比如說你關四個小時,或是或是多久,但是。

黃:這也是現在通訊軟體可怕的的,大概以前就是上班時間在辦公室,現在好像你在任何地方都可以工作,但也表示你在任何時間、任何地方你都被工作牽絆。

蔡:對,但是我要講的是說,工作上可能好解決,比如說你公司可以有一個policy,老闆晚上下班以後不可以不可以tag你的員工,這也可以啦,這個反而容易做到,但我覺得。

黃:是我們自己的習慣。

蔡:對對對,我覺得大家現在每天,我就先問我們在座,你每天早上醒來第一件事情是不是看手機,晚上睡覺前最後一件事是不是看手機,對嘛,但是有真的那麼多重要的事情非得讓你所有眼睛張開的時間都在那裡嗎?我試著關機的那個時間,我的感受是,我覺得我需要去感受一些,真實世界裡的,你會感受一下自己的身體的情況嘛,要不然你所有的東西全部都在裡面,我自己覺得,對,所以也許我們應該來發動一下這個運動,然後比如說一個禮拜,你給自己找一天四個小時。

黃:您剛剛本來說一天,現在我們要限縮到四小時。

蔡:要漸進,其實你睡覺的時候也是關機啊,對不對?那你出國的時候,時差顛倒的時候,不是也關機嗎?那你打開的時候再看嘛,那你可以告訴別人,像假設這樣,我就跟人家講,我每個禮拜的什麼時間,我是關機的。

黃:聯絡不上的。

蔡:對不對?那你要聯絡我的話,你有急事聯絡誰,對不對?那除非他來跟我講,比如說,你可以連絡我的我的朋友,或我的家人,或者是誰,除非非常急,那我的關機時間不一定可以跟他的關機時間是一樣的,對,那有急事再來,沒有急事,我就對不起,八個小時以後我會看,這個可能也可以重新去去找回來我們身體原來有的一些功能,我們身體可能有一些機能跟有一些sensor,對環境、對溫度、對人啊,可能有一些感受,你想,現在有多少人一面吃飯、一面看手機,那你知不知道你在照相,照完然後開始分享,然後才吃,那個時候很可能都沒有太體會,就會也許我們會忽略掉一些事情,那些事情如果我們仔細思考說不定作為一個人來講,它其實是重要的,這個也是我們值得反思的嘛,所以我們在談AI可以進步到某一個程度,可能會帶給我們一個很有想像空間的未來,但那個未來本身我們有沒有miss掉一些事情,除了期待就是說政府啦,去管哪一些部分以外,也許我們也可以從自身做起嘛,所以AI的管理本身其實有兩個,一個是他律,就是政府管,一個是自律,那自律就是,你這些科技公司發展AI的時候,自己有一個倫理規範,說我不做什麼,我不做什麼,那我們user使用者,可能也可以思考一下,我們使用這些AI的這些工具的時候,要不要也思考一下,我們自己可能有些事情,我們不要去用。

黃:剛剛我們談到的都是比較大的喔,台灣的機會在哪裡、台灣的挑戰,然後國際的立法趨勢、然後台灣的這個立法上要怎麼對接、跟國際接軌,才可以因應這些國際的立法趨勢,您剛剛有提到,就是AI政府是一個,我們也應該要來想辦法的。

蔡:其實談AI的時候,你看大家在談的都是,這個AI會取代掉哪些工作,然後或者是AI怎麼樣讓公司更整個組織更轉型,然後未來的世界有哪一些的機會、哪一些的挑戰,但是我自己覺得我們是不是也應該要來討論一下,就是說將來的政府的運作會怎麼樣被AI影響,或者是將來政府的工作導入AI是不是可以讓政府的效率更好?所以我覺得AI政府也是我們值得去思考的,因為說不定有很多,也不是說不定,一定有很多現有的所謂的公務的行為是可以被AI取代的,尤其是像有時候你去申請一些很routing的一些,那可能說不定AI就做掉了,將來也不需要那麼多的人工作嘛,那一個要能夠面對AI帶來的新世界的監管單位,或者是政府、公部門也應該是要是一個AI化的政府,才能夠因應啦,所以我很期待我們也一起來討論AI政府,哪一些事情用AI來做,因為有太多事情,其實我們要的是效率,對,我今天申請東西不要那麼久。

黃:對,這個AI政府還可以更便民。

蔡:對啊,比如說你要設立公司,或是你要申請一個什麼樣的一個政府的一些資料或什麼東西。

黃:不用去現場排隊排這麼久。

蔡:可以盤點一下,政府的工作裡面有哪一些工作其實用AI就可以解決的。

黃:是,所以就是說,政府在參考國際的這個立法趨勢之外,自己也要檢討一下來,或者是盤點一下哪些資源我們是可以用AI來改善他的效率的對不對?

蔡:對,當然現在政府裡面也規劃一些所謂AI的政策啦齁,那這個看起來跨非常多的部會,那這個部會,當然有很多是產業的推動,然後但是我想政府組織裡面怎麼樣的情況可以導入AI,然後可以讓他的效率更好,這個應該也是一個蠻值得討論的議題,那尤其我在當政委的時候,其實我們就開始在推Open Government、Open Data政府,對,就是政府有一些資料是可以開放、可以整合的嘛,那你透過這些,因為政府手上擁有非常多的資料,那當然這些資料好好應用,然後導入一些新的科技,可能他在他的這個行政作業上可以更有效率,那當然這裡面也有一些個資的討論等等的,所以如何解決這些問題,就是你一個是公開給大家用,另外一個是,你沒有要公開給大家用,可是人家來請求你做行政服務的時候,公務服務的時候,你可以更快速。

黃:是,非常的認同喔,那我們再來回到就是比較個人的喔,蔡律師有建議說怎麼來因應這個AI,我們是不是先有跟他保持一點距離,至少每個禮拜是不是有個一個小時、四個小時,甚至慢慢做到有一天我們跟這些科技保持一點距離回到真實的世界來,就像蔡律師跟我們舉的這個電影的例子喔,他是非常極端,但是目前的AI發展方向上,他真的非常有可能,有一天我們每一個人都有一個完全擬真的AI分身,我們想不想要走到那一步,我們希不希望有一天,我們是這麼容易就被取代的,瘋狂的科學家,永遠存在,那政府跟個人要怎麼因應,節目最後,蔡律師也幫我們再做一些分享。

蔡:科技,永遠會帶來我們人類生活的改變,這個改變本身是好的是壞的,對於科學家來講,他在意的可能是突破。

黃:技術的突破。

蔡:技術的突破,但是他的這個突破本身對我們人類的影響到底會是什麼樣的發展,這個部分其實要有大家一起,就是所有的人類應該要一起去省思的嘛,所以我們希望科技能夠帶來的是安全,除了效率,除了有更多的想像以外,他也希望他是安全的,這個安全的本身需要大家一起共同來努力,這個努力本身當然要求政府去規範那些所謂的科學家,滿腦子都想要突破技術極限的科學家們,這個如何去給他一個適當的規範,那當然這裡頭也包含科學家跟商人,他可能從裡頭可以有他的獲益,但是如何去規範他們,讓他們要負責任,這個是一個我們期待政府去規範他們的。

黃:科技要安全、負責任。

蔡:對,安全、負責任,那當然期待這些科技公司自律,自己要做到安全和負責任的一個這個企業家,同時也希望政府可以用他律的方式去給他明確的規範,但是第三點是,我們us個人,我們都是將來科技會影響到的,所以我們是不是在使用這些科技的時候,我們也要有警覺嘛,不要一頭栽進去以後,也許科技的那個負面的影響會不知不覺產生,所以如果我們可以有一個自覺,然後保持某一個時間的一個距離,也許還可以讓我們保有人類,而是人,不是機器人,不是,是真正的human being該有的一些感知,該有的一些思考的這個能力,不要因為太仰賴這些科技而喪失掉,那這個可能也可以是從我們自己的警覺,然後來對科技某一個時段去保持一個距離,是不是有助於我們大家保有我們人類該有的那個感知的部分。

黃:非常謝謝蔡律師今天的分享,今天聽您分享之後,我也覺得我們應該要先從每個禮拜找出四個小時,把手機關掉,或至少把網路關掉,對不對?謝謝。

蔡:謝謝,謝謝,謝謝大家。

(校對:林新茹,2024/1/30)