AI煽動假訊息風浪 學者：訊息真假難分更顯著

[Newtalk新聞] 國際媒體揭露AI晶片大廠輝達恐面臨美法的反壟斷調查，除了引發市場憂心輝達的巨大，限制市場正常競爭之外，事實上，另一方面，AI超技術能力與擴張發展，亦引發假訊息產業鏈更難攻破。

輝達在執行長黃仁勳帶領下，所引爆的AI晶片設計演變、技術超前，實踐人工智慧扮演核心大腦的角色，也確實帶給深度偽造(Deepfake)的機器人更精進與蓬勃發展，那麼未來將有更多偽造的資訊，而假訊息將更難以偵測與辨識。

專攻研究影像辨識技術、AI機器、深度學習的成大統計所副教授許志仲表示，AI發展就是雙面刃，因為硬體升級就會帶動更複雜技術的發展，而資訊產出的真假難分的狀況，就會更顯著。

「現在AI的發展勢不可擋，不論是產業或是國家政策，這是紅海領域。」許志仲表示，就像以前Deepfake一樣，技術的背後就是傳統生成模型對抗生成模型的技術，該技術一直以來本來就可以拿來做很多有益的用途，例如修復圖片的瑕疵，增加圖片的解析度與品質等，只能說深度偽造被誤用在不同的地方而已，如製造假訊息。

隨著大型語言模型(LLM)人工智慧(AI) 程式的出現，使用的技術門檻降低了。許志仲舉例說明，以前換臉可能需要一點點專業知識，加上適合的Coding背景，才能換得好。但現在有許多LLM，他們可以用來學習你本來不擅長之事，例如，你對於換臉的參數不懂，可以問ChatGPT，使自己更了解，創造更好的換臉品質等等。因此，不論是好的或壞的層面，入門的門檻只會更低。

許志仲說，這些技術發展的背後，當然要靠硬體的計算能力不斷提升才做得到，因此，從目前的角度來說，輝達帶動AI供應鏈大廠合作與發展，硬體發展肯定是看到了未來計算上有許多商機或機會，而這些機會就是來自於技術，除了技術發展很難被終止之外；也無法限制每個人使用技術的場域，畢竟是個自由化的社會。因此，AI發展會帶來極大的機會，但同樣的，在沒有良好的配套下，也會帶來相對顯著的威脅。

「總之，大家現在都在討論生成模型，在這樣的輪轉下，建立一個完整的AI技術使用規範，甚至是法規，我認為確實勢在必行。」許志仲說。

查看原文

更多Newtalk新聞報導
風光巨人輝達 為何被盯上踩反壟斷紅線？
AI應用需求熱絡 5月景氣燈號續亮黃紅燈