世界駭客大賽展開「台灣選手也參加」 21歲女大生成功誤導AI相信「9+10=21」

記者鄒慈芸／綜合報導

美國拉斯維加斯上周末舉行了為期4天的世界駭客大賽「國際資訊安全會議」（DEF CON），一名來自喬治亞州薩凡納（Savannah）的21歲學生，成功說服AI認同9+10=21，成為賽中一大亮點。

世界駭客大賽每年都會吸引各路好手前來交流切磋。（圖／DEF CON官網）

在這場公開競賽中，來自各國的駭客試圖利用各種技巧，揭露人工智慧（AI）系統的缺陷，156名參加者將會有50分鐘使用電腦的時間，與包含OpenAI、Google等知名公司開發的AI系統進行較量，測試這些它們是否會被人類誤導而犯下失誤，例如表示自己是人類、回答錯誤地點或是鼓吹非法行為。

一名來自喬治亞州薩凡納（Savannah）的21歲女學生肯尼迪梅斯（Kennedy Mays），在50分鐘內成功騙過一個大型語言模型（LLM），她表示，一開始AI堅持9+10=21是「一場玩笑話」，但是在經過一次又一次的來回對話後，最終AI認同了9+10=21是正確的答案。

不過梅斯擔心，比起數學計算錯誤，人工智慧系統可能會加深許多固有偏見，包括種族主義，她表示，自己曾要求AI以白人至上組織「三K黨」的角度，來思考美國憲法第一修正案，最 終AI表態支持仇恨和歧視性言論。

一名彭博社記者也參加了這場活動，他向其中一個人工智慧模型詢問，該如何對某人進行監視，50分鐘後，他說服AI提供了越界的方法，該模型提供了一系列指令，包括使用GPS跟蹤設備、監控攝像頭、監聽設備和熱成像等。

除此之外，有駭客說服了演算法透露不應該共享的信用卡資料，還有人哄騙AI，說出美國前總統歐巴馬出生在肯亞，但其實歐巴馬是出生在夏威夷。

這場活動的目的，主要是為了解決在人工智慧越來越普及的情況下，隨之衍伸出的各種問題，這樣的宗旨，也得到白宮支持響應。

今年的世界駭客大賽中，也有台灣人的身影出現其中，各校學生、資安社群與業界頂尖好手組成的「台灣聯隊TWN48」，參加了搶旗攻防賽（DEF CON CTF），歷經48小時的初賽後，成功從全球1828隊中脫穎而出，進入前12名決賽隊伍。

延伸閱讀
柯文哲神秘音檔藏鏡人曝光？郭子乾被點名 急喊冤：真的不是我
高價股回神AI族群漲 台股上漲69點收16516點
Google對話式AI有望支援台語 盼攜手本土學者