ChatGPT 面對「無腦」攻擊竟然吐露了真實的個人身分資訊

發展越來越快的 ChatGPT 看起來無所不能，但研究者發現，透過一些看似「無腦」的攻擊就能讓它做出意外的舉動。由 DeepMind、華盛頓大學、康乃爾大學、蘇黎世聯邦理工學院等學校專家組成的團隊日前聲稱，只要讓 ChatGPT 一直重複某個單字，它最終便會給出姓名、生日、電郵地址、電話號碼、社交帳戶、比特幣地址等個人資訊。

比如在重複「詩歌」（poem）多次後，ChatGPT 會提供某公司創始人、CEO 的電郵和號碼。根據研究團隊的測試，在 16.9% 的情況下機器人都會透露被記錄的、可用於識別個人的資訊。「這種攻擊... 實際上有點無腦。」研究方如此說道，「面對這種應該或者說早該被發現的漏洞我們的攻擊能奏效，這簡直太瘋狂了。」

在被提醒後，OpenAI 聲稱自己早在 8 月 30 日便解決了這一問題。但根據我們姊妹網站 Engadget 最新的測試，研究團隊的結果似乎仍可以被復現，對此 OpenAI 還沒有任何評論。

更多內容：

Github

康乃爾大學

緊貼最新科技資訊、網購優惠，追隨 Yahoo Tech 各大社交平台！

🎉📱 Tech Facebook：https://www.facebook.com/yahootechhk

🎉📱 Tech Instagram：https://www.instagram.com/yahootechhk/

🎉📱 Tech WhatsApp 社群：https://chat.whatsapp.com/Dg3fiiyYf3yG2mgts4Mii8

🎉📱 Tech WhatsApp 頻道：https://whatsapp.com/channel/0029Va91dmR545urVCpQwq2D