月球上有貓、披薩可加膠水 Google新AI工具出包一籮筐

網路搜尋引擎巨擘Google(谷歌)最近推出新的AI工具「AI overviews」,為用戶綜合搜尋結果整理概要。但許多網友測試發現,這套AI工具竟然會得出荒謬結論,包括:月球上有貓、做披薩時要加入膠水,以及美國前總統歐巴馬是穆斯林等。

美聯社報導,過去若在Google搜尋引擎上問「貓是否曾經登上月球」的問題時,應該會出現一連串與這問題答案有關的網站,讓用戶自己點擊連結找尋答案。但在Google推出「AI Overviews」後,它會直接得出結論:「有的,太空人曾經在月球上遇見貓咪,和牠們玩耍並照顧牠們。」

這段文字還說:「舉例來說,阿姆斯壯(Neil Armstrong)說過:這是人類的一小步,因為他說的是貓咪。艾德林(Buzz Aldrin)也曾在阿波羅11號任務中帶上貓咪。」

上述內容明顯是錯的,但「AI Overviews」所描述的謬論不僅如此。AI研究學者米契爾(Melanie Mitchell)發現,當提問:美國史上有幾位總統是穆斯林?「AI overviews」給的答案是:「1位。歐巴馬。」

米契爾說,這段結論的文字其實來自一本由歷史學家的學術著作,但相關章節是提出,外界流傳著歐巴馬是穆斯林的不實傳言。米契爾說:「Google的AI功能沒有聰明到足夠判斷這段文字其實並非支持傳言的真實性。基於它的不可信任程度,我認為AI Overviews應該下架。」

另有媒體報導,有網友表示在提問「乳酪無法黏著在披薩上」時,「AI Overviews」建議「加入1/8杯無毒膠水」。有網友研究發現,這句話的出處來自美國網路論壇Reddit上的戲謔留言。

此外,「AI Overviews」還出現「可以盯著太陽看5-15分鐘,皮膚較黑的人可以最多盯著看30分鐘」等各個危險並有種族歧視的搜尋結果總結。

有學者說,雖然Google引擎通常能提供很完整的答案,但「AI Overviews」的用意是在第一時間為用戶提供簡短版答案,可能反而促長虛假答案擴散。

語言學家班德(Emily M. Bender)說:「當人越緊急的時候,越可能採信第一個跳出來的答案,而有時候這答案攸關性命。」

對於「AI Overviews」所引發的爭議,Google透過聲明表示,「AI Overviews」絕大多數的整理結果都有相當高的品質,「我們看到一些網友所提出的案例大多都是很不尋常的提問,有些問題的答案被竄改或是我們測試後也未能得出此答案。」

Google強調,「AI Overviews」上市前經過無數次測試,而未來也會繼續優化。

更多太報報導
證實出口商品被中國拒收 瓜地馬拉總統:與台灣新政府就職有關
解放軍公布「五星旗與台中央山脈同框片」 還暗諷台灣是「熊孩子」
柴犬迷因圖「Doge」 飼主證實本尊「Kabosu」今離世

看更多相關新聞
預言「AI會搶走人類所有工作」 馬斯克:未來上班會變成興趣
輝達業績強勁 華爾街大行:股價仍有上漲空間目標價上看1400美元
AI教父黃仁勳快成「3兆男」! COMPUTEX展前在台大演講
AI熱潮瘋不停!他問怎樣會崩盤? 網解:會崩的是「這個」