有雷!Google AI Overview荒謬答覆頻出爐,遭疑引用網友「玩笑話」當解答

Google在5月份推出「AI Overview」功能,替用戶一次整合所有搜尋結果,不需點擊多個連結,就能快速獲得問題的答案。

原本是一項讓搜尋資料變得更快、更容易的功能,但此功能近期卻因為提供虛假或誤導性資訊而受到批評,例如: 教你用膠水做披薩

AI摘要問題多多

當Google宣布,將推出結合搜尋引擎和AI摘要的功能時,被認為是搜尋引擎幾十年來最大的變化,但現在開始有了懷疑的聲音:這樣的改變是否是一個好主意?

許多用戶紛紛在社群媒體上分享從Google AI Overview上獲得荒謬解答, 例如:美國前總統歐巴馬(Barack Obama)為穆斯林,但事實上他是一名基督徒

又或是非洲的54個國家中,並沒有以K開頭的國家,顯示了其忽略了肯亞(Kenya)。其中引發最熱烈討論的回覆是,當有人問到如何改善起司從披薩上滑落的情形,Google AI Overview竟然提議, 加入1/8杯的無毒膠水,來牢牢黏住起司。

上述的離譜答案,似乎是來自於10多年前的Reddit留言,而且很顯而易見的是玩笑話。

Google發言人法恩斯沃斯(Meghann Farnsworth)表示,這些錯誤並不代表大多數人的經驗。目前公司已經對違反其政策的回應採取行動,並利用這些個案完善Google AI Overview服務。

市面上許多AI功能仍屬實驗性質

事實上,推出Google AI Overview功能,是google企圖將Gemini AI推上火線,與OpenAI和Meta競爭的策略。儘管Google有標註Google AI Overview的功能是實驗性的,但近期的案例反而損害Google搜尋引擎的聲譽。

根據網路流量追蹤機構Statcounter調查,Google的搜尋引擎佔據了全球9成以上的市場,這是該公司獲利基礎,也是公司需要重視的服務。

目前,生成式AI的人工幻覺(hallucination),仍是業界急需解決的難題,以致於許多AI公司皆有發布免責聲明,告訴用戶「AI所提供的資訊可能不真實。」

因此,為避免獲得錯誤訊息,不少媒體也發布「如何關閉Google AI Overview」的教學文,顯現其功能仍未如期步上軌道。

google ai overview turn off.jpg 圖/Google search
google ai overview turn off.jpg 圖/Google search

參考資料:FortuneBusiness InsiderBBCThe VergeCNETCNN

延伸閱讀:影片|Google能用影片搜尋了!AI助手Astra超狂理解力、影片生成模型Veo,還有哪些AI革命?

責任編輯:李先泰

更多報導
市值破2.5兆!股價井噴的輝達可以笑到何時?盤點3大成長隱憂,GPU盛世盡頭在哪?
廣告方案訂戶破4000萬!Netflix拚造「廣告技術平台」,搶2025年底全球上線