加律師ChatGPT寫訴狀 錯用「不存在案例」

▲加拿大1名女律師在一樁兒童監護權官司中,用ChatGPT寫訴狀,卻被揪出引用了2個根本不存在的案例。示意圖。(圖/美聯社/達志影像)
▲加拿大1名女律師在一樁兒童監護權官司中,用ChatGPT寫訴狀,卻被揪出引用了2個根本不存在的案例。示意圖。(圖/美聯社/達志影像)

[NOWnews今日新聞] 人工智慧(AI)熱潮來臨,不少產業都開始引進相關技術,AI也逐漸成為許多人學習、工作時的好幫手。然而,目前的AI技術仍有不足,一不小心就可能造成「災難性」後果。加拿大1名女律師近日就被指控,在一樁兒童監護權官司中,用ChatGPT寫訴狀,被抓包竟然引用了2個根本不存在的案例,不止鬧出笑話,還為職業生涯帶來危機。

根據《加拿大廣播公司》(CBC)報導,加拿大卑詩省1名女律師幫1名中國裔陳姓富商打離婚官司,對方淨資產據說高達7000萬至9000萬美元,前妻和3個孩子住在西溫哥華一棟價值840萬美元的房子裡。去年12月,當地法院根據該富商的年收入100萬美元計算後,命他須每月支付16062美元的子女扶養費。

後來,陳姓富商要求准許他帶著孩子前往中國旅行,認為前妻缺乏拒絕的法律依據,而幫他寫訴狀的女律師在去年12月提交的訴狀中,提到2個相關案例,是她用ChatGPT搜尋全球同類案件時,得到的結果,希望藉此支持富商的主張。然而,當前妻的律師上網尋找訴狀裡提到的2個案例時,卻怎麼都找不到,最後證實那2個所謂的案例,根本就是ChatGPT捏造出來的,現實並不存在。

卑詩省最高法院的法官表示,雖然相信該律師不是故意欺騙法庭,但仍命她須支付對方律師因事件衍生的費用,直言:「本案已經表明,生成式AI仍然無法替代律師所需的專業知識,選擇和使用任何技術工具(包括AI)的能力至關重要。」

分析指出,人工智慧固然可以成為有力的幫手,只需幾秒鐘,就可以完成通常需要幾個小時甚至幾天才能完成的工作,但部分專家認為,司法系統的誠信正受到威脅。加拿大新蘇格蘭省律師協會的法律顧問索米爾(Jonathan Saumier)就表示,現在有不少律師會在工作時以AI輔助,包含管理工作行程表、起草合約、進行法律研究等,不是不能用,但務必檢查工作內容,如果法律界錯將不準確的資訊,引用成先例、參考文獻等等,恐怕會使整個系統的完整性處於危險中。

加拿大曼尼托巴大學(University of Manitoba)的法律系助理教授西拉吉(Katie Szilagyi)也認為,如果人性是司法系統的核心價值,那就不宜將太多決策權「外包」給非人類的實體,這對於作為社會組織力量的法治來說,可能會出現問題。

更多 NOWnews 今日新聞 報導
馬斯克提告ChatGPT之父!控OpenAI與阿特曼違背「造福人類」使命
AI意識覺醒?ChatGPT爆災情「胡言亂語」發亂碼 OpenAI稱已修復
日作家小說「5%內容來自ChatGPT」獲芥川賞 AI參與創作掀爭議

看更多相關新聞
黃仁勳:通用人工智慧可能五年內問世
加律師ChatGPT寫訴狀 錯用「不存在案例」
AI選股成災難?專家:產品多元可分散風險
蘋果電動車夢碎?唐湘龍揭「泰坦計畫」終止內幕:拚不贏中國比亞迪
戴爾財測激勵AI行情 帶動輝達市值破2兆美元