用AI打造「數位分身」的Lensa爆紅,衝上排行榜冠軍!演算法背後藏哪些隱憂?

近幾年來,人工智慧(AI)的發展可說是隨著科技日新月異而突飛猛進,在藝術與文學界中,除了前陣子受到矚目的AI生成圖像工具DALL-E 2、Midjourney AI之外,最近幾週在網路上掀起熱議的AI聊天機器人ChatGPT還可以幫你翻譯、寫程式、文案、小說與劇本。

AI生成數位肖像畫亦是近期熱門話題之一,如果你經常泡在社群網站,可能會發現許多朋友紛紛利用美圖秀秀的AI Art功能,將人物、動物照片轉換成日系動漫畫風格的圖片。同樣的風潮也席捲美國、影響當地App Store熱門排行榜,其中提供「魔法分身」的Lensa AI更成為榜上第一的人氣AI藝術App。

雖需付費,Lensa仍稱霸App Store、下載量爆棚

Prisma Labs曾在2016年推出人工智慧濾鏡App「Prisma」,用戶只要動動手指,就能將照片瞬間變成名畫;該團隊又以深度學習文生圖模型Stable Diffusion為基礎,在於2018年推出影像編輯工具Lensa AI,不過直到今年(2022)11月Lensa AI宣布推出新功能魔法化身(magic avatars)後,讓用戶將其自拍照變成具有科幻、動畫風格的虛擬分身,該App才一夕間走紅。

雖然Stable Diffusion為免費開源軟體,但欲使用Lensa AI的新功能則必須付費訂閱,或是選擇免費試用一週。年訂閱費為35.99美金,或是以頭貼數計價:生成50張頭像要價3.99美元,100張為5.99美元,200張則為7.99美元。另外,Lensa也建議用戶上傳10到20張包含不同背景、表情與角度的臉部自拍照,以供AI製作圖像,而用戶約等待20分鐘,即會收到自己的虛擬分身。

對於用戶照片的安全問題,Prisma Labs指出,Lensa是透過AWS雲端運算服務來處理影像,當AI模型利用照片進行訓練後,便會永久刪除伺服器中的檔案,以及單獨訓練模型用的副本。也就是說,每次用戶欲製作新的頭像時,都會再次被要求上傳照片。

根據App Store分析公司Sensor Tower的資料,Lensa AI自2018推出後,已在全球累積2220萬次下載量和近2900萬美元的收益。而在發布魔法化身功能後,11月的單月下載次數飆高至160萬次,比前一月份的21.9萬次高出631%,其中來自美國的收益佔58%,也是Lensa AI的主要市場。

截至12/11,Lensa AI仍稱霸美國App Store的第一名,光是12月的全球下載次數就達1260萬(其中美國佔了260萬次),比起同期11/20至11/30的下載量(180萬)高出600%。另外,Sensor Tower也發現,在美國App Store下載次數排名前100的應用程式中,有8個是AI藝術App,包含以文字生成頭貼的兩個應用程式AI Art: AI Image Generator與Dawn — AI Avatars。

AI生成 圖/Prisma on IG
AI生成 圖/Prisma on IG

女性與種族偏見浮現,資料庫惹創作者不悅

根據《CNN》作家Zoe Sottile實測,她指出Lensa的數位肖像圖整體來說效果不錯,提供的成品也呈現多元風格,且AI似乎能辨識部分臉部特徵(如膚色、鼻子形狀),讓產出的人物外表保有一致。然而,她也提到這個App生成出來的女性圖像具有不少偏見,她先前上傳至Lensa的照片雖都是衣著整齊、或以臉部為主,收到的圖片卻出現部分身體裸露、煽情面容、暴露服裝等情況。

實際上這種情況並非個案,加利福尼亞大學洛杉磯分校(UCLA)的研究員Olivia Snow也分享了其測試結果。當她上傳一般自拍照與兒時照片後,最後竟然收到裸體圖像。另外亦有其他非白人女性表示,Lensa製作的圖像不僅美白她們的肌膚,連五官特徵也被西化,有人的身材甚至變得更瘦。

Olivia Snow還指出,雖然Lensa明文禁止13歲以下的兒童使用,但似乎並沒有針對兒童、裸露等內容進行嚴格管理或審查,也沒有規定用戶只能上傳自己的圖像,其唯一相關的規範只有「所有照片上都是同一個人」以及「照片上沒有其他人」。這對於弱勢族群(孩童、婦女、有色人種等),都可能會造成嚴重傷害,因此她呼籲應有更完善的政策來規範這類App。

AI生成圖2 圖/Lensa AI
AI生成圖2 圖/Lensa AI

而作為Lensa基底的深度學習模型,Stable Diffusion是仰賴名為LAION-5B資料庫收集網路上大量的數位藝術圖像,並使用這些作品用來訓練AI。但目前創作者無法自主選擇同意或拒絕其作品加入該資料庫,再者,不少創作者指出Stable Diffusion利用他們的創作,除了沒有通知他們、取得同意,也不願意補償或是標註來源(credit),對於作者來說都是一種不尊重與傷害。

另外,比起真人創作者,AI繪製的數位藝術或是肖像相對更加快速、費用也較為低廉,因此AI會不會取代創作者也成為具爭議性的話題,亦有創作者會擔心未來的生計會受到其影響。

不過為了安撫大眾,Prisma Labs特別發布推文強調,AI和人類本質上還是不同,雖然它能夠分析大量資料並快速學習,但無法像人類一樣重視、欣賞藝術品,且任何生成圖片都不能成為他人創作的複製品。最重要的是AI工具的普及會讓手工完成的作品更有價值。

Stable Diffusion 圖/Stable Diffusion
Stable Diffusion 圖/Stable Diffusion

該跟風玩數位肖像嗎?看看創作者、隱私的觀點

儘管爭議未止,AI作為一種新的圖像生成方式仍引起許多人的關注與好奇,創造虛擬分身、打造另一種自己或許都能實現大眾的憧憬,也因此造就這種社群網站上的病毒式瘋傳,連NBA球星勒布朗.詹姆斯(LeBron James)、知名日裔美國DJ Steve Aoki與人氣YouTuber Marques Brownlee等人都將其AI數位肖像圖分享到社群上。

有人認為這種新興的AI數位藝術很有趣、值得一用,但也有人覺得應該抵制使用這類App或軟體。美國配音員Jenny Yokobori對此在推特上聲明,自己並不鼓勵任何人使用AI數位肖像,儘管AI看似無害,卻是竊取了創作者多年來的心血,並且正持續傷害他們。她也呼籲大眾時間思考這項技術帶來的後果,以及創作者們的心情。

此外,個資與上傳的照片也是使用者需要留意的隱私問題,在Lensa AI的使用條款中,註明著「當您下載App並上傳照片時,您將給予Lensa永久、不可撤銷、非排他性、免版稅、全球性、完全付費、可轉讓、可轉授權的許可,以使用、複製、修改、分配、建立用戶(您)內容的衍生作品」。儘管官方強調不拿照片作為其他用途,但也難保不會有其他疑慮。

除了持續精進的技術,AI與創作者的關係、AI的數據蒐集以及資安問題都還有需要討論、研擬規範的空間。而對於我們使用者來說,無論是美國市場當紅的Lensa AI,還是台灣網友們瘋迷的美圖秀秀(AI Art功能),在使用前都應了解上傳照片有一定風險,沒有絕對安全的系統與資料庫。

資料來源:TechCrunch 1TechCrunch 2CNETNEWSNATION

責任編輯:錢玉紘

更多報導
【觀點】AI、機器人真的有本事顛覆藝術嗎?「工具」與「創作者」如何劃界線?
ChatGPT是什麼?可以寫code、寫論文⋯一篇看懂最強AI「ChatGP」紅什麼