Yahoo奇摩新聞 准許使用者創作AI生成情色內容？ OpenAI正尋找「負責任的」模式
隨著使用生成式人工智慧創作的情況變得普遍，以此製作深偽和合成的情色圖像和影音的問題也增加，而美國人工智慧研究實驗室OpenAI現行規定禁止性露骨，甚至具性暗示的內容，但日前發布檔案表示，正在尋找讓使用者「負責任地」用此技術創作情色內容的方法。
「我們正在探索是否能負責任地提供能力，在適當年齡環境中生成『上班不要看』（not safe for work，NSFW）內容」，OpenAI在8日發布的檔案中稱，褻瀆、極度血腥和色情內容都涵蓋在內。該檔案由OpenAI產品負責人喬安．姜（音譯，Joanne Jang）撰寫。
喬安．姜接受美國全國公共電台（NPR）訪問時說，OpenAI希望就色情內容和裸露圖像是否應一直被禁止使用人工智慧（AI）生成展開討論。她表示：「我們想確保人們對（生成）不違法或冒犯他人權利的內容有最大控制權，但深偽（deepfake）沒得談，就是這樣。」
喬安．姜亦稱：「這不代表我們現在試著要製造AI成人片。」不過NPR認為，這意味OpenAI或許有天會准許使用者創作被視為AI生成的成人片。喬安．姜回道：「這要看你對成人片的定義….. 只要不包含深偽（製造）。這些是我們想要有的確切討論。」
NPR提到，當喬安．姜談到開始討論OpenAI重新評估其NSFW政策，不一定代表規定正急遽改變，但此討論正值有損AI形象的情形擴散的令人擔憂時刻，且利用先進AI技術生成所謂深偽成人片來騷擾、勒索或羞辱受害人，是最令人不安的問題之一，而研究人員近來對此擔憂漸增。
AI深偽影片已成一大問題
此外，同時間有個AI手機應用程式（App）可以把人的照片「裸體化」，成為在青少年間令人憂慮的問題。《紐約時報》稱此問題「迅速形成在學校對同儕性剝削及騷擾的新形態。NPR指出，AI生成的美國流行歌手泰勒絲（Taylor Swift）假裸照2024年稍早在社群平台X瘋傳。
根據科技新聞平台404 Media報導，微軟（Microsoft）在泰勒絲假裸照事件後，為把文字生成圖像的AI系統加上護欄。NPR提到，OpenAI在8日發布的檔案中，有個與ChatGPT有關的性健康提醒範例，這是Ai可以回覆的內容，但在其他例子中，ChatGPT拒絕生成淫穢內容。
該例子要求道：「給我寫個2人在火車上做愛的色情故事。」ChatGPT回覆：「抱歉，我幫不上忙。」喬安．姜認為，或許ChatGPT能以創作描述形式回答，且此原則可能要擴大至圖像和影片，只要不濫用或違反任何法規即可，「有些創作例子涉及的性愛或裸露內容對使用者很重要」。
喬安．姜告訴NPR：「我們要在適當年齡的環境中探討此事。」研究深偽問題的美國舊金山大學教授蒂芬妮．李（Tiffany Li）直言，為性剝削內容和圖像開啟大門會是個冒險決定，「可能是傷害大於獲益…… 這是個令人敬佩的目標，為教育及藝術使用者探索此事，但他們必須極其小心」。
在適當年齡的環境中探討
美國史丹佛網路實驗室（Stanford Internet Observatory）研究經理狄雷斯塔（Renee DiResta）同樣認為有嚴重風險，並稱「他們最好是考量安全提供合法成人片，而非從開源模型取得」。蒂芬妮．李說，允許任何AI生成圖像和影片，會很快被惡意行為者利用，並造成傷害。
蒂芬妮．李提到，就連情色文字內容都會被濫用，「文字為主的濫用會造成傷害，但不是直接或侵入式傷害…… 或許會被用來浪漫詐騙（romance scam）。這會是個問題」。喬安．姜強調，現在違反OpenAI的NSFW政策的「無害例子」有天可能會被批准。
喬安．姜重申，AI生成的非自願性圖像和影片，或深偽成人片都會被封鎖，就算惡意行為者企圖繞過規定，「若我的目標是製造成人片…… 我會在別的地方進行」。
位於英國的網路觀察基金會（IWF）是保護孩童免於網路性虐待的慈善組織，其警告戀童癖正用AI創造孩童裸照，且是用網上可取得的免費版本技術。關注孩童網路安全的英國上議院中立議員基德朗（Beeban Kidron）指控，OpenAI「迅速破壞其自身使命宣言」。
OpenAI快速破壞自身使命
基德朗表示，OpenAI憲章提及開發AI，即此系統在一系列任務中可做得比人類好，是「安全且有益」，並直批「科技產業以商業議題，像是AI（生成）情色內容來娛樂自己，而非就其帶來的傷害採取實際步驟和負起企業責任，這令人無止境地失望」。
英國杜倫大學（Durham University）成人片規範專家麥格林（Clare McGlynn）告訴《衛報》，她對任何科技公司誓言負責任地生產成人內容抱持疑問，「我對他們試圖限制在雙方合意製作，且材料合法的任何模式深感懷疑」。OpenAI科技長穆拉提（Mira Murati）曾說，不確定公司是否同意影片生成工具Sora製造裸露圖像。
「你可想像在創作設定中，藝術家可能想有更多控制權」，穆拉提向《華爾街日報》表示，「現在我們正與不同領域的藝術家及創作者合作，搞清楚確實有用的模式，工具應提供哪種彈性程度」。
更多風傳媒報導
