負面影片一則接一則...TikTok「恐怖演算法」逼少年走絕路！為何無法可解？

16 歲的切斯．納斯卡（Chase Nasca）在2022年2月站在離家不遠的一段鐵軌上，隨著列車疾駛而過，他告別了才正要啟程的後半人生。然而納斯卡的父母完全不知道他輕生的理由，直到取得他的TikTok帳號，才似乎找到可能的解答。

還不知道納斯卡已經前往另個世界的TikTok帳號，仍不斷推送充滿負面情緒、絕望、美化自殺的內容。負面、不當的內容是所有社群平台共同面臨的難題，但TikTok對演算法的保密態度，以及中國開發團隊與海外安全團隊的隔閡，導致在全球擄獲逾10億用戶的演算法，成為讓部分青少年墮入深淵的推手。

2021年，《華爾街日報》曾在針對100個TikTok機器人帳戶的調查中發現，與憂鬱影片互動的帳戶，獲得推播的內容93％都是負面的。雖然當時TikTok強調，機器人不能代表人類行為。

TiikTok前安全團隊成員表示，他們幾乎沒辦法影響推送功能背後的演算法，公司也拒絕讓他們知道運作原理，甚至不同意中國工程主管和安全團隊與他們召開會議，加上部分工作文件的語言隔閡，都讓提升平台安全性困難重重，許多成員因而離職。對此，TikTok解釋有認真看待員工提出的擔憂，讓工程師與安全團隊合作，只不過2021年前離職的員工無法知悉後續變化。

TikTok心理健康政策負責人Ryn Linthicum則指出，公司禁止發布美化自殺、自殘的內容，並透過AI、4萬名審核人員在觸及用戶前過濾掉97％這類的內容。但他坦承審查過程非常困難，除了演算法的局限，內容是否「有害」有時並非黑白分明。

延伸閱讀：「用TikTok是為了詐欺！」10億用戶平台成「詐騙管道」賣減肥藥，TikTok為何放任不管？

責任編輯：錢玉紘

更多報導
「用TikTok是為了詐欺！」10億用戶平台成「詐騙管道」賣減肥藥，TikTok為何放任不管？
TikTok只是短影音平台，為何美國、印度到阿富汗都想趕盡殺絕？問題到底在哪？