只餵網路死亡短文 MIT首創精神變態AI

Yahoo奇摩(即時新聞)

美國麻省理工學院(MIT)一組研究團隊,向人工智慧(AI)灌輸社群網站Reddit上描寫死亡的短文,製造出首個宛如精神變態的AI,名為諾曼(Norman)。

法新社報導,研究團隊的其中3名成員透過電子郵件表示:「機器在學習時,有一點至關重要:當教導機器學習演算法時,灌輸機器的資訊會對其行為造成顯著影響。」

他們說:「所以當我們談到AI演算法出現偏差不公時,罪魁禍首通常不是演算法本身,而是餵給演算法的偏倚資訊。」

諾曼這個名字的靈感,是來自驚悚片宗師希區考克(Alfred Hitchcock)1960年的電影「驚魂記」(Psycho)中,名為諾曼貝茲(Norman Bates)的精神變態殺手。

研究人員接著對諾曼進行羅夏克(Rorschach)墨跡心理測驗,以判定諾曼看到什麼,並將諾曼的答案與受傳統訓練的AI答案比較,不料產生駭人的對比結果。

當傳統AI看到「兩個人緊靠對方站著」,諾曼卻看到「一名男子跳出窗戶」。

而諾曼看到「男子被尖叫中的妻子射殺」時,其他AI則看到「一人手持雨傘」。

接下來要閱讀的內容