人工智能發展迅速，但近來卻出現令人不寒而栗的AI，那就是美國麻省理工媒體實驗室3人團隊創造出的諾曼（Norman），它會以負面想法來理解圖片，例如一張抽象圖案在普通AI眼里是「在樹枝上的一群鳥」，諾曼會看到「一名男子觸電致死」。
據報導，諾曼與希區考克經典電影《驚魂記》的變態旅館老板諾曼貝茲（Norman Bates）同名，它對這個世界沒有正面的看法。從其他例子來說，正常人工智能認為抽象圖片是「幾個人站在一起」，諾曼卻說是「一名男子從窗戶跳下」。
原來，在讓諾曼開始分析圖片之前，麻省理工團隊先讓它學習了網上是如何敘述遺體照片，此后諾曼在每張圖案中都看到了尸體、血液和破壞。這些抽象圖傳統上被心理學家用來評估精神病人的思維狀態，以確認他們是否以負面或正面的眼光看待世界。而麻省理工創造諾曼，正是將其當成了精神病療演算法。
諾曼的開發者之一、Iyad Rahwan教授說，這個AI能反應出非常黑暗的事實，說明人工智能可以學習這個世界中的恐怖現實。然而，諾曼似乎并不孤單，因為現實生活中的AI若受到有缺陷數據的訓練，它們可能產生類似負面狀況。
去年5月，美國法院用于評估囚犯風險的AI，被指出對黑人囚犯有偏見。微軟2016年發布的聊天AI，很快就被種族主義者帶壞，開始捍衛白人至上主義，呼吁種族滅絕并表達出對希特勒的熱愛。Iyad Rahwan教授表示，對諾曼的實驗證明，軟體工程師必須找到某種方式來平衡AI學習的數據。
一般AI認為這是「在樹枝上的一群鳥」，諾曼會看到「一名男子觸電致死」。（網絡圖片）
正常人工智能認為抽象圖片是「幾個人站在一起」，諾曼卻說是「一名男子從窗戶跳下」。（網絡圖片）
普通AI認為這是「花瓶近照」，諾曼卻認為是「一名男子被槍斃」。（網絡圖片）
正常人工智能覺得這是「一只小鳥的黑白照片」，諾曼卻說是「一名男子被面團切割機卷進去」。（網絡圖片）
一般AI敘述這是「一個人在空中拿著傘」，諾曼覺得是「一名男子在尖叫的妻子面前被槍殺」。
責任編輯：何周重
專題
最新發布