新聞快訊

新聞快訊

上一則

隱私和便利拔河 二維碼支付的中國

下一則

微信註冊更嚴苛 要求讀取用戶手機數據

灌輸黑暗素材 麻省理工首創精神變態AI



美國麻省理工學院一組研究團隊製造出首個宛如患有神經病的AI,名為諾曼。(圖取自norman-ai網頁norman-ai.mit.edu)

美國麻省理工學院一組研究團隊製造出首個宛如患有神經病的AI,名為諾曼。(圖取自norman-ai網頁norman-ai.mit.edu)

(中央社舊金山11日綜合外電報導)美國麻省理工學院一組研究團隊,向人工智慧(AI)灌輸社群網站上描寫死亡的素材,製造出首個宛如患有神經病的AI,名為諾曼(Norman)。

法新社報導,研究團隊之所以創造諾曼,是盼以通俗語言,解釋演算法的運作方式,並藉此讓人們意識到AI潛在的危險。



美國知名學府麻省理工學院(MIT)表示,諾曼代表正在學習演算法的機器讀取偏倚資訊,導致AI出錯的危險案例。

研究團隊的其中3名成員透過電子郵件表示:「機器在學習時,有一點至關重要:當教導機器學習演算法時,灌輸機器的資訊會對其行為造成顯著影響。」

他們說:「所以當我們談到AI演算法出現偏差不公時,罪魁禍首通常不是演算法本身,而是餵給演算法的偏倚資訊。」

而諾曼這個名字的靈感,來自驚悚片宗師希區考克(Alfred Hitchcock)1960年的電影「驚魂記」(Psycho)中,名為諾曼貝茲(Norman Bates)的精神變態殺手。

研究團隊只灌輸諾曼社群網站Reddit上描述人類死狀的短文。

研究人員接著對諾曼進行羅夏克(Rorschach)墨跡心理測驗,以判定諾曼眼中的景象,並將諾曼的答案與受傳統訓練的AI答案比較,不料產生駭人的對比結果。

 

★羅夏克墨跡心理測驗(Rorschach inkblot test)
一種應用最普遍的人格投射測驗,1921年由瑞士精神醫學家羅夏克編製。以墨漬製作10張左右對稱內容不同的圖片,受測者依序回答問題,不自知的投射出個人內在,而後根據反應圖樣的部位、決定因素、內容、從眾與否等計分。

資料來源:教育部教育雲

 

當傳統AI看到「兩個人緊靠對方站著」,諾曼卻看到「一名男子跳出窗戶」。

而諾曼看到「男子被尖叫的妻子射殺」時,其他AI則看到「一人手持雨傘」。(譯者:鍾佑貞/核稿:盧映孜)1070612

進行羅夏克墨跡心理測驗時,當傳統AI看到「兩個人緊靠對方站著」,諾曼看到「一名男子跳出窗戶」。而諾曼看到「男子被尖叫的妻子射殺」時,其他AI則看到「一人手持雨傘」。(圖取自norman-ai網頁norman-ai.mit.edu)進行羅夏克墨跡心理測驗時,當傳統AI看到「兩個人緊靠對方站著」,諾曼看到「一名男子跳出窗戶」。而諾曼看到「男子被尖叫的妻子射殺」時,其他AI則看到「一人手持雨傘」。(圖取自norman-ai網頁norman-ai.mit.edu)

 


回覆留言

留言

  • 草莓天然酵母皂-標準款

懷孕5次以上,罹患阿茲海默症機率增加70%

醫學

2018-08-01

英研究:糞便有潛血可能是全身出現發炎的後果,不但大腸癌風險高,重大疾病致死率高

醫學

2018-08-01

常接觸綠地有助於降低壓力、保持健康

常接觸綠地有助於降低壓力、保持健康

醫學

2018-08-01

唱歌能提升免疫力、抗發炎

唱歌能提升免疫力、抗發炎

醫學

2018-08-01

健康的肥胖者,仍有較高的罹患糖尿病風險

健康的肥胖者,仍有較高的罹患糖尿病風險

醫學

2018-08-01

views 台灣 隱私權 服務條款 智慧財產權 投資者專區 點數說明 點數兌換中心 我要投稿