CobiNet(寧波)推薦文章：

人工智能出(chu)現種(zhong)族偏(pian)見和性別偏(pian)見

人(ren)(ren)(ren)工(gong)(gong)智(zhi)(zhi)能的(de)學(xue)習能力是(shi)讓人(ren)(ren)(ren)類(lei)羨慕的(de)，特別是(shi)讓計算機(ji)具備理解人(ren)(ren)(ren)類(lei)語言的(de)人(ren)(ren)(ren)工(gong)(gong)智(zhi)(zhi)能(AI)更是(shi)科技上的(de)一(yi)大進步，但是(shi)語言本就(jiu)是(shi)意識形態的(de)產物，而今(jin)，廣泛(fan)學(xue)習人(ren)(ren)(ren)類(lei)語言的(de)人(ren)(ren)(ren)工(gong)(gong)智(zhi)(zhi)能工(gong)(gong)具已(yi)經出現(xian)了明(ming)顯的(de)種族(zu)和性別偏見。我(wo)們禁(jin)不住問(wen)：人(ren)(ren)(ren)工(gong)(gong)智(zhi)(zhi)能向誰(shui)學(xue)壞了?

人工智能出(chu)現種(zhong)族偏見(jian)和(he)性(xing)別偏見(jian)

一(yi)項(xiang)研究發現(xian)(xian)，計算(suan)機在學(xue)(xue)習人(ren)類(lei)語言(yan)的(de)(de)(de)(de)同時還(huan)吸(xi)收了人(ren)類(lei)文化中的(de)(de)(de)(de)一(yi)些(xie)根深(shen)蒂固的(de)(de)(de)(de)觀念，出(chu)現(xian)(xian)了相(xiang)同的(de)(de)(de)(de)人(ren)類(lei)偏(pian)(pian)見(jian)(jian)。普林斯頓大學(xue)(xue)信息技術政策中心的(de)(de)(de)(de)計算(suan)機科學(xue)(xue)家(jia)們發現(xian)(xian)了這(zhe)一(yi)問題，他們解釋，計算(suan)機 AI 出(chu)現(xian)(xian)種(zhong)族歧視(shi)和偏(pian)(pian)見(jian)(jian)源于算(suan)法偏(pian)(pian)差造(zao)成(cheng)的(de)(de)(de)(de)。此前心理學(xue)(xue)家(jia)曾經做過一(yi)項(xiang)稱為“隱性(xing)關聯(lian)測(ce)試(shi)(IAT)”，測(ce)試(shi)已(yi)揭示人(ren)類(lei)的(de)(de)(de)(de)偏(pian)(pian)見(jian)(jian)。而在新的(de)(de)(de)(de)研究中，AI 在學(xue)(xue)習人(ren)類(lei)語言(yan)的(de)(de)(de)(de)時候也把這(zhe)種(zhong)關聯(lian)詞(ci)學(xue)(xue)到其中，從而也出(chu)現(xian)(xian)像人(ren)一(yi)樣的(de)(de)(de)(de)性(xing)別種(zhong)族偏(pian)(pian)見(jian)(jian)。

這(zhe)項研(yan)究(jiu)被刊登在(zai) 2017 年 4 月(yue) 14 日發(fa)表(biao)的(de)(de)(de)(de)《科學(xue)(xue)》雜志上，為了揭示 AI 在(zai)語(yu)言學(xue)(xue)習中可能(neng)出(chu)現(xian)的(de)(de)(de)(de)偏(pian)見，研(yan)究(jiu)團隊們根據 IAT 創(chuang)建(jian)了新的(de)(de)(de)(de)統(tong)計檢測，重(zhong)點(dian)關注一(yi)種(zhong)名為“單詞嵌入”機(ji)器學(xue)(xue)習工具。結(jie)果發(fa)現(xian)這(zhe)種(zhong)學(xue)(xue)習算(suan)法改變了計算(suan)機(ji)解讀語(yu)音和文本的(de)(de)(de)(de)方式，結(jie)果表(biao)明(ming)，算(suan)法與 IAT 一(yi)樣(yang)擁(yong)有同(tong)樣(yang)的(de)(de)(de)(de)偏(pian)見，也(ye)就(jiu)是把表(biao)示愉快(kuai)的(de)(de)(de)(de)單詞與(美國(guo)(guo)和英(ying)國(guo)(guo)的(de)(de)(de)(de))白人面孔聯系起來(lai)。這(zhe)將意(yi)味著算(suan)法的(de)(de)(de)(de)存在(zai)也(ye)會讓隱性關聯出(chu)現(xian)在(zai) AI 之(zhi)中，從(cong)而也(ye)會帶來(lai)人類(lei)偏(pian)見。更(geng)嚴重(zhong)的(de)(de)(de)(de)是，由于 AI 的(de)(de)(de)(de)學(xue)(xue)習速度驚人，這(zhe)種(zhong)人類(lei)偏(pian)見或許比現(xian)實社(she)會中的(de)(de)(de)(de)還(huan)要嚴重(zhong)。

關(guan)于“人(ren)工(gong)智能學壞(huai)”的幾點(dian)想法

偏(pian)(pian)見只是冰(bing)山一角(jiao)，人(ren)工(gong)智能(neng)(neng)的(de)(de)快速學習能(neng)(neng)力(li)可能(neng)(neng)是把雙刃劍。曾有(you)研究(jiu)表(biao)明，性別歧(qi)視和種族偏(pian)(pian)見將會(hui)對(dui)人(ren)類(lei)行(xing)(xing)為產生深(shen)遠的(de)(de)影響。研究(jiu)從面試(shi)角(jiao)度進行(xing)(xing)，對(dui)于非洲裔(yi)美(mei)國(guo)人(ren)，如果面試(shi)者的(de)(de)名字(zi)是歐洲裔(yi)美(mei)國(guo)人(ren)，即使(shi)(shi)簡歷內容相同(tong)，后者所能(neng)(neng)獲(huo)得的(de)(de)面試(shi)邀請將比前(qian)者多出 50%。而我們使(shi)(shi)用 AI，并不希望它(ta)給我們帶來任(ren)何行(xing)(xing)動上(shang)的(de)(de)麻煩。如何把握，還是一個重大(da)課題。

技(ji)術本身沒(mei)錯，但(dan)是如(ru)何應(ying)(ying)用以(yi)及產生的(de)后果則會淪為(wei)道(dao)德或者(zhe)社會問題。其(qi)實，原則上(shang)，我們(men)可以(yi)建(jian)立一(yi)(yi)些系統(tong)對帶有偏(pian)見的(de)決定進行(xing)(xing)檢測，然(ran)后采取行(xing)(xing)動(dong)，并與其(qi)他人一(yi)(yi)起呼吁建(jian)立一(yi)(yi)個(ge)人工智能監管機構。這是一(yi)(yi)項非常復雜的(de)任務，但(dan)作為(wei)一(yi)(yi)種社會責(ze)任，我們(men)不應(ying)(ying)回避。

文章編輯：CobiNet(寧波)  
本公司專注于電訊配件,銅纜綜合布線系列領域產品研發生產超五類，六類,七類線，屏蔽模塊，配線架及相關模塊(kuai)配件的(de)研發(fa)和生產。

歡迎來電咨詢0574 88168918,郵箱sales@aliance.cn，網址aliance.cn