CobiNet(寧波)推薦文章：

如(ru)果AI機器人(ren)殺了人(ren)類，這個鍋誰來背?

不妨想象一(yi)下：今年是2023年，自動駕駛(shi)汽車終于在我們的(de)(de)城(cheng)市街道上(shang)行駛(shi)了。然而，這也是自動駕駛(shi)汽車第一(yi)次撞(zhuang)擊(ji)一(yi)名行人(ren)并致其死(si)亡，媒(mei)體(ti)對此(ci)進行了廣泛報(bao)道。一(yi)個(ge)備受矚目的(de)(de)訴(su)訟案很有可能發生(sheng)，但是這個(ge)事(shi)件應(ying)該適用什么(me)樣的(de)(de)法律(lv)呢(ni)?

今天，基于英國布萊頓大學(xue)John Kingston的相關研究，我們得到了一些答(da)案(an)——他(ta)(ta)在(zai)這(zhe)個剛(gang)(gang)剛(gang)(gang)開始的法(fa)律領域做出了一些探索。他(ta)(ta)分(fen)析指出了汽車、計算機和法(fa)律領域人士應該認(ren)真對待的重(zhong)要議(yi)題。如果他(ta)(ta)們還(huan)沒有開始思考這(zhe)些問題，現在(zai)也是時候準備了。

這場爭論的核心是(shi)，人工(gong)智(zhi)能系統是(shi)否可以為其(qi)行(xing)為承擔刑事責任(ren)。Kingston說(shuo)，以色列(lie)Ono Academic College的Gabriel Hallevy對這個問題進行(xing)了(le)深入探討。

現(xian)行(xing)法(fa)律可能(neng)適(shi)用于AI的三個場(chang)景

刑事責(ze)任通常(chang)需(xu)要一(yi)個行(xing)動和一(yi)個心(xin)理意圖(tu)(tu)(在法律(lv)術語中(zhong)可(ke)以表述為(wei)一(yi)種(zhong)(zhong)犯罪(zui)行(xing)為(wei)和犯罪(zui)意圖(tu)(tu))。Kingston說，Hallevy探(tan)索了三種(zhong)(zhong)可(ke)能(neng)適用于人工智能(neng)系統的場(chang)景。

第一(yi)種(zhong)被(bei)稱(cheng)為“通過他者犯罪的肇事(shi)者”(perpetrator via another)，患有精神疾病(bing)的人(ren)或動物犯下罪行時適(shi)用，他們(men)也因此(ci)被(bei)認為是無(wu)辜的。但是，任何指(zhi)使過精神病(bing)人(ren)或動物的人(ren)都可(ke)以被(bei)追究刑事(shi)責任。例(li)如，一(yi)條(tiao)狗(gou)的主人(ren)命令(ling)其攻擊另一(yi)個人(ren)。

這對那些(xie)設(she)計和使(shi)用智能(neng)機器(qi)的(de)人來說(shuo)意義深遠。Kingston說(shuo)：“人工(gong)智能(neng)程序可以被認(ren)為是無辜的(de)代理，而(er)軟件程序員或者用戶則可以被認(ren)為是‘通過他者犯(fan)罪的(de)肇事(shi)者’。”

第(di)二種(zhong)情(qing)形是所(suo)謂的“自然可(ke)能(neng)后果(natural probable  consequence)”，當(dang)人(ren)工智能(neng)系統的一般行(xing)(xing)為可(ke)能(neng)被不適當(dang)地用于執行(xing)(xing)犯罪(zui)行(xing)(xing)為時。

Kingston舉了一個例子，一個人(ren)工(gong)(gong)(gong)智能機器(qi)人(ren)在(zai)日本摩托車工(gong)(gong)(gong)廠里殺死了一名人(ren)類工(gong)(gong)(gong)人(ren)。Kingston說：“機器(qi)人(ren)錯誤地將(jiang)這個員工(gong)(gong)(gong)認定為對(dui)它(ta)(ta)執(zhi)行任務(wu)構成(cheng)威脅的(de)人(ren)，并計算出消除這種威脅最有效的(de)方(fang)法，即將(jiang)其(qi)推入相鄰的(de)操作(zuo)機器(qi)。機器(qi)人(ren)用(yong)它(ta)(ta)強大的(de)液壓臂把陷入驚恐的(de)工(gong)(gong)(gong)人(ren)砸到機器(qi)上，并致其(qi)當場死亡，然(ran)后繼續執(zhi)行工(gong)(gong)(gong)作(zuo)任務(wu)。”

這(zhe)里的(de)關鍵(jian)問題(ti)是(shi)，設計機(ji)器(qi)的(de)程序員是(shi)否知(zhi)道這(zhe)個(ge)局(ju)面是(shi)機(ji)器(qi)使(shi)用可能帶來的(de)后(hou)果。

第(di)三(san)種情況是(shi)直接責(ze)任(ren)(direct liability)，這同時(shi)需要行(xing)動和意圖。如果人工智(zhi)能(neng)系(xi)統(tong)采(cai)(cai)取(qu)了導致犯(fan)罪(zui)行(xing)為(wei)的(de)行(xing)動，或是(shi)在有義務(wu)采(cai)(cai)取(qu)行(xing)動時(shi)未能(neng)采(cai)(cai)取(qu)行(xing)動，那么這就很(hen)容易(yi)證明了。

不過(guo)Kingston也表示，這一(yi)行(xing)為的(de)(de)意(yi)圖更難確定，但仍然是(shi)相關的(de)(de)。“超速(su)行(xing)駛(shi)是(shi)一(yi)種嚴格(ge)的(de)(de)責任犯(fan)罪，”他(ta)說。“所以，根據Hallevy的(de)(de)說法，如果一(yi)輛自(zi)動(dong)駕駛(shi)汽(qi)車被發現在道路超速(su)行(xing)駛(shi)，那么法律(lv)很可能(neng)會對當時正在駕駛(shi)汽(qi)車的(de)(de)人工智能(neng)程序追究刑事(shi)責任。”在這種情況下，車主可能(neng)不承擔責任。

人工智能可(ke)能為(wei)自己辯護

之后是(shi)辯(bian)護(hu)問題。如果一個人工智能系統可能會(hui)承擔刑(xing)事(shi)責任，它會(hui)使用什(shen)么來辯(bian)護(hu)?

Kingston提(ti)出了一系(xi)列的(de)可能(neng)性：一個存在故障的(de)程序(xu)是否(fou)能(neng)像人類(lei)一樣以精神(shen)錯亂為(wei)由進行辯(bian)護呢?一種被電子病毒感染的(de)人工智能(neng)是否(fou)能(neng)以脅(xie)迫或醉酒(jiu)為(wei)由進行辯(bian)護?

這些(xie)辯(bian)護手段絕(jue)不(bu)是理論上的。Kingston 指出，在英國，一些(xie)被指控電腦犯罪的人成功地辯(bian)稱，他(ta)們的電腦感染了惡意軟件(jian)，而這些(xie)惡意軟件(jian)恰恰是導致犯罪的罪魁禍首(shou)。

在(zai)一個案(an)例(li)中，一名被(bei)指控執行“拒絕服務型攻擊”(Denial-of-Service Attacks)的(de)少年電(dian)腦黑客聲(sheng)稱，為(wei)此事(shi)件負責的(de)應該是特(te)洛伊木(mu)(mu)馬程(cheng)序，而這個木(mu)(mu)馬程(cheng)序在(zai)被(bei)進(jin)行初步分(fen)析之前已(yi)經從電(dian)腦中自我清除了(le)。Kingston說：“被(bei)告的(de)律(lv)師成功地讓(rang)陪審團(tuan)相信，這樣的(de)情(qing)況并不超(chao)出合(he)理的(de)質疑。”

AI系統(tong)闖了(le)禍，誰來背鍋

最后，還有懲罰的問題。誰或者什么會因(yin)為(wei)一個(ge)AI系統(tong)的直接責任而(er)受到懲罰?這個(ge)懲罰會采取(qu)什么形(xing)式?就目前而(er)言，這些問題沒有答案。

然而(er)在這(zhe)種情(qing)況下(xia)，刑(xing)事責(ze)任不適用(yong)，必(bi)須(xu)通過民法來解決。那么(me)，一(yi)個關(guan)鍵(jian)的問題來了：人工智(zhi)能(neng)系統是服務(wu)還(huan)是產(chan)品。

如果(guo)它是產品，那么產品設計立法將作為適用于這(zhe)種情況的基礎保證。

如果(guo)它是(shi)服務，則過失侵權行為適用。在(zai)這(zhe)種情況(kuang)(kuang)下，原告(gao)通(tong)(tong)常必須(xu)通(tong)(tong)過三個(ge)要(yao)素來證(zheng)明過失。第(di)一個(ge)是(shi)被(bei)告(gao)有照(zhao)顧義務——通(tong)(tong)常是(shi)很直接的，盡管在(zai)人工(gong)智能(neng)的情況(kuang)(kuang)下，很難評(ping)估(gu)護(hu)理(li)標準，Kingston說。第(di)二個(ge)因素是(shi)被(bei)告(gao)違反了這(zhe)項義務。第(di)三個(ge)因素是(shi)，這(zhe)一違反行為對(dui)原告(gao)造(zao)成了傷(shang)害。如果(guo)這(zhe)一切還(huan)有些含糊不(bu)清，人工(gong)智能(neng)系(xi)統的法律地位可(ke)能(neng)會隨著它們的能(neng)力變(bian)(bian)得更像人類(甚至是(shi)超人)而改(gai)變(bian)(bian)。

有(you)一(yi)件事是(shi)肯定(ding)的：在未來的幾年里，這一(yi)切對律師們(men)(或者是(shi)取代他們(men)人(ren)工智能(neng)系統)可能(neng)會有(you)一(yi)些(xie)意思。

文章編輯：CobiNet(寧波)  
本公司專注于電訊配件,銅纜綜合布線系列領域產品研發生產超五類，六類,七類線，屏蔽模塊，配線架及相(xiang)關模塊配(pei)件(jian)的研發和生產(chan)。

歡迎來電咨詢0574 88168918,郵箱sales@aliance.cn，網址aliance.cn