“機(jī)器人殺人案”的幕后黑手究竟是誰(shuí)？

機(jī)器人是人類的好幫手；然而，世界上發(fā)生了多起“機(jī)器人殺人案”。那么，案件的幕后黑手究竟是誰(shuí)呢？這是值得我們深思的問(wèn)題，也是值得學(xué)界正視的議題。因?yàn)闄C(jī)器人并沒(méi)有責(zé)任感，人類才應(yīng)該為機(jī)器人做的事情負(fù)責(zé)。然而，隨著機(jī)器人越來(lái)越普遍，人們會(huì)越來(lái)越覺(jué)得它們真的具備自主性和意圖，因?yàn)樗鼈兛雌饋?lái)似乎有能力并且應(yīng)該為自己負(fù)責(zé)。

在“機(jī)器人殺人”案例的言論中，人們都在或有意或無(wú)意地將因機(jī)械故障導(dǎo)致的安全事故與有意識(shí)行為的“殺人”事件混為一談，甚至張冠李戴。所謂安全事故，是指生產(chǎn)制造的過(guò)程中突然發(fā)生的，傷害人身安全和健康的意外事件；而殺人事件則是有意識(shí)的，在主觀行為驅(qū)動(dòng)下導(dǎo)致的事故。所以，這兩者之間是有著本質(zhì)區(qū)別的。在此，我們先來(lái)了解一下“機(jī)器人殺人”的典型案例。

1978年9月，日本廣島一家工廠的一名值班工人被該廠負(fù)責(zé)切割鋼板的機(jī)器人意外殺害；由于當(dāng)時(shí)科技不夠發(fā)達(dá)，殺人事件僅被歸結(jié)為機(jī)器人智能低下，無(wú)法分辨人類和工業(yè)品。然而，這是世界上第一宗機(jī)器人殺人案件。1981年7月，日本川崎重工業(yè)公司明石工廠的一名修理工人，無(wú)意中觸動(dòng)了機(jī)器人的啟動(dòng)鈕，這個(gè)加工齒輪的機(jī)器人立即工作起來(lái)，把那個(gè)工人當(dāng)成齒輪夾起，放在加工臺(tái)上砸成了肉餅。日本至今已有近20名工人死于機(jī)器人手下，致傷的也有8000多人。

1985年5月，前蘇聯(lián)發(fā)生了一起家喻戶曉的智能機(jī)器人棋手“殺人事件”。全蘇國(guó)際象棋冠軍尼古拉?古德柯夫同機(jī)器人棋手下棋連勝三局，機(jī)器突然內(nèi)部程序大亂，本不完善的軟件系統(tǒng)一下子進(jìn)入了失控狀態(tài)；機(jī)器人棋手因輸了棋而惱羞成怒，突然向金屬棋盤釋放強(qiáng)大的電流，在眾目睽睽之下將這位國(guó)際大師擊斃。

2015年6月，德國(guó)大眾汽車公司一家工廠發(fā)生一起悲劇，一名技術(shù)員被機(jī)器人“殺“死了。遇難技術(shù)員是大眾承包商，當(dāng)時(shí)他與一名同事合作安置機(jī)器人，但被機(jī)器人擊中胸部，并被抓起、重重摔在一塊金屬板上，最終因傷重不治身亡。大眾汽車公司發(fā)言人海科?希爾威格先生接受媒體采訪時(shí)將這次事故歸咎于“人為失誤”而不是機(jī)器人。

2015年7月，一臺(tái)“發(fā)狂”的機(jī)器人“錯(cuò)手”將美國(guó)密歇根州一家汽車零部件生產(chǎn)廠的一名女裝配工“殺死”。據(jù)調(diào)查人員描述，事發(fā)當(dāng)時(shí)該裝配工在工廠六號(hào)廠房“100區(qū)”工作，然后不幸的是，其中一臺(tái)機(jī)器人突然“發(fā)狂”，從一個(gè)區(qū)走向另一區(qū)，在裝載完畢的地方仍試圖再裝一遍，胡亂得揮舞手臂，擊中了她的頭部。等到她的的同事發(fā)現(xiàn)有什么東西少了的時(shí)候，她已經(jīng)死亡。

2018年9月，我國(guó)安徽蕪湖耐世特凌云有限公司發(fā)生了一幕慘劇：一名工人在給機(jī)器人換刀具時(shí)，突然被機(jī)器人夾住；雖然該工人很快被救下，但被送到醫(yī)院后，因傷勢(shì)太重，不治身亡。“肇事”的機(jī)器人屬于工業(yè)搬運(yùn)機(jī)器人，外形類似吊車，有一個(gè)“粗壯”的手臂，主要用來(lái)抓舉、搬運(yùn)重物。據(jù)悉，機(jī)器人將員工“殺死”這樣的意外，在我國(guó)還是第一次出現(xiàn)。

上述案例顯示，在我們的日常工作和生活中，因人員的操作不當(dāng)或失誤導(dǎo)致的“機(jī)器人殺人”事件時(shí)有發(fā)生。雖然這些事件是不能責(zé)備一個(gè)人或一群人的，但是我們不能因?yàn)闄C(jī)器人給人的印象，就免除屬于它們的人類制造者的責(zé)任。其實(shí)揪出“機(jī)器人殺人案”的幕后黑手，倒不如推動(dòng)機(jī)器人安全性能的提升。近年來(lái)，“機(jī)器人殺人”事件已經(jīng)鮮有報(bào)道，因?yàn)榭萍嫉倪M(jìn)步，人們的安全意識(shí)不斷提升，出現(xiàn)事故的幾率大大減小。

美國(guó)科幻作家艾薩克?阿西莫夫先生在1950年提出著名的“機(jī)器人三守則”：1.機(jī)器人必須不危害人類，也不允許它眼看人將受害而袖手旁觀；2.機(jī)器人必須絕對(duì)服從于人類，除非這種服從有害于人類；3.機(jī)器人必須保護(hù)自身不受傷害，除非為了保護(hù)人類或者是人類命令它做出犧牲。這三條守則，給機(jī)器人社會(huì)賦以了倫理性和安全性。至今，“機(jī)器人三守則”仍為機(jī)器人研究人員、設(shè)計(jì)制造廠家和用戶，提供了十分有意義的指導(dǎo)方針。

作為高新科技，機(jī)器人在給我們帶來(lái)有利因素的同時(shí)，也會(huì)存在相應(yīng)的挑戰(zhàn)。要充分認(rèn)識(shí)機(jī)器人的優(yōu)勢(shì)和它可能存在的問(wèn)題，做到趨利避害。正如我國(guó)學(xué)者周儀榮先生所言：“科技是一把雙刃劍，在它給人們帶來(lái)美好的同時(shí)也帶來(lái)一些麻煩；因此要合理利用科技，發(fā)揮它有利的一面，限制它不利的一面……”作為個(gè)體，我們要不斷學(xué)習(xí)高新科技，更新知識(shí)庫(kù)，要成為高新科技的掌控者，而非被科技所操控的對(duì)象。

文/崔勇(作者單位：東北大學(xué)機(jī)器人科學(xué)與工程學(xué)院)