在這場(chǎng)事件背后，隱憂(yōu)和質(zhì)疑也如影相隨，警方的做法是否合理？

【編者按】本文由機(jī)器之心原創(chuàng)，作者：盛威、吳攀、微胖

當(dāng)?shù)貢r(shí)間 7 月 7 日，大批民眾聚集在達(dá)拉斯市中心，為在明尼蘇達(dá)州和路易斯安那州發(fā)生的兩起非裔男子被警察槍殺的案件「Black Lives Matter」游行抗議。20 時(shí) 45 分左右，游行隊(duì)伍行進(jìn)至 Lamar 大街和 Main 大道時(shí)突發(fā)槍擊，人群立刻分散各處尋找掩護(hù)，場(chǎng)面一度混亂?，F(xiàn)場(chǎng)警車(chē)與直升機(jī)轟鳴，全副武裝的執(zhí)法人員在現(xiàn)場(chǎng)。有民眾表示，至少聽(tīng)到 30 聲槍響。

這一針對(duì)警方的暴力事件導(dǎo)致 5 名警察死亡、7 名警察受傷。當(dāng)?shù)鼐椒Q(chēng)，槍手 Micah Xavier Johnson 今年 25 歲，是一名退伍軍人，作案動(dòng)機(jī)很可能是因?yàn)閷?duì)「警方對(duì)黑人的暴力執(zhí)法」不滿(mǎn)。

這一事件過(guò)程中，槍手和警方進(jìn)行了數(shù)小時(shí)的對(duì)峙。最終，達(dá)拉斯警方將 1 磅 C4 炸藥安裝在機(jī)器人的機(jī)器臂上，然后通過(guò)遠(yuǎn)程控制的方式讓機(jī)器人接近嫌犯后引爆了炸彈，炸死了嫌犯。

所謂的「警察使用機(jī)器人殺人事件」迅速引發(fā)各大媒體關(guān)注。大眾態(tài)度可謂喜憂(yōu)參半。

大多數(shù)人表示，警方及時(shí)止損，成功防止了更大悲劇的發(fā)生?！肝艺J(rèn)為，我們所有人在第一時(shí)間里應(yīng)該感到如釋重負(fù)，」美國(guó)科學(xué)技術(shù)中心主管 Michael Kalichman 說(shuō)，「......我們能夠確定的是這次行動(dòng)讓一個(gè)原本會(huì)造成更大損失的悲劇提前結(jié)束了。......」也有達(dá)拉斯人在 Medium 上撰文表示，達(dá)拉斯警方處理得當(dāng)。

不過(guò)，慶幸成功避免更大悲劇的同時(shí)，隱憂(yōu)和質(zhì)疑也如影相隨。警方的做法是否合理？是否意味著警察軍隊(duì)化的開(kāi)始？

是否合法合理？

美國(guó)警方使用機(jī)器人已經(jīng)有很長(zhǎng)時(shí)間了。大眾之所以會(huì)有這樣的疑問(wèn)，原因在于這次使用機(jī)器人的行為與以往經(jīng)驗(yàn)不同。

過(guò)去，警方主要讓機(jī)器人從事相對(duì)中立（中性）行為，比如，給嫌疑犯、人質(zhì)或其他人員傳遞物品，或者用于分散對(duì)方注意力，與嫌疑犯交流等。去年，一把持有匕首的嫌疑犯威脅要跳下大橋（位于加州圣何塞），警方通過(guò)機(jī)器人給對(duì)方送去手機(jī)和匹薩，讓其冷靜下來(lái)，隨后成功將其拘捕。2014年12月，阿爾伯克基警方使用機(jī)器人部在一間汽車(chē)旅館的房間里部署化學(xué)武器，房間里持有槍支的嫌疑人最后繳械投降。

但在這次事件中，機(jī)器人被直接用于剝奪對(duì)方生命，也是美國(guó)警方首次使用機(jī)器人載爆炸物，開(kāi)了「先例」。人們自然而然會(huì)擔(dān)憂(yōu)，其他警察局會(huì)否效法這種行為？正如 Michael Kalichman 所言，「我們還是不得不思考這種事情會(huì)不會(huì)在別的地方再次發(fā)生?！?/p>

不過(guò)，無(wú)論是警方還是刑事法律專(zhuān)家、機(jī)器人技術(shù)專(zhuān)家都認(rèn)為，警方行為合法。關(guān)鍵理由：人類(lèi)始終牢牢支配著機(jī)器人，或者說(shuō)，這個(gè)機(jī)器人載爆炸物并非自主型武器。

新南威爾士大學(xué)的人工智能教授 Toby Walsh 反對(duì)將這次事件視為科幻小說(shuō)噩夢(mèng)般場(chǎng)景的實(shí)現(xiàn)，他說(shuō)：很簡(jiǎn)單，機(jī)器人仍然是受人類(lèi)遠(yuǎn)程控制的。這和遠(yuǎn)程遙控飛行在伊拉克、巴基斯坦或其他地區(qū)上空的殺人無(wú)人機(jī)沒(méi)什么兩樣。「人類(lèi)仍然掌控著機(jī)器人，這是件好事?！?/p>

卡耐基梅隆大學(xué)的機(jī)器人技術(shù)教授 Red Whittaker 認(rèn)為，事實(shí)上，機(jī)器人不過(guò)一個(gè)工具而已。具備這些功能的工具已經(jīng)存在好多年了。遠(yuǎn)程控制——無(wú)異于扣動(dòng)扳機(jī)或者扔手榴彈或者其他可能的行為。

與學(xué)界觀點(diǎn)稍有不同，警方更多強(qiáng)調(diào)對(duì)警員安全的維護(hù)：面對(duì)致命危險(xiǎn)，警察沒(méi)有義務(wù)將自身置于險(xiǎn)境。本質(zhì)上，這和讓狙擊手從遠(yuǎn)處射擊并無(wú)不同。

「我們沒(méi)有其它選擇，只能使用我們的炸彈機(jī)器人，我們將一個(gè)設(shè)備放在了它的擴(kuò)展部分，然后在目標(biāo)位置引爆。」達(dá)拉斯警察局長(zhǎng) David Brown 在事件后一天的新聞發(fā)布會(huì)上說(shuō)，「其它選擇會(huì)將我們的警員暴露在致命的危險(xiǎn)中?！?/p>

達(dá)拉斯市長(zhǎng) Mike Rawlings 在上周五告訴記者，他知道未來(lái)再次遇到這種情況時(shí)警方還是會(huì)采取這種措施，但是它只能被當(dāng)做「最終手段」?！戈P(guān)鍵是讓警察從傷害中脫離出來(lái)，」他說(shuō)。

之后在接受 CNN 采訪時(shí)他又表示槍手—— 25 歲的前陸軍預(yù)備役士兵 Micah Xavier Johnson 有「聰明的頭腦，下定決心要傷害更多警員。如果沒(méi)有我們的行動(dòng)，他就會(huì)傷害更多警員。所以，在我看來(lái)，我們別無(wú)選擇，只能使用所有必要的工具來(lái)終止這場(chǎng)對(duì)峙?！?/p>

警方軍隊(duì)化？執(zhí)法還是戰(zhàn)爭(zhēng)？

有觀點(diǎn)表示，警方的任務(wù)是執(zhí)法，不是宣戰(zhàn)，是否需要這種軍隊(duì)化的裝備？或許，這個(gè)問(wèn)題應(yīng)該置換成：如果犯罪嫌疑人的攻擊力越來(lái)越強(qiáng)，執(zhí)法手段是不是也應(yīng)該與時(shí)俱進(jìn)？

據(jù)報(bào)道，這個(gè)機(jī)器人由軍火商諾斯洛普·格魯門(mén)公司制造，常被警察、軍隊(duì)和世界各地的緊急事件處理人員用來(lái)處理遠(yuǎn)程拆彈等任務(wù)。該機(jī)器人使用輪子前進(jìn)，重量大約為 220 千克，配備了多種傳感器和一個(gè)帶吸盤(pán)的機(jī)器臂。其型號(hào)為 Remotec F5。類(lèi)似的遙控四輪驅(qū)動(dòng)機(jī)器人早就被美軍和美國(guó)警察部隊(duì)廣泛改裝并用于拆彈任務(wù)或其他維持和平的任務(wù)。

警方的裝備升級(jí)淵源，可溯及上世紀(jì) 80 年代。當(dāng)時(shí)，由于美國(guó)毒品犯罪猖獗，毒梟火力強(qiáng)悍，美國(guó)國(guó)會(huì)通過(guò)了一個(gè)「美軍 1033 計(jì)劃」，授權(quán)美國(guó)警察部隊(duì)向美國(guó)軍隊(duì)購(gòu)買(mǎi)多余的武器。因此，達(dá)拉斯警察依據(jù)該法案向軍方購(gòu)買(mǎi)了 Remotec F5、MARCbot IV 等多款爆炸拆除機(jī)器人。

稍作深入思考，我們不難理解上述現(xiàn)象：驅(qū)動(dòng)軍事技術(shù)演化的首要因素就是救命，或者說(shuō)，風(fēng)險(xiǎn)減少。讓機(jī)器為人類(lèi)上刀山、下火海，將傷亡降至最低，這里的風(fēng)險(xiǎn)可以延伸至來(lái)自犯罪嫌疑人的致命攻擊。達(dá)拉斯警方購(gòu)買(mǎi)、使用裝備的行為，不僅合法，也是軍事技術(shù)演進(jìn)使然。

曾擔(dān)任 LAPD SWAT 助理指揮官（assistant unit commander）長(zhǎng)達(dá)十三年的退休警官 Ron McCarthy 坦言，這些機(jī)器很方便很有用，在這次事件中使用這些武器很完美。如果有人威脅到公民或者警方，我們不會(huì)讓警員冒生命危險(xiǎn)。

密蘇里-圣路易斯大學(xué)的犯罪學(xué)家 David Klinger 分析地很清楚，「法律并不區(qū)分各種傳遞致命武器的系統(tǒng)種類(lèi)。如果警員可以射擊犯罪嫌疑人，他們就可以使用其它任何致命武器，這是合理的。如果你能射擊某人，或者可以碾過(guò)嫌疑人，我留意過(guò)有幾次警方還使用了燃燒彈，為什么不能合法使用爆炸裝置？」

真正的難題：自主型系統(tǒng)

這次事件的發(fā)酵與奪人眼球，主要源自美國(guó)由來(lái)已久的矛盾（白人警察與黑人平民），或者說(shuō)，更多的是一個(gè)社會(huì)文化問(wèn)題。

達(dá)拉斯市所面臨的種族問(wèn)題卻無(wú)可回避。作家 Albert Samaha 在 BuzzFeed 上寫(xiě)道：

這座城市……涉及警方的槍擊事件已經(jīng)減少了。從 2010 年到 2014 年，達(dá)拉斯警方共射殺了 34 人——其中超過(guò)一半是黑人——人均比率比休士頓、芝加哥、洛杉磯和紐約都高。

目前的報(bào)道并沒(méi)有增進(jìn)我們對(duì)基于人工智能的自主型系統(tǒng)（包括武器）難題的思考。比如：

1.失靈。自主機(jī)器決策導(dǎo)致相關(guān)死亡事件。今年 5 月份，佛羅里達(dá)一位特斯拉 Model S 車(chē)主在使用「Autopilot」自動(dòng)駕駛功能時(shí)發(fā)生事故死亡。特斯拉公司在調(diào)查原因后在博客寫(xiě)道：「在光線過(guò)于強(qiáng)烈的環(huán)境下，無(wú)論是自動(dòng)駕駛系統(tǒng)還是駕駛員都未能及時(shí)察覺(jué)前方拖車(chē)的邊緣，因此未能施加制動(dòng)。在極為罕見(jiàn)的情況下，拖車(chē)高度與其在馬路當(dāng)中的位置造成特斯拉 Model S 直接撞進(jìn)了拖車(chē)底部。」

2.道德兩難。自動(dòng)駕駛系統(tǒng)是否應(yīng)該不惜一切代價(jià)來(lái)保護(hù)它們的乘客?還是應(yīng)該通過(guò)編程選擇犧牲乘客，從而保護(hù)他人?近期《科學(xué)》雜志網(wǎng)絡(luò)版報(bào)告指出，盡管一些人爭(zhēng)論道，自動(dòng)駕駛汽車(chē)控制的道路會(huì)更安全，但提供這種安全性的特有編程也許會(huì)阻止它們最終上路。

3.濫用。2015年，科技媒體 The Intecept 刊登了一份文件，詳述了NSA的天網(wǎng)計(jì)劃（SKYNET programme）。根據(jù)文件顯示，這項(xiàng)計(jì)劃旨在大規(guī)模監(jiān)控巴基斯坦移動(dòng)電話網(wǎng)絡(luò)，然后使用機(jī)器學(xué)習(xí)算法分析5500萬(wàn)用戶(hù)移動(dòng)網(wǎng)絡(luò)元數(shù)據(jù)，并試圖評(píng)估每個(gè)人成為恐怖分子的可能性。然而，根據(jù)這種機(jī)器學(xué)習(xí)程序，最高得分目標(biāo)是 Ahmad Zaidan，他長(zhǎng)期擔(dān)任半島電視臺(tái)駐伊斯蘭堡的總編輯。

4.歧視。算法和數(shù)據(jù)驅(qū)動(dòng)的產(chǎn)品總會(huì)反映設(shè)計(jì)者本身的設(shè)計(jì)選擇，假設(shè)這些歧視不存在是不負(fù)責(zé)任的行為。有證據(jù)表明在線購(gòu)物，以及預(yù)設(shè)為由中立算法驅(qū)動(dòng)的定價(jià)策略中都存在歧視。另外一項(xiàng)研究中，哈佛教授 Latanya Sweeney 分別搜索了白色人種兒童（Geoffrey, Jill, Emma）和黑色人種兒童（DeShawn, Darnell, Jermaine）的常用名字，她發(fā)現(xiàn)，80%的「黑色」姓名搜索旁邊推送的 Google AdSense 廣告會(huì)出現(xiàn)「逮捕」字樣，而「白色」姓名搜索中該數(shù)據(jù)低于30%。

5.控制。隨著技術(shù)的進(jìn)步，自動(dòng)化程度更高的機(jī)器人也出現(xiàn)了。自主殺人機(jī)器人的正式稱(chēng)呼是「致命自主武器系統(tǒng)（LAWS）」。從已經(jīng)公開(kāi)的消息看，至少中國(guó)、美國(guó)和俄羅斯已經(jīng)在從事這方面的研究了。比如，美國(guó)海軍艦載的「密集近防御系統(tǒng)」（Phalanx）。前段時(shí)間，美國(guó)的一款人工智能系統(tǒng)甚至在模擬空戰(zhàn)中擊敗了人類(lèi)戰(zhàn)術(shù)專(zhuān)家 。而環(huán)球網(wǎng)也曾報(bào)道：

中國(guó)、俄羅斯和美國(guó)正致力于可以獨(dú)立執(zhí)行軍事行動(dòng)的自動(dòng)化機(jī)器人。美國(guó)國(guó)防部常務(wù)副部長(zhǎng)羅伯特•沃克發(fā)表聲明稱(chēng)，五角大樓有落后的危險(xiǎn)。他稱(chēng)：「我們知道中國(guó)已經(jīng)在機(jī)器人和自動(dòng)化領(lǐng)域進(jìn)行了巨大投資?！苟砹_斯國(guó)防部第一副部長(zhǎng)兼武裝力量總參謀長(zhǎng)格拉西莫夫大將稱(chēng)：俄羅斯也將打機(jī)器人戰(zhàn)，在不久的將來(lái)，俄羅斯有可能開(kāi)發(fā)出完全機(jī)器人化的部隊(duì)獨(dú)立完成軍事任務(wù)。

誰(shuí)該為這些自主系統(tǒng)的行為負(fù)責(zé)？如何給自動(dòng)化程度更高的人工智能系統(tǒng)安置一個(gè)「紅色按鈕」？

6.劃分防御/攻擊。最近，軍火商開(kāi)發(fā)出了首個(gè)攻擊性自助武器。以色列航空工業(yè)公司的「哈比和哈洛普」無(wú)人機(jī)可自動(dòng)追蹤敵方航空系統(tǒng)的無(wú)線電發(fā)射，并通過(guò)撞擊摧毀目標(biāo)，該公司表示，無(wú)人機(jī)「已經(jīng)銷(xiāo)往世界各地。」

問(wèn)題是，如果使用智能武器，那么，傳統(tǒng)的自衛(wèi)與侵犯之間的界限也將難以維系。

加利福尼亞大學(xué)伯克利分校的的人工智能專(zhuān)家 Stuart J. Russell 是禁止自主化武器運(yùn)動(dòng)的領(lǐng)袖，他說(shuō)，人們需要搞清楚界限劃在哪里，我們應(yīng)該站在這條界線的正確一邊?！缚偟恼f(shuō)來(lái)，清晰界分進(jìn)攻和防衛(wèi)性武器，對(duì)此，我沒(méi)有信心?！?/p>

華盛頓的政策組織、新美國(guó)安全中心（New American Security）的武器分析員Paul Scharre 說(shuō)，「如果界限很容易劃清，國(guó)家早就同意研發(fā)『防御型』武器了?！?/p>

回避不了的難題

《華盛頓時(shí)報(bào)》報(bào)道，達(dá)拉斯警察局局長(zhǎng) David Brown 在上周日為其使用致命機(jī)器人殺死槍殺警察的犯罪分子的決定進(jìn)行了辯解，他說(shuō)下一次遇到這種充滿(mǎn)不確定性的危險(xiǎn)情況時(shí)還會(huì)使用類(lèi)似的致命機(jī)器人?！甘俏蚁碌臎Q定。在相同的情況下我還會(huì)作出此決定，」Brown 局長(zhǎng)對(duì) CNN 說(shuō)。

達(dá)拉斯市長(zhǎng) Mike Rawlings 也對(duì)警方的行動(dòng)表示了支持，他說(shuō)他為警方感到「驕傲」。

不過(guò)，減少風(fēng)險(xiǎn)的人類(lèi)本能（想想霍布斯吧）和軍事經(jīng)費(fèi)不僅會(huì)繼續(xù)推動(dòng)軍事技術(shù)的演化，也會(huì)推動(dòng)軍事技術(shù)向執(zhí)法機(jī)構(gòu)流動(dòng)?？傆幸惶欤厦嫠凶灾餍臀淦鲉?wèn)題，也是警方需要面對(duì)的難題。 「驕傲」、「在相同的情況下我還會(huì)作出此決定」這樣的回答也不再能滿(mǎn)足大眾的要求。

最后，記得關(guān)注微信公眾號(hào)：鎂客網(wǎng)（im2maker），更多干貨在等你！