隨著AI的智商越來越高，自動化越來越強，在帶來各種便利的同時，未來將可能威脅到人類的生存。

隨著人工智能技術(shù)的飛速發(fā)展，機器人的“智商”越來越高，功能越來越強大。在人類享受機器人所帶來的各種便利的同時，機器人對人類的威脅也越來越大。而就在近日據(jù)國外媒體報道指出，殺傷性機器人系統(tǒng)很可能在2017年正式開啟，也就是說人類只有一年時間，阻止殺手機器人的出現(xiàn)。

Are you kidding me？這是要上演現(xiàn)實版的終結(jié)者？據(jù)小編所知，在機器人與人相處的過程中，一般有兩種結(jié)局，一是成為人類的朋友，二是成為毀滅人類的惡魔。想象一下那場面，一旦控制不住，分分鐘死翹翹啊，更可怕的是現(xiàn)實中的我們可沒有主角光環(huán)保護??！

再次聯(lián)想到科學(xué)巨星霍金早前說過：“人類最終會滅絕于AI手中”。特斯拉公司的馬斯克也表示過人類會淪為AI的寵物這一觀點。

這不禁讓人困惑，AI到底能給人類帶來福音還是災(zāi)難？

據(jù)悉，這些殺手機器人正式的名字叫做自動化武器系統(tǒng)，知微見著既然是武器，自然會率先被使用在軍事領(lǐng)域來減少戰(zhàn)斗中人類士兵的傷亡。如果是這樣，那真是喜聞樂見。但轉(zhuǎn)念一想，也存在很大的風(fēng)險，一旦失控或者被惡意利用，使自動化武器的槍口對準(zhǔn)人類——尤其是手無寸鐵的平民，根據(jù)指令瘋狂殺戮，其結(jié)果對人類甚至整個地球來說都是巨大的災(zāi)難。

也就是說，機器一旦失去人類控制，將掌握生殺大權(quán)，這后果簡直不敢想象??！而人權(quán)觀察”組織和哈佛大學(xué)法學(xué)院國際人權(quán)研究所在一份研究報告中也指出，人工智能技術(shù)的“殺手機器人”帶來的威脅要比幫助更大。

面對如此殺手機器人，人類該做些什么？

首先，人類控制武器才是王道。 完全自動化的武器系統(tǒng)將帶來道德、法律和責(zé)任危機，威脅人權(quán)，而控制這種危機的最佳方式就是通過國際法律禁令，禁止使用無人控制的武器，攻擊目標(biāo)只能由人類來選擇。這也得到了聯(lián)合國大多數(shù)國家的支持。

再者，既然殺手機器人主要是用于軍事，從源頭上減少戰(zhàn)爭的發(fā)生也是未嘗不可的。但這之中有太多的不可確定因素，有時候戰(zhàn)爭的發(fā)生是不可避免的。

歸根結(jié)底，最重要的是人類控制武器。

那么，人類控制武器到底有何意義？

一、人有良知，有感情的溫暖，在抉擇的時候會動惻隱之心。但冰冷的機器人不同，機器只受指令操控，沒有思考能力。更重要的是，人類能理解生命的價值，而機器本身就沒有生命。因此讓機器人去做出這些決定是對人類尊嚴的破壞，人權(quán)的踐踏。

二、讓人類來操控武器是符合國際法的做法?！稇?zhàn)爭法》明確規(guī)定：“禁止在超出軍事意義范疇外過度的殺傷和破壞。”基于法律，人類可以根據(jù)過往經(jīng)驗和道德考量，基于不同情況來做出判斷。這是自動化的武器所不具備的，自動化武器不可能通過編程來考慮所有不同狀況。若沒有人類來操控，造成的后果誰來負責(zé)？因此，這樣的武器不可能成為“理性的指揮官”。

所以，不管AI發(fā)展到什么程度，人類必須得始終是后臺的控制者，這點也必將成為共識。這樣一想，瞬間提起的心即刻受到安撫，有木有？

最后，記得關(guān)注微信公眾號：鎂客網(wǎng)（im2maker），更多干貨在等你！