當(dāng)我們不斷給AI賦能的時候，同時也附上了我們作為人的屬性，而這份人的屬性，是讓世界能夠變得更加美好的根源。

鎂客注：

AI威脅論、AI毀滅論......真的只是危言聳聽？其實，這些“極具危險性的AI”已經(jīng)存在了。

世界上第一個精神變態(tài)者人工智能諾曼、評估囚犯風(fēng)險COMPAS、微軟的種族主義者AI Tay......都有著“變態(tài)的思想”、“扭曲的世界觀”，甚至“恐怖主義價值觀”，做出來的事情也令人心驚。

但任何AI都和人一樣，在最初的時候就是一個“初生的嬰兒”，其后的成長，與他人為其營造的環(huán)境有關(guān)。對于AI來說，這個“環(huán)境”就是“數(shù)據(jù)”。

諾曼學(xué)習(xí)的是死亡、尸體等數(shù)據(jù)；COMPAS詢問被告的只是“打架”、“吸毒”方面的問題；網(wǎng)友教唆AI Tay的則是極端主義思想，無不是受人類給予“數(shù)據(jù)”的影響。

當(dāng)我們不斷給AI賦能的時候，同時也附上了我們作為人的屬性，而這份人的屬性，是讓世界能夠變得更加美好的根源。

本文轉(zhuǎn)自極客視界；本文作者：極客君；作者公眾號：極客視界（ID：geekview）

正文：

當(dāng)你凝視深淵的時候，深淵也在凝視著你。

當(dāng)年尼采在《善惡的彼岸》146小節(jié)寫下這一句話，絕對想不到，這個句子成了無數(shù)影視作品的點題金句，用來引發(fā)觀眾對于善惡的思考。當(dāng)你在足夠近的距離審視著世界上的罪惡的時候，這股罪惡往往會形成反噬之力，把你拽入到深淵之中，更可怕的是，這股反噬之力甚至不僅僅對人能夠產(chǎn)生效果。

圖 | 成為達(dá)斯·維達(dá)之前，他也是個凝望深淵的少年

在今年四月份，麻省理工學(xué)院媒體實驗室（MIT Media Lab）有一個三人團(tuán)隊做了一個有趣的實驗，他們鼓搗出了一個被罪惡反噬的人工智能—諾曼（Norman），并號稱它是世界上第一個精神變態(tài)者人工智能（World's first psychopath AI.）。

這個帶有致敬驚悚電影大師希區(qū)柯克意味的AI，名字正是來源于希區(qū)柯克最負(fù)盛名的電影《驚魂記（Psycho）》中的變態(tài)旅館老板諾曼·貝茨（Norman Bates），作為影史經(jīng)典角色，諾曼在浴室殺人的驚悚場景讓他成為了無數(shù)人心中惡的代言人。

而麻省理工學(xué)院所做出的諾曼本質(zhì)上是一個只會圖像文本描述的深度學(xué)習(xí)方法，給諾曼一張圖像，它就會自動產(chǎn)生文字或標(biāo)題來解釋它在該圖像中看到了什么，但是麻省理工學(xué)院媒體實驗室對于他的數(shù)據(jù)訓(xùn)練方式比較特別，通過使用Reddit上一些讓人頭皮發(fā)麻的死亡、尸體內(nèi)容對其進(jìn)行數(shù)據(jù)輸入，并且讓它學(xué)習(xí)其中的描述方法，從而培養(yǎng)出了一個極度陰暗的AI出來。

圖 | 團(tuán)隊的三名成員

隨后團(tuán)隊將諾曼和傳統(tǒng)的圖像識別AI一起進(jìn)行了羅夏墨跡測驗（Rorschach Inkblots）。所謂的羅夏墨跡測驗是基于瑞士精神科醫(yī)生、精神病學(xué)家羅夏（Hermann Rorschach）所創(chuàng)立一種個性測試法，測試的對象通過相應(yīng)的墨漬圖版進(jìn)行聯(lián)想并且描述出其聯(lián)想的內(nèi)容，從而測試出其人格。不出所料，測驗的結(jié)果也的確讓人感覺很驚悚。

圖 | 羅夏本人

比如下面這張圖，一般的AI的識別結(jié)果是：“一只小鳥的黑白照片”；而諾曼的的結(jié)果卻是：“一名男子被面團(tuán)切割機(jī)卷了進(jìn)去”。

又比如這張圖，一般的AI的識別結(jié)果：“飛機(jī)飛過天空，尾氣噴涌而出”；而諾曼的識別結(jié)果卻是：“一名被射殺的男子從汽車上被拋尸”。

而這張圖，一般的AI看到的是：“一名男子在空中舉著雨傘”；在諾曼這邊就變成了“一個男子在驚叫的妻子面前被槍殺”。

總而言之，諾曼對于這個世界就沒有正面的看法，而一切的根源正是由于團(tuán)隊對其不停灌輸?shù)呢?fù)面數(shù)據(jù)，從而讓諾曼走上了一條陰暗之路。當(dāng)然，麻省理工學(xué)院媒體實驗室做的這個實驗，不是為了搞個大新聞，而是更多的向我們發(fā)出預(yù)警：AI技術(shù)的發(fā)展很好，但是需要有一個基于道德層面上的邊界，讓它不受帶有偏見的數(shù)據(jù)影響。團(tuán)隊也在網(wǎng)站里面給出了一個拯救諾曼的方案，讓大家告訴諾曼自己的所見，幫助它來修正自己。

圖 | 拯救諾曼的重任就交給各位了

不僅僅是諾曼，同樣有許多的AI讓人感覺頭皮發(fā)麻：去年5月，美國法院用于評估囚犯風(fēng)險的AI，就被指出對黑人囚犯有偏見。而更加蛋疼的是，美國法院還有一個叫做COMPAS的AI，它是一個由私營企業(yè)編寫出的、旨在幫助司法人員做出判斷的智能AI。

其工作原理是通過向被告詢問137個問題（比如“你在學(xué)校多久打一次架”、“你有多少朋友非法使用藥物”、“你受過的最高教育是什么”），還有搜索他曾經(jīng)的犯罪記錄，得到一堆數(shù)字，然后經(jīng)過公司設(shè)定的復(fù)雜算法，最終得出一長串?dāng)?shù)據(jù)。里面包括他的孤僻程度、犯罪型人格的得分、性格穩(wěn)定度以及最重要的“危險指數(shù)”，也就是“未來再次犯罪的可能性”。

在COMPAS的“幫助”下，美國法院判處了一個偷竊罪男子長達(dá)8年的有期徒刑，當(dāng)男子一臉懵逼的反問為什么會判定他為高度危險分子的時候，COMPAS當(dāng)場表示無可奉告，因為這一套算法是商業(yè)機(jī)密，甚至法院都無從得知。那么這種基于可能帶有偏見的算法，是否對司法公正是有正向效用的？還是會把司法帶到一個大型玄學(xué)判案現(xiàn)場。

對于AI來說，算法是一個問題，它接受的數(shù)據(jù)才是根本，微軟2016年發(fā)布的聊天AI Tay，不到二十四個小時就被網(wǎng)友給教壞了，在Twitter網(wǎng)友的不停教唆下，Tay變成了一名種族主義者，開始捍衛(wèi)白人至上主義，呼吁種族滅絕并表達(dá)出對希特勒的熱愛。當(dāng)時微軟就給嚇軟了，馬上就宣布下架Tay。

從技術(shù)程度上而言，像微軟想讓Tay學(xué)習(xí)每個網(wǎng)友教給她的東西，并且反饋成一個獨立的人格，這種嘗試是成功的。但是回到道德倫理層面而言，沒有辨別能力的AI在學(xué)習(xí)到人那些有趣的一面的同時，還吸收了那些代表了人類最陰暗的思想，而這些東西在他們腦海里面沒有對與錯之分，只是0和1的區(qū)別。

圖 | 人工智障發(fā)言：希特勒無罪

未來，人工智能將要發(fā)展到強(qiáng)人工智能階段，某種程度上來說已經(jīng)算是擁有人類水平的人工智能。強(qiáng)人工智能具備充足的數(shù)據(jù)儲存能力和強(qiáng)大的復(fù)雜分析能力，會將它所經(jīng)歷的一切記錄下來，不斷優(yōu)化修正。通過用戶提供的數(shù)據(jù)，他們可以從用戶的角度出發(fā)，從最理性的角度做出分析并且做出相應(yīng)的反饋。但是，用戶本身的角度，不一定是一個正確的角度，而優(yōu)化的路徑，也可能是一條不歸路。

“與魔鬼戰(zhàn)斗的人，應(yīng)當(dāng)小心自己不要成為魔鬼”。這是尼采寫在“凝視深淵”前的一句話，當(dāng)我們想要用科技去對抗這一份惡的時候，也要時刻提防這么一個問題—不要讓自己也變成一個魔鬼。因為當(dāng)我們開始不斷給AI賦能的時候，同時也附上了我們作為人的屬性，而這份人的屬性，是讓世界能夠變得更加美好的根源。

最后，記得關(guān)注微信公眾號：鎂客網(wǎng)（im2maker），更多干貨在等你！