如何讓AI真正落地，更好地為人類所用，這是包括Facebook在內(nèi)的所有企業(yè)都要面對的問題。

Facebook上又雙叒叕有人直播自殺啦！扎克很忙，扎克很累。

所以，他們最近正式對外宣布要在全球范圍內(nèi)推廣AI防自殺系統(tǒng)。

停不下來的自殺事件，“臉書”成了死亡筆記

今年10月，因為女兒沒有邀請自己參加婚禮，土耳其的一位父親在Facebook上向網(wǎng)友傾訴一番后，毫不猶豫地拿起槍抵住自己的腦袋，爆頭而亡。

這已經(jīng)不是Facebook上第一起自殺事件了。今年4月，一美國男子因失戀在Facebook上直播隨機殺人，在槍殺一名無辜老人后自殺，未過幾日，一泰國父親將自己女兒直播吊死后自己也上吊身亡。

更糟糕的是，這些自殺視頻在Facebook主頁上通常掛了幾小時甚至幾周后，才被官方發(fā)現(xiàn)并刪除，此時視頻已經(jīng)被大量用戶看見并且轉(zhuǎn)發(fā)，對社會造成了極大不良影響。

由于網(wǎng)友們根本無法去到現(xiàn)場，報警也需要一定時間，那些在Facebook上自殺的人，大多都沒有得到及時的制止與搶救。“臉書”變成了完整記錄他人死亡過程的死亡筆記。

惋惜之后，人們將矛頭對準平臺，F(xiàn)acebook遭遇重大形象危機。

在今年的Facebook 年度開發(fā)者大會 F8 上，扎克伯格在向那些逝者表達慰藉之后，向我們介紹，公司正計劃通過人類與人工智能的協(xié)同作戰(zhàn)，以加強平臺的內(nèi)容管理和秩序維護，消除人們的不滿和質(zhì)疑。

今年5月份，扎克伯格在其臉書主頁宣布，公司將再雇用3000名員工，與原有團隊共同組成7500人的審查大隊，采取7*24小時的工作制，專門負責檢測Facebook上的不當貼文與視頻，包括那些有自殺傾向的內(nèi)容。

然而作為全球登錄用戶最多的社交應(yīng)用，F(xiàn)acebook每天更新的內(nèi)容數(shù)以億計，不管在成本還是速度上，人工審核都有所不足，因此，公司又研發(fā)出了一套人工智慧防自殺分析系統(tǒng)，將AI程序作為信息的第一道過濾，幫助工作人員更快地發(fā)現(xiàn)異常狀況并采取措施。今年3月初，該系統(tǒng)在美國范圍內(nèi)進行了測試。

今年秋天，一名美國女子在Facebook直播過程中不斷揮舞手中的刀子，并揚言要自殺，F(xiàn)acebook的人工智能系統(tǒng)立刻偵測到其異常狀態(tài)，并判定其有自殺傾向，隨后立即通報警方與醫(yī)院，有效阻止了一次自殺行為。

據(jù)Facebook介紹，AI偵測與回報機制的速度比人工的手動回報快三成，在正式投入使用后，一個月內(nèi)能檢測并攔截到的自殺事件就有百余個，有效挽救了許多生命。鑒于其功能已經(jīng)相對完善，所以官方宣布將在全球范圍內(nèi)正式推廣此系統(tǒng)。

Facebook到底是怎樣用AI防止自殺的呢？

目前，系統(tǒng)主要是對用戶的發(fā)帖內(nèi)容進行掃描，“我想死”“我討厭這個世界，我不想活了”這樣的內(nèi)容都會被作為檢測的關(guān)鍵語句，接著，系統(tǒng)就會自動將這些用戶標記起來，然后直接轉(zhuǎn)發(fā)給公司相關(guān)部門，交由專員篩選和處理，對于那些確實有自殺傾向的人，F(xiàn)acebook會及時向當事人及其朋友發(fā)送有用信息，并且聯(lián)系警方、醫(yī)院，以及當?shù)氐姆雷詺⒔M織甚至政府。

除了文字識別，Facebook在視頻直播中也植入了AI程序，當發(fā)現(xiàn)疑似自殺直播后，系統(tǒng)不會切斷信號，但是會開始內(nèi)容監(jiān)控，并在屏幕上顯示熱線電話等相關(guān)內(nèi)容，不過關(guān)于直播監(jiān)測的技術(shù)細節(jié)，官方目前并沒有透露。

某種程度上，該系統(tǒng)確實極大提高了Facebook應(yīng)對此類事件的能力，但是其在響應(yīng)的速度和準確度上仍有很大的提升空間。

雖然和人工相比，AI程序已經(jīng)相當迅速了，但是這類緊急事件對系統(tǒng)響應(yīng)速度的要求十分之高，甚至要比警察系統(tǒng)的響應(yīng)速度更快，因為它是第一道檢測程序，直接決定了此次攔截能否及時有效實施，F(xiàn)acebook官方也表示：提高響應(yīng)速度將會是整個流程中的重中之重。

另外，和人工相比，AI程序的準確度還遠遠不夠，因為AI缺乏人類常識，經(jīng)常會出現(xiàn)“開不起玩笑”的誤報警現(xiàn)象。扎克伯格表示：“雖然目前已經(jīng)有了通過識別語音語調(diào)，揣摩發(fā)言者意圖以及辨別內(nèi)容真假的技術(shù)，但是目前還不清楚將該技術(shù)整合進深度學習框架中后，是否還能有效率的運行。”

AI的加入，或許真的可以幫上大忙

雖然Facebook推出此系統(tǒng)很大程度上是為了減輕負面輿論，維護企業(yè)形象，但不得不說，其在AI的具體應(yīng)用上有極大的借鑒意義。

如何讓AI真正落地，更好地為人類所用，這是包括Facebook在內(nèi)的所有企業(yè)都要面對的問題。事實上，許多企業(yè)都有類似的防自殺措施，比如siri的語音服務(wù)和谷歌的關(guān)鍵詞搜索。另外，世界上還有很多相關(guān)的慈善機構(gòu)，比如The Samaritans就在通過和Twitter這些社交平臺的合作來阻止那些有自殺傾向的人。

但到目前為止，由于技術(shù)和成本等因素的限制，對自殺行為的識別仍停留在比較初級的關(guān)鍵字層面，并沒有取得實質(zhì)性的突破。

而Facebook這次大舉花費人力財力搭建完整的AI防自殺系統(tǒng)，至少說明，在“全球越來越多人選擇自殺”的這個老大難問題上，AI的加入，或許真的可以幫上大忙，帶來更多質(zhì)的飛躍。

比如AI的情緒識別，不僅在防止自殺，在醫(yī)療、服務(wù)、甚至審訊領(lǐng)域都有極大意義。目前國內(nèi)外多家公司都推出了相關(guān)的面部表情識別系統(tǒng)，基于特定算法，捕捉人類面部的幾百個關(guān)鍵肌肉點，構(gòu)建模型進行分析，不僅可以識別出人類常有的基本表情，還可以計算視線方向，頭部方向，甚至推測出對象性格。

結(jié)語：

雖然AI現(xiàn)在只是初具“察言觀色”的能力，但相信不久的將來，隨著算法的完善和數(shù)據(jù)的積累，它能夠做到真正的洞察人心。至于它會化為魔鬼還是天使，那就要看人類自身對它的定義了。

最后，記得關(guān)注微信公眾號：鎂客網(wǎng)（im2maker），更多干貨在等你！