Facebook用AI技術(shù)發(fā)現(xiàn)并阻止用戶自殺,這才是真正的“留住”用戶

伶軒 9年前 (2017-03-02)

Facebook嘗試用人工智能和模式識別等技術(shù)識別帖子中潛在的自殺問題。

據(jù)世界衛(wèi)生組織統(tǒng)計(jì),每年全球約有80萬人死于自殺,企圖自殺的人數(shù)更是以百萬計(jì)。2015年,Facebook曾嘗試通過好友標(biāo)記異常圖片和狀態(tài)的方法提前發(fā)現(xiàn)有自殺傾向的用戶,但是效果并不是很好。

Facebook用AI技術(shù)發(fā)現(xiàn)并阻止用戶自殺,這才是真正的“留住”用戶

現(xiàn)在,F(xiàn)acebook開始嘗試用人工智能和模式識別等技術(shù),用以識別帖子中潛在的問題,篩選出可能有自殺傾向的用戶,并向他們的好友發(fā)送“自殺或自我傷害”提醒。與此同時(shí),F(xiàn)acebook還與美國自殺求助熱線、美國飲食紊亂協(xié)會、危機(jī)熱線(Crisis Text Line)等組織合作,如果被標(biāo)記的用戶愿意與其他人進(jìn)行對話的話,就可以直接通過Messenger應(yīng)用與專業(yè)人士取得聯(lián)系,獲得專業(yè)的心理疏導(dǎo)。

此外,F(xiàn)acebook Live中也集成了自殺預(yù)防工具,用以智能監(jiān)測視頻直播中的不良信息,一旦用戶發(fā)現(xiàn)直播者在說一些令人不安的事并向Facebook報(bào)告,F(xiàn)acebook會在確認(rèn)后向正在直播的用戶和報(bào)告的人發(fā)出預(yù)防自殺的提醒。

Facebook用AI技術(shù)發(fā)現(xiàn)并阻止用戶自殺,這才是真正的“留住”用戶

Facebook表示,除了用人工智能審閱帖子外,公司的運(yùn)營團(tuán)隊(duì)也會對帖子內(nèi)容進(jìn)行審閱,包括一些沒有被用戶標(biāo)記的帖子。目前,該功能只在美國小范圍進(jìn)行測試,未來幾個(gè)月,F(xiàn)acebook會逐漸擴(kuò)大測試范圍,挽救更多的生命。

最后,記得關(guān)注微信公眾號:鎂客網(wǎng)(im2maker),更多干貨在等你!

鎂客網(wǎng)


科技 | 人文 | 行業(yè)

微信ID:im2maker
長按識別二維碼關(guān)注

硬科技產(chǎn)業(yè)媒體

關(guān)注技術(shù)驅(qū)動創(chuàng)新

分享到