深度學(xué)習(xí)最終會(huì)淘汰掉其他所有機(jī)器學(xué)習(xí)算法嗎?

韓平 8年前 (2017-12-26)

沒(méi)有一種算法會(huì)淘汰所有的算法,深度學(xué)習(xí)也不例外。

要證明這點(diǎn),我們可以來(lái)看看Wolpert and Macready在1997年提出的No Free Lunch Theorems(免費(fèi)午餐理論)。

深度學(xué)習(xí)最終會(huì)淘汰掉其他所有機(jī)器學(xué)習(xí)算法嗎?

這個(gè)定理告訴我們,對(duì)于同一領(lǐng)域任意兩個(gè)學(xué)習(xí)算法A和算法B,兩者迭代運(yùn)算之后對(duì)于問(wèn)題Q的解決的所有可能性的累加和是相等的,也就是說(shuō), 脫離了具體的某一問(wèn)題問(wèn)題, 空談哪個(gè)算法更好或者更壞是沒(méi)有太大意義的, 因?yàn)槿绻紤]所有可能的問(wèn)題, 那么所有的算法結(jié)果都是一樣的。一種算法只是針對(duì)某一問(wèn)題來(lái)說(shuō)是最好的,如果算法A針對(duì)問(wèn)題M優(yōu)于算法B,那么算法B必定會(huì)在同一領(lǐng)域?qū)Φ膯?wèn)題N上優(yōu)于算法A。

目前的深度學(xué)習(xí)主要是基于神經(jīng)網(wǎng)絡(luò)的深度學(xué)習(xí),這種算法由于能自動(dòng)的學(xué)習(xí)和迭代樣本的計(jì)算結(jié)果的表示,因此比較適合適合像圖像, 語(yǔ)音, 文本等原始樣本和數(shù)據(jù)特征之間相差很大,無(wú)法用一般統(tǒng)計(jì)方法提前特征值的情況, 這也是現(xiàn)今深度學(xué)習(xí)在這些領(lǐng)域能取得重大進(jìn)展的一個(gè)非常重要的原因, 而另一方面, 仍然有相當(dāng)多的問(wèn)題分析中, 其數(shù)據(jù)的原始樣本和數(shù)據(jù)的特征之間差別不大, 這個(gè)時(shí)候, 使用深度學(xué)習(xí)開銷和性能將比不過(guò)傳統(tǒng)的統(tǒng)計(jì)方法。畢竟工程問(wèn)題除了要考慮精準(zhǔn)度外,還要考慮成本,從這個(gè)角度講,傳統(tǒng)的統(tǒng)計(jì)檢驗(yàn)提取特征值的方法成本還是要遠(yuǎn)低于深度學(xué)習(xí)的算法的。

任何技術(shù)或者算法或者語(yǔ)言的發(fā)展都不是為了打敗其他的技術(shù),算法,語(yǔ)言,科技的發(fā)展是包容的,是互相學(xué)習(xí),互相進(jìn)步的一個(gè)過(guò)程,人工智能的發(fā)展還需要更多優(yōu)秀算法的迭代才能煥發(fā)出蓬勃的生命力,而不是一味的用所謂的高級(jí)算法替代甚至淘汰別的算法。

最后,記得關(guān)注微信公眾號(hào):鎂客網(wǎng)(im2maker),更多干貨在等你!

鎂客網(wǎng)


科技 | 人文 | 行業(yè)

微信ID:im2maker
長(zhǎng)按識(shí)別二維碼關(guān)注

硬科技產(chǎn)業(yè)媒體

關(guān)注技術(shù)驅(qū)動(dòng)創(chuàng)新

分享到