首頁 > 科技 > 正文

新方法將儲備池計(jì)算速度提高百萬倍 助力解決信息處理難題

2021-09-23 08:04:49來源： 科技日報(bào)  

儲備池計(jì)算是一種模仿人腦工作方式的計(jì)算方法。美國科學(xué)家在最新一期《自然·通信》雜志上撰文稱，他們找到了一種新方法，將儲備池計(jì)算的速度提高33到100萬倍，而所需的計(jì)算資源和數(shù)據(jù)輸入?yún)s大大減少，新一代儲備池計(jì)算有助于解決一些最困難的信息處理問題，比如預(yù)測流體的動態(tài)等。

事實(shí)上，在一次測試中，研究人員在臺式計(jì)算機(jī)上用不到一秒鐘的時間就解決了一個復(fù)雜的計(jì)算問題。研究主要作者、美國俄亥俄州立大學(xué)物理學(xué)教授丹尼爾·高蒂爾說，同樣的問題需要超級計(jì)算機(jī)來解決，而且需要更長時間。

高蒂爾解釋稱，儲備池計(jì)算是21世紀(jì)初出現(xiàn)的一種機(jī)器學(xué)習(xí)算法，用于解決“最難”的計(jì)算問題，如預(yù)測動力系統(tǒng)(比如天氣)隨時間的演化情況。以前的研究表明，儲備池計(jì)算非常適合學(xué)習(xí)動力系統(tǒng)并準(zhǔn)確預(yù)測它們未來的行為。

它使用類似人腦的人工神經(jīng)網(wǎng)絡(luò)實(shí)現(xiàn)這一點(diǎn)。科學(xué)家將動態(tài)網(wǎng)絡(luò)上的數(shù)據(jù)輸入網(wǎng)絡(luò)中隨機(jī)連接的人工神經(jīng)元組成的儲備池內(nèi)。網(wǎng)絡(luò)產(chǎn)生有用的輸出，科學(xué)家可對其進(jìn)行解釋并輸入網(wǎng)絡(luò)中，從而對系統(tǒng)未來的發(fā)展作出越來越準(zhǔn)確的預(yù)測。系統(tǒng)越大、越復(fù)雜，科學(xué)家們希望預(yù)測得越準(zhǔn)確，為此人工神經(jīng)元網(wǎng)絡(luò)就必須越大，完成任務(wù)所需的計(jì)算資源和時間也就越多。

在最新研究中，高蒂爾及其同事對整個儲備池計(jì)算系統(tǒng)進(jìn)行了簡化，從而顯著減少了所需的計(jì)算資源并節(jié)省大量計(jì)算時間。結(jié)果表明，在不同的測試中，新系統(tǒng)比當(dāng)前系統(tǒng)可以快33到100萬倍。而且，與當(dāng)前一代模型需要4000個神經(jīng)元相比，新一代計(jì)算僅需28個神經(jīng)元就達(dá)到了同樣的精度。

高蒂爾進(jìn)一步指出：“科學(xué)家目前必須輸入1000或10000個數(shù)據(jù)點(diǎn)或更多數(shù)據(jù)點(diǎn)對儲備池計(jì)算機(jī)進(jìn)行預(yù)熱——對需要輸入儲備池計(jì)算機(jī)的數(shù)據(jù)進(jìn)行訓(xùn)練，但新系統(tǒng)只需要輸入兩三個數(shù)據(jù)點(diǎn)。”在測試中，他們用400個數(shù)據(jù)點(diǎn)獲得了與現(xiàn)在使用5000或更多數(shù)據(jù)點(diǎn)相同的結(jié)果。

儲備池計(jì)算被認(rèn)為是神經(jīng)網(wǎng)絡(luò)的一種拓展框架，或者說，一種新的神經(jīng)網(wǎng)絡(luò)訓(xùn)練方法。有意思的是，我們一直以為計(jì)算系統(tǒng)中的人工神經(jīng)元是越多越好，但實(shí)際上，越多的神經(jīng)元當(dāng)然能解決越復(fù)雜的問題，但同樣會帶來對龐大資源的消耗，如果能“縮減開支”——以更少的神經(jīng)元解決同樣精度的問題，則是一個非常值得努力的方向。現(xiàn)在儲備池計(jì)算的新成果，就讓人們看到了這樣的曙光。( 劉霞)

責(zé)任編輯：hnmd003

相關(guān)閱讀

相關(guān)閱讀

精彩推送

推薦閱讀