新聞中心

EEPW首頁 > 智能計(jì)算 > 業(yè)界動(dòng)態(tài) > 2024諾貝爾物理學(xué)得主:以神經(jīng)網(wǎng)絡(luò)為筆 書寫AI時(shí)代新篇章

2024諾貝爾物理學(xué)得主:以神經(jīng)網(wǎng)絡(luò)為筆 書寫AI時(shí)代新篇章

作者: 時(shí)間:2024-10-09 來源:快科技 收藏

當(dāng)?shù)貢r(shí)間周二(10月8日),瑞典皇家科學(xué)院宣布,將2024年授予約翰·J·霍普菲爾德(John J. Hopfield)和杰弗里·E·辛頓(Geoffrey E. Hinton)。

本文引用地址:http://butianyuan.cn/article/202410/463467.htm

霍普菲爾德和辛頓將平分1100萬瑞典克朗(約合110萬美元)的獎(jiǎng)金,以表彰他們?cè)谑褂萌斯ど窠?jīng)網(wǎng)絡(luò)進(jìn)行機(jī)器學(xué)習(xí)的基礎(chǔ)性發(fā)現(xiàn)和發(fā)明,這些發(fā)現(xiàn)為當(dāng)今的機(jī)器學(xué)習(xí)應(yīng)用奠定基礎(chǔ)。


2024諾貝爾物理學(xué)得主:以神經(jīng)網(wǎng)絡(luò)為筆 書寫AI時(shí)代新篇章


1982年,霍普菲爾德在論文中提出了“霍普菲爾德網(wǎng)絡(luò)”,旨在模擬人腦記憶的存儲(chǔ)和檢索過程。這個(gè)自聯(lián)想記憶網(wǎng)絡(luò)能夠在部分或不完整輸入下,通過動(dòng)態(tài)調(diào)整神經(jīng)元狀態(tài),恢復(fù)完整的存儲(chǔ)模式。

霍普菲爾德網(wǎng)絡(luò)的提出推動(dòng)了神經(jīng)網(wǎng)絡(luò)領(lǐng)域的發(fā)展,尤其是在理解記憶如何在大腦中存儲(chǔ)和檢索的機(jī)制上提供了理論框架。且它的“能量最小化”思想影響了后續(xù)許多神經(jīng)網(wǎng)絡(luò)模型的發(fā)展。

霍普菲爾德網(wǎng)絡(luò)被廣泛應(yīng)用于神經(jīng)科學(xué)、計(jì)算機(jī)科學(xué)和優(yōu)化問題等領(lǐng)域,尤其是在模式識(shí)別、聯(lián)想記憶和優(yōu)化算法方面發(fā)揮了重要作用,在推動(dòng)現(xiàn)代和神經(jīng)計(jì)算理論的發(fā)展上起到了關(guān)鍵作用。

霍普菲爾德還對(duì)生物物理學(xué)和分子生物學(xué)做出了重要貢獻(xiàn),特別是在蛋白質(zhì)折疊和生物系統(tǒng)的計(jì)算功能方面。他提出的“Hopfield Barrier”概念解釋了蛋白質(zhì)如何有效找到其折疊的最低能量狀態(tài)。

霍普菲爾德網(wǎng)絡(luò)的發(fā)現(xiàn)吸引了一些理論物理學(xué)家參與到神經(jīng)網(wǎng)絡(luò)的研究當(dāng)中。而辛頓就將霍普菲爾德網(wǎng)絡(luò)的想法應(yīng)用于一種新網(wǎng)絡(luò),這種新網(wǎng)絡(luò)使用另一種方法:玻爾茲曼機(jī)(Boltzmann Machine)。

2024諾貝爾物理學(xué)得主:以神經(jīng)網(wǎng)絡(luò)為筆 書寫AI時(shí)代新篇章

玻爾茲曼機(jī)是第一個(gè)能夠?qū)W習(xí)不屬于輸入或輸出的神經(jīng)元內(nèi)部表示的神經(jīng)網(wǎng)絡(luò),可以學(xué)習(xí)給定數(shù)據(jù)類型的特征元素,可以用來分類圖像或創(chuàng)建新材料,幫助推動(dòng)了當(dāng)今機(jī)器學(xué)習(xí)的快速發(fā)展。

辛頓的貢獻(xiàn)為深度學(xué)習(xí)的復(fù)興奠定了基礎(chǔ),使得神經(jīng)網(wǎng)絡(luò)得以在更復(fù)雜、更大規(guī)模的數(shù)據(jù)集上進(jìn)行訓(xùn)練,從而在圖像識(shí)別、語音識(shí)別、自然語言處理等任務(wù)中取得了巨大的成功。

辛頓在神經(jīng)網(wǎng)絡(luò)方面的開創(chuàng)性工作塑造了為當(dāng)今許多產(chǎn)品提供動(dòng)力的系統(tǒng)。2018年,辛頓與楊立昆(Yann LeCun)和約書亞·本吉奧(Yoshua Bengio)共同獲得了當(dāng)年的圖靈獎(jiǎng)。

值得一提的是,辛頓的團(tuán)隊(duì)很早就開始利用英偉達(dá)的CUDA平臺(tái)訓(xùn)練神經(jīng)網(wǎng)絡(luò)模型。2012年,辛頓與他的學(xué)生Alex Krizhevsky和Ilya Sutskever在CUDA平臺(tái)上訓(xùn)練了一個(gè)視覺識(shí)別神經(jīng)網(wǎng)絡(luò)“AlexNet”。

2024諾貝爾物理學(xué)得主:以神經(jīng)網(wǎng)絡(luò)為筆 書寫AI時(shí)代新篇章

在當(dāng)年著名的ImageNet競賽中,AlexNet幾乎將對(duì)象識(shí)別的錯(cuò)誤率減少一半,重塑了計(jì)算機(jī)視覺領(lǐng)域。這也讓英偉達(dá)GPU+CUDA組合在深度學(xué)習(xí)領(lǐng)域一鳴驚人,為十年后股價(jià)的爆發(fā)奠定了理論基礎(chǔ)。

2012年底,辛頓團(tuán)隊(duì)三人創(chuàng)建了DNNresearch公司,次年該公司被谷歌買下。2016年,谷歌推出AlphaGo,在圍棋上橫掃了人類棋手,成為當(dāng)時(shí)公認(rèn)的最強(qiáng)大廠。而在前一年,Sutskever離開了谷歌,參與創(chuàng)立了Open并擔(dān)任首席科學(xué)家。

去年,辛頓在社交媒體上證實(shí)他離開谷歌。在接受媒體采訪時(shí),他表示,“我對(duì)我畢生所研究的東西感到后悔了?!苯芨ダ镄稳莘Q,聊天機(jī)器人所帶來的某些危險(xiǎn)“相當(dāng)恐怖”。



評(píng)論


相關(guān)推薦

技術(shù)專區(qū)

關(guān)閉