
·聚焦:人工智能、芯片等行業
歡迎各位客官關注、轉發


10月8日,瑞典皇家科學院正式宣告,2024年度諾貝爾物理學獎已決定授予美國杰出科學家約翰·霍普菲爾德與英裔加拿大卓越科學家杰弗里·辛頓,以表彰他們運用物理學工具,奠定了當代先進機器學習技術的基石。
瑞典皇家科學院的官方解釋指出,霍普菲爾德教授的貢獻在于創造了一種新型的信息存儲與重構結構;
而辛頓教授則發明了能夠自主發現數據屬性的方法,這一方法對現代大型人工神經網絡的發展具有不可估量的價值。
因此,此次頒獎旨在表彰他們[在利用人工神經網絡進行機器學習方面的基礎性發現和發明]。
兩位獲獎者通過物理學工具,提出了驅動人工神經網絡運行的創新方法,該方法利用大腦啟發的分層結構來學習并理解抽象概念。
簡而言之,霍普菲爾德與辛頓兩位學者,均借助物理學的基本原理與技術手段,成功研發出依托網絡架構處理信息的技術。
這一重大發現被諾貝爾獎委員會主席、瑞典卡爾斯塔德大學物理學家Ellen Moons在發布會上高度評價為[構成了機器學習的基石,能夠顯著提升人類決策的速度與可靠性]。
從邏輯層面分析,瑞典皇家科學院認為機器學習可作為探索物理世界的一種有力工具,其潛在應用廣泛,而非簡單地將機器學習等同于物理研究本身。
回顧歷史,具有物理學背景的理論生物學家霍普菲爾德教授于1982年提出了一種新型網絡模型。
該模型將虛擬神經元之間的連接比作物理力,通過低能狀態存儲模式,并能在接收到相似輸入時再現這些模式。
這一結構被稱為聯想記憶,其工作機制與大腦通過相關信息回憶詞匯或概念的方式相類似。
霍普菲爾德教授提出了一種聯想存儲器,該存儲器能夠存儲和重建圖像以及其他類型的數據模式,這一理論的基礎正是源自于物理學中的自旋系統。
而辛頓教授則發明了玻爾茲曼機,這一模型的靈感來源于統計物理學。
玻爾茲曼機引入了一種用于模式識別的概率模型,其訓練算法和動力學原理在一定程度上與簡單的物理過程相似。

霍普菲爾德:創建[霍普菲爾德網絡]模型
約翰?霍普菲爾德,1933年出生于美國芝加哥,以其在多個領域的卓越貢獻而聞名。
他擁有康奈爾大學物理學博士學位,既是一位杰出的生物物理學家、神經科學家,又是一位計算機科學家。
霍普菲爾德創建的[霍普菲爾德網絡]具有重大的創新意義。這個網絡能夠存儲和重構圖像以及數據中的其他類型模式。
它就像是一個強大的記憶庫,當給定一個不完整或稍微扭曲的網絡模式時,能夠有條不紊地處理節點并更新它們的值,從而降低網絡的能量,逐步找到與輸入的不完美圖像最相似的保存圖像。
這一過程仿佛是在大海中撈針,但[霍普菲爾德網絡]卻能高效地完成這個任務。
霍普菲爾德的工作不僅在實際應用中有很大價值,對神經網絡動力學也有著深入的理解。
他利用描述自旋相互影響時材料如何發展的物理學原理,建立了一個具有節點和連接的模型網絡。
這種將物理學原理應用于神經網絡的方法,為后續的研究提供了新的思路和方向。
通過不斷改進網絡,使保存更多的圖片成為可能,即使它們非常相似,也可以區分它們。
霍普菲爾德的貢獻得到了廣泛的認可,他曾獲得2022年玻爾茲曼獎。
這個獎項是對他在擴展統計物理學邊界、涵蓋生命現象以及對神經網絡動力學研究方面的高度肯定。
他的研究成果為機器學習和人工智能的發展奠定了堅實的基礎,也為物理學與其他學科的交叉融合樹立了榜樣。

辛頓:玻爾茲曼機帶來變個性突破
杰弗里?辛頓,1947 年出生于英國倫敦,在人工智能領域有著舉足輕重的地位。
他以霍普菲爾德網絡為基礎,開發出了[玻爾茲曼機],為機器學習的發展帶來了革命性的突破。
玻爾茲曼機是一種可通過輸入數據集學習概率分布的隨機生成神經網絡。
它不是從指令中學習,而是從給定的例子中學習。通過給機器輸入案例來訓練機器,玻爾茲曼機可對圖像進行分類,或者為它所訓練的模式類型創建新的案例。
每次更新一個節點的值,最終機器將進入一種狀態,在這種狀態下,節點的模式可以改變,但整個網絡的屬性保持不變。
根據玻爾茲曼方程,每個可能的模式都有一個特定的概率,這個概率由網絡的能量決定。
當機器停止時,它創造了一個新的模式,這使得玻爾茲曼機成為了生成模型的早期例子。
辛頓的貢獻不僅僅在于發明了玻爾茲曼機,還在于他在此基礎上幫助啟動了當前機器學習的爆炸性發展。
2006年,他和同事開發了一種預訓練網絡的方法,該網絡由一系列分層的波爾茲曼機組成。這種預訓練為網絡中的連接提供了一個更好的起點,從而優化了識別圖像元素的訓練。
辛頓的成就得到了國際社會的高度認可。他曾獲得 2018 年圖靈獎,這是計算機領域的最高榮譽。

機器學習可以幫助科學家尋找隱含規律
機器學習在物理學的多個領域都發揮著重要作用,包括多體物理、粒子物理、天體物理等。
在多體物理領域,機器學習可以幫助科學家尋找隱含規律。
例如,通過分析大量的實驗數據和模擬結果,機器學習算法可以自動發現多體系統中的關聯性和規律,為理解復雜的多體物理現象提供新的視角。
在粒子物理中,機器學習能夠挖掘有效信息。大型強子對撞機等實驗產生了海量的粒子物理數據,傳統的數據分析方式往往效率低下。
而機器學習技術可以快速從這些復雜的數據中提取有用的信息和模式,輔助發現新的粒子和相互作用,加速研究進程。
據統計,在某些粒子物理實驗中,機器學習算法能夠將數據分析的效率提高數倍甚至數十倍。
在天體物理方面,機器學習可以提升研究效率。天體觀測數據通常非常龐大且復雜,機器學習可以在分析這些數據、探測引力波、預測宇宙演化等方面發揮重要作用。
例如,通過機器學習算法對天體觀測數據進行分類、聚類和降維等操作,可以更好地理解和解釋天體物理現象,為解開宇宙奧秘提供有力支持。

物理學與AI之間的橋梁已穩固搭建
盡管人類大腦擁有約100萬億個神經元連接,而GPT等AI模型的連接數僅為萬億級別,但GPT卻能憑借超過1700億個參數,記憶并理解人類全部知識與文明,甚至進行高級別的抽象思考。
這表明,AI在利用有限連接處理海量知識方面,可能比人類更為高效,或已探索出更為優化的學習路徑。
年初由Sora引發的[世界模型]爭議,便是物理AI領域的一次重要里程碑。
盡管Sora的構想較為理想化,且OpenAI尚未公開其完全體形態,但科技巨頭們對AI在物理學領域的研究并未止步。
例如,英偉達CEO黃仁勛在Computex 2024上預測,AI的下一波浪潮將是物理AI(實體AI)。
人工神經網絡并非最新研究方向,從上世紀60年代起,科學家們就開始研究,且研究過程幾經起伏。
不論是霍普菲爾德還是辛頓,他們的研究都經歷了從熱到冷再到熱的過程。
尤其是辛頓,更為業內人士熟知的是他30年坐[冷板凳]的故事。
早在上世紀80年代,人工神經網絡曾是熱門研究方向,但由于當時計算機算力等問題,這個領域一度被認為難有突破,很快就不再為人們所關注。
但是,這兩位學者卻能持續地在神經網絡方向耕耘。神經網絡深度學習可說在他們的研究基礎上得到了爆發式發展。
霍普菲爾德提出的[霍普菲爾德神經網絡],以物理學中的自旋系統能量為喻,揭示了神經網絡運作的奧秘;
而辛頓則更進一步,運用統計物理學工具提出[玻爾茲曼機]模型,其研究成果不僅奠定了計算機視覺系統與大語言模型的基礎,更引領全球迎來了新一輪生成式AI革命的浪潮。

結尾:
隨著技術的不斷發展,機器學習與物理學的融合將更加緊密,為科學研究揭開更多的謎團和秘密。
然而,在此進程中,仍存若干懸而未決的問題,致使科學界對神經網絡的研究一度陷入沮喪之境。
部分資料參考:自然系列:《[將超越人的智力水平]:機器學習先驅獲2024年諾貝爾物理學獎》,APPSO:《諾貝爾獎快被AI包圓了,這10個冷知識帶你重新認識AI教父》,烏鴉智能說:《AI[統治]諾貝爾獎背后,知識的貶值已經開始了》,鎂客網:《AI拿下諾貝爾物理學,是為Sora的[世界模型]打廣告?》,文匯教育:《實屬[沒有想到]!兩位AI先驅摘獲諾貝爾物理學獎》,新京報:《兩名科學家分享2024諾貝爾物理學獎,其中一位是[AI教父]》,硅星人Pro:《最驚人又合理的諾貝爾物理學獎,頒給AI先驅Geoffrey 辛頓和John 霍普菲爾德》,鈦媒體AGI:《2024諾貝爾物理學獎頒給兩位[AI教父]》
本公眾號所刊發稿件及圖片來源于網絡,僅用于交流使用,如有侵權請聯系回復,我們收到信息后會在24小時內處理。
推薦閱讀:



商務合作請加微信勾搭:
18948782064
請務必注明:
「姓名 + 公司 + 合作需求」
