(網(wǎng)經(jīng)社訊)趨勢1：科學計算中的數(shù)據(jù)與機理融合建模
機器學習與科學計算的結(jié)合，即數(shù)據(jù)和機理的融合計算，為科學研究提供了新的手段和范式，成為了前沿計算的典型代表。從機理出發(fā)的建模以基本物理規(guī)律為出發(fā)點進行演繹，追求簡潔與美的表達；從數(shù)據(jù)出發(fā)的建模從數(shù)據(jù)中總結(jié)規(guī)律，追求在實踐中的應用效果。這兩方面的建模方法都在科學史中發(fā)揮了重要作用。
近年來，科學計算發(fā)展的一個重要趨勢是由單純基于機理或數(shù)據(jù)的范式向數(shù)據(jù)與機理的融合建模與計算發(fā)展。眾多前沿科學領域中的許多重要問題常常涉及多個發(fā)生在不同時空尺度上相互耦合的物理過程，具有高度的各向異性、奇異性、非均勻性以及不確定性等特征。人類只能知道部分原理和數(shù)據(jù)，此時機理與數(shù)據(jù)結(jié)合的方式將成為研究這些問題的有力手段。
趨勢2：深度學習理論迎來整合與突破
深度學習在應用領域取得了令人矚目的成功，但其理論基礎仍十分薄弱，研究者對深度學習為何表現(xiàn)出比傳統(tǒng)機器學習方法更優(yōu)越的性能背后存在的機理尚不清楚。深度學習的理論分析需要從數(shù)學、統(tǒng)計和計算的不同角度，以及表示能力、泛化能力、算法收斂性和穩(wěn)定性等多個方面進行探索和創(chuàng)新。當前對深度學習理論碎片式的理解，將進一步迎來整合與突破，從對淺層網(wǎng)絡和局部性質(zhì)的理解向深度網(wǎng)絡和全局性質(zhì)不斷深化，最終能夠完整解答關于深度學習能力與極限的重大理論問題。
趨勢3：機器學習向分布式隱私保護方向演進
當前，全球多個國家和地區(qū)已出臺數(shù)據(jù)監(jiān)管法規(guī)，如HIPAA（美國健康保險便利和責任法案）、GDPR（歐盟通用數(shù)據(jù)保護條例）等，通過嚴格的法規(guī)限制多機構間隱私數(shù)據(jù)的交互。分布式隱私保護機器學習通過加密、分布式存儲等方式保護機器學習模型訓練的輸入數(shù)據(jù)，是打破數(shù)據(jù)孤島、完成多機構聯(lián)合訓練建模的可行方案。
趨勢4：大規(guī)模自監(jiān)督預訓練方法進一步發(fā)展
GPT-3的出現(xiàn)激發(fā)了研究人員在視覺等更廣泛的范圍內(nèi)，對大規(guī)模自監(jiān)督預訓練方法繼續(xù)開展探索和研究，未來，基于大規(guī)模圖像、語音、視頻等多模態(tài)數(shù)據(jù)，以及跨語言的自監(jiān)督預訓練模型將進一步發(fā)展，研究人員也將持續(xù)探索解決當前大規(guī)模自監(jiān)督預訓練模型不具有認知能力等問題的方法。
趨勢5：基于因果學習的信息檢索模型與系統(tǒng)成為重要發(fā)展方向
人工智能算法是推薦系統(tǒng)、搜索引擎等智能信息檢索系統(tǒng)的核心技術，深刻地影響著億萬互聯(lián)網(wǎng)產(chǎn)品用戶的工作和生活。當前基于人工智能算法的信息檢索模型大多關注給定數(shù)據(jù)中變量間相關性的建立，而相關性與更為本源的因果關系并不等價，導致當前信息檢索的結(jié)果存在較為嚴重的偏差，對抗攻擊的能力不佳，且模型往往缺乏可解釋性。
為了實現(xiàn)真正智能化的信息檢索系統(tǒng)，基于因果學習的檢索模型是必然要邁過的一道坎。因果學習能夠識別信息檢索中變量間的因果關系，厘清事物發(fā)展變化的前因后果，全面認識用戶需求和檢索方法的本質(zhì)，修正檢索模型中的偏差，提升檢索系統(tǒng)的可解釋性、可操作性和可溯源性。
趨勢6：類腦計算系統(tǒng)從“專用”向“通用”逐步演進
以類腦計算芯片為核心的各種類腦計算系統(tǒng)，在處理某些智能問題以及低功耗智能計算方面正逐步展露出優(yōu)勢。但從設計方法角度看，類腦芯片往往根據(jù)目標應用要求通過歸納法來確定其硬件功能與接口，并定制化工具鏈軟件，導致軟硬件緊耦合、目標應用范圍受限等問題。
類腦計算芯片設計將從現(xiàn)有處理器的設計方法論及其發(fā)展歷史中汲取靈感，在計算完備性理論基礎上結(jié)合應用需求實現(xiàn)完備的硬件功能。同時類腦計算基礎軟件將整合已有類腦計算編程語言與框架，提出與具體芯片無關的高層次編程抽象與統(tǒng)一開發(fā)框架，針對目標芯片研發(fā)類腦計算編譯優(yōu)化與映射優(yōu)化技術，實現(xiàn)類腦計算系統(tǒng)從“專用”向“通用”的逐步演進。
趨勢7：類腦計算從散點獨立研究向多點迭代發(fā)展邁進
類腦計算在諸多方面已經(jīng)取得了大量基礎性研究成果，但目前的研究仍呈現(xiàn)相對獨立狹窄的縱向分布特點，尚未形成相互促進的橫向貫通局面。未來的類腦計算將更加注重在單點獨立研究的同時與其他層面研究的結(jié)合，推動類腦計算的基礎理論算法、芯片硬件平臺、評估測試基準、編程編譯工具以及系統(tǒng)應用的相互協(xié)同和促進，構建更具全棧性的類腦計算迭代發(fā)展生態(tài)，進入良性前進的軌道。
趨勢8：神經(jīng)形態(tài)硬件特性得到進一步的發(fā)掘并用于實現(xiàn)更為先進的智能系統(tǒng)
新型神經(jīng)形態(tài)器件，如RRAM（可變電阻式存儲器）、PCM（相變存儲器）等，目前已經(jīng)在人工智能領域發(fā)揮了重大作用，基于這些器件構建的智能硬件系統(tǒng)已經(jīng)能夠有效地提升智能算法執(zhí)行的速度和能效，并保持算法的性能。
然而當前大部分硬件智能系統(tǒng)僅僅利用了神經(jīng)形態(tài)器件的部分特性，如非易失性、線性等，缺乏對器件更豐富特性，如易失性、非線性、隨機性等特性的應用。通過對器件的全面探究，下一代智能系統(tǒng)將會把算法的各種需求同器件的豐富特性緊密結(jié)合起來，從而進一步拓展智能系統(tǒng)的功能和應用范圍，提升系統(tǒng)的性能和效率。
趨勢9：人工智能從腦結(jié)構啟發(fā)走向結(jié)構與功能啟發(fā)并重
腦啟發(fā)的人工智能在強調(diào)對腦結(jié)構和神經(jīng)形態(tài)模仿的同時，還需要了解人類神經(jīng)元和神經(jīng)回路的功能與機制。這是因為腦結(jié)構與腦功能并不存在簡單的一一對應的關系，即類似的結(jié)構可能有著不同的功能。
例如，作為古老結(jié)構的海馬體在人和動物的大腦上有著類似的結(jié)構，但是它們采用了不同的記憶編碼方式。動物的海馬體在編碼記憶時，采用的是“模式分離”的方式，即神經(jīng)元形成不同的神經(jīng)元群組來存儲記憶，以避免記憶的混淆。但是，人類的海馬體則采用了“概念和聯(lián)想”的編碼方式，即同樣的一組神經(jīng)元可以儲存多個不同的記憶。人類這種獨特的記憶編碼方式可能是人類智能脫穎而出的一個關鍵因素，有助于解釋人類相比于其它物種所具備的獨特的認知能力，如人類的抽象思維能力和創(chuàng)造性思維能力。
趨勢10：人工智能計算中心成為智能化時代的關鍵基礎設施
近年來，人工智能對算力的需求迅猛增長，并成為最重要的計算算力資源需求之一。AI計算是智能時代發(fā)展的核心動力，以人工智能算力為主的人工智能計算中心應運而生。
人工智能計算中心基于最新人工智能理論，采用領先的人工智能計算架構，是融合公共算力服務、數(shù)據(jù)開放共享、智能生態(tài)建設、產(chǎn)業(yè)創(chuàng)新聚集的“四位一體”綜合平臺，可提供算力、數(shù)據(jù)和算法等人工智能全棧能力，是人工智能快速發(fā)展和應用所依托的新型算力基礎設施。未來，隨著智能化社會的不斷發(fā)展，人工智能計算中心將成為關鍵的信息基礎設施，推動數(shù)字經(jīng)濟與傳統(tǒng)產(chǎn)業(yè)深度融合，加速產(chǎn)業(yè)轉(zhuǎn)型升級，促進經(jīng)濟高質(zhì)量發(fā)展。
