開源開放已經成為驅動技術創新和加速產業發展的核心動能。開源開放對人類社會過去幾百年科學和技術的發展起到非常重要的作用，讓我們可以更快追蹤到最新的技術進展。

　　百度飛槳深度學習平臺作為百度“AI大生產平臺”的基礎底座，以大規模分布式訓練、全硬件平臺支持、端到端全流程工具，助力企業和開發者加速AI生產。無需從頭學習難度高、迭代快的前沿科技，避免重復“造輪子”，應用AI的門檻更低、成本更低、效率更高。

　　近期飛槳(PaddlePaddle)開源深度學習框架和深度勢能開源社區的開發者們就深度勢能分子動力學開源項目(DeePMD-kit)進行了跨領域深度合作，依托飛槳框架成熟的底層功能和動靜統一的開發體驗實現深度勢能分子動力學模型的構建和運行，促進了雙方在開發者生態上的雙向融合，拓展了DeePMD-kit原有能力邊界，增強在國產化硬件和大規模分布式訓練上的能力，也讓Paddle支持的科學計算開源項目中增加了重量級的一員。

技術解讀

　　1.技術背景

　　SeA指DeepPot smooth edition constructed from all information including angle and radial information of atomic configurations。從原子坐標信息(包括原子間的相對徑向坐標和角向坐標)出發，通過神經網絡構造復雜材料體系的勢能面。

　　SeA模型由兩部分構成:

　　a. Embeding網絡，輸入中心原子i與其所有近鄰原子j的相對坐標信息，輸出Feature Matrix。

　　b. Fitting網絡，輸入Feature Matrix,輸出中心原子i的局域能量。

　　DeepPot已被用于準確描述包括分子結構、各種周期性結構，以及表面、高熵、電池等等多種復雜結構。

　　2.使用PaddlePaddle來實現SeA網絡

　　1.構建網絡

　　1.網絡結構

　　a.Embedding網絡：要想讓隨機性的神經網絡能準確描述物理體系，Embedding輸出的Feature Matrix應該滿足體系的物理對稱性，包括平移、置換和旋轉對稱性。

　　b.具體實現方案參見https://dl.acm.org/doi/10.5555/3327345.3327356

　　Fitting網絡：將Embedding網絡輸出的Feature Matrix輸入Fitting網絡，輸出i原子的局域能量。

　　2.使用PaddlePaddle動態圖來構建SeA網絡

　　PaddlePaddle動態圖使用了相比tensorflow 1.x更加靈活的可以支持更加貼近Python語法和執行邏輯的執行機制，使得算法實現可以按照順序的執行邏輯來進行。

　　構建能量模型：

　　我們只需要簡單的繼承 paddle.nn.Layer就可以使用paddle內部的各類操作網絡的方法具體可以參見：

　　在__init__方法中我們像使用python一樣設置網絡結構(包括層數和每層的維度)

　　在forward()方法中我們就可以實現加權求和+激活函數邏輯

　　而深度學習中反向的計算邏輯paddle的動態圖此時已經使用autograd技術自動為我們完成了。我們只需要在整個網絡完成后使用backward()方法即可執行反向網絡。

　　飛槳框架2.0支持用戶使用動態圖完成深度學習相關領域全類別的模型算法開發。動態圖模式下可以讓開發者隨時查看變量的輸入、輸出，方便快捷的調試程序, 帶來最佳的開發體驗。為了解決動態圖的部署問題，飛槳提供了全面完備的動轉靜支持，在Python語法支持覆蓋度上達到領先水平。開發者在動態圖編程調試的過程中，僅需添加一個裝飾器paddle.jit.to_static，即可無縫平滑地自動實現靜態圖訓練或模型保存。同時飛槳框架2.0還做到了模型存儲和加載的接口統一，保證動轉靜之后保存的模型文件能夠被純動態圖加載和使用。

　　3.使用PaddlePaddle自定義算子

　　我們使用PaddlePaddle的自定義算子方案來實現這種和深度勢能領域強相關的計算單元。相比tensorflow 1.x當中需要實現一個內部算子，PaddlePaddle的自定義算子方案可以讓我們更加專注于實現相關的計算邏輯 而盡量脫離了繁瑣的編譯算子和集成算子到框架的過程。

　　1.實現算子：PaddlePaddle的自定義算子方案中我們實現一個計算邏輯只需要像寫一個函數一樣將輸入和計算邏輯作為函數的參數和執行邏輯加入即可。例如我們輸入體系中原子坐標，找出給定截斷距離cutoff內中心原子i的所有近鄰j，并構造神經網絡的輸入矩陣descriptor：

　　具體的實現可以參考：

　　https://github.com/deepmodeling/deepmd-kit/tree/paddle/source/op/paddle_ops/srcs

　　2.編譯算子：PaddlePaddle甚至支持jit的方式來編譯算子使得我們可以使用簡單的幾行Python代碼就可以完成算子的編譯和集成

　　具體使用PaddlePaddle自定義Op的介紹可以參見：

　　https://www.paddlepaddle.org.cn/documentation/docs/zh/guides/07_new_op/new_custom_op.html

　　3.DoubleGrad的使用：

　　訓練模型所用的label包括力和維里應力，兩者都要通過對能量關于坐標求導得出。加上back propagation，就對模型的輸出值能量進行了兩次求導。

　　在paddlepaddle的動態圖中可以簡單的使用paddle.grad 來實現

　　https://www.paddlepaddle.org.cn/documentation/docs/zh/api/paddle/fluid/dygraph/base/grad_cn.html#grad

　　Paddle.grad可以自動實現對給定函數的求導。對于輸入多個自變量x，并輸出多個因變量y的函數，paddle.grad對每個x分別返回這個x對所有y的導數之和，也就是說返回值個數與x的個數相同。

　　使用PaddlePaddle我們可以很完美的重現C++算法實現的能量關于坐標求導的功能，并且我們可以看到相關的實現精度也可以達到以下的效果:

　　其中，訓練后模型計算能量和力的精度都與Tensorflow版本完全一致。

　　以上圖片選自

　　https://github.com/deepmodeling/deepmd-kit/pull/529

　　代碼節選自：

　　https://github.com/deepmodeling/deepmd-kit/tree/paddle

　　關于DeePMD-kit

　　以深度學習為代表的機器學習方法在力場開發中的應用為發展高效精確的分子動力學方法帶來了新機遇和新思路。深度勢能【1】(Deep Potential)開源方法通過運用“機器學習+多尺度建模+高性能計算”的方式解決了傳統分子模擬過程中難以兼顧精度與速度的痛點，成功實現在第一性原理精度基礎上的上億原子的分子動力學模擬【2】。其中DeePMD-kit和DP-GEN是圍繞Deep Potential Molecular Dynamics(DeePMD，深度勢能分子動力學)開發的開源科學軟件包。發布以來，在凝聚態物理、化學物理、材料理性設計、生物物理、藥物分子設計等領域均得到廣泛應用。

　　關于飛槳

　　飛槳(PaddlePaddle)以百度多年的深度學習技術研究和業務應用為基礎，是中國首個自主研發、功能完備、 開源開放的產業級深度學習平臺，集深度學習核心訓練和推理框架、基礎模型庫、端到端開發套件和豐富的 工具組件于一體。目前，飛槳已凝聚超265萬開發者，服務企業10萬家，基于飛槳開源深度學習平臺產生了 34萬個模型。飛槳助力開發者快速實現AI想法，快速上線AI業務。幫助越來越多的行業完成AI賦能，實現產業智能化升級。

　　當前在科學計算領域，飛槳聯合各高校、科研機構和企業已為開發者建設支持了量子機器學習開發工具PaddleQuantum、生物計算開源工具集PaddleHelix和貝葉斯深度學習ZhuSuan，本次又在分子動力學研究領域新增DeePMD-kit。

　　未來展望

　　本次百度飛槳深度學習平臺與DeePMD-kit的合作，將進一步提升雙方的產品競爭力，不斷完善產品能力矩陣。后續基于飛槳的DeePMD-kit軟件包將在算法優化、高性能適配等方面持續迭代。歡迎飛槳社區與深度勢能開源社區的開發者關注該項目，并為之貢獻力量。

　　參考文獻

　　[1] L Zhang, J Han, H Wang, R Car, W E, Deep potential molecular dynamics: a scalable model with the accuracy of quantum mechanics, Physical review letters 120 (14), 143001

　　[2] W Jia, H Wang, M Chen, D Lu, J Liu, L Lin, R Car, L Zhang, Pushing the limit of molecular dynamics with ab initio accuracy to 100 million atoms with machine learning, Proceedings of the International Conference for High Performance Computing, Networking, Storage and Analysis (SC ’20), IEEE Press, Article 5, 1–14.

　　參考鏈接

　　DeePMD-kit項目地址：

　　https://github.com/deepmodeling/deepmd-kit

　　如果您想詳細了解更多飛槳的相關內容，請參閱以下文檔。

　　飛槳官網地址·

　　https://www.paddlepaddle.org.cn/

　　飛槳開源框架項目地址·

　　GitHub: https://github.com/PaddlePaddle/Paddle

　　Gitee: https://gitee.com/paddlepaddle/Paddle

特別提醒：本網信息來自于互聯網，目的在于傳遞更多信息，并不代表本網贊同其觀點。其原創性以及文中陳述文字和內容未經本站證實，對本文以及其中全部或者部分內容、文字的真實性、完整性、及時性本站不作任何保證或承諾，并請自行核實相關內容。本站不承擔此類作品侵權行為的直接責任及連帶責任。如若本網有任何內容侵犯您的權益，請及時聯系我們，本站將會在24小時內處理完畢。