導(dǎo)語:隨著互聯(lián)網(wǎng)技術(shù)發(fā)展,新技術(shù)不斷涌現(xiàn),這制造了一個(gè)意想不到的新問題:打造服務(wù)時(shí)可能經(jīng)常多種不同領(lǐng)域技術(shù)深度結(jié)合,但由于種種原因這些技術(shù)通常難以結(jié)合的那么好。螞蟻集團(tuán)基于開源的分布式計(jì)算框架Ray構(gòu)建融合引擎,在不同場景去解決這個(gè)問題,取得了一定成果,現(xiàn)在就讓我們來看看他們是怎么做的?

　　利用Ray構(gòu)建融合引擎

　　隨著互聯(lián)網(wǎng)的發(fā)展,人們傾向于使用新的計(jì)算范式來應(yīng)對不同的場景,新的技術(shù)也隨之涌現(xiàn),如OLAP引擎、圖計(jì)算、流計(jì)算、深度學(xué)習(xí)等。這意味著在解決一個(gè)問題時(shí),可能需要兩項(xiàng)甚至多項(xiàng)技術(shù)進(jìn)行深度的結(jié)合。

　　Ray的使用也很簡單,在目前比較流行的分布式框架,都有三個(gè)比較基礎(chǔ)的分布式原語,分布式任務(wù)、對象和服務(wù)。而常用的面向過程的編程語言中,也剛好有三個(gè)基本概念,函數(shù)、變量和類。這三個(gè)編程語基本概念剛好可以和分布式框架的原語對應(yīng)起來。在Ray系統(tǒng)中,可以通過簡單的改動(dòng),實(shí)現(xiàn)它們之間的轉(zhuǎn)換。

　　但是,在將不同技術(shù)結(jié)合到一起的時(shí)候,會(huì)遇到多方面的挑戰(zhàn),包括:

　　● 復(fù)雜系統(tǒng)的協(xié)調(diào)。當(dāng)多個(gè)核心計(jì)算引擎組合到一起的時(shí)候,系統(tǒng)的復(fù)雜性大大上升,也加大了工程師對復(fù)雜系統(tǒng)的協(xié)調(diào)難度;

　　● 性能優(yōu)化。在進(jìn)行性能調(diào)優(yōu)工作時(shí),工程師需要面對多種分屬不同領(lǐng)域的計(jì)算引擎,導(dǎo)致系統(tǒng)難以突破性能瓶頸;

　　● 開發(fā)效率。工程師需要熟悉多個(gè)引擎如何協(xié)同工作,出現(xiàn)問題也難以定位和排查,導(dǎo)致開發(fā)效率低下。

　　這正是螞蟻集團(tuán)開發(fā)融合計(jì)算引擎的原因,其目標(biāo)是將多種不同范式的引擎融合在一起,更好的提供服務(wù),融合計(jì)算基于分布式計(jì)算框架Ray開發(fā)而成,具備以下特性:

　　● 簡單且通用的API。

　　● 同時(shí)支持多個(gè)編程語言。

　　● 彈性且可自定義的任務(wù)調(diào)度。

　　● 分布式狀態(tài)管理。

　　● 易用的錯(cuò)誤處理和故障恢復(fù)。

　　● 低成本的DevOps。

　　Ray是由伯克利大學(xué)RiseLab實(shí)驗(yàn)室發(fā)起,螞蟻金服共同參與的一個(gè)開源分布式計(jì)算框架,它提出的初衷在于讓分布式系統(tǒng)的開發(fā)和應(yīng)用能夠更加簡單。Ray作為計(jì)算框架具有敏捷的調(diào)度機(jī)制,也可以根據(jù)計(jì)算對資源使用的需求實(shí)現(xiàn)異構(gòu)調(diào)度。

　　Ray的使用也很簡單,在目前比較流行的分布式框架,都有三個(gè)比較基礎(chǔ)的分布式原語,分布式任務(wù)、對象和服務(wù)。而常用的面向過程的編程語言中,也剛好有三個(gè)基本概念,函數(shù)、變量和類。這三個(gè)編程語基本概念剛好可以和分布式框架的原語對應(yīng)起來。在Ray系統(tǒng)中,可以通過簡單的改動(dòng),實(shí)現(xiàn)它們之間的轉(zhuǎn)換。

　　左邊是一個(gè)簡單的例子,在這個(gè)函數(shù)前面需要加入一個(gè)“@remote”修飾符,就可以把一個(gè)函數(shù)轉(zhuǎn)換成為分布式任務(wù)。任務(wù)通過“.remote”調(diào)用執(zhí)行,返回值是一個(gè)變量,又可以參與到其他計(jì)算中。

　　右邊是另一個(gè)例子,通過加“@remote”修飾符的方式可以把一個(gè)類轉(zhuǎn)變成服務(wù)。類中的方法可以通過“.remote”調(diào)用變成一個(gè)分布式任務(wù),和函數(shù)的使用非常相似。通過這種方式可以實(shí)現(xiàn)從單機(jī)程序到分布式任務(wù)的轉(zhuǎn)變,把本地的任務(wù)調(diào)度到遠(yuǎn)程的機(jī)器上進(jìn)行執(zhí)行。

　　關(guān)于Ray更多的介紹參見:《提效降本:螞蟻金服如何用融合計(jì)算改造在線機(jī)器學(xué)習(xí)》

　　在螞蟻的金融智能技術(shù)架構(gòu)中,融合計(jì)算運(yùn)行于Kubernetes集群之上,Ray作為分布式計(jì)算的基礎(chǔ)設(shè)施,支持包括動(dòng)態(tài)圖計(jì)算、在線機(jī)器學(xué)習(xí)等應(yīng)用框架,驅(qū)動(dòng)上層實(shí)時(shí)風(fēng)控、知識(shí)圖譜等應(yīng)用。

　　螞蟻深度參與了Ray開源項(xiàng)目的開發(fā),在Ray社區(qū)貢獻(xiàn)位于前二位。截止到2020年10月,前25位貢獻(xiàn)者當(dāng)中有8位螞蟻工程師,22%的代碼由螞蟻集團(tuán)貢獻(xiàn)。螞蟻為Ray貢獻(xiàn)了包括Java API、容錯(cuò)性GCS等功能特性,并為Ray在大規(guī)模落地實(shí)踐提供了寶貴經(jīng)驗(yàn)。

　　Ray在螞蟻集團(tuán)的規(guī)?；瘧?yīng)用實(shí)踐

　　螞蟻在18年Ray項(xiàng)目的早期就參與到了項(xiàng)目的開發(fā),長期和Ray開源社區(qū)保持密切合作,并深度參與了Ray內(nèi)核的開發(fā)。在螞蟻內(nèi)部,我們基于Ray構(gòu)建了實(shí)時(shí)圖計(jì)算、在線計(jì)算、在線機(jī)器學(xué)習(xí)等計(jì)算平臺(tái),以及多個(gè)直接運(yùn)行在Ray之上的分布式業(yè)務(wù)系統(tǒng)。這些系統(tǒng)在微貸、風(fēng)控、智能營銷、金融智能、金融核心等核心業(yè)務(wù)領(lǐng)域得到了廣泛的應(yīng)用,平穩(wěn)順利地支持了多次雙十一大促。

　　下面,我們將簡要介紹Ray在螞蟻集團(tuán)的規(guī)?；瘧?yīng)用實(shí)踐。

　　首先是在線機(jī)器學(xué)習(xí)系統(tǒng)。

　　傳統(tǒng)的在線機(jī)器學(xué)習(xí)系統(tǒng)是一系列子系統(tǒng)組成的任務(wù)管道,原始的實(shí)時(shí)數(shù)據(jù)需要流經(jīng)過濾、采樣、特征工程、訓(xùn)練和部署等系統(tǒng),才能發(fā)揮作用。這就給我們帶來了數(shù)據(jù)一致性、系統(tǒng)穩(wěn)定性、多平臺(tái)等挑戰(zhàn)。

　　螞蟻基于Ray開發(fā)出端到端的在線機(jī)器學(xué)習(xí)架構(gòu),如下圖。

　　這套架構(gòu)在一個(gè)在線機(jī)器學(xué)習(xí)框架中包括實(shí)時(shí)數(shù)據(jù)處理、分布式訓(xùn)練以及模型部署三大組件,并通過Ray的分布式計(jì)算特性,支持跨編程語言的開發(fā)、exactly once、自動(dòng)化訓(xùn)練和模型更新等。

　　在該在線學(xué)習(xí)系統(tǒng)的運(yùn)行時(shí)里,我們可以看到實(shí)時(shí)數(shù)據(jù)處理和訓(xùn)練及部署是高度集成在一起的,外部的實(shí)時(shí)數(shù)據(jù)被轉(zhuǎn)換為微批處理,并實(shí)時(shí)同步給訓(xùn)練組件,然后進(jìn)行部署,這種設(shè)計(jì)可以最大化系統(tǒng)效率。這套系統(tǒng)同時(shí)支持?jǐn)?shù)據(jù)流API和SQL兩種調(diào)用方式,進(jìn)一步為業(yè)務(wù)方降低了使用的學(xué)習(xí)成本。

　　另一個(gè)落地場景是大規(guī)模并行處理。

　　隨著業(yè)務(wù)場景和需求的不斷深化擴(kuò)展,許多在線應(yīng)用開始承擔(dān)分布式計(jì)算功能,然而,現(xiàn)有的應(yīng)用架構(gòu)缺乏分布式計(jì)算系統(tǒng)中的任務(wù)調(diào)度、集群管理、靈活容錯(cuò) FO 等能力,導(dǎo)致在業(yè)務(wù)規(guī)模化過程中,容易出現(xiàn)集群負(fù)載不均、單機(jī)瓶頸、資源無法動(dòng)態(tài)隔離等問題。

　　銀行卡支付一直是支付工具中重要的組成部分。銀行卡業(yè)務(wù)涉及各類金融機(jī)構(gòu)渠道,涉及的機(jī)構(gòu)眾多,各個(gè)機(jī)構(gòu)的能力各不相同。如何保障用戶在大促期間的高支付成功率,讓用戶的大促體驗(yàn)絲般順滑存在極大的挑戰(zhàn)。當(dāng)銀行卡支付發(fā)生異常時(shí),需要盡快做出準(zhǔn)確的決策,執(zhí)行應(yīng)變操作,以及時(shí)減少異常帶來的損失。而傳統(tǒng)的監(jiān)控報(bào)警提供的秒級(jí)指標(biāo)查詢延遲較高,特別是對于決策常用的成功率聯(lián)合計(jì)算指標(biāo),延遲更是超過1分鐘,決策也因此只能做到分鐘級(jí)的熔斷能力,同時(shí)穩(wěn)定性也不能滿足大促的SLA要求。

　　為了解決上述問題,我們基于 Ray 打造了Ray-MPP在線計(jì)算系統(tǒng),具備端到端極低延遲、高可用、具備數(shù)據(jù)準(zhǔn)確性保障(exactly once)等特點(diǎn)。

　　一方面可以很好的處理在線計(jì)算應(yīng)用中大規(guī)模細(xì)粒度任務(wù)調(diào)用的場景,另一方面發(fā)揮 Ray 運(yùn)行時(shí)動(dòng)態(tài)擴(kuò)展的特點(diǎn),使得系統(tǒng)具備更好的運(yùn)行時(shí)資源動(dòng)態(tài)隔離能力,并在處理任務(wù)時(shí)具備更強(qiáng)的靈活性。

　　Ray-MPP 被運(yùn)用在金融網(wǎng)絡(luò)的金融決策鏈路中,為金融決策的指標(biāo)查詢計(jì)算和決策腳本計(jì)算提供分布式計(jì)算能力。經(jīng)過實(shí)際場景中的檢驗(yàn),Ray-MPP 為業(yè)務(wù)在計(jì)算性能、穩(wěn)定性、研發(fā)效能等各方面都帶來了提升。

　　未來展望

　　目前,Ray項(xiàng)目發(fā)展勢頭良好,并且得到了越來越多的關(guān)注。除了螞蟻之外,Uber、Intel、微軟、字節(jié)跳動(dòng)等公司也在積極參與Ray社區(qū)。同時(shí),也有越來越多開源項(xiàng)目已經(jīng)集成進(jìn)了Ray的生態(tài)。

　　未來,我們將從擴(kuò)展性、性能、調(diào)度、彈性、生態(tài)建設(shè)等方面繼續(xù)提升Ray的能力,把Ray打造成一個(gè)穩(wěn)定、高效、易用、通用的分布式計(jì)算底盤,也期待和業(yè)界與社區(qū)有更多交流探討。

　　同時(shí),我們也正在面向應(yīng)屆畢業(yè)生招聘2021年實(shí)習(xí)生,歡迎自薦和推薦。

　　團(tuán)隊(duì)介紹

　　我們是螞蟻集團(tuán)數(shù)據(jù)技術(shù)部,是整個(gè)螞蟻集團(tuán)數(shù)據(jù)引擎的底盤,為整個(gè)集團(tuán)的各項(xiàng)業(yè)務(wù)發(fā)展保駕護(hù)航。我們打造的螞蟻集團(tuán)計(jì)算存儲(chǔ)基礎(chǔ)架構(gòu),其技術(shù)核心包括金融大數(shù)據(jù)的開放計(jì)算體系,金融級(jí)大規(guī)模圖計(jì)算存儲(chǔ),金融智能機(jī)器學(xué)習(xí)平臺(tái)及系統(tǒng)架構(gòu),以及適合金融場景的多模融合計(jì)算引擎等方面的研發(fā)和攻關(guān)。

　　依托螞蟻集團(tuán)豐富的數(shù)字金融和數(shù)字生活場景,我們致力于打造新一代大數(shù)據(jù)和AI基礎(chǔ)設(shè)施。

　　我們的團(tuán)隊(duì)橫跨美國硅谷和中國北京、上海、杭州和成都。我們追求的工程師文化是開放、簡單、迭代、追求效率、用技術(shù)解決問題!

　　你想要的我們都有!!!

　　● 平臺(tái)好:頂尖的工程師團(tuán)隊(duì),超大規(guī)模數(shù)據(jù)計(jì)算平臺(tái),Stanford、Berkeley等一流高校的合作伙伴, SQLFlow等多個(gè)自研和開源項(xiàng)目。

　　● 成長快:面對不可多見的一流計(jì)算場景,挑戰(zhàn)世界級(jí)技術(shù)難題,主管師兄帶你飛。

　　● 福利好:提供業(yè)內(nèi)極具競爭力的薪資,各種補(bǔ)貼我們都幫你想到了。

　　● 活動(dòng)多:生日會(huì)、工程師節(jié)日、阿里日、戰(zhàn)役慶功、各種團(tuán)建……來了你就知道了!

　　招聘需求

　　面向?qū)ο?2021.11-2022.10期間畢業(yè)的應(yīng)屆畢業(yè)生

　　崗位類型:

　　● 研發(fā)工程師:C/C++, Java, Python, Go

　　● 算法工程師:機(jī)器學(xué)習(xí)

　　技術(shù)方向:圖計(jì)算、分布式計(jì)算、分布式存儲(chǔ)、數(shù)據(jù)庫、人工智能

　　工作城市:杭州、北京、上海、成都

　　應(yīng)聘方式:發(fā)簡歷至antcomputing@antgroup.com

　　需要注明【崗位+編程語言+技術(shù)方向】或者找學(xué)長學(xué)姐幫你內(nèi)推。

　　期待大家以最帥/最美的姿勢跑完招聘流程,等待offer降臨!

特別提醒：本網(wǎng)內(nèi)容轉(zhuǎn)載自其他媒體，目的在于傳遞更多信息，并不代表本網(wǎng)贊同其觀點(diǎn)。其原創(chuàng)性以及文中陳述文字和內(nèi)容未經(jīng)本站證實(shí)，對本文以及其中全部或者部分內(nèi)容、文字的真實(shí)性、完整性、及時(shí)性本站不作任何保證或承諾，并請自行核實(shí)相關(guān)內(nèi)容。本站不承擔(dān)此類作品侵權(quán)行為的直接責(zé)任及連帶責(zé)任。如若本網(wǎng)有任何內(nèi)容侵犯您的權(quán)益，請及時(shí)聯(lián)系我們，本站將會(huì)在24小時(shí)內(nèi)處理完畢。