京東云有一套高效的調(diào)度系統(tǒng)也叫阿基米德

阿基米德曾說(shuō)過：“給我一個(gè)支點(diǎn)，我就能撬起整個(gè)地球。”在京東云，阿基米德是一套高效的調(diào)度系統(tǒng)，這套系統(tǒng)調(diào)度著全球最大規(guī)模Docker集群、最大規(guī)模Kubernetes集群。

京東擁有超過900萬(wàn)SKU的自營(yíng)商品，京東物流為5.9萬(wàn)家企業(yè)客戶提供一體化供應(yīng)鏈服務(wù)，僅2021京東618期間，累計(jì)下單超過3438億元，窺一斑而見全豹，能夠調(diào)配如此龐大規(guī)模業(yè)務(wù)背后的系統(tǒng)，其背后的應(yīng)用數(shù)量和復(fù)雜程度可想而知。簡(jiǎn)單的調(diào)度分配資源算法已經(jīng)無(wú)法滿足復(fù)雜的調(diào)度需求，阿基米德調(diào)度系統(tǒng)應(yīng)運(yùn)而生。

目前，阿基米德調(diào)度系統(tǒng)已經(jīng)全面接管京東的應(yīng)用資源調(diào)度，每日調(diào)度百萬(wàn)臺(tái)容器實(shí)例運(yùn)轉(zhuǎn)，服務(wù)履約率達(dá)到98.3%。2021年京東618，京東云在支撐京東全線業(yè)務(wù)正常運(yùn)行下，超大規(guī)模集群的CPU資源利用率提升3倍，單位訂單資源成本下降30%，內(nèi)存平均使用率提升57%，交付效率提升150%......

撬動(dòng)數(shù)據(jù)中心的支點(diǎn)

在行業(yè)首個(gè)混合云操作系統(tǒng)京東云云艦中，阿基米德作為核心調(diào)度系統(tǒng)，是資源交付的基石，負(fù)責(zé)整個(gè)京東數(shù)據(jù)中心的資源調(diào)度，是撬動(dòng)整個(gè)數(shù)據(jù)中心的支點(diǎn)。

舉例最直觀的的感知：京東的電商場(chǎng)景中，購(gòu)物車、訂單、詳情等，涉及到的每一臺(tái)容器分布，包括容器編排、單機(jī)計(jì)算資源、內(nèi)存資源，均由阿基米德分配和調(diào)度，特別是618、11.11的超大流量場(chǎng)景下，少數(shù)容器編排錯(cuò)誤都有可能給業(yè)務(wù)帶來(lái)致命影響，調(diào)度器需負(fù)責(zé)把控峰值時(shí)每一臺(tái)容器計(jì)算的質(zhì)量，其重要性可想而知。

經(jīng)歷京東體系復(fù)雜場(chǎng)景的多年磨練，阿基米德可實(shí)現(xiàn)最優(yōu)的集群全局調(diào)度、最優(yōu)的一次作業(yè)調(diào)度，不僅能確保全局資源編排和成本最優(yōu)、資源運(yùn)行最穩(wěn)定，還能在集群內(nèi)選擇最合適的宿主機(jī)，以最佳的資源使用、最少的相互干擾（如 CPU 分布、IO 爭(zhēng)搶），來(lái)運(yùn)行提交的計(jì)算作業(yè)。 

五大技術(shù)支撐，成就領(lǐng)先調(diào)度能力

1、基于預(yù)測(cè)的智能調(diào)度

阿基米德在核心功能——調(diào)度方面，利用機(jī)器學(xué)習(xí)、深度學(xué)習(xí)智能算法，對(duì)應(yīng)用的資源使用情況進(jìn)行畫像統(tǒng)計(jì)，并對(duì)應(yīng)用的未來(lái)資源使用情況進(jìn)行預(yù)測(cè)，以對(duì)應(yīng)用進(jìn)行合理部署，實(shí)現(xiàn)資源的優(yōu)化調(diào)度。

具體來(lái)看，阿基米德采用強(qiáng)化機(jī)器學(xué)習(xí)算法，可根據(jù)應(yīng)用的歷史數(shù)據(jù)，提取其資源使用的特征，進(jìn)而將不同的應(yīng)用進(jìn)行歸類，形成應(yīng)用畫像。綜合應(yīng)用標(biāo)簽和批處理任務(wù)的描述，對(duì)未來(lái)一段時(shí)間的任務(wù)調(diào)度進(jìn)行提前規(guī)劃，使得業(yè)務(wù)能夠正常運(yùn)行的同時(shí)，資源得到充分的利用，有效防止了批處理任務(wù)與長(zhǎng)期服務(wù)的資源競(jìng)爭(zhēng)。

阿基米德的智能調(diào)度可以成倍提升資源利用率成倍提升，極大降低企業(yè)采購(gòu)成本，以今年618為例，阿基米德調(diào)度實(shí)現(xiàn)CPU利用率3倍的提升。 

2、精準(zhǔn)驅(qū)逐與碎片整理

資源碎片在幾乎每臺(tái)服務(wù)器上都有發(fā)生，不同批次采購(gòu)的服務(wù)器規(guī)格性能不同，服務(wù)器上的CPU或者內(nèi)存配額沒有同時(shí)分配完，就會(huì)出現(xiàn)資源碎片。

同時(shí)在長(zhǎng)期服務(wù)中，特別是面向用戶的任務(wù)，會(huì)出現(xiàn)明顯的高峰低谷，而且不同長(zhǎng)期服務(wù)的資源消耗也不同，因此集群中的時(shí)空資源利用率不均是常態(tài)。

針對(duì)資源碎片和時(shí)空分布不均問題造成的資源浪費(fèi)，阿基米德采用批處理任務(wù)進(jìn)行統(tǒng)一填充式調(diào)度，完成資源碎片的充分利用、資源的時(shí)空復(fù)用，保障長(zhǎng)期服務(wù)穩(wěn)定存在，以及低頻度遷移。同時(shí)阿基米德會(huì)時(shí)刻保持一定的資源儲(chǔ)備，應(yīng)對(duì)突發(fā)流量的資源需求。

3、調(diào)度器仿真系統(tǒng)及回放

為充分模擬真實(shí)事件狀況和實(shí)際操作過程，阿基米德支持通過模擬器+線上數(shù)據(jù)回放，對(duì)調(diào)度請(qǐng)求進(jìn)行仿真模擬，形成新的數(shù)據(jù)建模，并優(yōu)化調(diào)度方案，為智能調(diào)度提供更優(yōu)方案。 

以最小成本、最快速度，阿基米德可分三步完成1：1機(jī)器資源和請(qǐng)求要求的調(diào)度需求模擬，培養(yǎng)真實(shí)復(fù)雜場(chǎng)景的調(diào)度能力。 

仿真劇本管理模塊：用以采集清洗線上真實(shí)數(shù)據(jù)，生成仿真劇本，并可以支持純模擬劇本生成。 

仿真調(diào)度模擬模塊：將仿真數(shù)據(jù)灌入，經(jīng)過調(diào)度算法調(diào)度，模擬調(diào)度過程，最終生成調(diào)度結(jié)果。

調(diào)度算法評(píng)測(cè)模塊：對(duì)調(diào)度過程和結(jié)果進(jìn)行監(jiān)測(cè)和評(píng)測(cè)，并通過可視化圖表對(duì)調(diào)度過程進(jìn)行展示。 

4、離在線混合部署

伴隨京東購(gòu)物節(jié)規(guī)模指數(shù)級(jí)增長(zhǎng)，添置服務(wù)器成為浩資巨大的燒錢工程。高出日常峰值的機(jī)器過后閑置，又不可避免地造成資源浪費(fèi)。

阿基米德支持將延遲不敏感的離線計(jì)算任務(wù)和延遲敏感的在線服務(wù)，部署到同一集群上運(yùn)行，讓在線服務(wù)的空閑資源充分被離線計(jì)算任務(wù)所使用，在線業(yè)務(wù)、離線業(yè)務(wù)共享混合云操作系統(tǒng)云艦的資源池。 

通過應(yīng)用分級(jí)、DiskIO限速、Job調(diào)度管理、Pod流量限速等方式，阿基米德可保證離線業(yè)務(wù)不會(huì)影響在線業(yè)務(wù)，提高資源利用率。

5、多樣化IP地址管理

通過用戶annotation配置，阿基米德可實(shí)現(xiàn)多應(yīng)用場(chǎng)景的IP地址管理，包括IP地址隨機(jī)分配，用戶指定pod IP地址，用戶應(yīng)用分組內(nèi)IP保留和用戶自定義私有IP池等。

復(fù)雜場(chǎng)景實(shí)踐，數(shù)智化基礎(chǔ)設(shè)施降本增效

在零售行業(yè)，針對(duì)離在線任務(wù)的不同運(yùn)行需求（在線任務(wù)資源占用少、響應(yīng)要求快，離線任務(wù)占用資源大、響應(yīng)要求慢），阿基米德混合部署兩個(gè)集群，把不同類型的任務(wù)調(diào)度到相同的物理資源上，借助智能調(diào)度及資源隔離等方式保障SLO（服務(wù)等級(jí)目標(biāo)service level objective），極大降低成本。

在金融行業(yè)，尤其是支付場(chǎng)景，阿基米德讓各種配置不同的設(shè)施能夠在交易高峰期，以秒級(jí)速度將在線服務(wù)器的各種軟件、應(yīng)用轉(zhuǎn)移到離線服務(wù)器中，極大提升資源利用率。

在互聯(lián)網(wǎng)行業(yè)，經(jīng)常出現(xiàn)流量高并發(fā)的業(yè)務(wù)場(chǎng)景，阿基米德通過冷熱節(jié)點(diǎn)混部方式，充分釋放冷節(jié)點(diǎn)CPU利用率，有效滿足日志等數(shù)據(jù)處理需求。遇到購(gòu)物節(jié)這類單量爆漲的場(chǎng)景，也可以通過K8S管理與調(diào)度充足計(jì)算資源支持，保證每一單平穩(wěn)順暢。

不止于資源調(diào)度，阿基米德在綠色節(jié)能方面也有卓越表現(xiàn)。

通常而言，機(jī)房的電力消耗主要是制冷為 CPU 降溫。阿基米德會(huì)根據(jù)應(yīng)用標(biāo)簽與調(diào)度規(guī)劃，對(duì)于服務(wù)器 CPU 的主頻進(jìn)行相應(yīng)調(diào)整，以達(dá)到節(jié)能降耗的作用，在多個(gè)核心機(jī)房進(jìn)行的大規(guī)模實(shí)踐中，已取得了降低能耗降低 17% 的成果。

經(jīng)過多年京東業(yè)務(wù)實(shí)踐，阿基米德調(diào)度系統(tǒng)已在大規(guī)模超復(fù)雜場(chǎng)景中，實(shí)現(xiàn)了常態(tài)化應(yīng)用，并通過混合云操作系統(tǒng)云艦對(duì)外開放，讓更多產(chǎn)業(yè)客戶用更低的成本獲得更強(qiáng)的計(jì)算能力，持續(xù)提升客戶的數(shù)智基礎(chǔ)設(shè)施效率。

未來(lái)，阿基米德調(diào)度系統(tǒng)將進(jìn)一步推動(dòng)優(yōu)化調(diào)度算法，提升調(diào)度的準(zhǔn)確性，在整合計(jì)算、提升效率、節(jié)能降耗方面進(jìn)行更多的實(shí)踐，并把更多的業(yè)務(wù)一線的調(diào)度數(shù)據(jù)和模型與業(yè)界分享。

雷鋒網(wǎng)雷鋒網(wǎng)