單日萬單的背后京東技術(shù)首次全解密

1、11 1俘日1400萬單的背后：京東技術(shù)首次全解密隨 著移動(dòng)終端和移動(dòng)應(yīng)用的發(fā)展將互聯(lián)網(wǎng)的邊界從空間和時(shí)間維度無限延伸，企業(yè)互聯(lián)網(wǎng)的構(gòu)建也成為2014 年企業(yè) IT 的一大主題，互聯(lián)網(wǎng)用戶體驗(yàn)的保障則是企業(yè)面臨的一道坎。在此背景下，阿里、京東等中國電商巨頭如何通過技術(shù)創(chuàng)新來保證海量訂單壓力下的用戶體驗(yàn)，成為業(yè)界研究的熱門對(duì)象。對(duì) 于京東的技術(shù)團(tuán)隊(duì)而言，由于中國互聯(lián)網(wǎng)經(jīng)濟(jì)呈現(xiàn)出讓美國同行嘆為觀止的增長速度，每年的 6.18 、11.11 大促，總在不斷挑戰(zhàn)著他們的智慧。在剛剛過去的 2014 年的 11.11 促銷中，京東當(dāng)日訂單量超過1400 萬單（去年同期的 2.2 倍），網(wǎng)站的平均響應(yīng)時(shí)間

2、、首屏?xí)r間等成績均名列前茅。這一份答卷讓京東集團(tuán)高級(jí)副總裁立大學(xué)頗為滿意。在 11.11 當(dāng)天的 CSDN 獨(dú)家放送的京東峰值系統(tǒng)設(shè)計(jì)一文中，京東首席技術(shù)顧問翁志已經(jīng)解讀了京要的不東如何在高流量、 高并發(fā)情況下保證整個(gè)系統(tǒng)的可靠性和穩(wěn)定性。 但海量訂單下出色的購物體驗(yàn)需僅僅是交易峰值的應(yīng)對(duì)，還需要配套的系統(tǒng)運(yùn)維、商品推薦、售前咨詢、售后服務(wù)、物流配送體系等更加智能化、自動(dòng)化。而整套智能電商平臺(tái)的構(gòu)建，也并密暨新書發(fā)布會(huì)”上， 京東集團(tuán)高級(jí)副總裁李大學(xué)、術(shù)團(tuán)隊(duì)為我們?nèi)娼忾_了京東技術(shù)團(tuán)隊(duì)的成長的秘密，亞洲一號(hào)物流中心運(yùn)營等相關(guān)技術(shù)細(xì)節(jié)。非一日之功。在 11 月 27 日的“11?11京東技術(shù)解京

3、東集團(tuán)副總裁兼11.11 技術(shù)總指揮馬松帶領(lǐng)京東技披露了 11.11 運(yùn)維、 JIMI 智能機(jī)器人、 大數(shù)據(jù)挖掘、新書解密十年技術(shù)研發(fā)成長路 京 東自 2004 年涉足電子商務(wù)以來，營業(yè)額成長上千倍的背后，京東的技術(shù)平臺(tái)也在不斷地變遷。京東集團(tuán)高級(jí)副總裁李大學(xué)介紹，京東技術(shù)平臺(tái)從2009 年開始 實(shí)現(xiàn)從 Windows 到 Linux 、 .net 到 Java 、傳統(tǒng)hard coding 模式到 SOA 架構(gòu)、基于API 的模式的遷移。與此同時(shí)，京東技術(shù)研發(fā)部門在10 年間從 30人發(fā)展到 4000 人，在產(chǎn)品、研發(fā)、測(cè)試的組織上也 完成了從職能化結(jié)構(gòu)到事業(yè)部的轉(zhuǎn)變，分為九大模塊四個(gè)平臺(tái)（

4、詳見： 【 CTO 論道】京東商城李大學(xué)：京東研發(fā)團(tuán)隊(duì)管理經(jīng)驗(yàn)談），并形成了現(xiàn)在的北得到最大限度的發(fā)揮，目京、上海、深圳、成都、沈陽等五大研究院，這讓京東技術(shù)研發(fā)的實(shí)力和能動(dòng)性前在云平臺(tái)、大數(shù)據(jù)、移動(dòng)、人工智能、深度學(xué)習(xí)等領(lǐng)域都取得了創(chuàng)新的突破。京東集團(tuán)高級(jí)副總裁李大學(xué)此 次發(fā)布的新書京東技術(shù)解密，全面展示了京東技術(shù)研發(fā)體系和各項(xiàng)技術(shù)細(xì)節(jié)。李大學(xué)認(rèn)為，這本書完全濃縮了團(tuán)隊(duì)十年來的最佳實(shí)踐經(jīng)驗(yàn)。 記者觀察到， 京東 技術(shù)解密 一書從 618 大促銷、產(chǎn)品演進(jìn)、技術(shù)演進(jìn)、創(chuàng)新激發(fā)、牛人專家五個(gè)側(cè)面，首次解密了京東技術(shù)研發(fā)部如何應(yīng)對(duì)電商大節(jié)、如何跨系統(tǒng)整合、 如何建設(shè)海量處理系統(tǒng)等問題。 電子工業(yè)出

5、版社計(jì)算機(jī)分社社長、 博文視點(diǎn)公司總經(jīng)理郭立盛贊這部書為“懸念叢生的技術(shù)大片”，她甚至認(rèn)為翻譯將其成英文會(huì)提振京東股票大漲。11.11 運(yùn)維：海量訂單實(shí)現(xiàn)的保障新 書的第一章就用“戰(zhàn)斗”來形容京東技術(shù)團(tuán)隊(duì)在 618 、 11.11 的工作狀態(tài)，流量高峰最能讓他們心跳加速。 那么， 京東的系統(tǒng)， 一天能承受的訂單數(shù)量到底是 多少？京東集團(tuán)副總裁兼11.11 技術(shù)總指揮馬松笑稱，這個(gè)問題其實(shí)不是那么符合京東的追求，他們關(guān)注的是每秒承載的訂單數(shù)量（每秒泄洪能力），而且這個(gè) 數(shù)量往往用幾位數(shù)來計(jì)算（京東目前可以達(dá)到每秒五位數(shù)）。根據(jù)馬松的解釋，京東的系統(tǒng)背后運(yùn)行有幾千個(gè)服務(wù)，這些服務(wù)之間的復(fù)雜交互，都

6、要以不超過兩位數(shù)的毫秒來計(jì)算。 電商系統(tǒng)的不同之處， 就是不僅不能限制流量， 而且還要保證所有客戶都有很好的訪問體驗(yàn)，這就需要很好的性能，同時(shí)對(duì)運(yùn)維團(tuán)隊(duì)也提出了更高的要求。對(duì) 于運(yùn)維， 首先， 京東系統(tǒng)的高性能、 冗余設(shè)計(jì)保證了提升了它在高流量高并發(fā)狀態(tài)下的業(yè)務(wù)連續(xù)性保障；其次， 京東幾年前解決問題時(shí)候“基本靠吼”的混亂局面已 經(jīng)一去不復(fù)返， 目前已經(jīng)建立起一套完善的監(jiān)控和管理體系，各個(gè)生產(chǎn)系統(tǒng)已經(jīng)實(shí)現(xiàn)集中監(jiān)控，包括流量監(jiān)控、服務(wù)器性能監(jiān)控、接口性能監(jiān)控等等，都放到大 屏幕上，每個(gè)系統(tǒng)都有專人來監(jiān)控和管理，把每個(gè)環(huán)節(jié)協(xié)調(diào)和控制好，并做好通信機(jī)制，第一時(shí)間認(rèn)定故障模塊，并將其替換掉。為 了保證發(fā)

7、現(xiàn)問題后可以快速定位和處理， 京東專門設(shè)計(jì)了集系統(tǒng)處理能力、數(shù)據(jù)積壓情況、 數(shù)據(jù)處理情況、 日志、 系統(tǒng)負(fù)載于一體的總和分析工具。 由于系統(tǒng)的復(fù)雜性， 京東還部署了一個(gè)正在不斷優(yōu)化的 SOA治理平臺(tái)，可以在問題出現(xiàn)后及時(shí)評(píng)估出受影響的系統(tǒng)，以便快速做出應(yīng)急響應(yīng)。此外，京東還在機(jī)器學(xué)習(xí)、人工智能、神經(jīng)網(wǎng)絡(luò)、大數(shù)據(jù)等方面還做了很多研發(fā)工作，以此來提升京東技術(shù)體系的實(shí)力。客服的“秘密武器”： JIMI 智能機(jī)器人11.11 訂單數(shù)量的激增，給京東客服人員也帶來了巨大的壓力，面對(duì)這個(gè)問題，京東技術(shù)團(tuán)隊(duì)研制出了一項(xiàng)“秘密武器”基于大數(shù)據(jù)的 JIMI 智能機(jī)器人，全天候、快速、 無限量地支持售前咨詢、 售

8、后服務(wù)等環(huán)節(jié)，緩解了 11.11 的客戶咨詢壓力。京東方面稱， JIMI 從 2012 月上線售后咨詢， 2014 年 5 月開放售前咨詢。在過去的兩年中， JIMI 已服務(wù)超過 1600 萬用戶。而在本次11.11 促銷中， JIMI 總計(jì)接待近百萬用戶，大致相當(dāng)于大型超市 45 天的客流量。JIMI 在京東成都研究院產(chǎn)品創(chuàng)新部劉丹介紹，作為京東自主研發(fā)的人工智能系統(tǒng)， JIMI 通過自然語言處理（ NLP ）、用戶畫像、知識(shí)圖譜、機(jī)器學(xué)習(xí)（ ML ）、深度神經(jīng)網(wǎng)絡(luò)（ DNN ）等技術(shù)，很好地完成上述的用戶服務(wù)任務(wù)。這些技術(shù)的具體作用如下：1 、 自然語言處理： 基于自然語言處理技術(shù)， 剖析

9、用戶語言構(gòu)成， 理解用戶意圖并響應(yīng)， 是 JIMI 的核心“大 腦”。2 、用戶畫像：通過分析用戶基本資料、歷史行為、動(dòng)作軌跡，構(gòu)造出來用戶的個(gè)人信息庫，使JIMI 可以精準(zhǔn)了解每個(gè)用戶的性格、愛好、習(xí)慣，以便做出更好的服務(wù)。3、知識(shí)圖譜：基于京東海量業(yè)務(wù)數(shù)據(jù)抽取知識(shí)卡片，在一定的模式約束下對(duì)齊實(shí)體并形成知識(shí)網(wǎng)絡(luò)，從而構(gòu)建 JIMI 知識(shí)圖譜系統(tǒng)，實(shí)現(xiàn)信息可視化，為交互問答提供數(shù)據(jù)支撐。4 、機(jī)器學(xué)習(xí)：通過與用戶的互動(dòng)以及互聯(lián)網(wǎng)數(shù)據(jù)挖掘開展的學(xué)習(xí)，使JIMI 能自動(dòng)完善自身的知識(shí)數(shù)據(jù)，并隨著時(shí)間推移越來越強(qiáng)大和智能。5、深度神經(jīng)網(wǎng)絡(luò)：構(gòu)建大型神經(jīng)網(wǎng)絡(luò)集群，模擬出人類的思維過程，通過上萬神經(jīng)節(jié)點(diǎn)

10、的交叉計(jì)算達(dá)成高精度的智能意圖識(shí)別及應(yīng)答效果。DNN 深度神經(jīng)網(wǎng)絡(luò)劉丹認(rèn)為，有了 JIMI 智能機(jī)器人，京東可以更好地實(shí)現(xiàn)“千人千面”的個(gè)性化服務(wù)。對(duì)于 JIMI 的未來，劉丹介紹，會(huì)用于如下四個(gè)場(chǎng)景：? 開放式智能服務(wù)：跨平臺(tái)電商客服智能化解決方案。? 智能硬件中樞：智能家電，讓家用電器也能“聽話”。? 垂直領(lǐng)域?qū)＜遥喝玑t(yī)藥咨詢、旅游咨詢、兒童教育。? 私人隨身處理：移動(dòng)式私人助理，解決日常衣食住行。JIMI 的智能之源：深層神經(jīng)網(wǎng)絡(luò)（ DNN ）JIMI 機(jī)器人的智能得以實(shí)現(xiàn)， 深度學(xué)習(xí)功不可沒。 京東在 2014 年 9 月 9 日成立了 DNN 實(shí)驗(yàn)室 （DNN Lab ） ， 專注于

11、人工智能、大數(shù)據(jù)、深度學(xué)習(xí)、異構(gòu)計(jì)算等技術(shù)，以確保京東技術(shù)在業(yè)界地位。京東 DNN Lab 首席科學(xué)家認(rèn)為，由于深度學(xué)習(xí)模型層級(jí)更多， DNN 具有更強(qiáng)的學(xué)習(xí)能力、需要更少的人工干預(yù)、更懂用戶、更精準(zhǔn)、更智能等優(yōu)勢(shì)，隨著數(shù)據(jù)量的增長，深度學(xué)習(xí)算法比傳統(tǒng)機(jī)器學(xué)習(xí)算法具有更出色的性能。DNN 算法的優(yōu)勢(shì)目 前 DNN 在 JIMI 的應(yīng)用，主要包括命名實(shí)體識(shí)別、用戶意圖識(shí)別、自動(dòng)問答等三個(gè)層面。首先，對(duì)于用戶輸入的人名、地名、商品名等進(jìn)行識(shí)別之后抽取命名實(shí) 體，可以更好地理解用戶的語言和意圖。意圖識(shí)別對(duì) JIMI 系統(tǒng)非常重要，因?yàn)橹挥幸鈭D識(shí)別正確，才能在相應(yīng)的類別里面反饋用戶的答案。在此之后，J

12、IMI 就會(huì)確定問題的分類（訂單、售后、商品、閑聊等），進(jìn)行答案匹配，候選答案抽取和排序，然后給用戶反饋?zhàn)罴汛鸢负徒ㄗh。京東正在通過推動(dòng)用戶使用，收集用戶交互反饋，挖掘用戶數(shù)據(jù)改進(jìn)產(chǎn)品，推動(dòng)產(chǎn)品的持續(xù)創(chuàng)新和改善，使之更懂用戶，更加智能。JIMI 智能機(jī)器人是京東DNN 技術(shù)的第一次應(yīng)用， 但 DNN Lab 的眼界并不局限于JIMI ， 京東未來計(jì)劃探索 DNN 在銷量預(yù)測(cè)、商品搜索/推薦 / 廣告、互聯(lián)網(wǎng)金融、智能硬件等多個(gè)領(lǐng)域的應(yīng)用。閃電式響應(yīng)之謎：亞洲一號(hào)物流中心從 馬云打造“菜鳥”來看， 物流已經(jīng)成為電商企業(yè)必須拿下的一個(gè)核心戰(zhàn)場(chǎng)。 如果沒有先進(jìn)的電商物流中心的支撐， 11.11 訂單

13、的生產(chǎn)能力就會(huì)遇到瓶頸。單就這 一領(lǐng)域而言，京東的優(yōu)勢(shì)還是比較明顯的，一線城市當(dāng)天派送是有口皆碑。 京東已經(jīng)構(gòu)建了國內(nèi)最大的單體物流中心“亞洲一號(hào)”， 位于上海嘉定區(qū)，一期總建 筑面積約為10 萬平方米（中件）， 90% 的操作實(shí)現(xiàn)了自動(dòng)化，分揀處理能力每小時(shí)能達(dá)到 1.6萬件（準(zhǔn)確率99.99% ），達(dá)到了世界先進(jìn)水平。京 東亞洲一號(hào)經(jīng)理何慧琳演示了研發(fā)體系對(duì)亞洲一號(hào)的支撐。 上海亞洲一號(hào)包括4 個(gè)區(qū)域立體庫區(qū)、多層閣樓揀貨區(qū)、 生產(chǎn)作業(yè)區(qū)和出貨分揀區(qū)。 其中， “立體庫 區(qū)”庫高 24 米， 利用自動(dòng)存取系統(tǒng)（ AS/RS系統(tǒng)），實(shí)現(xiàn)了自動(dòng)化高密度的儲(chǔ)存和高速的揀貨能力；“多層閣樓揀貨區(qū)”

14、采用了各種現(xiàn)代化設(shè)備，實(shí)現(xiàn)了自動(dòng) 補(bǔ)貨、快速揀貨、多重復(fù)核手段、多層閣樓自動(dòng)輸送能力，實(shí)現(xiàn)了京東巨量SKU 的高密度存儲(chǔ)和快速準(zhǔn)確的揀貨和輸送能力；“生產(chǎn)作業(yè)區(qū)”采用京東自主開發(fā)的 任務(wù)分配系統(tǒng)和自動(dòng)化的輸送設(shè)備，實(shí)現(xiàn)了每一個(gè)生產(chǎn)工位任務(wù)分配的自動(dòng)化和合理化，保證了每一個(gè)生產(chǎn)崗位的滿負(fù)荷運(yùn)轉(zhuǎn)，避免了任務(wù)分配不均的情況， 極大地 提高了勞動(dòng)效率； “出貨分揀區(qū)”采用了自動(dòng)化的輸送系統(tǒng)和代表目前全球最高水平的分揀系統(tǒng)，徹底解決了原先人工分揀效率差和分揀準(zhǔn)確率低的問題。可 以看到， 自動(dòng)化物流中心的核心是強(qiáng)大的系統(tǒng)， 包括針對(duì)各個(gè)場(chǎng)景的不同算法， 精確控制著貨物的流向，尤其是面對(duì) 11.11 的海量

15、訂單， 還需要極強(qiáng)的數(shù)據(jù)處理 能力。 何慧琳介紹， 京東上海亞洲一號(hào)的倉庫管理系統(tǒng)（WMS ）、倉庫設(shè)備控制系統(tǒng)（ WCS ）、分揀和配送系統(tǒng)等整個(gè)信息系統(tǒng)均由京東自主開發(fā)，所有從國外 進(jìn)口的世界先進(jìn)的自動(dòng)化設(shè)備均由京東進(jìn)行總集成。京東亞洲一號(hào)的系統(tǒng)建設(shè)，包括了如下的幾個(gè)主要特點(diǎn)：1 、基于 SOA 的架構(gòu)和流動(dòng)驅(qū)動(dòng)，服務(wù)化以降低系統(tǒng)之間的耦合，支持高并發(fā)處理，通過流程驅(qū)動(dòng)，使得系統(tǒng)的作業(yè)節(jié)點(diǎn)是可配置的；2 、 由于存在自動(dòng)化設(shè)備， 自建 WCS 支持編程作業(yè)， 支持與 WMS 各個(gè)模塊的通信， 能夠兼容不同的設(shè)備； 同時(shí)，還實(shí)現(xiàn)人員的分區(qū)管理和混編作業(yè)。3 、基于作業(yè)數(shù)據(jù)的算法研究， 實(shí)現(xiàn)大

16、數(shù)據(jù)的智能定位、自動(dòng)補(bǔ)貨等；以混沌算法支持看似混沌的情況下進(jìn) 行有序生產(chǎn)；11.11 購物大數(shù)據(jù)深度分析及其商業(yè)價(jià)值京 東大數(shù)據(jù)平臺(tái)數(shù)據(jù)創(chuàng)新部邢志峰通過對(duì)京東11.11 數(shù)據(jù)的深度分析解讀了新的商業(yè)邏輯。例如， 2014年 11.11 數(shù)據(jù)顯示，京東新用戶具有更明確的目的 性，即直奔大促而來，他們?cè)?1 日當(dāng)天下單的比例達(dá)到 34% 。而在購物品類上，雙十一當(dāng)天“服飾內(nèi)衣、珠寶首飾”已經(jīng)成為京東新用戶選擇最多的品類，取 代 了“電腦辦公”的龍頭位置。京東 11.11 用戶消費(fèi)行為數(shù)據(jù)還顯示出用戶特征、用戶偏好的變化。例如，下單打破時(shí)段 限制，意味著上班族、熬夜族的崛起。移動(dòng)端“隨看隨買”的特點(diǎn)

17、，導(dǎo)致其用戶的下單時(shí)段分布更趨向扁平化。基于京東大數(shù)據(jù)“商品輪廓”模型則發(fā)現(xiàn)， 11.11 期間，平板電腦的存儲(chǔ)容量比屏幕尺寸更受關(guān)注，襯衫、護(hù)發(fā)等價(jià)格較低的產(chǎn)品的品牌重要性迅速提升。這其實(shí)也是大數(shù)據(jù)的具體應(yīng)用， 1400 萬單的數(shù)據(jù)中蘊(yùn)含的市場(chǎng)信息不可謂不豐富。 這些數(shù)據(jù)的得出及其可視化展現(xiàn)的形式，對(duì)于京東及其商戶的營銷部門制定相應(yīng)的商品促銷策略顯然具有非?，F(xiàn)實(shí)的指導(dǎo)意義。而這些數(shù)據(jù)的精確性、及時(shí)性，則得益于京東的大數(shù)據(jù)技術(shù)創(chuàng)新。從產(chǎn)品層面來看，京東大數(shù)據(jù)的突破性創(chuàng)新，主要體現(xiàn)在大數(shù)據(jù)管理應(yīng)用上，包括如下幾個(gè)層面：1 、自主研發(fā)面向復(fù)雜業(yè)務(wù)模型的海量數(shù)據(jù)生產(chǎn)調(diào)度管理平臺(tái)；2、自主研發(fā)打通廣告

18、點(diǎn)擊與頁面瀏覽的日志分析平臺(tái)，同時(shí)也支持實(shí)時(shí)反作弊和用戶模型研究；3、免推送至關(guān)系型數(shù)據(jù)庫直接基于文件系統(tǒng)生成報(bào)表的前端展現(xiàn)平臺(tái)；4、綜合多種開源技術(shù)全新打造的流式計(jì)算平臺(tái)；5、自助算法的數(shù)據(jù)挖掘平臺(tái)；6、融合多產(chǎn)品功能的移動(dòng)應(yīng)用。京 東大數(shù)據(jù)平臺(tái)是基于云計(jì)算的動(dòng)態(tài)彈性平臺(tái)，采用了 Hadoop 分布式技術(shù)，實(shí)現(xiàn)高性能、高可用的服務(wù)，在海量實(shí)時(shí)計(jì)算上，通過實(shí)時(shí)數(shù)據(jù)采集、底層基于Storm 的流式數(shù)據(jù)計(jì)算、使用 Spark 、 PrestoDB的實(shí)時(shí)查詢服務(wù)、實(shí)時(shí)數(shù)據(jù)挖掘四個(gè)階段，支持 11.11 中的實(shí)時(shí)查詢和個(gè)性化搜索結(jié)果展現(xiàn)等場(chǎng)景?？偨Y(jié)與展望正 如京東集團(tuán)創(chuàng)始人兼首席執(zhí)行官劉強(qiáng)東所說的，“ 在京東技術(shù)解密一書中，大家會(huì)看到技術(shù)驅(qū)動(dòng)的力量”，京東已經(jīng)從一家在線零售商變成一家技術(shù)驅(qū)動(dòng)的互聯(lián)網(wǎng)公司，京東敢于著作成書與業(yè)界交流，既表明京 東技術(shù)體系的成熟度， 其積累并不是一般的企業(yè)所能快速效仿， 也說明走向巨無霸的中國電商企業(yè)， 必將展開全方位的技術(shù)競(jìng)爭， 包括云平臺(tái)、 大數(shù)據(jù)、 人工智能、 深度學(xué)習(xí)、 物流自動(dòng)化等所有的方面。京東希望通過京東研發(fā)體系與技術(shù)細(xì)節(jié)的披露，推動(dòng)中國電子商務(wù)行業(yè)的技術(shù)進(jìn)步，也希望以此為基礎(chǔ)，實(shí)現(xiàn)其“做中國最有影響力的技術(shù)團(tuán)隊(duì)”的愿景。制度說明制度是以執(zhí)行力為保障的。制度”之所以可以