Jarvis大數(shù)據(jù)分析挖掘平臺(tái)介紹

1、 Jarvis大數(shù)據(jù)分析挖掘平臺(tái)介紹在人工智能時(shí)代，企業(yè)既想通過大數(shù)據(jù)分析、挖掘技術(shù)提升效率，又被大數(shù)據(jù)量分析、機(jī)器學(xué)習(xí)挖掘等相關(guān)技術(shù)門檻阻擾，需要一款數(shù)據(jù)分析挖掘產(chǎn)品跨越這個(gè)鴻溝。Jarvis在這個(gè)背景下應(yīng)運(yùn)而生。Jarvis是支撐大數(shù)據(jù)分析挖掘應(yīng)用開發(fā)的工具和平臺(tái)，定位在企業(yè)開發(fā)者和大數(shù)據(jù)分析挖掘技術(shù)之間，提供可視化交互方面的支持，使得大數(shù)據(jù)分析、挖掘技術(shù)能快速轉(zhuǎn)化為滿足企業(yè)應(yīng)用場景的具體產(chǎn)品。據(jù)了解，Jarvis技術(shù)實(shí)施?？v向分層、橫向分級(jí)確?？扇鞒探鉀Q數(shù)據(jù)分析挖掘過程中的數(shù)據(jù)處理、計(jì)算資源、算子算法支持、環(huán)境部署等各環(huán)節(jié)問題，同時(shí)針對用戶進(jìn)行功能分級(jí)、并最大限度保持可擴(kuò)展，為真正成為

2、一款造福數(shù)據(jù)科學(xué)家、業(yè)務(wù)開發(fā)者、數(shù)據(jù)分析師、產(chǎn)品經(jīng)理、決策分析者等各類開發(fā)用戶的產(chǎn)品而努力?？梢暬芾頂?shù)據(jù)科學(xué)全流程一個(gè)經(jīng)典的數(shù)據(jù)挖掘分析應(yīng)用過程包括，數(shù)據(jù)獲取、數(shù)據(jù)預(yù)期處理、特征提取、建模開發(fā)、預(yù)測部署、投入應(yīng)用。Jarvis充分調(diào)研分析開發(fā)實(shí)施人員在各環(huán)節(jié)面臨的處理場景、可能的高效、方便的工作方式，進(jìn)行了抽象設(shè)計(jì)實(shí)現(xiàn)：數(shù)據(jù)連接，支持結(jié)構(gòu)化、非結(jié)構(gòu)化多類型數(shù)據(jù)接入，支持私有數(shù)據(jù)接入、支持云Bos、分布式HDFS、關(guān)系型數(shù)據(jù)庫等等多類型數(shù)據(jù)源讀取及靈活掛載。數(shù)據(jù)準(zhǔn)備，提供支持文本、圖像類型的交互式的數(shù)據(jù)清洗、預(yù)處理工具，方便進(jìn)行數(shù)據(jù)高效準(zhǔn)備。數(shù)據(jù)分析，支持PB級(jí)別的SQL交互式查詢分析、Spa

3、rk處理；同時(shí)提供豐富的可視化數(shù)據(jù)探查工具，方便開發(fā)者獲取高價(jià)值有效樣本。挖掘建模，內(nèi)置了豐富的基礎(chǔ)算子算法供開發(fā)者高效進(jìn)行建模開發(fā)；同時(shí)預(yù)置了經(jīng)典的垂類行業(yè)解決方案，可以低成本在匹配場景進(jìn)行高效實(shí)施。模型部署，生成模型可直接發(fā)布、部署，并支持動(dòng)態(tài)熱加載。提供了常用模型評價(jià)指標(biāo)的效果監(jiān)控功能供一鍵選擇監(jiān)控、支持自由擴(kuò)展。流程監(jiān)控，開發(fā)者進(jìn)行的全工作流實(shí)現(xiàn)自動(dòng)Track，新數(shù)據(jù)可自動(dòng)觸發(fā)重跑全流程。云原生服務(wù)在數(shù)據(jù)分析挖掘全流程及服務(wù)過程中，不同的場景、不同的數(shù)據(jù)、不同的處理階段、不同的開發(fā)者對于環(huán)境的需求、對于資源的需求多種多樣，這就需要數(shù)據(jù)分析挖掘平臺(tái)的資源（包含開發(fā)環(huán)境資源）管理要能靈活接

4、入、彈性拉伸、擴(kuò)展方便，確保穩(wěn)定及資源利用高效。Jarvis采用了云原生服務(wù)架構(gòu)的方式實(shí)現(xiàn)。自動(dòng)機(jī)器學(xué)習(xí)AutoML策略模型研發(fā)人員大量的時(shí)間花費(fèi)在選取不同的特征數(shù)據(jù)、進(jìn)行不同的算法選擇嘗試、參數(shù)調(diào)優(yōu)中，最終獲得一個(gè)高效的模型。AutoML理論上可通過設(shè)置自動(dòng)嘗試多數(shù)據(jù)特征、多算法、測試完全不同的模型架構(gòu)，然后與目標(biāo)相匹配，給出最終解決問題的方案。行業(yè)解決方案同行業(yè)的不同企業(yè)往往存在共性的數(shù)據(jù)分析挖掘場景，例如:電力行業(yè)，用電量預(yù)測；工業(yè)物理網(wǎng)類，設(shè)備故障檢測、故障預(yù)測等。這些同類場景要解決的問題類似、要分析的數(shù)據(jù)類似，因此可以抽象通用的行業(yè)解決方案在同類場景下復(fù)用、快速投入應(yīng)用。對于深層次的數(shù)據(jù)挖掘開發(fā)者，同樣有大量通用的算法、算子庫可以相互復(fù)用，提升開發(fā)效率。Jarvis從基礎(chǔ)算法、通用模型、垂類解決方案分層內(nèi)置能力并不斷擴(kuò)展集成，為不同場景需求的開發(fā)者用戶提供了高效復(fù)用能力。百度開發(fā)者大會(huì)期間，Jarvis通過點(diǎn)石-大數(shù)據(jù)眾智平