ATLas為數(shù)據(jù)挖掘和數(shù)據(jù)流應(yīng)用的一個SQL擴展

1、ATLas：為數(shù)據(jù)挖掘和數(shù)據(jù)流應(yīng)用的一個SQL擴展由于傳統(tǒng)的DBMS查詢語言本身功能有限，不能適應(yīng)數(shù)據(jù)驅(qū)動的應(yīng)用，如數(shù)據(jù)挖掘和數(shù)據(jù)流處理，因此Atlas在傳統(tǒng)的DBMS查詢語言基礎(chǔ)上定義了一套新的數(shù)據(jù)庫查詢語言，通過在傳統(tǒng)SQL上定義新的集合和表運算，使得Atlas成為圖靈完備的語言。Atlas的語言規(guī)范的核心是對user defined aggregates(UDAs)的定義，一個UDA包含三個部分：initialize,iterate和terminate。一個UDA的定義如下圖所示：在上圖中vdec(變量定義)的規(guī)范如下：<statement>就是傳統(tǒng)的SQL-like sta

2、tement。一個UDA有輸入?yún)?shù)，也有輸出參數(shù)，這些參數(shù)可以理解為元組。UDA的initialize部分是這個UDA的初始化部分，只運行一次。iterate部分是UDA的核心，在每當(dāng)有一個元組輸入時便調(diào)用一次，這個可以滿足數(shù)據(jù)流處理的需求。Terminate部分是UDA的結(jié)束部分，當(dāng)輸入元組是有限表中的元組時，terminate部分才是必需的，如果UDA的輸入是無限的數(shù)據(jù)流元組， terminate部分顯然不再需要，這時terminate部分可以缺省，也可以由revise來代替。在iterate部分和terminate部分都可以產(chǎn)生輸出。如果在iterate部分產(chǎn)生輸出，那么輸出就可以看成是

3、一個流（這是因為atlas將UDA的運行時模型作為一個管道來處理，在iterate部分產(chǎn)生的輸出可以馬上傳遞給調(diào)用者）。在數(shù)據(jù)流處理中，initialize和iterate部分分別在UDA第一次啟動運行時和數(shù)據(jù)流的窗口邊界還沒到達時執(zhí)行，一旦窗口邊界到達了，iterate部分將不再執(zhí)行，對每個新來的元組，將由revise部分執(zhí)行。同時，系統(tǒng)維護一個包含了剛剛過期的元組表EXPIRE,對于基于元組計數(shù)的窗口，EXPIRE表中只有一個元組，對于基于時間段的窗口，EXPIRE表中可能含有零個，一個或多個元組。下面圖一給出了數(shù)據(jù)流處理的一個例子，定義了窗口上的平均值。其中在revise部分的E表就是E

4、XPIRE表，它是系統(tǒng)表，不需要聲明。同時Atlas還支持窗口的定義，下面圖二給出了一個示例。圖一圖二由圖二可以看出窗口定義包含三部分：1 Partition子句（可選），將流數(shù)據(jù)分成幾個組，并為每個組分別維護一個窗口2 窗口大?。ū匦瑁?，可以基于元組數(shù)量，也可以基于時間段3 條件過濾謂詞（可選）Atlas既支持傳統(tǒng)數(shù)據(jù)庫表上的聚集挖掘操作（這里就不作介紹了），又支持數(shù)據(jù)流上的處理。因此在Storage Manager中便支持傳統(tǒng)Berkeley DB的接口，又有內(nèi)存數(shù)據(jù)表及索引接口。下面兩幅圖就是描述了Atlas的體系結(jié)構(gòu)。圖三是altas的流程框架，將altas腳本轉(zhuǎn)化成c+程序的步驟，將c+程序進行編譯鏈接，最后都會轉(zhuǎn)化成可執(zhí)行程序。圖三圖四是對atlas核心部分的細化描述。其中stream engin