無人機(jī)系統(tǒng)的自動化與自主性_第1頁
無人機(jī)系統(tǒng)的自動化與自主性_第2頁
無人機(jī)系統(tǒng)的自動化與自主性_第3頁
無人機(jī)系統(tǒng)的自動化與自主性_第4頁
無人機(jī)系統(tǒng)的自動化與自主性_第5頁
已閱讀5頁,還剩20頁未讀, 繼續(xù)免費閱讀

下載本文檔

版權(quán)說明:本文檔由用戶提供并上傳,收益歸屬內(nèi)容提供方,若內(nèi)容存在侵權(quán),請進(jìn)行舉報或認(rèn)領(lǐng)

文檔簡介

無人機(jī)系統(tǒng)的自動化與自主性

作者:牛軼峰

來源:《無人機(jī)》第08期

數(shù)十年來,無人機(jī)系統(tǒng)設(shè)計人員和操作人員在自動化(Automation)方面做了諸多努力。設(shè)計人員承諾要減少工作負(fù)荷,提高精確度和改善系統(tǒng)性能,而操作人員面對的卻是有缺點的自動化、系統(tǒng)故障以及自動化造成的事故。系統(tǒng)設(shè)計人員與操作人員之間的分歧,反映了人的因素(HF)研究人員與自動化系統(tǒng)設(shè)計人員在工程設(shè)計方面的差別。

通過幾十年的努力,自動化系統(tǒng)正在不停完善的過程中。自動化使無人機(jī)系統(tǒng)含有了在有人機(jī)空域內(nèi)飛行所需的能力和規(guī)程。Moray()將自動化定義為“任何能由人類完畢,但事實上由機(jī)器完畢的感知、檢測、信息解決、決策、或行為控制等”。該定義指出,自動化可在系統(tǒng)的各個層次上實現(xiàn)。

自動化可看作是一種能與人類操作員互相作用的智能體。無論設(shè)計人員是何意圖,自動化都有一定的行為。這種行為與操作員的行為、操作員思維中的系統(tǒng)模型以及操作員對系統(tǒng)的信任度之間互相影響。因此,自動化本身變化了操作員的訓(xùn)練、任務(wù)分派、工作負(fù)荷、態(tài)勢感知、信任度,甚至涉及操作技巧。

然而,最初的自動化能力受限,僅含有設(shè)計人員認(rèn)為必要的能力,尚不能成為全職“編隊組員”,不能與人自由交流,也造成出現(xiàn)“自動化意外”(AutomationSurprises),即系統(tǒng)將會以未曾預(yù)料的方式運行或無法運行。因此,自動化由靜態(tài)自動化向動態(tài)自動化發(fā)展,并最后向自主性過渡。

1自動化類型與等級

1.1自動化類型

現(xiàn)在,無人機(jī)系統(tǒng)采用了多個控制技術(shù),涉及由操縱桿/方向舵構(gòu)成的人工控制,由地面控制站通過操作員預(yù)先任務(wù)規(guī)劃并實時調(diào)節(jié)控制,以及飛往預(yù)規(guī)劃坐標(biāo)位置并執(zhí)行預(yù)編程任務(wù)的全自動化控制。這些自動化可分為兩類,即由設(shè)計人員創(chuàng)立的二元自動化(靜態(tài)自動化,StaticAutomation,SA)和由環(huán)境決定的自動化(自適應(yīng)自動化,AdaptiveAutomation,AA)。

靜態(tài)自動化通過硬件與系統(tǒng)連接,由系統(tǒng)設(shè)計人員決定任務(wù)對象(系統(tǒng)或操作員)和執(zhí)行任務(wù)的方式(人工或自動)。設(shè)計人員能夠允許操作員重載自動化或?qū)ζ溥M(jìn)行配備,使其符合態(tài)勢變化的規(guī)定。

自適應(yīng)自動化由操作員事件來啟動。操作員事件可能是直接地發(fā)出協(xié)助請求,也可能很間接地與操作員的工作負(fù)荷有關(guān),或者可能由起飛速度等態(tài)勢事件引發(fā)。自適應(yīng)自動化的特點是能將其本身與系統(tǒng)或操作員事件聯(lián)系起來,含有解決常規(guī)自動化造成的多個問題的潛力。

1.1.1自適應(yīng)自動化

自動化本質(zhì)上涉及到人類與人工智能系統(tǒng)如何實現(xiàn)互動的問題。早期研究內(nèi)容是有人機(jī)自適應(yīng)自動化。經(jīng)研究發(fā)現(xiàn),在飛行任務(wù)應(yīng)用自適應(yīng)自動化之后,反映時間縮短了40%,諸如工作負(fù)荷不平衡、態(tài)勢感知喪失以及技能欠缺等問題都能通過應(yīng)用自適應(yīng)自動化來解決。

自適應(yīng)自動化系統(tǒng)在操作員工作負(fù)荷過高或過低時啟動,從而減小操作員的壓力,提高系統(tǒng)的整體性能。可運用心理生理學(xué)數(shù)據(jù)和人工神經(jīng)系統(tǒng)網(wǎng)絡(luò),分辨工作負(fù)荷狀態(tài)的高低。如果檢測到高工作負(fù)荷,自適應(yīng)自動化系統(tǒng)啟動,執(zhí)行低等級任務(wù)。自適應(yīng)自動化可通過幾個不同形式的事件來啟動。

自適應(yīng)自動化可分為核心性事件邏輯、操作員工作負(fù)荷動態(tài)評定、操作員心理物理(psychophysical)動態(tài)評定及性能模型等。

核心性事件邏輯實施起來最為簡樸。它基于操作員工作負(fù)荷在一種核心性事件后會持續(xù)增加的假設(shè),將自適應(yīng)自動化啟動與條例或程序手冊規(guī)定的具體戰(zhàn)術(shù)事件聯(lián)系起來。

操作員工作負(fù)荷動態(tài)評定是指在工作過程中對操作員特性進(jìn)行持續(xù)監(jiān)控。這些測量可用于創(chuàng)立能夠啟動自適應(yīng)自動化的事件,從而使操作員的工作負(fù)荷保持在適中水平。

操作員心理物理動態(tài)評定與操作員工作負(fù)荷動態(tài)評定相似,但心理物理工作負(fù)荷評定,可用于持續(xù)測量操作員的工作負(fù)荷。當(dāng)工作負(fù)荷超出預(yù)定參數(shù)時,自適應(yīng)自動化啟動。

性能模型可用于在某些狀況下為操作員的工作負(fù)荷和系統(tǒng)資源的預(yù)測值建模。一旦工作負(fù)荷超出性能模型的閾值,自適應(yīng)自動化就會啟動。例如,系統(tǒng)規(guī)定操作員同時執(zhí)行幾項任務(wù),每項任務(wù)都規(guī)定不同感官模態(tài)。性能模型涉及但不限于最優(yōu)數(shù)學(xué)模型(例如信號檢測理論)、推理模型、中央執(zhí)行模型以及誘導(dǎo)法(abductive)等。

然而,作為一種事件啟動式自動化系統(tǒng),如果核心性事件沒有出現(xiàn),自適應(yīng)自動化就不會啟動,因此,系統(tǒng)對操作員而言含有不可預(yù)測性。有兩種解決方案,一種是允許操作員啟動自適應(yīng)自動化,另一種是在自適應(yīng)自動化和操作員之間建立通用交流平臺。

1.1.2自主性

自適應(yīng)自動化是動態(tài)的和柔性的,傳統(tǒng)自動化系統(tǒng)是靜態(tài)的,全自動化/自主性(Autonomy)則兩者都不是。無人機(jī)系統(tǒng)的自主性規(guī)定采用強大的人工智能(AI)辦法來實現(xiàn)。幾十年來,認(rèn)知研究人員始終堅持采用人工智能辦法,認(rèn)為人的認(rèn)知能夠復(fù)用給機(jī)器。設(shè)計人員在假定人工智能辦法在自動化中已獲成功的基礎(chǔ)上,預(yù)見將來的全自動化無人機(jī)系統(tǒng),即智能無人機(jī)系統(tǒng)。

自主性是指在不需要人的干預(yù)條件下,系統(tǒng)通過在線環(huán)境感知和信息解決,自主地生成優(yōu)化的控制方略,完畢多個任務(wù),并且含有快速而有效的任務(wù)自適應(yīng)能力。能夠說,自主性是自動化的高級發(fā)展階段,“自主”與傳統(tǒng)“自動”的區(qū)別在于,“自動”是基于數(shù)據(jù)驅(qū)動,無人機(jī)系統(tǒng)按照預(yù)定程序執(zhí)行任務(wù),沒有環(huán)境感知與自主決策的能力;“自主”是基于信息,甚至是知識驅(qū)動,無人機(jī)系統(tǒng)根據(jù)任務(wù)需求自主完畢“感知-判斷-決策-行動”(OODA)四個階段的動態(tài)過程,能夠通過感知和決策應(yīng)對意外情形或新的任務(wù),并容忍一定程度的失敗。這里,OODA回路又稱為“博伊德周期”(BoydCycle),由美國空軍上校約翰?博伊德(JohnBoyd)提出。

因此,從字面意思來看,自動的(Automatic)普通是基于閾值的簡樸控制系統(tǒng),如自動烤面包機(jī);自動化的(Automated)普通是基于規(guī)則的復(fù)雜系統(tǒng),如“愛國者”防空系統(tǒng),這又涉及靜態(tài)自動化和自適應(yīng)自動化;自主的(Autonomous)普通是含有自學(xué)習(xí)、自進(jìn)化能力的復(fù)雜系統(tǒng),如自學(xué)習(xí)機(jī)器人。三個詞所對應(yīng)的智能水平不停提高,行為預(yù)測越來越困難。自主與自適應(yīng)的區(qū)別是這兩種辦法所能解決不擬定性的量值,自適應(yīng)能夠少量地賠償中檔程度的不擬定性,自主則能夠?qū)υ诓粩M定動態(tài)變化環(huán)境中出現(xiàn)的大量不擬定性以實現(xiàn)目的。

自主性和無人機(jī)系統(tǒng)自由程度相對應(yīng),由此帶來人、機(jī)之間的控制關(guān)系為:人在回路外(Humanoutoftheloop),稱為全自主(fully),由機(jī)器選擇目的,人不能實時干預(yù)(這種模式發(fā)展受限);人在回路上(Humanontheloop),稱為監(jiān)督的自主(Supervised),由機(jī)器選擇目的,人能夠?qū)崟r干預(yù),做出確認(rèn)或否決的決策(將來狀態(tài));人在回路中(Humanintheloop),稱為半自主(Semi-),機(jī)器行動前,等待人選擇特定目的(現(xiàn)在狀態(tài))。

1.2自動化等級/以人為中心的分類

為便于研究、評定、測試和設(shè)計,研究人員采用自動化分類法或分級法(LevelsofAutomation,LoA)。在大多數(shù)以人為中心的分類系統(tǒng)中,最出名的有Sheridan和Verplank(1979);Ntuen和Park(1988);Endsley和Kaber(1999)以及Parasuraman()等提出的分類法。

以人為中心的分類系統(tǒng)便于隔離操作員與系統(tǒng)性能問題,同時根據(jù)人的認(rèn)知能力,明確自動化能做什么和應(yīng)當(dāng)做什么。Parasuraman給出了一種使用最廣泛的分類法,將自動化分為四個功效:信息獲??;信息分析;決策和行為選擇;行為執(zhí)行。

這種分類反映了相似系統(tǒng)任務(wù)由人工完畢時人的認(rèn)知能力。Endsley和Kaber(1999)創(chuàng)立了一種類似的10級分類法,用于描述屬于需要實時控制領(lǐng)域內(nèi)認(rèn)知和心理活動任務(wù)。

在研究過程中,規(guī)定參加者監(jiān)控屏幕上屬于不同自動化等級的多個目的。參加者需要定時報告各自的態(tài)勢感知和工作負(fù)荷。當(dāng)參加者擔(dān)任操作員時,實驗會為參加者設(shè)定幾個自動化故障,并對參加者人工故障恢復(fù)系統(tǒng)的能力進(jìn)行評定,成果發(fā)現(xiàn):自動化對操作員在不同自動化等級上的操作能力有影響。自動化等級越高,操作員能力越低,較低的自動化等級有助于操作員在能力上的提高。

2以技術(shù)為中心的自主等級分類

在無人機(jī)系統(tǒng)領(lǐng)域中,隨著自主能力的發(fā)展,自主性定義的需求越來越迫切。研究機(jī)構(gòu)始終致力于制訂通用的自動化/自主等級系統(tǒng),但愿能夠根據(jù)自動化等級制訂出有效的能力評定辦法。美國空軍研究實驗室(AFRL)、美國航空航天局(NASA)以及其它某些機(jī)構(gòu)已經(jīng)制訂出程序式自動化等級系統(tǒng)。

2.1美國空軍研究實驗室

AFRL針對固定翼飛行器研發(fā)美國智能自主無人機(jī)的控制原則。在自動化和自主性方面,該項目給出了某些核心性區(qū)別。自動駕駛儀只有在所選航線內(nèi)才干自動化,但卻由自主導(dǎo)航系統(tǒng)選擇航線,然后使用所選定的航線。在該項目中,自主性被定義為“無外界引導(dǎo)條件下自我生成目的的能力”和“擁有自由意愿”(Clough,)。Clough認(rèn)為:“智能是能夠發(fā)現(xiàn)并運用發(fā)現(xiàn)去從事工作的能力?!?/p>

在自主原則研究項目的推動下,AFRL分別與LosAlamos國家實驗室和Draper實驗室合作成立了“移動、獲取和保護(hù)”(Mobility,Acquisition,andProtection,MAP)和“三維智能空間”(ThreeDimensionalIntelligenceSpace)研究課題。AFRL匯總了在研究過程中所發(fā)現(xiàn)的最有價值的信息,在此基礎(chǔ)上,基于OODA回路制訂了自主控制等級(AutonomousControlLevels,ACL),見表1(Clough,)。

2.2美國航空航天局

NASA認(rèn)為,為了實現(xiàn)太空探險的愿景,必須提高所使用系統(tǒng)的自主性,還需要提高自動化等級。NASA采用的辦法是,將任務(wù)所需的自主性和自動化分級,然后根據(jù)分級規(guī)定完畢系統(tǒng)設(shè)計。NASA關(guān)注的兩個問題是:什么是地面站與機(jī)載權(quán)限的最佳平衡(自動化)?什么是人與計算機(jī)權(quán)限的最佳平衡(自主性)?

NASA已經(jīng)制訂出基于功效的自主性和自動化分級工具(FunctionSpecificLevelofAutonomyandAutomationTool,F(xiàn)LOAAT),方便在系統(tǒng)需要研發(fā)時使用。該工具采用兩個鑒定表,其中一種合用于自動化,另一種合用于自主性。

自動化鑒定表將自動化分為五個等級(表2),合用于OODA回路四大決策階段中的每一階段。當(dāng)采用最低等級的自動化時,全部數(shù)據(jù)監(jiān)控、計算、決策和任務(wù)都由地面站執(zhí)行;而當(dāng)自動化處在最高等級時,全部數(shù)據(jù)監(jiān)控、計算、決策和任務(wù)都由機(jī)載系統(tǒng)執(zhí)行。從全部基于地面控制到機(jī)上自動化,各等級之間呈線性過渡。

自主性鑒定表共包含八個等級(表3)。這八個等級涵蓋了OODA回路的每個階段。當(dāng)自主性處在最低等級時,觀察、判斷、決策和行動階段中的任務(wù)全部由人完畢;當(dāng)自主性處在最高等級時,觀察、判斷、決策和行動階段中的任務(wù)均不需要人來輔助或干預(yù)。

借助這些鑒定表,有關(guān)領(lǐng)域?qū)<夷軐χ朴喴?guī)定所需的自主等級進(jìn)行評定,或為擬定系統(tǒng)現(xiàn)在的自主等級提供原則。在為擬定系統(tǒng)現(xiàn)在的自主等級提供原則時,NASA的自主等級與其它自主等級類似。

2.3美國陸軍將來作戰(zhàn)系統(tǒng)

美國陸軍針對將來作戰(zhàn)系統(tǒng)(FutureCombatSystems,F(xiàn)CS)項目制訂了一種較為詳盡的自主等級表。FCS自主等級共分為從遙控(1級)到完全自主(10級)共十個等級(見表4)。自主等級中的每一等級都提供等級闡明,涉及觀察感知/態(tài)勢感知、決策能力以及性能闡明,同時還給出對應(yīng)于各個等級的示例。

2.4美國國標(biāo)與技術(shù)研究所

自起,美國國標(biāo)與技術(shù)研究所(NationalInstituteofStandardsandTechnology,NIST)始終致力于無人系統(tǒng)自主等級(AutonomyLevelsForUnmannedSystems,ALFUS)框架的研究工作,通過來自無人地面車輛(UGV)、無人機(jī)(UAV)、無人水面艇(USV)以及無人潛航器(UUV)等領(lǐng)域的軍民從業(yè)人員的大力協(xié)作,最后建立起無人系統(tǒng)自主等級框架。

這項研究的目的是為無人系統(tǒng)的自主能力提供原則和定義,同時為評定無人系統(tǒng)自主性提供原則、程序和工具。在無人系統(tǒng)自主等級框架中,自主性被定義為“無人系統(tǒng)自帶的實現(xiàn)指定目的的綜合感知、理解、分析、交流、規(guī)劃、決策以及行動/執(zhí)行能力”。

NIST提出了ALFUS自主性評價模型,從三個方面評定無人系統(tǒng)的自主等級,如圖所示。其中,任務(wù)復(fù)雜度(MissionComplexity,MC)衡量所執(zhí)行任務(wù)的難度,環(huán)境復(fù)雜度(EnvironmentalComplexity,EC)衡量執(zhí)行任務(wù)環(huán)境的難度,人機(jī)交互(HumanInteraction,HI)衡量在任務(wù)執(zhí)行過程中人的參加程度。圖中,任務(wù)復(fù)雜度和環(huán)境復(fù)雜度的原則重要集中在軍事應(yīng)用上。

美國國標(biāo)與技術(shù)研究所提出的ALFUS自主性評價模型。

擬定自主等級的重要困難是很難將各個方面獨立看待。因此,為任務(wù)復(fù)雜度、環(huán)境復(fù)雜度和人機(jī)交互制訂原則并非易事,必須通過無多次實驗才干實現(xiàn)。

在定義自主等級時,必須為任務(wù)復(fù)雜度、環(huán)境復(fù)雜度和人機(jī)交互程度制訂測量原則,通過對這些原則進(jìn)行打分與評價,累計為合成分?jǐn)?shù),進(jìn)而對系統(tǒng)自主等級進(jìn)行評價。對于圖中的每個軸都由一系列更低層次的度量要素構(gòu)成,形成評定指標(biāo)體系,進(jìn)而形成無人系統(tǒng)自主性能的規(guī)范、分析、評定和量測(見表5)。

與此同時,NIST還提出了ALFUS框架,如圖所示。

(1)自主等級0

當(dāng)自主性處在最低檔時,系統(tǒng)完全由人控制。人直接控制基本的運動功效,且系統(tǒng)不能主動發(fā)生任何變化。當(dāng)自主性處在0級時,就猶如操縱一臺遙控汽車或一架飛機(jī)普通,人直接控制致動器的速度和位置。

(2)自主等級1-3(低檔)

在自主等級框架中,當(dāng)任務(wù)復(fù)雜度處在1-3級時,內(nèi)部態(tài)勢感知和子系統(tǒng)任務(wù)自動化處在極低水平。如果環(huán)境展示出使任務(wù)含有高成功率的良好特性,環(huán)境復(fù)雜度也處在該范疇內(nèi)。這種環(huán)境含有無人機(jī)系統(tǒng)運行所需的靜態(tài)、簡樸特性。

人機(jī)交互是這些系統(tǒng)的重要構(gòu)成部分。在大多數(shù)狀況下,人通過向無人機(jī)系統(tǒng)發(fā)出行為指令進(jìn)行干預(yù)。就像遙控汽車和遙控飛機(jī)同樣,操作員將不再直接控制無人機(jī)系統(tǒng)。通過速度控制子系統(tǒng)自動化,使操作員明確方向或?qū)Ш近c,并使無人機(jī)執(zhí)行指令。無人機(jī)系統(tǒng)將自行控制速度,按照操作員指令及其最低內(nèi)部態(tài)勢感知保持姿態(tài)。

(3)自主等級4-6(中級)

當(dāng)系統(tǒng)自主等級為中級時,系統(tǒng)與人交互的時間占總時長的50%。人為無人機(jī)系統(tǒng)提供目的,然后由系統(tǒng)決定如何實現(xiàn)這些目的。在無人機(jī)系統(tǒng)執(zhí)行任務(wù)之前,人必須進(jìn)行最后授權(quán)。低檔自主和中級自主在這首先的差別非常大。任務(wù)復(fù)雜度和環(huán)境復(fù)雜度從低檔自主到中級自主之間有一種線性過渡。

就任務(wù)復(fù)雜度而言,最大差別是中級自主的無人機(jī)系統(tǒng)含有有限的實時規(guī)劃能力,而低檔自主的無人機(jī)系統(tǒng)卻沒有。環(huán)境復(fù)雜度從低風(fēng)險、靜態(tài)環(huán)境向中風(fēng)險和可理解的動態(tài)環(huán)境過渡。舉個簡樸的例子,在向無人機(jī)系統(tǒng)發(fā)出尋找目的A的指令后,無人機(jī)系統(tǒng)會提出完畢目的的操作計劃,然后由人來授權(quán)。環(huán)境可能很難轉(zhuǎn)變,目的數(shù)量或目的本身可能就是動態(tài)的。

(4)自主等級7-9(高級)

高自主性無人機(jī)系統(tǒng)受人的影響極小,系統(tǒng)不再需要人的授權(quán)來執(zhí)行任務(wù)。即使無人機(jī)系統(tǒng)執(zhí)行操作前會向人發(fā)出告知,但并不需要人的授權(quán)便能夠開始執(zhí)行計劃,除非有人為干預(yù)。受高度不擬定性和可理解的高動態(tài)環(huán)境影響,環(huán)境復(fù)雜度會有很高的失敗風(fēng)險。任務(wù)復(fù)雜度重要集中在有人系統(tǒng)和無人系統(tǒng)編隊上。無人機(jī)系統(tǒng)含有高逼真度的態(tài)勢感知和實時規(guī)劃,自適應(yīng)性很強,能夠進(jìn)行復(fù)雜決策。有些無人機(jī)系統(tǒng)甚至能執(zhí)行非常復(fù)雜的任務(wù),實現(xiàn)復(fù)雜目的。

(5)超越10級

最高級自主性的無人機(jī)系統(tǒng)能像人同樣工作。人機(jī)交互不再是為避免意外事件發(fā)生,而是從適宜個體處采集信息,以確保完畢任務(wù)。任務(wù)復(fù)雜度和環(huán)境復(fù)雜度均處在最高水平。該等級的無人機(jī)系統(tǒng)無所不能,能在最高不擬定性和最低成功可能性狀況下工作。

根據(jù)ALFUS的定義,自主性能夠歸納為“無人機(jī)系統(tǒng)實現(xiàn)指定目的的能力”。這是無人機(jī)系統(tǒng)的最低能力水平,就像學(xué)習(xí)閱讀、數(shù)學(xué)等功課的能力是成年人的最低預(yù)期能力同樣。然而,在未定義或定義不清晰的環(huán)境中,人含有獨特的抽象判斷和推理能力。因此,含有最高級自主性的無人機(jī)系統(tǒng)與否能真正像人類智能同樣工作仍未可知。

無人機(jī)系統(tǒng)自主等級的重要困難是定義一種故意義的無人系統(tǒng)性能原則。這正是ALFUS工作組開始審查原則的因素。無人系統(tǒng)性能鑒定框架(PerformanceMeasuresFrameworkforUnmannedSystems,PerMFUS)的目的是為確保能從技術(shù)和操作方面掌握無人機(jī)系統(tǒng)的性能而提供辦法。

3自主系統(tǒng)參考框架

有關(guān)自主等級的劃分,現(xiàn)在的研究還在繼續(xù),但是美國國防部國防科學(xué)委員會(DefenseScienceBoard,DSB)特別工作組從另一種角度建議停止對自主等級定義的爭論,轉(zhuǎn)而提出了一種包含三個層面的自主系統(tǒng)參考框架(AutonomousSystemsReferenceFramework,ASRF)。DSB指出,自主能力是無人系統(tǒng)的核心能力,但“世界上并不存在完全自主的無人系統(tǒng),全部的自主無人系統(tǒng)都是人-機(jī)聯(lián)合認(rèn)知系統(tǒng)”,提出了一套從認(rèn)知層次、任務(wù)時間軸、人-機(jī)系統(tǒng)權(quán)衡空間三個視圖定義的自主系統(tǒng)參考框架,并盼望以此替代無人系統(tǒng)自主等級的劃分,強調(diào)自主難題的解決要更多地關(guān)注指揮官、操作員和開發(fā)人員三者的協(xié)調(diào)問題。

3.1自主能力面臨的挑戰(zhàn)

3.1.1自主性的內(nèi)涵

DSB認(rèn)為,現(xiàn)在行業(yè)內(nèi)對自主性的錯誤理解限制了自主能力的應(yīng)用范疇。自主性是無人系統(tǒng)能夠自動地完畢某種特定行為,或者在程序規(guī)定的范疇內(nèi),實現(xiàn)“自我管理”(selfgoverning),使得大型人-機(jī)系統(tǒng)能夠完畢給定任務(wù)的一種或一組能力。

自主性不是能夠脫離平臺或任務(wù)來單獨討論的“黑箱”。自主能力是特定任務(wù)需求、作戰(zhàn)環(huán)境、顧客和平臺等共同構(gòu)成的生態(tài)系統(tǒng)(ecology)的一種功效,在沒有特定情境條件下,將不可能產(chǎn)生價值。自主性并不是指無人系統(tǒng)獨立地完畢任務(wù),全部的自主系統(tǒng)都是在操作員的監(jiān)視下工作,因此,無人系統(tǒng)的設(shè)計和使用必須考慮人-機(jī)協(xié)作問題。

3.1.2自主能力的挑戰(zhàn)

含有一定自主能力的無人系統(tǒng)在實際應(yīng)用中出現(xiàn)了多個各樣的問題,重要體現(xiàn)在下列三個方面:

(1)自主能力很大程度上依賴軟件,現(xiàn)在以硬件為導(dǎo)向、以平臺為中心的開發(fā)與采辦流程中,軟件開發(fā)普通處在被無視的地位。因此,開發(fā)人員要從以硬件為導(dǎo)向、平臺為中心的開發(fā)過程向創(chuàng)立自主系統(tǒng)、確立軟件的首要地位轉(zhuǎn)變;

(2)指揮官和操作員都缺少對自主系統(tǒng)的信任,不相信自主系統(tǒng)在任何狀況下都能按照預(yù)期運行。指揮官沒能較好地理解設(shè)計空間,以及將自主能力集成到任務(wù)中的權(quán)衡。任務(wù)完畢方式上的任何變化都會引發(fā)新的作戰(zhàn)后果,因而指揮官對此必須了如指掌。對于操作員,使用中的自主能力基本能夠等同于“人-機(jī)協(xié)作”。而在設(shè)計過程中,“人-機(jī)協(xié)作”普通容易被無視掉。

(3)無人系統(tǒng)列裝倉促,經(jīng)常針對突發(fā)沖突應(yīng)運而生,缺少非常明確的作戰(zhàn)概念,帶來使用上的困難。作戰(zhàn)部隊在使用過程中往往超出無人系統(tǒng)設(shè)計者的預(yù)期,出現(xiàn)系統(tǒng)破限現(xiàn)象。

3.1.3自主等級作用有限

現(xiàn)在,自主能力定義不統(tǒng)一,自主能力的概念化是基于對自主等級劃分的目的的錯誤理解之上,背離了“全部自主無人系統(tǒng)都是人-機(jī)聯(lián)合認(rèn)知系統(tǒng)”這一事實。世界上并不存在完全自主的無人系統(tǒng),就像世界上不存在完全自主的士兵、船員、飛行員或水兵同樣。自主能力的定義也并不令人滿意,由于它們都不認(rèn)為自主是大型人-機(jī)綜合系統(tǒng)體現(xiàn)出的一項核心能力,而認(rèn)為自主能力是一種系統(tǒng)的獨立部件或附屬部件。

以NASA的Sheridan定義的自主等級為代表,認(rèn)為自主就是將整項任務(wù)委派給計算機(jī)(自主系統(tǒng))執(zhí)行,平臺在整個過程中只按照一種自主等級運行,并且這些自主等級是離散的,與不同級別的難度相對應(yīng)。事實上,無人系統(tǒng)任務(wù)是由多項動態(tài)變化的功效構(gòu)成,而在這些功效當(dāng)中,大多數(shù)都既能夠同時執(zhí)行,也能夠按次序執(zhí)行。在給定的時間點上,每項功效在人-機(jī)之間的分派都不同。因此,自主能夠指在里程碑節(jié)點,為達(dá)成盼望成果,生成的人-機(jī)交互的集合。

3.2自主系統(tǒng)參考框架

DSB提出的自主系統(tǒng)參考框架(ASRF)重要有下列特點:

側(cè)重于為實現(xiàn)特定能力所需的人-機(jī)認(rèn)知功效與責(zé)任的分派決策

認(rèn)知功效分派方式隨著任務(wù)的不同階段和不同認(rèn)知層次而不同

在自主能力設(shè)計時必須進(jìn)行高級人-機(jī)系統(tǒng)權(quán)衡,涉及適應(yīng)度/規(guī)劃/影響力/視角/責(zé)任等方面

如圖所示,自主系統(tǒng)參考框架涉及三個視圖:

認(rèn)知層次視圖

任務(wù)時間軸視圖

人-機(jī)系統(tǒng)權(quán)衡空間視圖

3.2.1認(rèn)知層次視圖

自主系統(tǒng)參考框架的認(rèn)知層次視圖如圖所示,重要考慮自主能力所支持的原則“顧客”控制范疇、并將控制范疇延伸到戰(zhàn)場空間(以達(dá)成提高適應(yīng)性的目的)的方式。其中:

駕駛員(飛行員)/操作員:負(fù)責(zé)態(tài)勢感知、故障檢測、導(dǎo)航制導(dǎo)與控制、傳感器與武器的管理等

部門領(lǐng)導(dǎo)/編隊領(lǐng)導(dǎo):負(fù)責(zé)任務(wù)規(guī)劃與決策、故障預(yù)測與重新規(guī)劃、多智能體通信與協(xié)調(diào)等

任務(wù)指揮官/執(zhí)行指揮官:負(fù)責(zé)想定規(guī)劃與決策、想定評定與理解、信息/網(wǎng)絡(luò)管理和高層意外事件管理等

3.2.2任務(wù)時間軸視圖

任務(wù)時間軸視圖如圖所示,在執(zhí)行基于環(huán)境復(fù)雜度與必要響應(yīng)時間的任務(wù)期間,認(rèn)知功效的分派可能會發(fā)生變化。自主能力的潛在收益與挑戰(zhàn)隨著任務(wù)時間軸上的決策類型不同而發(fā)生變化。

任務(wù)時間軸上的每個階段,自主性都有不同的應(yīng)用。任務(wù)執(zhí)行階段,提高自主等級,有助于按規(guī)定調(diào)節(jié)計劃,例如出現(xiàn)新目的、變化任務(wù)目的、天氣條件惡化、平臺性能降級或額外信息等。初始階段和結(jié)束階段也為運用自主能力減少人力和提高效率提供了可能。

起始階段:起飛前途徑規(guī)劃、意外事故應(yīng)急計劃、權(quán)限及行動范疇指派、自主起飛

執(zhí)行階段:自主航路點導(dǎo)航、故障檢測、重規(guī)劃

結(jié)束階段:數(shù)據(jù)預(yù)解決、自主著陸

在任務(wù)時間軸上,人與自主智能體在各個任務(wù)階段、各個認(rèn)知層次上的主動性和地位是可易位的,以適應(yīng)態(tài)勢演變過程中的新事件、干擾和機(jī)遇。

3.2.3人-機(jī)系統(tǒng)權(quán)衡空間視圖

無人系統(tǒng)自主能力在使用不恰當(dāng)?shù)臓顩r下,可能會引發(fā)意想不到的后果。如果提前考慮多個權(quán)衡空間中可能出現(xiàn)的后果,那么就能夠提前捕獲預(yù)警信號,在各個權(quán)衡空間內(nèi)及時進(jìn)行系統(tǒng)性能平衡或再平衡解決,從而有效地減少引進(jìn)自主能力時所帶來的風(fēng)險。

人-機(jī)系統(tǒng)權(quán)衡空間視圖有關(guān)要素參見表6,提供了一種可預(yù)測意外后果、并將失衡癥狀(更多人力、故障、人為失誤增多等)與本源聯(lián)系起來的工具。重要考慮5個權(quán)衡空間,涉及適應(yīng)度空間的最優(yōu)性/適應(yīng)(可行)性、計劃空間的有效性/全方面性、影響力空間的集中式/分布式、視角空間的局部性/全局性、責(zé)任空間的短期目的/長久目的等。每個權(quán)衡空間闡明了自主能力的額外增加會如何引發(fā)意外成果以及整體系統(tǒng)性能降級。

3.3自主能力核心技術(shù)

提高無人系統(tǒng)自主能力,重要涉及6項核心技術(shù):感知、規(guī)劃、學(xué)習(xí)、人-機(jī)交互、自然語言理解、多智能體協(xié)調(diào)等。重點需要突破的技術(shù)涉及:

自然顧客接口與互信的人-機(jī)協(xié)作

復(fù)雜戰(zhàn)場空間的(環(huán)境)感知/態(tài)勢理解

大規(guī)模有人-無人系統(tǒng)編隊

自主系統(tǒng)測試與評定

3.3.1感知

感知(perception)是實現(xiàn)自主的核心要素,只有通過感知,無人駕駛平臺才能夠達(dá)成目的區(qū)域,實現(xiàn)任務(wù)目的。根據(jù)感知的目的,感知能夠分為導(dǎo)航感知、任務(wù)感知、系統(tǒng)健康感知與操作感知等四類,參見表7?,F(xiàn)在,導(dǎo)航感知發(fā)展最為成熟,移動操作感知是一種新興技術(shù)領(lǐng)域,重要挑戰(zhàn)在于復(fù)雜戰(zhàn)場感知與態(tài)勢理解,涉及突發(fā)威脅/障礙的實時檢測與識別、多傳感器集成與融合、有人-無人空域沖突消解,以及可靠的感知和平臺健康監(jiān)控的證據(jù)推理等。

3.3.2規(guī)劃

規(guī)劃(planning)是指能將現(xiàn)在狀態(tài)變化為預(yù)期狀態(tài)的行動序列或偏序的計算過程。國防部將規(guī)劃定義為在盡量少用資源的前提下,為實現(xiàn)任務(wù)目的而行動的過程?,F(xiàn)在,DSB已制訂了一種通用體現(xiàn)語言——“規(guī)劃領(lǐng)域定義語言”(PlanningDomainDefinitionLanguage,PDDL),結(jié)合不擬定性、學(xué)習(xí)、混合主動、知識工程、人工智能等領(lǐng)域,規(guī)劃系統(tǒng)已經(jīng)能解決(近似)最優(yōu)性問題。然而,“沒有任何作戰(zhàn)計劃在與敵手相遇后尚有效”,規(guī)劃技術(shù)的挑戰(zhàn)在于在物理和計算約束和對現(xiàn)有計劃做最小變化條件下,決定什么時候自主重規(guī)劃、什么時候求助于操作員。

3.3.3學(xué)習(xí)

機(jī)器學(xué)習(xí)(machinelearning)現(xiàn)已成為開發(fā)智能自主系統(tǒng)最有效的方法之一。自主導(dǎo)航學(xué)習(xí)技術(shù)普通應(yīng)用于地面平臺和機(jī)器人,普通只能適應(yīng)非構(gòu)造化靜態(tài)環(huán)境(DARPA最初挑戰(zhàn)計劃的穿越沙漠任務(wù))和構(gòu)造化動態(tài)環(huán)境(都市挑戰(zhàn)計劃的都市導(dǎo)航);無人機(jī)和無人海上平臺適應(yīng)性導(dǎo)航技術(shù)的開發(fā)水平較低。學(xué)習(xí)技術(shù)挑戰(zhàn)在于在友、敵智能體并存的非構(gòu)造化動態(tài)環(huán)境中的非監(jiān)督學(xué)習(xí)。

3.3.4人-機(jī)交互

人-機(jī)系統(tǒng)交互(Human-RobotInteraction/Human-SystemInteraction,HRI/HSI)重要解決人與機(jī)器人、計算機(jī)或工具如何協(xié)作的問題,側(cè)重于人與機(jī)器人之間雙向的認(rèn)知交互關(guān)系。重要有兩種方式:遠(yuǎn)程遙控和任務(wù)代理,不同的任務(wù)需要采用不同的方略。人-機(jī)交互涉及溝通、建模、協(xié)作、可用性與可靠性、任務(wù)領(lǐng)域、顧客特性等核心技術(shù),需要高度關(guān)注人-機(jī)比例和機(jī)器人道德規(guī)范。人-機(jī)交互的挑戰(zhàn)在于自然顧客接口,實現(xiàn)可信賴的人-系統(tǒng)協(xié)作,以及可理解的自主系統(tǒng)行為。

3.3.5自然語言理解

自動語音識別(AutomatedSpeechRecognition,ASR)是將語音信號轉(zhuǎn)化為文本信息的過程,而自然語言理解(NaturalLanguageUnderstanding,NLU)是在此基礎(chǔ)上,將文本信息轉(zhuǎn)化為計算機(jī)能理解的正式表述的過程?,F(xiàn)有自然語音理解技術(shù)僅支持簡樸的語言指令,有限的詞匯量和指令集合局限性以滿足任務(wù)需求。自然語言理解的挑戰(zhàn)在于以實際環(huán)境直接互動為重點的指令和對話理解,重點關(guān)注情景化語言解釋、指令語言理解、空間語言理解、情景對話等。

3.3.6多智能體協(xié)調(diào)

多智能體協(xié)調(diào)(Multi-agentcoordination),需要確保智能體不僅能夠同時化,還能適應(yīng)環(huán)境或任務(wù)的動態(tài)變化。多智能體同時化經(jīng)常被理解為多智能體系統(tǒng)之間的主動協(xié)同(例如:機(jī)器人足球賽)或非主動協(xié)同(例如:螞蟻的覓食行為)。多智能體協(xié)調(diào)研究重要側(cè)重于不同配備的智能體協(xié)同機(jī)制,而人-機(jī)交互則側(cè)重于協(xié)作認(rèn)知。多機(jī)器人系統(tǒng)的協(xié)同是多智能體協(xié)調(diào)的一種分支領(lǐng)域。多智能體協(xié)調(diào)分類參見表8。多智能體協(xié)調(diào)需要重點關(guān)注針對特定任務(wù),適宜協(xié)調(diào)方案與系統(tǒng)屬性的映射,以及對的的緊急行為,干擾下任務(wù)重分派以及魯棒網(wǎng)絡(luò)通信問題。

4自主性的實現(xiàn)

現(xiàn)在的研究總的來說分為兩種思路:一種是劃分無人機(jī)系統(tǒng)的自主等級,一種是采用自主系統(tǒng)參考框架。但兩者都要考慮人-機(jī)關(guān)系。因此,基于現(xiàn)在的態(tài)勢和操作員狀態(tài),采用混合主動的可變自主權(quán)限的監(jiān)督控制方式,是提高人機(jī)協(xié)同性能,實現(xiàn)無人系統(tǒng)自主性的核心。混合主動指的是操作員和自主系統(tǒng)都能夠基于感知數(shù)據(jù)啟動感知和決策行為。自主系統(tǒng)需要在顯式和隱式方面都和人的行為保持協(xié)調(diào)一致監(jiān)測操作員交互行為,評定操作員認(rèn)知狀態(tài),主動輔助;操作員能夠以某種形式理解自主系統(tǒng)的行為,分析其任務(wù)狀態(tài),主動干預(yù)。

4.1操作員狀態(tài)評定

操作員能力評定的研究能夠分為下列幾個方向:

操作員腦力工作負(fù)荷(工作量)

操作員對現(xiàn)在態(tài)勢的感知(態(tài)勢感知)

操作員技能的喪失(技能下降)

操作員對自動化系統(tǒng)執(zhí)行指定任務(wù)的信心(信任度)

4.1.1操作員工作負(fù)荷評定

Derrick(1988)將腦力工作負(fù)荷(workload)描述為“在任何指定時間,操作員的可用信息解決能力與原則任務(wù)性能所需能力之差”。例如,在系統(tǒng)交接時,接管系統(tǒng)的操作員在與另一位操作員的對話過程中,必須記住9個或9個以上的數(shù)字。這遠(yuǎn)遠(yuǎn)超出大多數(shù)人圓滿完畢任務(wù)程序的工作記憶能力。工作負(fù)荷指操作員在操控系統(tǒng)過程中的任務(wù)數(shù)量,以及可預(yù)見的困難。然而,工作負(fù)荷普通是由操作員主觀個人認(rèn)定的。兩個人在執(zhí)行同一任務(wù)時可能產(chǎn)生同樣的行為和體現(xiàn),但其中一種可能尚有多出的精力去完畢其它任務(wù),而另一種則沒有。

工作負(fù)荷能夠采用預(yù)測將來操作員工作負(fù)荷需求的目的來測量,也可按照現(xiàn)在系統(tǒng)的強制性工作負(fù)荷或現(xiàn)在操作員經(jīng)驗性工作負(fù)荷來測量。無論采用哪種測量原則,工作負(fù)荷能夠通過主觀或客觀評定(心理生理學(xué)辦法)來進(jìn)行測量??陀^評定可持續(xù)測量工作負(fù)荷,但需要特殊設(shè)備。主觀評定更易于在任務(wù)過程中或任務(wù)結(jié)束后進(jìn)行管理,但需要參加任務(wù)的操作員中斷或回想任務(wù)。

(1)主觀負(fù)荷評定

更為慣用的主觀工作負(fù)荷評定辦法(subjectiveworkloadassessments)涉及NASA的任務(wù)負(fù)荷指數(shù)(TaskLoadIndex,NASATLX)、主觀工作負(fù)荷評定技術(shù)(SubjectiveWorkloadAssessmentTechnique,SWAT)、以及修訂版庫珀-哈珀質(zhì)量管理表(ModifiedCooper–HarperHandlingQualitiesScale,MCH)等。每種評定辦法都可對特定領(lǐng)域?qū)ο蟮念A(yù)期工作負(fù)荷進(jìn)行主觀察量。通過對整個無人機(jī)系統(tǒng)或無人機(jī)系統(tǒng)內(nèi)某個特定任務(wù)進(jìn)行比較能夠得出結(jié)論:由于測量辦法的主觀性和人類注意力的可變性,主觀工作負(fù)荷測量最為有用。Hill等(1992)指出,任務(wù)負(fù)荷指數(shù)(NASATLX)所提供的評定要素可能最多,各要素的分析效果也可能最為抱負(fù)。

在進(jìn)行主觀工作負(fù)荷評定時,操作員在使用系統(tǒng)過程中或在使用后,需要綜合考慮多個方面,稱其為“維度”。維度的數(shù)量以及評定特性取決于所選擇的評定工具。NASATLX根據(jù)7點評定表,對體力工作、腦力工作、時間維度、體現(xiàn)性能、成就以及挫折等要素進(jìn)行評定。該評定表在通過新墨西哥州立大學(xué)(NMSU)修改后,可用于跨多個無人機(jī)平臺的工作負(fù)荷對比分析。

NMSUUASTLX規(guī)定操作員按照無人機(jī)系統(tǒng)評定對象和操作員但愿評定的無人機(jī)飛行階段所對應(yīng)的規(guī)定進(jìn)行操作使用。程序?qū)⒊晒4鏋槲谋疚墨I(xiàn),然后可能會輸入到一種數(shù)據(jù)庫程序中。操作員在準(zhǔn)備選擇平臺擬定與否采用,或進(jìn)行任務(wù)規(guī)劃時,可能會對多個無人機(jī)系統(tǒng)進(jìn)行評定。

(2)客觀負(fù)荷評定

客觀工作負(fù)荷評定(objectiveworkloadassessments)也稱為心理生理學(xué)測量法,其最典型的區(qū)別在于,客觀工作負(fù)荷測量法規(guī)定操作員佩戴專用設(shè)備(例如電極或眼球跟蹤器)。評定涉及腦電圖(electroencephalogram,EEG)、事件有關(guān)電位(Event-RelatedPotential,ERP)、心率可變性、瞳孔擴(kuò)大和眨眼/注視/凝視的持續(xù)時間,但不限于上述幾個因素。心理生理學(xué)測量法可在任務(wù)過程中持續(xù)提供數(shù)據(jù),同時也可能有助于解決自適應(yīng)自動化事件。

由于工作負(fù)荷可能發(fā)生變化,操作員普通會選擇不使用自動化輔助。盡管大多數(shù)自動化輔助研究都以有人機(jī)為研究對象,但研究成果同樣也能夠應(yīng)用在部分自動化系統(tǒng)上。Parasuraman和Riley(1997)指出,選擇不使用自動化輔助與飛行員的工作負(fù)荷有關(guān)。如果輔助正好在他們工作負(fù)荷最大的時候出現(xiàn),飛行員就會選擇不用。飛行員在保持飛行時沒有時間來啟動自動化。將輔助調(diào)節(jié)到與當(dāng)時態(tài)勢相適應(yīng)所需的認(rèn)知工作正好抵消了工作負(fù)荷減少的好處。正如Parasuraman和Riley(1997)所述,如果將諸如輔助認(rèn)知這些要素放入馬爾科夫(Markoff)模型進(jìn)行分析,并據(jù)此擬定自動化使用的最佳方略時,這些情景更支持人工使用,而非自動化。

4.1.2態(tài)勢感知

正如Endsley(1996)所說,“態(tài)勢感知(SituationAwareness,SA)是指周邊世界在人的大腦中所建立的模型”,或者是“人對特定時間和空間內(nèi)的環(huán)境要素的感知,對這些要素含義的理解,以及對這些要素在很快將來狀態(tài)的預(yù)測”。自動化使操作員的角色從主動控制系統(tǒng)向被動監(jiān)督系統(tǒng)過渡,進(jìn)而影響態(tài)勢感知。由于與自動化有關(guān)的內(nèi)在復(fù)雜性,以及其它造成系統(tǒng)外在性能下降等因素,上述變化會影響到操作員對系統(tǒng)的理解。缺少手動的系統(tǒng)控制更容易造成失去態(tài)勢感知。Parasuraman等()指出,“與變化處在自己掌控之下相比,當(dāng)變化處在其它智能體的控制下(無論該智能體是自動化系統(tǒng)還是其別人)時,人更趨向于無視環(huán)境或系統(tǒng)狀態(tài)的變化?!?/p>

在操作員使用自動化系統(tǒng)的過程中,工作負(fù)荷和態(tài)勢感知成反比關(guān)系。當(dāng)自動化系統(tǒng)接管并減少工作負(fù)荷時,操作員將會損失態(tài)勢感知能力。這種損失能夠通過不同程度的態(tài)勢感知來進(jìn)行描述:

1級態(tài)勢感知——感知環(huán)境中的核心要素

2級態(tài)勢感知——綜合人的目的并理解核心要素的含義

3級態(tài)勢感知——預(yù)測將來可能發(fā)生的態(tài)勢

如果增設(shè)傳感器,同時改善接口設(shè)計,可能有助于緩和這一問題。但是,如果操作員在大腦中建立的有關(guān)自動化系統(tǒng)如何完畢任務(wù)的模型是錯誤的或是不完整的;或者操作員極少或不參加任務(wù);或者系統(tǒng)本身需要操作員的干預(yù),而處在回路外的操作員不熟悉狀況,這些都將影響操作員的干預(yù)技能。

4.1.3技能下降

如果減少工作負(fù)荷、減少態(tài)勢感知,就會造成技能下降(skilldecrement)?!按罅康恼J(rèn)知心理學(xué)研究機(jī)構(gòu)的研究表明,停止使用就會造成遺忘和技能下降?!比绻僮鲉T不再是已經(jīng)自動化的任務(wù)的實際構(gòu)成部分,則任務(wù)將不含有可操作性。一旦喪失可操作性,加之大腦中建立的系統(tǒng)工作模型不完整,當(dāng)自動化系統(tǒng)出現(xiàn)故障時,操作員就不能成功干預(yù)。因此,如果操作員的重要任務(wù)只是監(jiān)控,就會出現(xiàn)技能下降的問

溫馨提示

  • 1. 本站所有資源如無特殊說明,都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請下載最新的WinRAR軟件解壓。
  • 2. 本站的文檔不包含任何第三方提供的附件圖紙等,如果需要附件,請聯(lián)系上傳者。文件的所有權(quán)益歸上傳用戶所有。
  • 3. 本站RAR壓縮包中若帶圖紙,網(wǎng)頁內(nèi)容里面會有圖紙預(yù)覽,若沒有圖紙預(yù)覽就沒有圖紙。
  • 4. 未經(jīng)權(quán)益所有人同意不得將文件中的內(nèi)容挪作商業(yè)或盈利用途。
  • 5. 人人文庫網(wǎng)僅提供信息存儲空間,僅對用戶上傳內(nèi)容的表現(xiàn)方式做保護(hù)處理,對用戶上傳分享的文檔內(nèi)容本身不做任何修改或編輯,并不能對任何下載內(nèi)容負(fù)責(zé)。
  • 6. 下載文件中如有侵權(quán)或不適當(dāng)內(nèi)容,請與我們聯(lián)系,我們立即糾正。
  • 7. 本站不保證下載資源的準(zhǔn)確性、安全性和完整性, 同時也不承擔(dān)用戶因使用這些下載資源對自己和他人造成任何形式的傷害或損失。

評論

0/150

提交評論