人工智能術(shù)語研究階段性成果

人工智能術(shù)語研究階段性成果CISS人工智能與國際安全項目術(shù)語工作組一、武器（系統(tǒng)）武器泛指用于攻擊或保衛(wèi)自身的作戰(zhàn)器械與裝置，被用于直接殺傷敵人的有生力量、破壞敵方設(shè)施的器械、裝置，或在遭受進(jìn)攻時進(jìn)行防御的器械、裝置，可區(qū)分為攻擊性武器與防御性武器兩類。武器裝備：武器裝備是作戰(zhàn)人員用于執(zhí)行和保障作戰(zhàn)行動的武器、武器系統(tǒng)以及相關(guān)的其他軍事技術(shù)裝備的統(tǒng)稱，是進(jìn)行戰(zhàn)爭的重要物質(zhì)基礎(chǔ)，是軍隊?wèi)?zhàn)斗力生成的重要力量，是完成各種軍事行動的重要支撐。a軍械：軍械主要包括槍械、火炮、彈藥、戰(zhàn)術(shù)導(dǎo)彈、光學(xué)儀器（偵察器材，如望遠(yuǎn)鏡、潛望鏡、炮隊鏡、高炮指揮鏡等、瞄準(zhǔn)器材、測角器材、通用雷達(dá)、指揮儀、移動電站、防暴器材、冷兵器b等一系列用于軍事目的的武器與裝備。彈藥：完成其他戰(zhàn)術(shù)任務(wù)的物品。這包括炮彈、火炮炮彈、手榴彈、步槍榴彈、航空炸彈、火箭、導(dǎo)彈、魚雷、水雷、地雷等，以及用于狩獵和射擊運動等非軍事用途的禮炮和彈藥。cTheLiberationArmymilitaryChina,中國軍事百科全書編審委員會.書出版社.中國軍事百科全書編審委員會.書出版社.裝備：給軍隊配備的武器、軍裝、器材、技術(shù)力量等。武器系統(tǒng)：由若干功能上相互關(guān)聯(lián)的武器、技術(shù)裝備等有序組合，協(xié)同完成一定作戰(zhàn)任務(wù)的有機(jī)整體。e不可接受的致命性自主武器系統(tǒng)：根據(jù)《中國關(guān)于“致命性自（1）致命性：即具有足以致命的載荷和手段；（2）全自主性：即在執(zhí)行任務(wù)整個過程中均無人的介入和控制：（3）無法終止性：即啟動后沒有終止手段；（4）濫殺性：即不分條件、場合和對象，自動執(zhí)行殺傷任務(wù)；（5）進(jìn)化性：即在與環(huán)境交互過程中，通過自主學(xué)習(xí)，實現(xiàn)功能擴(kuò)展和能力進(jìn)化，且超出人的預(yù)測?！翱山邮艿摹弊灾魑淦飨到y(tǒng)：具有較高的自主程度，但應(yīng)始終處于人類控制之下，且可被安全、可信、可靠、可控地使用，人類可隨時中止其運行。在軍事行動中應(yīng)能夠遵循區(qū)分、比例、預(yù)防等國際人道主義法基本原則。g非致命性武器非致命性武器是軍隊等強(qiáng)力部門在執(zhí)勤、處突、反恐等任務(wù)中廣中國軍事百科全書編審委員會.書出版社.https://www.term.or/CN/abstract/abstract11322.shtml/wp-content/uploads/2022/07/Working-Paper-of-the-Peoples-Republic-of-China-on-Lethal-Autonomous-Weapons-SystemsChinese.pdf中國關(guān)于致命性自主武器系統(tǒng)問題的工作文件，年7/wp-content/uploads/2022/07/Working-Paper-of-the-Peoples-Republic-of-China-on-Lethal-Autonomous-Weapons-SystemsChinese.pdf泛使用的武器，在不致命的前提下使目標(biāo)快速失能并且失能后果具有最大概率的可逆性。非致命性武器提供了以最低限度的武力開展行動的能力，控制了暴力和防止不必要的附帶傷亡和破壞。h二、智能/自主平臺（系統(tǒng)）機(jī)器人自動執(zhí)行工作的機(jī)器裝置。既可以接受人類指揮，又可以運行預(yù)先編排的程序，也可以根據(jù)以人工智能技術(shù)制定的原則綱領(lǐng)行動。機(jī)器人的主要任務(wù)是協(xié)助或取代人類的工作，例如生產(chǎn)業(yè)、建筑業(yè)，或是危險的工作。i智能武器是指配備了人工智能（I、傳感器、自動化系統(tǒng)等使其具備一定程度自主決策、目標(biāo)識別、跟蹤和攻擊能力，用于實施和保障戰(zhàn)斗行動的武器、武器系統(tǒng)和與之配套的其他軍事技術(shù)器材的統(tǒng)稱。這些武器能夠在復(fù)雜的戰(zhàn)場環(huán)境中不同程度地提高作戰(zhàn)效率和精度，并減少對人為操作的依賴。所謂智能是對人的能力延伸和發(fā)展，是人機(jī)交互環(huán)境中的一部分。人作為軍事活動和智能活動的主體，對自主化程度較高的智能武器系統(tǒng)應(yīng)擁有必要的干預(yù)能力。j自主武器系統(tǒng)類及外部資源的依賴程度，提高對復(fù)雜動態(tài)環(huán)境的適應(yīng)性和戰(zhàn)場生存h..5i（第三版年，第460頁。j結(jié)合過去20性，從而更好地完成人類賦予的任務(wù)。應(yīng)根據(jù)不同場景、不同程度的自主能力，有針對性規(guī)范相關(guān)武器系統(tǒng)的使用。如果自主能力未用于殺傷鏈（例如用于情報搜集和偵察的無人機(jī)，即使一些武器系統(tǒng)自主程度很高，其所具有的自主性也不會引發(fā)人道主義關(guān)切。武器系統(tǒng)殺傷鏈包括觀察、判斷、決策、行動等多個關(guān)鍵環(huán)節(jié)，在某些環(huán)節(jié)具有自主功能的武器系統(tǒng)并不必然導(dǎo)致濫殺濫傷。因此，籠統(tǒng)地推出禁止或限制措施或?qū)p害各國正當(dāng)國防能力，甚至損害各國和平利用相關(guān)技術(shù)的權(quán)利。各方應(yīng)考慮將自主武器系統(tǒng)分為“不可接受的”和“可接受的”兩類，對“不可接受的”部分加以禁止，對“可接受的”部分加以規(guī)范，以確保有關(guān)武器系統(tǒng)安全、可靠、可控，遵循國際人道法及其他適用的國際法?！吨袊P(guān)于“致命性自主武器系統(tǒng)”問題的工作文件》集群智能/群體智能人工智能集群 ：遵循統(tǒng)一控制的，人工智能計算功能單元的集合。注1：人工智能計算功能單元可包含人工智能加速處理器、人工智能服務(wù)器、人工智能加速模組等。注2：當(dāng)由人工智能服務(wù)器組成時，人工智能集群可稱為人工智能服務(wù)器集群，其中的人工智能服務(wù)器可稱為節(jié)點。群體智能 ：群體智能（swarmintelligence,SI）也稱為集群智能（collectiveintelligenceCI）……對于一個由眾多簡單個體組成的群體，oftheofon（GB/T，20221012（2023年5月1，第120221-3若其個體具有能通過彼此間的簡單合作來完成一個整體任務(wù)的能力，則稱該群體具有“群體智能”……群體智能的核心是由眾多簡單個體組成的群體能夠通過相互之間的簡單合作來實現(xiàn)某一較復(fù)雜的功能，局信息和模型的前提下，為解決復(fù)雜的分布式問題提供了可能。無人系統(tǒng)無人系統(tǒng)系統(tǒng)，能夠在無需搭載人類操作員的情況下發(fā)揮其力量執(zhí)行指定任務(wù)的機(jī)電系統(tǒng)。無人（作戰(zhàn)）平臺無人作戰(zhàn)平臺是指在沒有搭載人類操作人員的情況下執(zhí)行作戰(zhàn)任務(wù)的一種武器系統(tǒng)。無人駕駛航空器：是指沒有機(jī)載駕駛員且自備動力系統(tǒng)的航空器。n遙控飛機(jī)：由遙控站操作的無人駕駛飛機(jī)。遙控飛機(jī)是無人駕駛飛機(jī)的一個子類。無人地面平臺（自動駕駛車輛、無人駕駛車輛）無人地面平臺是地面作戰(zhàn)的重要力量，能夠在沒有搭載人類操作員的情況下執(zhí)行各種任務(wù)。n國務(wù)院、中央軍委《無人駕駛航空器飛行管理暫行條例》31May2023,/zhengce/content/202306/content_6888799.htm.CivilUnmannedAircraftSystemsAirTraf?cManagementMeasures,https://jxj./zwgk/zcwj/bjszc/201911/t20191113_2674230.html無人水面平臺（無人水面艇）無人水面艦艇是一種具備自主航行能力、通過搭載任務(wù)載荷來執(zhí)行相關(guān)任務(wù)的水面艦艇。無人潛航器（遙控水下潛航器、自主/自治水下潛航器）無人水下航行器是一種無需搭載人類操作員，可以自動執(zhí)行任務(wù)的水下航行器。三、智能/自主技術(shù)人工智能人工智能是利用數(shù)字計算機(jī)或者數(shù)字計算機(jī)控制的機(jī)器模擬、延伸和擴(kuò)展人的智能，感知環(huán)境、獲取知識并使用知識獲得最佳結(jié)果的理（2018人工智能已經(jīng)進(jìn)入全面反映人類智能的第三代技術(shù)。第一代利用知識、算法和算力三個要素構(gòu)造，第二代利用數(shù)據(jù)、算法與算力三個要素構(gòu)造。為了發(fā)展安全、可信、可靠與可擴(kuò)展的AI技術(shù)，要同時代人工智能》機(jī)器學(xué)習(xí)機(jī)器學(xué)習(xí)指通過計算技術(shù)優(yōu)化模型參數(shù)的過程，使模型的行為反映數(shù)據(jù)或經(jīng)驗。p作為一門學(xué)科，機(jī)器學(xué)習(xí)（MachineLearning）涉及統(tǒng)計學(xué)、系統(tǒng)辨識、逼近理論、神經(jīng)網(wǎng)絡(luò)、優(yōu)化理論、計算機(jī)科學(xué)、腦科學(xué)等諸多領(lǐng)域。機(jī)器學(xué)習(xí)研究計算機(jī)怎樣模擬或?qū)崿F(xiàn)人類的學(xué)習(xí)p“Informationtechnology-Artificialintelligence-Terminology”(GB/T41867-2022)issuedonMay1,2023,ChineseElectronicsStandardizationInstitute,https://std./gb/search/gbDetailed?id=71F772D76866D3A7E05397BE0A0AB82A行為，以獲取新的知識或技能，重新組織已有的知識結(jié)構(gòu)使之不斷改善自身的性能，也是人工智能技術(shù)的核心?；跀?shù)據(jù)的機(jī)器學(xué)習(xí)是現(xiàn)代智能技術(shù)中的重要方法之一，研究從觀測數(shù)據(jù)（樣本）出發(fā)尋找規(guī)律，利用這些規(guī)律對未來數(shù)據(jù)或無法觀測的數(shù)據(jù)進(jìn)行預(yù)測。深度學(xué)習(xí)深度學(xué)習(xí)：通過訓(xùn)練具有許多隱層的神經(jīng)網(wǎng)絡(luò)來創(chuàng)建豐富層次表示的方法。注：深度學(xué)習(xí)是機(jī)器學(xué)習(xí)的一個子集?！秶覙?biāo)準(zhǔn)｜GB/T41867-2022》根據(jù)學(xué)習(xí)方法可以將機(jī)器學(xué)習(xí)分為傳統(tǒng)機(jī)器學(xué)習(xí)和深指層數(shù)超過3。深度學(xué)習(xí)作為機(jī)器學(xué)習(xí)研究中的一個新興領(lǐng)域，由n等人于6》神經(jīng)網(wǎng)絡(luò)神經(jīng)網(wǎng)絡(luò)：由加權(quán)鏈路且權(quán)值可調(diào)整連接的基本處理元素的網(wǎng)絡(luò)，通過把非線性函數(shù)作用到其輸入值上使每個單元產(chǎn)生一個值，并把它傳送給其他單元或把它表示成輸出值。注：雖然某些神經(jīng)網(wǎng)絡(luò)旨在模擬神經(jīng)系統(tǒng)中神經(jīng)元的功能，但大多數(shù)神經(jīng)網(wǎng)絡(luò)用于人工智能以實現(xiàn)連接模型?！秶覙?biāo)準(zhǔn)｜B/T5271.34-2006》中國電子技術(shù)標(biāo)準(zhǔn)化研究院ChineseElectronicsStandardizationInstitute.(2018).Whitepaperonarti?cialintelligencestandardization,人工智能標(biāo)準(zhǔn)化白皮書（2018版）,/201801/3545.html神經(jīng)網(wǎng)絡(luò)：由一層或多層神經(jīng)元組成的網(wǎng)絡(luò)，通過權(quán)值可調(diào)的加權(quán)連接，接收輸入數(shù)據(jù)并產(chǎn)生輸出。注1：神經(jīng)網(wǎng)絡(luò)是連接主義方法的一個突出例子。注2：雖然神經(jīng)網(wǎng)絡(luò)的設(shè)計最初是受生物神經(jīng)元功能的啟發(fā)，但大多數(shù)神經(jīng)網(wǎng)絡(luò)的研究不再遵循這種啟發(fā)?！秶覙?biāo)準(zhǔn)｜GB/T41867-2022》自主控制自主控制策能力、協(xié)同能力和行動能力有機(jī)的結(jié)合起來，在非結(jié)構(gòu)化環(huán)境下根據(jù)一定的控制策略自我決策并持續(xù)執(zhí)行一系列控制功能完成預(yù)定目標(biāo)的能力。自動控制r：置，使機(jī)器、設(shè)備或生產(chǎn)過程的某個工作狀態(tài)或參數(shù)自動地按照預(yù)定的規(guī)律運行。自主控制系統(tǒng)s：通過計算機(jī)、伺服執(zhí)行機(jī)構(gòu)、傳感反饋機(jī)構(gòu)、成的能實現(xiàn)自穩(wěn)定、自調(diào)節(jié)、自錄最優(yōu)、自適應(yīng)等功能的系統(tǒng)。AIAI從I項目概念階段到部署和維護(hù)階段結(jié)束的整個過程。中國在《人工智能標(biāo)準(zhǔn)化白皮書（2021版》中引用國際標(biāo)準(zhǔn)化組織和國際電工組織第一聯(lián)合技術(shù)委員會人工智能分委會(IS/IECJTC1/SC42ISO/IEC22989《人工智能概念與術(shù)語》中提出了人工（第三版年，第451頁。（上年，第1041頁。智能系統(tǒng)生命周期模型定義：人工智能系統(tǒng)生命周期包括初始階段、設(shè)計與開發(fā)、驗證與確認(rèn)、部署、運行與監(jiān)測、重新評估及退出階段。該生命周期模型源于系統(tǒng)和軟件工程系統(tǒng)生命周期，并在此基礎(chǔ)上強(qiáng)調(diào)了人工智能領(lǐng)域特性方面，包括開發(fā)運營、可追溯性、透明度及可解釋性、安全與隱私、風(fēng)險管理、治理等。t四、行動與控制指揮鏈（commandrelationship況下，指揮鏈或指揮關(guān)系是指從作戰(zhàn)指揮高層延伸到基本作戰(zhàn)單元的這樣一條持續(xù)的職權(quán)線。根據(jù)等級、編制序列和任務(wù)的不同對指揮鏈上各級的指揮權(quán)限進(jìn)行不同的職權(quán)劃分，通常從上級到下級形成指揮與被指揮關(guān)系。根據(jù)作戰(zhàn)需要或部隊編制調(diào)整，可能會進(jìn)行指揮關(guān)系轉(zhuǎn)換，即改變原指揮關(guān)系，形成新指揮關(guān)系。指揮控制（系統(tǒng)）指揮控制系統(tǒng)是保障指揮員和指揮機(jī)關(guān)對部隊作戰(zhàn)人員、作戰(zhàn)行動、武器系統(tǒng)等實施指揮、控制、制約的系統(tǒng)。根據(jù)應(yīng)用層級的不同，指揮控制系統(tǒng)可區(qū)分為戰(zhàn)略、戰(zhàn)役、戰(zhàn)術(shù)級指揮控制系統(tǒng)。t《人工智能標(biāo)準(zhǔn)化白皮書（2021版/202107/7796.html決策點中文語境中與決策點相近的概念是定下決心（decisionmakig，它指的是指揮員在接受上級任務(wù)、領(lǐng)會上級意圖后，結(jié)合對作戰(zhàn)態(tài)勢的判斷而作出的行動決定。有目的的人類控制這不是一個官方軍事術(shù)語，是學(xué)者在論文中提出的概念。我們的理解是，自主武器系統(tǒng)或致命性AI賦能武器系統(tǒng)在目標(biāo)核查、鎖定目標(biāo)、實施打擊前等關(guān)鍵任務(wù)點，由人類進(jìn)行最后確認(rèn)，而不是完全依靠傳感器、自主武器系統(tǒng)、或致命性AI五、人機(jī)關(guān)系人機(jī)交互人機(jī)交互是指人類用戶與軟硬件單元結(jié)合的計算機(jī)系統(tǒng)間進(jìn)行信可信賴的人工智能發(fā)展人工智能應(yīng)堅持“以人為本”理念，以增進(jìn)人類共同福祉GB/T18976-2003/ISO134071999201932018（2023，20239步的方向發(fā)展。為此目的，不斷提升人工智能系統(tǒng)的透明性、穩(wěn)定性、可解釋性、可預(yù)測性、公平性和可靠性，提升數(shù)據(jù)真實性和準(zhǔn)確性，確保人工智能技術(shù)可審核、可監(jiān)督、可追溯，確保人工智能始終處于人類控制之下。v透明性：結(jié)果等能夠被人類清晰地理解、解釋并信任，主要可體現(xiàn)為算法的透明性、數(shù)據(jù)的透明性、決策的透明性等，旨在實現(xiàn)人工智能技術(shù)可解釋、可預(yù)測、可追溯、可審查、可問責(zé)。透明性有助于所有利益攸關(guān)方清楚地了解人工智能系統(tǒng)的工作方式，但不得危害國家利益和人工智能系統(tǒng)利益攸關(guān)方的利益。w可解釋性：人工智能系統(tǒng)能夠以清晰、易懂和有意義的方式向人類揭示其推理、決策和預(yù)測過程，使人類能夠理解并信任其作出的行為或得出的結(jié)論。可解釋性側(cè)重于為人工智能系統(tǒng)作出的決策提供可理解的原因，而不是嘗試為“實現(xiàn)必要的優(yōu)越特性”提供理由。x202310（202320239，20196，2022年11（20232023920196，20196GB/T41867-2022，202210229892022(enInformationtechnologyintelligenceArti?cialintelligenceconceptsandterminology；中國信息通信（征求意見稿20196，20217可追溯性：人工智能系統(tǒng)在整個生命周期中各個環(huán)節(jié)的決策數(shù)據(jù)集、處理過程和輸出結(jié)果能夠被記錄、追蹤和回溯，使人工智能系統(tǒng)的決策結(jié)果可被人類理解和追蹤。y可靠性：致地運行并獲得期望結(jié)果的能力，既要有一定程度抵抗惡意攻擊的能力，也要有遇到嚴(yán)重問題時的退回機(jī)制。z可預(yù)測性：人類能夠預(yù)見并理解人工智能系統(tǒng)在不同條件下會產(chǎn)生何種輸出和行為，使人類能夠?qū)τ跀M產(chǎn)生的輸出作出可靠的假設(shè)，這要求人工智能系統(tǒng)的輸出結(jié)果準(zhǔn)確、可靠且可被重復(fù)，且能有效抵御漏洞和惡意攻擊。ヒ可控性：又稱為“人類控制”，是指人類的判斷應(yīng)融入人工智能系統(tǒng)的研發(fā)、部署和使用流程，使人類能夠有效地指導(dǎo)、監(jiān)督、評估、干預(yù)、中止或終止人工智能系統(tǒng)的行為，確保人工智能系統(tǒng)符合倫理、法律和安全標(biāo)準(zhǔn)，同時建立問責(zé)機(jī)制