人工智能安全威脅及風(fēng)險(xiǎn)防范措施

人工智能安全威脅及風(fēng)險(xiǎn)防范措施人工智能（ArtificialIntelligence，簡(jiǎn)稱AI）可以說(shuō)是當(dāng)前信息技術(shù)最熱門的話題之一，其應(yīng)用領(lǐng)域涵蓋了從工業(yè)制造到醫(yī)療健康、金融服務(wù)、智慧城市、無(wú)人駕駛等方方面面。然而，隨著人工智能技術(shù)的發(fā)展，其產(chǎn)生的安全威脅也愈加凸顯，特別是在金融、安全、軍事領(lǐng)域等領(lǐng)域。1.AI基礎(chǔ)算法會(huì)被篡改人工智能的本質(zhì)是通過(guò)計(jì)算機(jī)模擬人腦的學(xué)習(xí)和認(rèn)知能力，并依照不斷學(xué)習(xí)的過(guò)程不斷優(yōu)化和改進(jìn)算法。但是，這個(gè)過(guò)程并非百分之百自主，一些黑客或者對(duì)手會(huì)想方設(shè)法地篡改其中某個(gè)算法，通過(guò)人為干預(yù)的方式，來(lái)控制人工智能系統(tǒng)的行為。比如，機(jī)器學(xué)習(xí)算法被篡改之后，就會(huì)出現(xiàn)針對(duì)該算法的誤導(dǎo)，從而影響到預(yù)測(cè)結(jié)果，可能會(huì)損失企業(yè)的利潤(rùn)或以極地情況導(dǎo)致危險(xiǎn)。2.控制人工智能系統(tǒng)的安全性另一個(gè)安全威脅就是通過(guò)控制人工智能系統(tǒng)來(lái)進(jìn)行攻擊。雖然某些由AI系統(tǒng)構(gòu)建的應(yīng)用程序可能是安全的，但是攻擊者可以通過(guò)多種方式控制這些系統(tǒng)，例如，在訓(xùn)練期間，使用有毒/不良數(shù)據(jù)對(duì)系統(tǒng)進(jìn)行攻擊，甚至修改模型文件，篡改數(shù)據(jù)經(jīng)過(guò)模型的前向傳遞，這都是致命的安全漏洞。不幸的是，黑客并不限于向系統(tǒng)注入錯(cuò)誤的輸入以獲得收益，他們也可以利用這個(gè)技術(shù)來(lái)改變各種信息系統(tǒng)，甚至威脅業(yè)務(wù)體系和公共安全。3.非正常操作人員在任何時(shí)候，非正常操作人員對(duì)于技術(shù)系統(tǒng)的安全性都是巨大的風(fēng)險(xiǎn)。人工智能系統(tǒng)也不例外。由于人工智能技術(shù)在系統(tǒng)的運(yùn)行中通常是無(wú)人值守，黑客可以通過(guò)模擬系統(tǒng)操作員來(lái)盜取數(shù)據(jù)、數(shù)據(jù)泄露、系統(tǒng)登錄或其他有害操作。甚至在開(kāi)啟人工智能服務(wù)時(shí)，可以由于不同的配置參數(shù)和網(wǎng)絡(luò)情況，入侵者可以通過(guò)惡意代碼進(jìn)行網(wǎng)絡(luò)攻擊，導(dǎo)致訪問(wèn)和權(quán)限控制失控。4.風(fēng)險(xiǎn)防護(hù)面對(duì)日益增多的人工智能安全威脅，必須采取一些風(fēng)險(xiǎn)防范措施，這些措施包括：（1）加密算法：加密可以幫助保護(hù)人工智能系統(tǒng)中的敏感信息，例如身份證信息、個(gè)人識(shí)別代碼和個(gè)人銀行資料等，加密也可以防止數(shù)據(jù)在上傳或下載時(shí)被攔截或截獲。（2）源代碼審查：對(duì)系統(tǒng)代碼進(jìn)行定期審核、檢查和更新，例如發(fā)現(xiàn)代碼中的漏洞和錯(cuò)誤，必須及時(shí)修復(fù)并實(shí)現(xiàn)更新。（3）紀(jì)律和實(shí)踐：通過(guò)制定運(yùn)營(yíng)紀(jì)律、安全實(shí)踐和安全培訓(xùn)計(jì)劃，來(lái)限制非正常操作人員的社會(huì)工程學(xué)攻擊，從而杜絕或減少潛在的安全威脅。（4）獨(dú)立可控的服務(wù)：為了確保人工智能安全和可控性，還可以建立潛在的自監(jiān)控服務(wù)，或者通過(guò)獨(dú)立的安全精益團(tuán)隊(duì)來(lái)規(guī)劃、設(shè)計(jì)和實(shí)施保障方案，對(duì)系統(tǒng)風(fēng)險(xiǎn)進(jìn)行減少。結(jié)語(yǔ)盡管人工智能技術(shù)面臨不少安全風(fēng)險(xiǎn)，但也無(wú)疑將是未來(lái)發(fā)展趨勢(shì)之