商湯科技《平衡發(fā)展的AI倫理觀-AI可持續(xù)發(fā)展報(bào)告2021-2022》-27正式版

平衡發(fā)展的AI倫理觀——AI可持續(xù)發(fā)展報(bào)告2021-20222021堅(jiān)持原創(chuàng)，讓AI引領(lǐng)人類進(jìn)步

面面向向全全球球，，商商湯湯科科技技堅(jiān)堅(jiān)持持原原創(chuàng)創(chuàng)，，致致力力于于讓讓AIAI推推動(dòng)動(dòng)經(jīng)經(jīng)濟(jì)濟(jì)、、社社會會和和人人類類的的發(fā)發(fā)展展，，建建設(shè)設(shè)更更美美好好的的未未來來。。目錄關(guān)于商湯關(guān)于本報(bào)告第一部分 概述 08? 人類倫理的變遷：從“機(jī)器學(xué)習(xí)”到“機(jī)器倫理” 09? 文明倫理的求同：“平衡發(fā)展”的AI倫理觀 10? “可持續(xù)發(fā)展”原則：發(fā)展權(quán)是最大的社會責(zé)任與人權(quán) 13? “以人為本”原則：濟(jì)困扶弱，包容尊重 14? “技術(shù)可控”原則：人類負(fù)責(zé)，敏捷治理 15第二部分可持續(xù)發(fā)展實(shí)踐 18? 商湯實(shí)踐：智能電網(wǎng)，“智能+”引領(lǐng)綠色能源革命 19? 商湯實(shí)踐：智慧醫(yī)療普惠全球 20? 商湯實(shí)踐：推廣人工智能基礎(chǔ)教育 22第三部分 以人為本實(shí)踐 26? 商湯實(shí)踐：商湯智慧醫(yī)療SenseCare平臺，賦能前線醫(yī)生 26? 商湯實(shí)踐：賦能智慧文旅，迎接元宇宙世界到來 28? 商湯實(shí)踐：智慧乘客服務(wù)平臺，賦能成都城市地鐵交通系統(tǒng) 30

CONTENTS第四部分 技術(shù)可控實(shí)踐 32? 商湯實(shí)踐：數(shù)據(jù)隱私保護(hù) 33? 商湯實(shí)踐：算法/芯片評測 34? 商湯實(shí)踐：科研課題研究 36第五部分AI倫理與治理實(shí)踐 38? 商湯實(shí)踐：組建AI倫理與治理委員會 39? 商湯實(shí)踐：人工智能倫理與治理風(fēng)險(xiǎn)控制機(jī)制 41? 商湯實(shí)踐：AI倫理標(biāo)準(zhǔn)制定. 47? 商湯實(shí)踐：AI倫理外部聯(lián)合研究. 47結(jié)語 505商湯科技·平衡發(fā)展的AI倫理觀【關(guān)于商湯】作為人工智能軟件公司，商湯科技以“堅(jiān)持原創(chuàng)，讓AI引領(lǐng)人類進(jìn)步”為使命，“以人工智能實(shí)現(xiàn)物理世界和數(shù)字世界的連接，促進(jìn)社會生產(chǎn)力可持續(xù)發(fā)展，并為人們帶來更好的虛實(shí)結(jié)合生活體驗(yàn)”為愿景，旨在持續(xù)引領(lǐng)人工智能前沿研究，持續(xù)打造更具拓展性更普惠的人工智能軟件平臺，推動(dòng)經(jīng)濟(jì)、社會和人類的發(fā)展，并持續(xù)吸引及培養(yǎng)頂尖人才，共同塑造未來。商湯科技擁有深厚的學(xué)術(shù)積累，并長期投入于原創(chuàng)技術(shù)研究，不斷增強(qiáng)行業(yè)領(lǐng)先的全棧式人工智能能力，涵蓋感知智能、決策智能、智能內(nèi)容生成和智能內(nèi)容增強(qiáng)等關(guān)鍵技術(shù)領(lǐng)域，同時(shí)包含AI芯片、AI傳感器及AI算力基礎(chǔ)設(shè)施在內(nèi)的關(guān)鍵能力。此外，商湯前瞻性打造新型人工智能基礎(chǔ)設(shè)施——SenseCore商湯AI大裝置，打通算力、算法和平臺，大幅降低人工智能生產(chǎn)要素價(jià)格，實(shí)現(xiàn)高效率、低成本、規(guī)?；腁I創(chuàng)新和落地，進(jìn)而打通商業(yè)價(jià)值閉環(huán)，解決長尾應(yīng)用問題，推動(dòng)人工智能進(jìn)入工業(yè)化發(fā)展階段。商湯科技業(yè)務(wù)涵蓋智慧商業(yè)、智慧城市、智慧生活、智能汽車四大板塊，相關(guān)產(chǎn)品與解決方案深受客戶與合作伙伴好評。商湯科技現(xiàn)已在香港、上海、北京、深圳、成都、杭州、南平、青島、三亞、西安、臺北、澳門、京都、東京、新加坡、利雅得、阿布扎比、迪拜、吉隆坡、首爾等地設(shè)立辦公室。另外，商湯科技在泰國、印度尼西亞、菲律賓等國家均有業(yè)務(wù)。

【關(guān)于本報(bào)告】商湯科技有限公司（以下簡稱“商湯”、“公司”或“我們”）主動(dòng)向社會公眾報(bào)告公司的可持續(xù)發(fā)展?fàn)顩r，讓全社會了解、監(jiān)督商湯的可持續(xù)發(fā)展工作。商湯向社會發(fā)布可持續(xù)發(fā)展報(bào)告以披露商湯的可持續(xù)發(fā)展理念和實(shí)踐，促進(jìn)商湯與利益相關(guān)方以及社會公眾之間的了解、溝通與互動(dòng)，實(shí)現(xiàn)企業(yè)的可持續(xù)發(fā)展。本報(bào)告參照全球報(bào)告倡議組織（GlobalReportingInitiative,GRI）《GRIStandards》核心“符合”方案進(jìn)行編寫，為了保證報(bào)告的可靠、公正和透明，公司聘請了外部審驗(yàn)機(jī)構(gòu)BV對報(bào)告進(jìn)行審驗(yàn)并出具獨(dú)立的審驗(yàn)報(bào)告（擬定）。作為獨(dú)立的可持續(xù)發(fā)展報(bào)告，本報(bào)告于2021年x月以中文版發(fā)布，分為印刷版和電子版，如需在線瀏覽或下載本報(bào)告，敬請?jiān)L問：(網(wǎng)址)如對本報(bào)告有任何建議和意見，請通過以下方式與商湯聯(lián)系：電話：聯(lián)系方式暫略電子郵箱：聯(lián)系方式暫略更多信息，請?jiān)L問商湯科技網(wǎng)站、微信、微博和領(lǐng)英。商湯科技·平衡發(fā)展的AI倫理觀第一部分概述人類倫理的變遷：從“機(jī)器學(xué)習(xí)”到“機(jī)器倫理”文明倫理的求同：“平衡發(fā)展”的AI倫理觀“可持續(xù)發(fā)展”原則：發(fā)展權(quán)是最大的社會責(zé)任與人權(quán)“以人為本”原則：濟(jì)困扶弱，包容尊重“技術(shù)可控”原則：人類負(fù)責(zé)，敏捷治理8

概概述述人類文明的AI律己與利他——平衡發(fā)展的AI倫理觀科學(xué)求真，技術(shù)向善。中國著名科學(xué)家錢學(xué)森坦言：“我作為一名中國的科技工作者，活著的目的就是為人民服務(wù)?！倍锘瘜W(xué)家、科技史專家李約瑟異曲同工分享道：“對科學(xué)家來說，不可逾越的原則是為人類文明而工作?！比斯ぶ悄軅惱砭褪茄芯緼I為全人類服務(wù)。所以人工智能從業(yè)者既有責(zé)任向全社會科普、推廣人工智能原創(chuàng)應(yīng)用，又有責(zé)任聯(lián)手社會各界共同監(jiān)督、治理、改進(jìn)人工智能倫理風(fēng)險(xiǎn)。人類倫理的變遷：從“機(jī)器學(xué)習(xí)”到“機(jī)器倫理”計(jì)算機(jī)引發(fā)“數(shù)據(jù)爆炸”，而人工智能把數(shù)據(jù)轉(zhuǎn)化為知識。摩爾定律帶來了一系列“鏈?zhǔn)椒磻?yīng)”，包括通信革命（互聯(lián)網(wǎng)）、計(jì)算革命（云計(jì)算）、媒介革命（數(shù)字視頻），最終的產(chǎn)物是“失控增長”的大數(shù)據(jù)量——一種全球化的新型生產(chǎn)資料，日夜不停，取之不盡，用之不竭。生產(chǎn)資料的爆發(fā)式增長往往帶來生產(chǎn)力的新科技變革。工業(yè)革命因?yàn)槿蚋鞯卦丛床粩嗟脑?、礦石運(yùn)輸?shù)接?，人工勞?dòng)效率的瓶頸倒逼蒸汽機(jī)的誕生?；ヂ?lián)網(wǎng)、工業(yè)互聯(lián)網(wǎng)、車聯(lián)網(wǎng)、環(huán)境聯(lián)網(wǎng)的大數(shù)據(jù)資源指數(shù)級增長，人工知識萃取與轉(zhuǎn)化效率瓶頸，倒逼人工智能的誕生。表數(shù)據(jù)“知識化”的自動(dòng)化進(jìn)程數(shù)據(jù)知識化工業(yè)時(shí)代信息時(shí)代互聯(lián)網(wǎng)時(shí)代人工智能時(shí)代數(shù)據(jù)采集人工人工半自動(dòng)化自動(dòng)化數(shù)據(jù)存儲人工半自動(dòng)化自動(dòng)化自動(dòng)化知識提取人工人工半自動(dòng)化自動(dòng)化優(yōu)化業(yè)務(wù)人工人工人工自動(dòng)化9商湯科技·平衡發(fā)展的AI倫理觀 概概述述新一代人工智能逐步賦能人類感知、認(rèn)知、決策范式的升級，成為人類科技創(chuàng)新的源動(dòng)力，另一方面，人類自身就是倫理價(jià)值觀的載體，所以在經(jīng)驗(yàn)歸納、推理演繹、靈感猜想中都自然帶入價(jià)值觀。當(dāng)我們用AI輔助創(chuàng)新與決策時(shí)，是否也會自然而然地復(fù)制自身價(jià)值觀呢？那是否意味著機(jī)器學(xué)習(xí)全過程的倫理傾向應(yīng)有人類監(jiān)督、機(jī)器監(jiān)督呢？例如在貸款審批、資訊推薦、社交網(wǎng)絡(luò)審核等方面都存在著因文明而異的默認(rèn)倫理準(zhǔn)則。又如根據(jù)數(shù)十萬名人類司機(jī)駕車操作學(xué)習(xí)的自動(dòng)駕駛模型，就是用大數(shù)據(jù)替代人類的經(jīng)驗(yàn)歸納，駕駛行為中的道路安全、禮讓行人等不同價(jià)值觀都對AI訓(xùn)練有影響；而讓自動(dòng)駕駛汽車模型跑在虛擬城市、虛擬高速路上進(jìn)行模擬測試，就是用仿真取代人工推理演繹，好處是大幅提升創(chuàng)新速度、降低試錯(cuò)成本、測試長尾小概率場景，其間也涉及到車輛安全、行人安全、動(dòng)物安全、環(huán)境安全等倫理準(zhǔn)則。誠然，人腦是由860億個(gè)相互連接的神經(jīng)元編織的網(wǎng)絡(luò)組成，每個(gè)神經(jīng)元與平均約2000個(gè)其他神經(jīng)元通過突觸結(jié)構(gòu)連接，共有1.5百兆個(gè)連接（1.5x1014）,每個(gè)突觸每秒可執(zhí)行上百次“計(jì)算”，共1.5艾次計(jì)算/秒（1.5x1018），相當(dāng)于10萬個(gè)GPU的計(jì)算量，文明倫理的求同：“平衡發(fā)展”的AI倫理觀

這個(gè)“復(fù)雜巨系統(tǒng)”中倫理觀的運(yùn)行機(jī)制我們尚無法掌握，但在人類應(yīng)時(shí)刻監(jiān)督AI產(chǎn)品從設(shè)計(jì)到退役全過程中的價(jià)值觀傾向與隱藏風(fēng)險(xiǎn)，在人類通過“AI大裝置”探索未知世界的基礎(chǔ)科研、產(chǎn)業(yè)研發(fā)之旅中，堅(jiān)守倫理初心，持續(xù)升級“機(jī)器倫理”風(fēng)險(xiǎn)控制機(jī)制。表人類認(rèn)知與倫理范式歸納推理猜想倫理人類認(rèn)知1.經(jīng)驗(yàn)歸納2.推理演繹3.直覺靈感4.人類倫理機(jī)器認(rèn)知5.大數(shù)據(jù)6.仿真模擬7.機(jī)器猜想8.機(jī)器倫理在以人工智能為代表的科技創(chuàng)新日趨復(fù)雜之時(shí)，我們從《三體》中讀到“給歲月以文明，而不是給文明以歲月?！奔慈?展性原則，“以人為本”類覆蓋保護(hù)人權(quán)、保護(hù)隱私、人類可控、公平無歧視、造福人類等人文關(guān)懷原則，“技術(shù)可控”文原則第一的基礎(chǔ)理念。科學(xué)家應(yīng)是人文、科學(xué)、藝術(shù)三位一體的存在，人類至高的智慧不是發(fā)明，而是良知?？茖W(xué)研 類覆蓋可驗(yàn)證、可審查、合法性、可信任、可解釋、安全可靠、公開透明、負(fù)責(zé)任等技術(shù)責(zé)任原則，特定國家、地區(qū)、究不是萬能鑰匙，人文精神是打開未來世界大門的鑰匙。所以我們搜集分析了全球所有的AI倫理政策、倡議、標(biāo)準(zhǔn)，將 國際組織成為對標(biāo)方，發(fā)布過越多的相關(guān)主題的政策、指南、標(biāo)準(zhǔn)，則雷達(dá)圖中的圓點(diǎn)就越多，總體呈現(xiàn)趨勢如下。AI倫理觀分解為三大類，“可持續(xù)發(fā)展”類覆蓋保護(hù)環(huán)境、保護(hù)和平、包容共享、開放協(xié)作、社會認(rèn)知、敏捷治理等發(fā)圖全球AI倫理觀一覽10 11商湯科技·平衡發(fā)展的AI倫理觀首先，AI倫理應(yīng)與人類價(jià)值觀統(tǒng)一。圖靈獎(jiǎng)得主楊立昆在《科學(xué)之路》一書中所說：“（AI倫理）是一個(gè)機(jī)器的價(jià)值與人類普遍價(jià)值一致性的問題?！边^去數(shù)千年，人類將道德價(jià)值體系編纂入法律，通過教育孩子明辨是非規(guī)范社會倫理，現(xiàn)在人類將道德價(jià)值觀從日常生活抽象到人工智能算法、數(shù)據(jù)、算力中，并不可能短時(shí)間內(nèi)窮盡所有長尾場景，所以采用案例法為基礎(chǔ)的敏捷治理原則持續(xù)補(bǔ)充完善AI倫理原則體系，以使機(jī)器倫理更符合人類普世倫理。所以縱覽全球各國

概概述述“可持續(xù)發(fā)展”原則：發(fā)展權(quán)是最大的社會責(zé)任地區(qū)、各個(gè)機(jī)構(gòu)的AI倫理政策、倡議、標(biāo)準(zhǔn)、法規(guī)，能夠發(fā)現(xiàn)“可持續(xù)發(fā)展”、“以人為本”、“技術(shù)可控”形成了與人類價(jià)值觀相符的AI倫理觀。其次，人類共同發(fā)展成為“普世價(jià)值觀”。哈佛大學(xué)教授塞繆爾·亨廷頓在《文明的沖突與世界秩序的重建》中，將當(dāng)今世界劃分為八大文明板塊：中華文明、日本文明、印度文明、伊斯蘭文明、東正教文明、西方文明、拉丁美洲文明、非洲文明。2020年以來，八大文明為代表的全人類都面對異常嚴(yán)峻的共同挑戰(zhàn)，如極端高溫、野火、洪水、颶風(fēng)、新冠疫情等天災(zāi)，唯有“大家一起發(fā)展才是真發(fā)展，可持續(xù)發(fā)展才是好發(fā)展”，遵循“創(chuàng)新、協(xié)調(diào)、綠色、開放、共享”的共同發(fā)展理念，世界大同，和合共生，用“天下觀”超越“文明觀”，用“人類福祉”超越“國別利益”，各國攜手承擔(dān)起“人類命運(yùn)共同體”的發(fā)展使命與創(chuàng)新責(zé)任，平衡發(fā)展的AI倫理觀才能最大限度地體現(xiàn)全人類的普世價(jià)值訴求?？沙掷m(xù)發(fā)展

AIforDevelopmentAIforESG人類發(fā)展：?人口增長環(huán)境-可持續(xù)發(fā)展?城鎮(zhèn)化、全球化?經(jīng)濟(jì)增長環(huán)境責(zé)任（E）可持續(xù)社會-可持續(xù)發(fā)展發(fā)展社會責(zé)任（S）自然資源：產(chǎn)業(yè)-可持續(xù)發(fā)展?食物、能源、水、空氣、土地、海洋治理責(zé)任（G）

AIforSDGsSDG6清潔飲水和衛(wèi)生設(shè)施SDG7經(jīng)濟(jì)適用的清潔能源SDG13氣候行動(dòng)SDG14水下生物SDG15陸地生物SDG1無貧窮SDG2零饑餓SDG3良好的健康與福祉SDG4優(yōu)質(zhì)教育SDG5性別平等SDG10減少不平等SDG11可持續(xù)城市和社區(qū)SDG16和平、正義與強(qiáng)大機(jī)構(gòu)SDG8體面工作和經(jīng)濟(jì)增長SDG9產(chǎn)業(yè)、創(chuàng)新和基礎(chǔ)設(shè)施SDG12負(fù)責(zé)任消費(fèi)和生產(chǎn)SDG17全球伙伴關(guān)系平衡發(fā)展的AI倫理觀以人 技術(shù)為本 可控圖平衡發(fā)展的AI倫理觀最后，平衡、包容的AI倫理觀，是對人類文明存續(xù)發(fā)展的關(guān)鍵驅(qū)動(dòng)力。經(jīng)濟(jì)實(shí)力的壯大確實(shí)能夠極大增強(qiáng)區(qū)域文明的自信心和“世界以我為中心”的錯(cuò)覺，但人類歷史上從不是只有一條文明之河，而是諸多差異化很大的文明百川入海。英國著名歷史學(xué)家湯因比在《歷史研究》中陳述：“道德是與意識同時(shí)出現(xiàn)在生物圈中，兩者共同構(gòu)成一種存在形式，即精神形式?！焙汀凹词故前l(fā)達(dá)的文明人，仍然像原始人一樣是他自己時(shí)代和地域的囚犯?！彼?，塞繆爾·亨廷頓將全球劃分為中華文明、日本文明、印度文明、伊斯蘭文明、東正教文明、西方文明、拉丁美洲文明，每個(gè)文明社會的倫理觀來自與眾不同的人文歷史，以宗教、文化、人口、經(jīng)濟(jì)、語言融為一體的文明多樣性，帶來了多元化的社會倫理觀。從社會倫理映射到AI倫理觀，則順勢形成了文明板塊中各國因地制宜、自主平衡的差異化科技人文標(biāo)準(zhǔn)，尤以“可持續(xù)發(fā)展”、“以人為本”、“技術(shù)可控”為最受各文明板塊關(guān)注的高優(yōu)先級因素，驅(qū)動(dòng)人類文明走上一條創(chuàng)新、協(xié)調(diào)、綠色、開放、共享的可持續(xù)發(fā)展道路。

圖AI可持續(xù)發(fā)展體系首先，產(chǎn)業(yè)、社會、環(huán)境的可持續(xù)發(fā)展是最大的企業(yè)社會責(zé)任。19世紀(jì)，美國地理與生態(tài)學(xué)家馬什在《人與自然》書中提出：“地球不僅影響人，人也在影響地球。人們應(yīng)在為自身以及子孫后代利益考慮的基礎(chǔ)上，停止對自然的過度破壞，保護(hù)自然，改造自然，讓生活更美好?！崩_了“可持續(xù)發(fā)展”理念和實(shí)踐的大幕。2019年，聯(lián)合國人權(quán)理事會通過決議并發(fā)布《發(fā)展權(quán)利宣言》，確認(rèn)發(fā)展權(quán)利是一項(xiàng)不可剝奪的人權(quán)。例如中國解決了14億人的溫飽，使8.5億人脫貧，為7.7億人提供就業(yè)，將廣大人民的幸福生活“生存權(quán)與發(fā)展權(quán)”放在首位，并向全球各國開放市場、共享科技等生產(chǎn)力，帶動(dòng)眾多發(fā)展中國家通過新一代基礎(chǔ)設(shè)施和數(shù)字經(jīng)濟(jì)生態(tài)，實(shí)現(xiàn)人類命運(yùn)共同體的共同發(fā)展、共同富裕，取得了世界人民舉世矚目的成就。當(dāng)經(jīng)各國已經(jīng)取得階段性共識，商業(yè)文明功在當(dāng)代，生態(tài)文明利在千秋、惠及子孫，每一個(gè)企業(yè)、政府、個(gè)人都是人類命運(yùn)共同體的組成部分，都肩負(fù)著產(chǎn)業(yè)可持續(xù)發(fā)展責(zé)任、社會可持續(xù)發(fā)展責(zé)任、環(huán)境可持續(xù)發(fā)展責(zé)任，密不可分的三類責(zé)任組成為國家治理、科技倫理、產(chǎn)業(yè)發(fā)展的基石，也稱為科技創(chuàng)新企業(yè)和科技用戶企業(yè)的社會責(zé)任(ESG)。其次，科技創(chuàng)新是人類可持續(xù)發(fā)展的“金鑰匙”，人類生存發(fā)展面對的共同挑戰(zhàn)加速人工智能解決方案惠及全球。地球面臨生存危機(jī)，人類可持續(xù)發(fā)展目標(biāo)將全世界國家凝聚在一起，加速科技創(chuàng)新努力平衡、改進(jìn)人類無限的發(fā)展需求和有限的地球生態(tài)資源之間的根本矛盾?！靶芷ぬ鬲?jiǎng)”得主布萊恩·阿瑟在《技術(shù)的本質(zhì)》中說：“技術(shù)是讓我們這個(gè)世界發(fā)生重大變革的第一驅(qū)動(dòng)力?！碑?dāng)今世界，人類利用風(fēng)光氫儲等新能源取代石油應(yīng)對全球氣候?yàn)?zāi)難，通過人工智能檢測新冠病毒探索特效藥，研發(fā)機(jī)器人、腦機(jī)接口幫助弱勢群體，用5G物聯(lián)網(wǎng)和AI遙感技術(shù)保護(hù)自然資源和野生動(dòng)物……12 13商湯科技·平衡發(fā)展的AI倫理觀聯(lián)合國17個(gè)可持續(xù)發(fā)展目標(biāo)指引各國經(jīng)濟(jì)發(fā)展模式、科技創(chuàng)新方向、企業(yè)社會責(zé)任。2021年4月22日，第52個(gè)世界地球日上，聯(lián)合國秘書長安東尼奧·古特雷斯呼吁國際社會以從新冠肺炎疫情的恢復(fù)為契機(jī)，推動(dòng)世界走上一條更清潔、更綠色、更可持續(xù)的發(fā)展道路。2021年6月，為了激活人工智能的巨大潛力、加速可持續(xù)發(fā)展目標(biāo)的實(shí)現(xiàn)、治理科技風(fēng)險(xiǎn)，聯(lián)合國經(jīng)濟(jì)社會局(DESA)與聯(lián)合國秘書處聯(lián)合發(fā)布《人工智能戰(zhàn)略資源指南》英文版，系統(tǒng)性提出國際AI倫理呼吁、技術(shù)治理標(biāo)準(zhǔn)、各國AI戰(zhàn)略資源與創(chuàng)新案例。最后，可持續(xù)發(fā)展依賴國際性包容性數(shù)字經(jīng)濟(jì)共同體。2019年6月，聯(lián)合國《數(shù)字相互依存的時(shí)代》報(bào)告中提議國際社會共同努力優(yōu)化數(shù)字技術(shù)的使用和降低風(fēng)險(xiǎn)，提出5項(xiàng)建議：(1)建立一個(gè)包容的數(shù)字經(jīng)濟(jì)和社會；(2)發(fā)展人力和機(jī)構(gòu)能力；(3)保護(hù)人權(quán)和人類自主性；(4)促進(jìn)數(shù)字信任、安全和穩(wěn)定；(5)促進(jìn)全球數(shù)字合作。一年后（2020年5月），聯(lián)合國發(fā)布了《數(shù)字合作路線圖》：“預(yù)計(jì)人工智能的使用到2022年將為全球市場帶來近4萬億美元的附加值。”但我們?nèi)孕栾@著增強(qiáng)“全球人工智能討論中發(fā)展中國家的代表性和包容性”、匯編全球160套原則的人工智能倫理和治理共同平臺、公共部門為實(shí)現(xiàn)可持續(xù)發(fā)展目標(biāo)部署與監(jiān)督人工智能。同時(shí)，在國際范圍內(nèi)的數(shù)字能力建設(shè)（尤其是發(fā)展中國家）、數(shù)字信任和安全、人工智能安全性與自主性、互聯(lián)網(wǎng)空間保護(hù)弱勢群體、數(shù)據(jù)保護(hù)和隱私權(quán)、網(wǎng)絡(luò)騷擾與內(nèi)容治理等領(lǐng)域，皆需要全球數(shù)字共享架構(gòu)、分布式共同治理架構(gòu)、互聯(lián)網(wǎng)治理論壇組成的數(shù)字合作方式，以解決成員國、企業(yè)、學(xué)術(shù)機(jī)構(gòu)、民間社團(tuán)在人工智能包容性、協(xié)調(diào)和能力建設(shè)方面的全球數(shù)字合作目標(biāo)?！耙匀藶楸尽痹瓌t：濟(jì)困扶弱，包容尊重兒童老年人 殘疾人AI貧窮者以人為本災(zāi)民失業(yè)者精神疾更多弱病患者勢人群圖AI以人為本

概概述述首先，人是可持續(xù)發(fā)展的主體，AI倫理以人為本，跨越“發(fā)展鴻溝”。據(jù)《重構(gòu)地球》數(shù)據(jù)顯示，在2030到2050年，地球上將有90-100億人口，需要有營養(yǎng)的食物、干凈的飲水、體面平等的就業(yè)、擺脫貧困的基本收入、可靠可負(fù)擔(dān)的能源、能抵御風(fēng)險(xiǎn)的基礎(chǔ)設(shè)施。這意味著，城鎮(zhèn)化率達(dá)到68%，人類對食物、能源和水的需求將分別增加60%、80%、55%?；氐浆F(xiàn)在的世界，全球8億人忍受饑餓，20億人營養(yǎng)不良，15億人缺少現(xiàn)代化電力，8億人飲用不安全水源——用先進(jìn)科技解決人類生存問題刻不容緩！縱然世界上的多元文明存在著顯著差異的不同價(jià)值觀，但扶貧濟(jì)困、共同富裕成為超越個(gè)別文明的“共同性原則”。其次，尊重人類基本權(quán)利是以人為本的核心，跨越“人權(quán)鴻溝”。根據(jù)《聯(lián)合國憲章》和《世界人權(quán)宣言》，人工智能應(yīng)保護(hù)和促進(jìn)婦女、兒童、殘疾人、少數(shù)人種、災(zāi)民、老年人、精神疾病患者、失業(yè)者和其他弱勢群體的基本權(quán)利，并實(shí)現(xiàn)隱私保護(hù)、避免算法歧視。例如商湯通過K12AI基礎(chǔ)教育課程(SenseStudyAI教學(xué)實(shí)驗(yàn)在線平臺)幫助青少年獲得科技創(chuàng)新能力與正確的倫理價(jià)值觀，增強(qiáng)了疫情期的“教育權(quán)”；我們研發(fā)智能避障眼鏡幫助視力障礙者戶外行走時(shí)獲得交通信號、環(huán)境障礙物等語音提示，保護(hù)殘疾人的“自由行動(dòng)權(quán)”。我們用SenseCare?胸部CT智能臨床系統(tǒng)賦能超過6個(gè)省市的新冠肺炎重點(diǎn)篩查醫(yī)院實(shí)現(xiàn)“秒級自動(dòng)篩查”，提升大眾的“社會健康權(quán)”。最后，充滿人文關(guān)懷、互相尊重的包容性AI倫理觀是以人為本原則的關(guān)鍵，跨越“文化鴻溝”。加拿大諾貝爾和平獎(jiǎng)得主萊斯特·皮爾遜認(rèn)為：“一個(gè)不同文明必須學(xué)會在和平交往中共同生活的時(shí)代，相互學(xué)習(xí)，研究彼此的歷史、理想、藝術(shù)和文化，豐富彼此的生活。否則，在這個(gè)擁擠不堪的窄小世界里，便會出現(xiàn)誤解、緊張、沖突和災(zāi)難?！癆I倫理雖然從屬于社會倫理的子領(lǐng)域，但包容性倫理觀卻能從影響規(guī)模、社會效能上充分體現(xiàn)跨文明倫理共識，所以商湯在國際產(chǎn)品上市前都會進(jìn)行文化倫理、法律法規(guī)的適配優(yōu)化，并根據(jù)全球AI倫理動(dòng)態(tài)定期進(jìn)行風(fēng)險(xiǎn)評估與改進(jìn)措施。03“技術(shù)可控”原則：人類負(fù)責(zé)，敏捷治理合法公開負(fù)責(zé)任透明AI安全可驗(yàn)證技術(shù)可控可靠可信任 可審計(jì)可解釋圖AI技術(shù)可控14 15商湯科技·平衡發(fā)展的AI倫理觀 概概述述首先，人工智能是由人類開發(fā)并為人類服務(wù)的超級工具，所以AI應(yīng)完全受人類控制（技術(shù)可控），科技倫理責(zé)任由其控制者（人類）承擔(dān)。自古以來，由于工具是無意識、無自主性的，所以工具的倫理責(zé)任必然落在人類身上，包括人工智能的研發(fā)者、使用者、監(jiān)管者等。例如研發(fā)方給予不完整數(shù)據(jù)訓(xùn)練集，就會因數(shù)據(jù)偏差導(dǎo)致算法歧視，或者因?yàn)閼?yīng)用場景濫用和安全防護(hù)不足導(dǎo)致敏感數(shù)據(jù)收集和泄露。亞當(dāng)·斯密在《道德情操論》中堅(jiān)信：“人性之盡善盡美，就在于多為他人著想而少為自己著想，就在于克制我們的自私心，同時(shí)放縱我們的仁慈心?！逼浯?，能解決問題的人工智能，應(yīng)采用多元治理、發(fā)展式治理，以釋放科技造福人類的創(chuàng)新發(fā)展?jié)摿?。誠然沒有AI就沒AI倫理風(fēng)險(xiǎn)，但治理的目的不是消滅領(lǐng)先的科技第一生產(chǎn)力，而是采用“促進(jìn)發(fā)展、保障底線”的發(fā)展式、多元、敏捷治理模式，以新思路解決新風(fēng)險(xiǎn)與新問題。雖然人類對機(jī)器學(xué)習(xí)的充分理解仍需時(shí)間，但判定AI應(yīng)用結(jié)果的善惡卻十分容易，即符合普世的社會倫理觀，即便非技術(shù)領(lǐng)域的人文學(xué)者、普羅大眾用戶都能進(jìn)行多元監(jiān)督、多元自治自律。“中國航天之父”錢學(xué)森常說：“Knowledgewasboundless,nothingisfinal！”（人類的知識認(rèn)知永無止境）所以人類對科技的認(rèn)知是持續(xù)進(jìn)步與自我顛覆的，但這并不意味著放棄科技創(chuàng)新的成果，只要新科技能夠拯救人類于危難之時(shí)、水火之中，人類就應(yīng)該及時(shí)應(yīng)用，并采用廣泛觀察、敏捷治理的方式予以持續(xù)改進(jìn)。例如1897年首次合成的阿斯匹林每年挽救數(shù)百萬人的生命，但直到1971年人類才明確其作用機(jī)制；又如人類到現(xiàn)在也無法完全理解人腦與人體的本質(zhì)運(yùn)行邏輯，但并不妨礙2000多年來用中醫(yī)治病救人；伯努利定理不能完全解釋飛機(jī)機(jī)翼的升力成因，但每年超過40億人乘坐航班旅游和出差。敏捷治理能夠加速科研創(chuàng)新，視覺神經(jīng)科學(xué)啟發(fā)了卷積網(wǎng)絡(luò)，而卷積網(wǎng)絡(luò)又闡釋了視覺皮層的功能，人工智能的“學(xué)習(xí)機(jī)”能力已經(jīng)落地各種前沿科研領(lǐng)域。商湯以原創(chuàng)AI技術(shù)（基于圖神經(jīng)網(wǎng)絡(luò)的蛋白相互作用分析框架、混合圖卷積網(wǎng)絡(luò)模型DeepCDR、基于病理細(xì)胞圖像的基因突變預(yù)測、藥物重定向分析框架）加速新藥研發(fā)、上市流程，縮短新藥研發(fā)周期、降低藥品研發(fā)成本，準(zhǔn)確預(yù)測癌癥藥物反應(yīng)。最后，實(shí)現(xiàn)人工智能的法律合規(guī)、主動(dòng)保護(hù)數(shù)據(jù)安全，是可信任AI的關(guān)鍵成功因素。第一，通過自主合規(guī)驅(qū)動(dòng)產(chǎn)品升級，通過匿名化、去標(biāo)識化保證符合《個(gè)人信息保護(hù)法》，在AI所有產(chǎn)品中保障個(gè)人敏感信息處理獲得授權(quán)、審慎性使用、最小化存儲、隱私數(shù)據(jù)的可刪除性。第二，用風(fēng)控優(yōu)化產(chǎn)品設(shè)計(jì)，通過收集全球AI產(chǎn)品負(fù)面案例庫，補(bǔ)充風(fēng)控檢查原則，定期對全部產(chǎn)品進(jìn)行風(fēng)險(xiǎn)評估與改進(jìn)，比如在數(shù)據(jù)采集時(shí)應(yīng)用“隱私默認(rèn)設(shè)計(jì)”機(jī)制，采用不可逆的數(shù)據(jù)加密技術(shù)，實(shí)現(xiàn)數(shù)據(jù)安全。第三，實(shí)現(xiàn)多元AI治理模式，邀請產(chǎn)學(xué)研用所有利益相關(guān)方參與研討會、評審會，針對社會應(yīng)用場景中的向善性、無偏性跨領(lǐng)域評估，提供全視角的敏捷治理思路與方法。AI日漸成為各學(xué)科科研與各行各業(yè)的創(chuàng)新基礎(chǔ)設(shè)施，審慎負(fù)責(zé)任的人工智能才能獲得社會廣泛信任與接納。16 17商湯科技·平衡發(fā)展的AI倫理觀第二部分可持續(xù)發(fā)展實(shí)踐商湯實(shí)踐：智能電網(wǎng)，“智能+”引領(lǐng)綠色能源革命商湯實(shí)踐：智慧醫(yī)療普惠全球商湯實(shí)踐：推廣人工智能基礎(chǔ)教育18

可可持持續(xù)續(xù)發(fā)發(fā)展展實(shí)實(shí)踐踐聯(lián)合國可持續(xù)發(fā)展目標(biāo)旨在到2030年解決社會、經(jīng)濟(jì)和環(huán)境三個(gè)維度的發(fā)展問題，走上可持續(xù)發(fā)展道路?？沙掷m(xù)發(fā)展目標(biāo)呼吁“所有國家（不論該國是貧窮、富裕還是中等收入）行動(dòng)起來，在促進(jìn)經(jīng)濟(jì)繁榮的同時(shí)保護(hù)地球”。該目標(biāo)指出，應(yīng)長期致力于消除貧困、實(shí)現(xiàn)良好健康與福祉、實(shí)現(xiàn)優(yōu)質(zhì)教育、性別平等、清潔飲水和衛(wèi)生設(shè)施、經(jīng)濟(jì)適用的清潔能源、創(chuàng)新和基礎(chǔ)設(shè)施、減少不平等、可持續(xù)城市、氣候變化和保護(hù)環(huán)境等。隨著人工智能技術(shù)的發(fā)展，人們越來越意識到，人工智能在這些領(lǐng)域全都大有可為。2020年6月12日發(fā)布的《聯(lián)合國秘書長數(shù)字合作路線圖》報(bào)告中指出，應(yīng)以最佳方式部署人工智能支持實(shí)現(xiàn)可持續(xù)發(fā)展目標(biāo)，并造福公眾。AI可持續(xù)發(fā)展的理念來源于聯(lián)合國17個(gè)變革世界的目標(biāo)，換言之，實(shí)現(xiàn)AI的可持續(xù)發(fā)展能夠?qū)崿F(xiàn)經(jīng)濟(jì)目標(biāo)之外的社會價(jià)值，有助于實(shí)現(xiàn)共筑人類命運(yùn)共同體的愿景。在這一愿景下，商湯積極推進(jìn)可持續(xù)發(fā)展框架進(jìn)程，以實(shí)際行動(dòng)推動(dòng)AI可持續(xù)發(fā)展的各項(xiàng)原則在不同細(xì)分產(chǎn)業(yè)的落地，履行了其作為AI行業(yè)領(lǐng)導(dǎo)者的社會責(zé)任和使命。以下，我們聚焦能源電網(wǎng)、醫(yī)療和教育三大行業(yè)，來探討以人工智能為代表的信息技術(shù)如何賦能產(chǎn)業(yè)數(shù)字化轉(zhuǎn)型，從而推動(dòng)經(jīng)濟(jì)增長的良性循環(huán)。19商湯科技·平衡發(fā)展的AI倫理觀商湯實(shí)踐：智能電網(wǎng)，“智能+”引領(lǐng)綠色能源革命SDG7可負(fù)擔(dān)的清潔能源電力工業(yè)是全球最主要的CO2排放源（45%的CO2來自電力生產(chǎn)）。因此，實(shí)現(xiàn)電力減排和清潔生產(chǎn)，降低電力輸送損耗，全面優(yōu)化電力生產(chǎn)、輸送、消費(fèi)全過程，將有助于推動(dòng)低碳電力、低碳能源乃至低碳經(jīng)濟(jì)的發(fā)展。在此過程中，智能電網(wǎng)在推動(dòng)電力清潔生產(chǎn)，促進(jìn)電力高效利用以及保障可靠電力供應(yīng)等方面將發(fā)揮重要作用，已經(jīng)成為世界電網(wǎng)發(fā)展的必然趨勢。傳統(tǒng)電網(wǎng)火電工業(yè)用電輸電變電配電水電居民用電調(diào)度智能電網(wǎng)?智能化計(jì)量?常規(guī)電源網(wǎng)協(xié)調(diào)?用電信息采集系統(tǒng)?新能源并網(wǎng)?柔性直、交流輸電?智能變電站?智能用電小區(qū)/樓宇?大容量儲能?配電自動(dòng)化?輸變電設(shè)備狀態(tài)檢?變電設(shè)備在線監(jiān)工業(yè)用電測系統(tǒng)測系統(tǒng)?配網(wǎng)調(diào)控自動(dòng)化火電?輸電線路智能實(shí)時(shí)?變電站運(yùn)行維護(hù)?微電網(wǎng)檢測管理集約化居民用電水電輸電變電配電風(fēng)光儲能新能源電動(dòng)汽車可再生能源智能調(diào)度雙向信息流能量流實(shí)時(shí)調(diào)度、管理信息流圖傳統(tǒng)電網(wǎng)VS智能電網(wǎng)，商湯智能產(chǎn)業(yè)研究院整理20

可可持持續(xù)續(xù)發(fā)發(fā)展展實(shí)實(shí)踐踐智能電網(wǎng)AR巡檢——電網(wǎng)穩(wěn)定運(yùn)行本輪能源變革的目標(biāo)是通過科技創(chuàng)新，實(shí)現(xiàn)以低碳能源為核心的低碳經(jīng)濟(jì)。目前電力工業(yè)是全球最主要的CO2排放源（45%的CO2來自電力生產(chǎn)）。因此，實(shí)現(xiàn)電力減排和清潔生產(chǎn)，降低電力輸送損耗，全面優(yōu)化電力生產(chǎn)、輸送、消費(fèi)全過程，將有助于推動(dòng)低碳電力、低碳能源乃至低碳經(jīng)濟(jì)的發(fā)展。在此過程中，智能電網(wǎng)在推動(dòng)電力清潔生產(chǎn)，促進(jìn)電力高效利用以及保障可靠電力供應(yīng)等方面將發(fā)揮重要作用，已經(jīng)成為世界電網(wǎng)發(fā)展的必然趨勢。全球資源供應(yīng)緊張，環(huán)境惡化等問題正在加劇，在我國鄭重提出爭取2060年前實(shí)現(xiàn)“碳中和”目標(biāo)后，以風(fēng)光電為主的可再生能源成為未來重點(diǎn)能源將成為主要趨勢。從電源側(cè)來看，風(fēng)光電等新能源具有隨機(jī)性、間歇性、波動(dòng)性特征，大規(guī)模并網(wǎng)后，電力系統(tǒng)“雙高”“雙峰”的特性非常明顯，電網(wǎng)安全穩(wěn)定運(yùn)行和電力電量平衡將面臨極大考驗(yàn)。為保障輸電系統(tǒng)安全穩(wěn)定運(yùn)行，換流站運(yùn)維工作尤為重要。商湯以AI+AR技術(shù)助力電網(wǎng)智能巡檢，從而提高電力運(yùn)維效率、節(jié)省時(shí)間和人力成本，有效保障在新能源大規(guī)模并網(wǎng)后的電網(wǎng)運(yùn)行安全。2020年商湯科技與南方電網(wǎng)達(dá)成合作，在換流站進(jìn)行了首個(gè)工業(yè)級視覺定位AR技術(shù)試點(diǎn)研究。前期商湯錄入大量現(xiàn)場數(shù)據(jù)完成信息采集過程生成電站虛擬環(huán)境地圖，在后期關(guān)聯(lián)設(shè)備運(yùn)行信息以及疊加外部環(huán)境信息后，通過識別現(xiàn)場環(huán)境便能對巡檢人員實(shí)現(xiàn)精準(zhǔn)定位，幫助其確定最優(yōu)巡檢路線，避免誤入電站危險(xiǎn)區(qū)域，既節(jié)省巡檢時(shí)間，也從源頭上保障巡檢人員的安全。在巡檢過程中，借助智能裝備（AR眼鏡、平板電腦等），巡檢人員可全程自動(dòng)記錄作業(yè)過程和巡檢內(nèi)容，借助AI技術(shù)后臺系統(tǒng)自動(dòng)分析并一鍵完成巡檢報(bào)告，減輕巡檢人員的工作負(fù)擔(dān)，實(shí)現(xiàn)對換流站設(shè)備運(yùn)維作業(yè)的智能輔助和管控。除此之外，AR驅(qū)動(dòng)將一線人員生產(chǎn)區(qū)域的設(shè)備及環(huán)境完整“復(fù)刻”到電腦上，技術(shù)人員或電網(wǎng)專家便可以在電腦前標(biāo)記，將三維空間物體標(biāo)識和檢修說明推送到巡檢人員的AR眼鏡上，協(xié)同快速解決現(xiàn)場作業(yè)難題，完全突破空間限制，讓技術(shù)交流更加順暢便捷。商湯實(shí)踐：智慧醫(yī)療普惠全球在醫(yī)療領(lǐng)域，商湯SenseCare?AI輔助診療系統(tǒng)在提升醫(yī)療工作者工作效率的同時(shí)幫助遏制新冠疫情的擴(kuò)散，為實(shí)現(xiàn)聯(lián)合國健康與福祉的可持續(xù)發(fā)展目標(biāo)做出了貢獻(xiàn)。SDG3良好健康與福祉導(dǎo)言：聯(lián)合國可持續(xù)發(fā)展《目標(biāo)和具體分析》指出，企業(yè)可以提供創(chuàng)新的解決辦法，讓更多邊遠(yuǎn)地區(qū)人口獲得更高質(zhì)量的健康服務(wù)實(shí)現(xiàn)SDG3:良好健康與福祉。當(dāng)前，醫(yī)療資源分配不均是醫(yī)療領(lǐng)域面臨的主要問題。商湯通過AI賦能醫(yī)療，借助SenseCare?智慧診療平臺減少醫(yī)生的機(jī)械性診療工作并降低漏檢、誤檢率，此外還通過智慧醫(yī)院運(yùn)營平臺降低病人的就診成本，助力可持續(xù)發(fā)展目標(biāo)實(shí)現(xiàn)。21商湯科技·平衡發(fā)展的AI倫理觀

可可持持續(xù)續(xù)發(fā)發(fā)展展實(shí)實(shí)踐踐2019年5月19日2019年10月2019年2020年7月20日

商湯科技推出SenseCare智慧診療平臺商湯科技SenseCare智慧診療平臺具備高并發(fā)三維渲染能力，單臺設(shè)備能支持超過160位醫(yī)生同時(shí)進(jìn)行高質(zhì)量的三維渲染機(jī)交互，并供其進(jìn)行便捷且實(shí)時(shí)的交互式分析，能讓影像科及各臨床方向醫(yī)生更為便捷地進(jìn)行診、療、愈全棧操作。借助商湯原創(chuàng)的深度學(xué)習(xí)平臺，SenseCare還可針對不同科室的需求和工作流靈活拓展含有豐富AI算法模塊的臨床應(yīng)用，以滿足不同臨床方向診療愈的智能輔助。在2019商湯人工智能峰會上，上海第九人民醫(yī)院的專家以骨腫瘤為例，介紹其借助商湯SenseCare智慧診療平臺，極大地提高了骨腫瘤3D打印治療規(guī)劃的效率、精度和效果。商湯與多方聯(lián)合舉辦病理、放療兩大MICCAI國際挑戰(zhàn)賽國際頂級醫(yī)學(xué)圖像學(xué)術(shù)會議MICCAI2019如期在中國深圳舉辦。商湯科技有七篇論文入選主會，同時(shí)，作為大會重磅活動(dòng)之一，由商湯科技聯(lián)合多方舉辦的MICCAI2019消化道病理圖像檢測與分割、MICCAI2019放療規(guī)劃自動(dòng)結(jié)構(gòu)勾畫兩項(xiàng)國際挑戰(zhàn)賽亦完成激烈角逐，并面向研究領(lǐng)域開放了大量專家支持的高質(zhì)量標(biāo)注脫敏數(shù)據(jù)和專家知識，包括大量具有專家標(biāo)注的放療規(guī)劃CT數(shù)據(jù)以及行業(yè)第一個(gè)公開的消化系統(tǒng)病理圖像數(shù)據(jù)集。RSNA（北美放射學(xué)會）大會SenseCare智慧診療平臺收獲多方贊譽(yù)RSNA2019大會期間，商湯科技與醫(yī)療行業(yè)老牌強(qiáng)者GPS（通用電氣、飛利浦、西門子）同臺爭艷，展示了中國人工智能企業(yè)的實(shí)力。來自斯坦福大學(xué)、約翰霍普金斯大學(xué)、賓夕法尼亞大學(xué)等諸多美國頂尖高校教授和影像專家，和上海第九人民醫(yī)院、北京大學(xué)第三醫(yī)院等國內(nèi)醫(yī)院專家，以及三星、GE、西門子、日立、島津等企業(yè)代表紛紛到訪商湯科技展臺進(jìn)行深入交流。計(jì)算機(jī)視覺和醫(yī)學(xué)圖像領(lǐng)域的國際頂級專家DimitrisMetaxas教授及其放射領(lǐng)域合作伙伴們，也點(diǎn)贊SenseCare智慧診療平臺：“SenseCare不僅為影像科提供了很有效的工具，同時(shí)也為影像科和臨床科室醫(yī)生之間搭建起溝通的橋梁，讓影像的價(jià)值得到了充分的延伸?！鄙虦玈enseCare探索“聯(lián)邦學(xué)習(xí)”入選計(jì)算機(jī)視覺頂會ECCV由于涉及隱私等問題，全球各國都針對醫(yī)療數(shù)據(jù)制定了相關(guān)的保護(hù)政策，使得多中心數(shù)據(jù)共同訓(xùn)練變得愈發(fā)困難，而這又是醫(yī)療AI模型開發(fā)迭代必須的步驟。聯(lián)邦學(xué)習(xí)是一種分布式的機(jī)器學(xué)習(xí)方法，可以在不共享數(shù)據(jù)的情況下對多中心的數(shù)據(jù)進(jìn)行聯(lián)合建模，從技術(shù)上實(shí)現(xiàn)了保證數(shù)據(jù)安全的同時(shí)實(shí)現(xiàn)協(xié)作。依托深厚的學(xué)術(shù)研發(fā)底蘊(yùn)以及對行業(yè)趨勢的敏銳洞察，商湯攜手美國羅格斯大學(xué)計(jì)算機(jī)系計(jì)算生物醫(yī)學(xué)成像和建模研究中心，在全球頂級計(jì)算機(jī)視覺會議ECCV（EuropeanConferenceonComputerVision，歐洲計(jì)算機(jī)視覺國際會議）上發(fā)表了一項(xiàng)新的研究成果，創(chuàng)新地使用基于分布式生成對抗網(wǎng)絡(luò)（GAN）的結(jié)構(gòu)來實(shí)現(xiàn)聯(lián)邦學(xué)習(xí)，為打通AI醫(yī)療應(yīng)用的最后一公里開辟出一條“新的道路”。

商湯實(shí)踐：推廣人工智能基礎(chǔ)教育在教育領(lǐng)域，商湯通過研發(fā)一系列教育平臺產(chǎn)品及推行教師培訓(xùn)項(xiàng)目有效降低了AI數(shù)字鴻溝，為我國人工智能產(chǎn)業(yè)輸送了一大批創(chuàng)新型人才，使更多孩子享受到平等的AI教育機(jī)會。SDG4優(yōu)質(zhì)教育導(dǎo)言：秉承普及人工智能相關(guān)的科學(xué)知識、弘揚(yáng)科學(xué)精神、傳播科學(xué)思想、倡導(dǎo)科學(xué)方法的信念，商湯建立起一套縱向覆蓋從小學(xué)到本科、橫向兼顧“基礎(chǔ)、拓展、科創(chuàng)”的AI教學(xué)體系，陸續(xù)出版了AI教材11冊，并結(jié)合實(shí)驗(yàn)課程及機(jī)器人教具AI實(shí)驗(yàn)配套設(shè)施輔助，構(gòu)建理論與實(shí)踐結(jié)合、銜接貫通的人工智能教學(xué)體系。同時(shí)，通過師資培訓(xùn)、科創(chuàng)競賽等方式，幫助學(xué)校從0到1培訓(xùn)自己的AI教師隊(duì)伍，激發(fā)學(xué)生對AI的興趣，幫助國家培養(yǎng)和選拔面向未來的創(chuàng)新型AI人才。截至目前，商湯已將AI基礎(chǔ)教育推廣至全國30多個(gè)城市，2700多所中小學(xué)，共培訓(xùn)了7200多名一線任課教師。未來，隨著商湯科技與更多城市和院校的深化合作，AI基礎(chǔ)教育將在更多地方形成燎原之勢，更多孩子享受平等的AI教育機(jī)會。22 23商湯科技·平衡發(fā)展的AI倫理觀全國首個(gè)地市級人工智能高中教育基地在山西晉中落地2018年8月13日，全國首個(gè)地市級人工智能高中教育基地在山西晉中落地，教育部課程中心陳云龍?zhí)庨L見證了本次簽約儀式。他充分肯定了人工智能的重要性，并提出晉中市人工智能教育基地的落成對人工智能進(jìn)入高中課程起到了示范及引領(lǐng)效應(yīng)，創(chuàng)造了人工智能均衡教育的新典范。晉中市教育局黨組書記、局長張海榮發(fā)表講話并指出，此次晉中教育與商湯集團(tuán)的戰(zhàn)略合作，要在全市35所高中學(xué)校開設(shè)人工智能課程，打造全國首個(gè)市級人工智能教學(xué)基地。讓晉中成為商湯集團(tuán)中小學(xué)人工智能選修課程開設(shè)、產(chǎn)品開發(fā)應(yīng)用、智慧教育建設(shè)的“試驗(yàn)良田”，把晉中打造成全國有影響、有地位、有成效的市級人工智能教學(xué)和人才培養(yǎng)高地。在“晉中模式”的示范引領(lǐng)下，商湯科技以《人工智能基礎(chǔ)(高中版)》教材為基礎(chǔ)，通過人工智能教師培訓(xùn)、課程內(nèi)容統(tǒng)一部署與落地、實(shí)踐項(xiàng)目等全方位布局，形成良好的人工智能基礎(chǔ)教育體系，推動(dòng)晉中人才高質(zhì)量發(fā)展。相關(guān)SDGs：SDG1-無貧窮；SDG10-減少不平等江西贛州章貢區(qū)教育扶貧捐助2020年9月7日，商湯科技向章貢區(qū)政府捐贈(zèng)了支持全區(qū)開展AI教育的基礎(chǔ)設(shè)施和服務(wù)資源，推動(dòng)AI基礎(chǔ)教育在章貢的落地和普及，培養(yǎng)當(dāng)?shù)貛烝I素養(yǎng)，實(shí)現(xiàn)AI基礎(chǔ)教育的普惠和均衡發(fā)展。通過此次項(xiàng)目，商湯將有力幫助章貢區(qū)進(jìn)一步提升教育水平，助力脫貧攻堅(jiān)工作，為這一區(qū)域打造增長新動(dòng)能。相關(guān)SDGs：SDG1-無貧窮

商湯發(fā)布《AI教育白皮書:智能時(shí)代的教育變革與創(chuàng)新實(shí)踐》為回答人工智能教育面臨的諸多嚴(yán)峻問題，商湯科技于2020年12月16日正式發(fā)布《AI教育白皮書：智能時(shí)代的教育變革與創(chuàng)新實(shí)踐》（以下簡稱白皮書）?！栋灼坊貞?yīng)了智能時(shí)代AI教育的新命題，從商湯教育落地山東青島、山西晉中案例入手，剖析傳統(tǒng)信息技術(shù)教育與人工智能教育的核心差異，探討“普惠而均衡的AI教育”理念，呼吁建設(shè)開放共享的AI教育體系。相關(guān)SDGs：SDG1-無貧窮；SDG10-減少不平等北京市山西晉中山東青島上海市江西贛州2019年開始連續(xù)三年舉辦國際青少年人工智能交流展示會（IAIF）為了讓同學(xué)們把在學(xué)校學(xué)習(xí)到的人工智能知識和AI創(chuàng)新精神學(xué)以致用，商湯教育于2019年開始連續(xù)三年舉辦國際青少年人工智能交流展示會，三屆大賽累計(jì)下來的學(xué)生參與者達(dá)4000余人，覆蓋到全球14個(gè)國家和地區(qū)，以及全國個(gè)省份。

可可持持續(xù)續(xù)發(fā)發(fā)展展實(shí)實(shí)踐踐全球第一所商湯人工智能教育研究院落戶青島2019年3月29日，商湯科技全球布局的第一所人工智能教育研究院正式落戶青島。青島教育局、嶗山區(qū)政府分別與商湯科技簽署《合作備忘錄》，確定在“人工智能+教育”領(lǐng)域展開全面合作。2019年9月起全市在100所人工智能試點(diǎn)中小學(xué)，至少2萬名學(xué)生中全面開展人工智能教育。2019年累計(jì)開展10場教師培訓(xùn)活動(dòng)，參訓(xùn)教師468名；2020年8月累計(jì)開展3場線上教師培訓(xùn)活動(dòng)，參訓(xùn)教師451名。通過培養(yǎng)，青島地區(qū)涌現(xiàn)出67名優(yōu)秀骨干教師，積極發(fā)揮輻射帶頭作用，引領(lǐng)AI課程的建設(shè)。上海市徐匯區(qū)中小學(xué)開始試點(diǎn)實(shí)施“人工智能”基礎(chǔ)型課程2019年10月，在徐匯區(qū)8所高中、12所初中和10所小學(xué)開始試點(diǎn)實(shí)施“人工智能”基礎(chǔ)型課程。2020年徐匯區(qū)全面開始人工智能基礎(chǔ)型課程實(shí)施。依據(jù)國家版本的普通高中《信息技術(shù)課程標(biāo)準(zhǔn)》，商湯科技聯(lián)同徐匯區(qū)教育局一起設(shè)計(jì)并編制了《徐匯區(qū)中小學(xué)人工智能課程實(shí)施意見》和《徐匯區(qū)中小學(xué)人工智能課程教學(xué)基本要求》。2019年4月徐匯區(qū)舉辦了本區(qū)教師第一次人工智能課程培訓(xùn)。上海市盧灣高級中學(xué)正式掛牌成為商湯科技實(shí)驗(yàn)學(xué)校作為上海市實(shí)驗(yàn)性示范性高中，上海市盧灣高級中學(xué)以科學(xué)教育辦學(xué)為特色，促進(jìn)信息化時(shí)代人工智能教育課程的開發(fā)和學(xué)習(xí)方式的轉(zhuǎn)變。2019年正式掛牌成為商湯科技實(shí)驗(yàn)學(xué)校，共同打造人工智能標(biāo)桿校，并設(shè)立人工智能獎(jiǎng)學(xué)金、獎(jiǎng)教金，獎(jiǎng)勵(lì)在人工智能教育及學(xué)習(xí)上表現(xiàn)優(yōu)異的師生。學(xué)校已建設(shè)人工智能教學(xué)平臺，普及推廣人工智能課程；同時(shí)搭建科創(chuàng)平臺，培養(yǎng)人工智能科創(chuàng)人才。在科學(xué)系統(tǒng)的科創(chuàng)輔導(dǎo)下，學(xué)校學(xué)生榮獲第十八屆“明日科技之星”稱號。上海交通大學(xué)附屬中學(xué)與商湯合作建設(shè)人工智能實(shí)驗(yàn)室作為全國百強(qiáng)校，上海高中四大名校之一，上海交通大學(xué)附屬中學(xué)突出科技創(chuàng)新特色，創(chuàng)建“拔尖創(chuàng)新人才培養(yǎng)基地”，為了培養(yǎng)學(xué)生人工智能基礎(chǔ)技能與意識、科技創(chuàng)新流程與技巧等能力，2020年與商湯合作建設(shè)人工智能實(shí)驗(yàn)室，制定了科創(chuàng)課程內(nèi)容和完整的授課計(jì)劃。同年年底，在第三屆上海市青少年人工智能挑戰(zhàn)賽上，通過商湯科創(chuàng)輔導(dǎo)的12位同學(xué)參加了AI研究成果和AI大挑戰(zhàn)兩個(gè)比賽項(xiàng)目，斬獲12個(gè)獎(jiǎng)項(xiàng)（全市共25人獲獎(jiǎng)），含3個(gè)一等獎(jiǎng)、4個(gè)二等獎(jiǎng)、5個(gè)三等獎(jiǎng)。24 25商湯科技·平衡發(fā)展的AI倫理觀第三部分以人為本實(shí)踐商湯實(shí)踐：商湯智慧醫(yī)療SenseCare平臺，賦能前線醫(yī)生商湯實(shí)踐：賦能智慧文旅，迎接元宇宙世界到來商湯實(shí)踐：智慧乘客服務(wù)平臺，賦能成都城市地鐵交通系統(tǒng)26

以以人人為為本本實(shí)實(shí)踐踐案案例例可持續(xù)發(fā)展思想強(qiáng)調(diào)社會發(fā)展是以人為本的綜合發(fā)展。它在促進(jìn)人與社會、環(huán)境、經(jīng)濟(jì)、政治、文化協(xié)調(diào)發(fā)展的過程中，使人成為自然同時(shí)也成為社會的真正主人?？沙掷m(xù)發(fā)展思想認(rèn)為社會發(fā)展本質(zhì)上是人多種價(jià)值要求的實(shí)現(xiàn)過程和人自身價(jià)值的實(shí)現(xiàn)過程。它要求在社會發(fā)展過程中，必須培養(yǎng)社會的人的一切屬性，使每一個(gè)人能夠把自己本身當(dāng)作現(xiàn)有的、活生生的主體來對待?？沙掷m(xù)發(fā)展教育力求把每個(gè)人培養(yǎng)成為自主、和諧與全面發(fā)展的人，也就是物質(zhì)需求和精神需求達(dá)到高度統(tǒng)一的人，這正是可持續(xù)發(fā)展思想的終極價(jià)值目標(biāo)，因此在人工智能發(fā)展過程中，也要注重“以人為本”的價(jià)值體系。在“以人為本”的價(jià)值體系的引導(dǎo)下，商湯積極推進(jìn)AI可持續(xù)發(fā)展目標(biāo)的落實(shí)，以實(shí)際行動(dòng)推動(dòng)以人為本的價(jià)值觀在不同產(chǎn)業(yè)領(lǐng)域的實(shí)踐，履行其作為AI行業(yè)領(lǐng)導(dǎo)者的社會責(zé)任和愿景使命。商湯實(shí)踐：商湯智慧醫(yī)療SenseCare平臺，賦能前線醫(yī)生圖商湯AI醫(yī)療影像團(tuán)隊(duì)疫情期間馳援各地醫(yī)院27商湯科技·平衡發(fā)展的AI倫理觀本次疫情中，肺部CT影像是新冠肺炎臨床診斷中的重要參考。商湯聯(lián)合湖北省多家醫(yī)院，迅速開發(fā)出基于SenseCare?胸部CT智能臨床解決方案的新冠肺炎功能升級。該產(chǎn)品憑借領(lǐng)先的深度學(xué)習(xí)算法輔助影像科醫(yī)生快速完成對肺部CT圖像的篩查，自動(dòng)提示CT中的疑似新冠肺炎病灶位置，并在2-3秒內(nèi)即可完成定量分析，助力盡早實(shí)施核酸檢測、隔離等進(jìn)一步措施，以實(shí)現(xiàn)早發(fā)現(xiàn)、早隔離、早治療，為患者爭取寶貴時(shí)間、最大程度避免交叉感染。作為戰(zhàn)“疫”最前線，為確?！皯?yīng)收盡收”，湖北省此前曾將“疑似病例具有肺炎影像學(xué)特征者”納入臨床診斷病例，這意味著只要患者具備臨床表現(xiàn)和肺炎CT影像學(xué)特征，便被列入新冠肺炎的新增病例，也導(dǎo)致影像醫(yī)生工作任務(wù)的艱巨性在短時(shí)間內(nèi)大幅增加。為了以最快的速度緩解前線醫(yī)生的壓力，商湯將SenseCare?胸部CT智能臨床解決方案以云服務(wù)的模式接入到合作伙伴的醫(yī)學(xué)影像閱片平臺，通過遠(yuǎn)程的方式快速馳援十余家前線醫(yī)院及多地醫(yī)院和醫(yī)療機(jī)構(gòu)，為醫(yī)生提供免費(fèi)的AI輔助分析。疫情期間，青島西海岸新區(qū)人民醫(yī)院作為青島市指定新冠肺炎患者收治單位，肩負(fù)著重要的篩查工作職責(zé)。商湯智慧醫(yī)療團(tuán)隊(duì)在2020年2月疫情最緊張的階段，緊急協(xié)調(diào)服務(wù)器資源，克服大雪天氣、物流不暢等重重困難連夜趕往醫(yī)院進(jìn)行裝機(jī)，確保了醫(yī)生第二天即使用上有跡可循、有據(jù)可依的AI智能輔助。在各地人員開始返程復(fù)工期間，青島西海岸新區(qū)人民醫(yī)院曾接到一個(gè)批次就120人的復(fù)工CT體檢任務(wù)，在AI的輔助下，醫(yī)生僅僅用了20分鐘就把診斷報(bào)告全部發(fā)出，極大提升了復(fù)工篩查效率，避免人員長時(shí)間滯留醫(yī)院，降低交叉感染風(fēng)險(xiǎn)。商湯實(shí)踐：賦能智慧文旅，迎接元宇宙世界到來旅游產(chǎn)業(yè)在疫情期間受到嚴(yán)重沖擊，但從過往數(shù)據(jù)和長遠(yuǎn)發(fā)展看，旅游早已成為中國居民主要的閑余活動(dòng)和生活方式，并在消費(fèi)升級的引領(lǐng)下迎來新的發(fā)展機(jī)遇。據(jù)文旅部統(tǒng)計(jì)，從2013年到2019年，國內(nèi)旅游人數(shù)從32.62億人次增長到60.06億人次，將近翻了一番，年均增速超過10%，無論是出游規(guī)模還是出游人次，我國都已進(jìn)入了大眾旅游時(shí)代。盡管各類APP在旅游支付、行程管理上提供了使用便捷，但供給側(cè)的旅行配套服務(wù)不到位、景區(qū)大顆粒度式管理，以及景觀內(nèi)容缺乏創(chuàng)新、千篇一律，與實(shí)際消費(fèi)需求之間嚴(yán)重脫節(jié)，是現(xiàn)階段掣肘旅游產(chǎn)業(yè)發(fā)展的主要矛盾，“強(qiáng)管理、優(yōu)服務(wù)、重體驗(yàn)、多創(chuàng)新”是旅游業(yè)轉(zhuǎn)型的主要目標(biāo)；與此同時(shí)，在文旅部推動(dòng)下，“文化”與“旅游”的跨界融合已成為旅游業(yè)供給側(cè)改革的新趨勢。

以以人人為為本本實(shí)實(shí)踐踐案案例例隨著5G、物聯(lián)網(wǎng)、云計(jì)算、人工智能、大數(shù)據(jù)、AR/VR、高清視頻等技術(shù)的成熟與應(yīng)用，新一代信息技術(shù)成為促進(jìn)文旅融合、產(chǎn)業(yè)轉(zhuǎn)型的新引擎，以文化為內(nèi)涵、旅游為載體、技術(shù)為動(dòng)力，推動(dòng)旅游產(chǎn)業(yè)向“智慧文旅”方向升級。圍繞“強(qiáng)管理、優(yōu)服務(wù)、重體驗(yàn)、多創(chuàng)新”目標(biāo)，智慧文旅的建設(shè)與發(fā)展主要體現(xiàn)在三個(gè)方面：一是面向文旅企業(yè)（ToB），提升文旅服務(wù)和產(chǎn)品的智慧化。包括AR導(dǎo)游、智慧景區(qū)、智慧游樂、智慧文娛、智慧文博、虛擬旅游、大數(shù)據(jù)精準(zhǔn)營銷等全方位的服務(wù)。二是面向政府和景區(qū)（ToG），強(qiáng)化景區(qū)精細(xì)化管理，提升公共服務(wù)的智慧化。包括景區(qū)動(dòng)態(tài)監(jiān)測、信息監(jiān)管、大數(shù)據(jù)統(tǒng)計(jì)分析、景區(qū)人流引導(dǎo)、安全預(yù)警等內(nèi)容，全面了解行業(yè)和游客需求、旅游目的地動(dòng)態(tài)、投訴建議等內(nèi)容，推動(dòng)傳統(tǒng)旅游管理方式向現(xiàn)代管理方式轉(zhuǎn)變，實(shí)現(xiàn)政府的科學(xué)決策和管理。三是面向消費(fèi)者（ToC），提升創(chuàng)新文旅體驗(yàn)和消費(fèi)服務(wù)的智慧化。推動(dòng)文化旅游資源與多樣化、個(gè)性化消費(fèi)需求的高效對接，實(shí)現(xiàn)精準(zhǔn)的線上線下無縫服務(wù)和深度文化體驗(yàn)等實(shí)時(shí)、互動(dòng)、個(gè)性化服務(wù)，提升用戶體驗(yàn)。28 29商湯科技·平衡發(fā)展的AI倫理觀商湯科技便憑借智能感知、智能內(nèi)容生成和智能內(nèi)容增強(qiáng)等原創(chuàng)AI技術(shù)的積累，推出了SenseME水星智能移動(dòng)終端平臺及SenseMARS火星混合現(xiàn)實(shí)平臺，成為目前最大的元宇宙賦能平臺之一。依托SenseCore商湯AI大裝置，SenseMARS火星混合現(xiàn)實(shí)平臺目前已涵蓋超過3,500個(gè)模型，擁有城市級大尺度高精三維數(shù)字化空間構(gòu)建、全場域厘米級端云協(xié)同空間定位，以及跨平臺的終端空間感知計(jì)算等驅(qū)動(dòng)空間元宇宙的多種關(guān)鍵能力，可高效構(gòu)建與現(xiàn)實(shí)世界對應(yīng)的數(shù)字孿生世界，實(shí)現(xiàn)現(xiàn)實(shí)世界和虛擬世界的連接。在成都IFS國際金融中心，商湯科技不僅實(shí)現(xiàn)了高精度AR導(dǎo)航，更通過導(dǎo)航串聯(lián)品牌營銷活動(dòng)，促進(jìn)顧客活躍度，以空間元宇宙為線下零售業(yè)態(tài)打造了全新的流量入口和營銷閉環(huán)。2021年7月，商湯科技還與Bilibili合作，在其線下嘉年華活動(dòng)——BilibiliWorld中共同打造虛擬體驗(yàn)館，將平日里只出現(xiàn)在彈幕視頻里的二維虛擬主播，以鮮活的三維形象來到玩家眼前，與玩家展開跨越次元壁的虛實(shí)互動(dòng)，以空間元宇宙開創(chuàng)了互動(dòng)娛樂新模式。商湯還充分發(fā)揮跨行業(yè)優(yōu)勢，將AR與智能駕駛技術(shù)融合應(yīng)用，創(chuàng)新性的打造SenseAutoAR-Robobus絕影自動(dòng)駕AR小巴，將車窗變?yōu)橐粔K屏幕，讓乘客在虛實(shí)融合的視覺奇景中，一覽城市、人文等景觀，以空間元宇宙創(chuàng)造園區(qū)、景區(qū)游覽新體驗(yàn)。商湯實(shí)踐：智慧乘客服務(wù)平臺，賦能成都城市地鐵交通系統(tǒng)2020年3月，中共中央政治局常務(wù)委員會召開會議，研究決定要推動(dòng)新型基礎(chǔ)設(shè)施建設(shè)，其中城市軌道交通和人工智能是新基建的重要方向。2020年4月，發(fā)改委進(jìn)一步明確“新基建”概念內(nèi)涵，將新型基礎(chǔ)設(shè)施劃分為創(chuàng)新基礎(chǔ)設(shè)施、信息基礎(chǔ)設(shè)施和融合基礎(chǔ)設(shè)施三個(gè)方面，人工智能賦能地鐵是融合基礎(chǔ)設(shè)施中的重要內(nèi)容。地鐵已經(jīng)成為城市交通出行不可或缺的方式，隨著地鐵規(guī)模增大，安全保障、運(yùn)營效率、服務(wù)質(zhì)量等多方面需求相互交織，都迫切需要打造智慧地鐵大腦，為地鐵賦能實(shí)現(xiàn)智能化管理。商湯科技攜手智元匯共同打造的“智慧乘客服務(wù)平臺”，涵蓋智慧票務(wù)、智慧安檢等多種系統(tǒng)，依托SenseFoundryTraffic商湯睿途智慧交通平臺多項(xiàng)原創(chuàng)領(lǐng)先的AI技術(shù)，為成都地鐵票檢工作降本增效。智元匯智慧乘客服務(wù)平臺項(xiàng)目實(shí)施負(fù)責(zé)人蒲磊表示：“依托商湯科技在通用視覺領(lǐng)域的核心技術(shù)優(yōu)勢以及分布式架構(gòu)等軟硬件協(xié)同能力，平臺在乘客體驗(yàn)上帶來了突破和創(chuàng)新。未來將與商湯科技不斷深化合作，用AI技術(shù)為智慧軌道交通建設(shè)按下‘加速鍵’?！?/p>

以以人人為為本本實(shí)實(shí)踐踐案案例例成都地鐵以中心化方式部署服務(wù)器，能極大降低運(yùn)維成本，但也給算法和網(wǎng)絡(luò)傳輸帶來巨大挑戰(zhàn)。對此，SenseFoundryTraffic商湯睿途智慧交通平臺創(chuàng)新采用異構(gòu)并行計(jì)算分布式架構(gòu)，基于支付級百萬分之一誤識率的超高精度原創(chuàng)算法，通過各站點(diǎn)?？偷讕炫c中心服務(wù)器完整底庫的并行檢索比對方式，實(shí)現(xiàn)響應(yīng)速度的大幅提升，并顯著簡化了線網(wǎng)部署的復(fù)雜度。實(shí)際應(yīng)用中，從信息獲取、識別、比對、支付到票務(wù)平臺的整個(gè)流程處理只需不到200ms，乘客過閘時(shí)沒有任何延遲感。閘機(jī)終端更采用定制化商湯SensePassPro一體機(jī)，在復(fù)雜光照、多人通行等場景下，也能精準(zhǔn)完成比對和活體檢測。同時(shí)乘客應(yīng)用“無感通行”進(jìn)站時(shí)無需取下口罩，并可自動(dòng)檢測口罩佩戴狀態(tài)，保障疫情常態(tài)化防控階段的乘車安全。目前，市民乘客通過成都地鐵App已經(jīng)可自主選擇開通此功能，即可享受全線“無感通行”。未來，在SenseCore商AI大裝置的支持下，商湯還將針對車站管理中的更多長尾問題，自動(dòng)化、高效率地量產(chǎn)各類高質(zhì)量算法，為乘客打造安全與效率并舉的乘車體驗(yàn)。30 31商湯科技·平衡發(fā)展的AI倫理觀第四部分技術(shù)可控實(shí)踐商湯實(shí)踐：數(shù)據(jù)隱私保護(hù)商湯實(shí)踐：AI倫理風(fēng)控與審核商湯實(shí)踐：AI倫理高校聯(lián)合研究32

技技術(shù)術(shù)可可控控當(dāng)前，隨著人工智能技術(shù)應(yīng)用的廣度和深度不斷拓展，正在成為信息基礎(chǔ)設(shè)施的重要組成，但在這個(gè)過程中也不斷暴露出一些風(fēng)險(xiǎn)隱患，包括數(shù)據(jù)濫用導(dǎo)致的隱私泄露風(fēng)險(xiǎn)、算法安全導(dǎo)致的應(yīng)用風(fēng)險(xiǎn)、系統(tǒng)決策復(fù)雜導(dǎo)致責(zé)任主體難以界定等。面對人工智能技術(shù)引發(fā)的風(fēng)險(xiǎn)，推動(dòng)可信人工智能技術(shù)發(fā)展，從而實(shí)現(xiàn)人工智能的技術(shù)可控成為了全球共識。我們認(rèn)為，“技術(shù)可控”既指應(yīng)用層面的合規(guī)可控（例如數(shù)據(jù)隱私保護(hù)），更指核心技術(shù)的自主可控，即以自主可控為跟進(jìn)，通過理論創(chuàng)新、技術(shù)突破形成核心競爭力是關(guān)鍵。本部分通過討論數(shù)據(jù)隱私保護(hù)、人工智能訓(xùn)練開發(fā)平臺的技術(shù)可控以及通過創(chuàng)新型技術(shù)的研究課題來實(shí)現(xiàn)技術(shù)可控的案例，介紹了商湯在相關(guān)領(lǐng)域的實(shí)踐如何體現(xiàn)技術(shù)可控的原則。商湯實(shí)踐：數(shù)據(jù)隱私保護(hù)商湯是第一家獲得全部三項(xiàng)ISO/IEC隱私信息管理系統(tǒng)、信息安全管理和個(gè)人身份信息保護(hù)認(rèn)證的人工智能公司。我們高度重視數(shù)據(jù)安全及保護(hù)，我們已采取標(biāo)準(zhǔn)保護(hù)措施，包括保密分頻、訪問控制、數(shù)據(jù)加密及脫敏，以防止未經(jīng)授權(quán)訪問、泄露、不當(dāng)使用或修改、損害或丟失數(shù)據(jù)及個(gè)人信息。數(shù)據(jù)安全及個(gè)人信息保護(hù)管理委員會監(jiān)督數(shù)據(jù)安全及個(gè)人信息保護(hù)工作。我們已建立全面的個(gè)人信息管理系統(tǒng)，并制訂一系列技術(shù)標(biāo)準(zhǔn)及規(guī)范，以確保數(shù)據(jù)及個(gè)人信息于整個(gè)生命周期內(nèi)的安全。下文陳列我們數(shù)據(jù)及個(gè)人信息保護(hù)措施的主要舉措：（1）數(shù)據(jù)的授權(quán)存取及使用在數(shù)據(jù)的授權(quán)存取及使用方面，我們要求客戶確認(rèn)其已從合法來源獲取該數(shù)據(jù)的使用權(quán)且終端用戶已同意協(xié)議中指定的使用目的。我們僅使用數(shù)據(jù)作客戶明確授權(quán)的用途，例如身份核實(shí)、記錄保存及統(tǒng)計(jì)數(shù)據(jù)，不會將數(shù)據(jù)用于未經(jīng)事先批準(zhǔn)及同意的用途。我們持續(xù)監(jiān)控與第三方的數(shù)據(jù)處理合作，并定期審查該等合作的內(nèi)容、合作協(xié)議的范圍及該等協(xié)議的執(zhí)行情況，以確保遵守相關(guān)法律法規(guī)。我們高度重視數(shù)據(jù)安全及保護(hù)，已采取標(biāo)準(zhǔn)保護(hù)措施，包括保密分類、訪問控制、數(shù)據(jù)加密及脫敏，以防止未經(jīng)授權(quán)訪問、泄露、不當(dāng)使用或修改、損害或丟失數(shù)據(jù)及個(gè)人數(shù)據(jù)。（2）獨(dú)立數(shù)據(jù)庫及安全服務(wù)器系統(tǒng)我們擁有自己獨(dú)立的數(shù)據(jù)庫，并且不會與其他第三方共享客戶或終端用戶的個(gè)人信息。我們的服務(wù)器系統(tǒng)已受增強(qiáng)的安全級別保護(hù)。我們定期對服務(wù)器運(yùn)營推行用戶賬戶審核及監(jiān)控。一旦發(fā)現(xiàn)若干服務(wù)器系統(tǒng)出現(xiàn)安全問題，我們將立即升級有關(guān)系統(tǒng)，以確保服務(wù)器系統(tǒng)及應(yīng)用的安全。我們已加強(qiáng)系統(tǒng)中敏感個(gè)人信息的加密力度，以確保數(shù)據(jù)保密性。我們擁有全面的個(gè)人信息安全及管理系統(tǒng)，涵蓋我們數(shù)據(jù)、源代碼、個(gè)人信息、第三方人員、網(wǎng)絡(luò)安全事件及基礎(chǔ)設(shè)施的安全管理。33商湯科技·平衡發(fā)展的AI倫理觀（3）全面的數(shù)據(jù)及個(gè)人信息安全及管理政策我們已實(shí)施全面的雇員保密政策、數(shù)據(jù)使用審批程序及數(shù)據(jù)追蹤機(jī)制，以確保我們數(shù)據(jù)庫的安全性。我們已根據(jù)相關(guān)規(guī)則及法規(guī)制訂相應(yīng)的工作流程。作為數(shù)據(jù)處理者，我們已實(shí)施多項(xiàng)數(shù)據(jù)保護(hù)及網(wǎng)絡(luò)安全措施，以確保我們妥善處理敏感數(shù)據(jù)，包括我們用于所有數(shù)據(jù)培訓(xùn)活動(dòng)的數(shù)據(jù)脫敏技術(shù)。通過對技術(shù)進(jìn)步的持續(xù)投資，我們提高整體安全能力。同時(shí)，我們獲得信息安全管理體系認(rèn)證（ISO/IEC27001:2013）、個(gè)人身份信息保護(hù)管理體系認(rèn)證（ISO/IEC29151:2017）及隱私信息管理系統(tǒng)體系認(rèn)證（ISO/IEC27701:2019）等多項(xiàng)認(rèn)證，重點(diǎn)產(chǎn)品已通過信息安全登記保護(hù)評測。根據(jù)海外業(yè)務(wù)的需要，我們已正式啟動(dòng)國際隱私標(biāo)準(zhǔn)BS10012（對標(biāo)歐盟GDPR個(gè)人信息保護(hù)法案）的認(rèn)證工作，預(yù)計(jì)2022年年初獲取證書。此外，在產(chǎn)品設(shè)計(jì)方面我們高度重視數(shù)據(jù)安全，且產(chǎn)品在推出或交付給客戶前必須通過數(shù)據(jù)隱私評估及安全測試。（4）數(shù)據(jù)平臺的隱私處理數(shù)據(jù)安全及隱私保護(hù)被視為我們訓(xùn)練數(shù)據(jù)平臺的基本要求，我們力求遵循最高標(biāo)準(zhǔn)的信息安全及數(shù)據(jù)隱私。具體而言，我們通過系統(tǒng)性的訪問控制及數(shù)據(jù)加密來保護(hù)數(shù)據(jù)并通過自動(dòng)脫敏保護(hù)數(shù)據(jù)隱私。我們隱去個(gè)人及敏感信息，確保數(shù)據(jù)用于訓(xùn)練時(shí)不附帶任何個(gè)人信息，在DCP技術(shù)平臺中，我們開發(fā)了數(shù)據(jù)網(wǎng)關(guān)，確保數(shù)據(jù)進(jìn)入集群的合規(guī)性。針對汽車等特定場景，我們也制訂了《汽車傳輸視頻及圖像脫敏技術(shù)要求與方法》這樣的團(tuán)體標(biāo)準(zhǔn)來實(shí)現(xiàn)更好的數(shù)據(jù)合規(guī)。（5）定期審核及應(yīng)急計(jì)劃我們每年對數(shù)據(jù)安全合規(guī)狀況進(jìn)行專項(xiàng)審核。2021年度共計(jì)現(xiàn)場訪談了BI產(chǎn)線、智慧城市產(chǎn)品線、智能駕駛產(chǎn)線、SenseID產(chǎn)線、互娛產(chǎn)品線的研發(fā)&測試&交付全流程。專項(xiàng)工作組針對高危展項(xiàng)進(jìn)行了排查，推動(dòng)了高危展項(xiàng)隱私的整改落地，并制定了展廳展項(xiàng)安全審核流程。我們已制定網(wǎng)絡(luò)安全應(yīng)急計(jì)劃，并每年進(jìn)行培訓(xùn)及安全演示，為任何緊急網(wǎng)絡(luò)安全事件做好準(zhǔn)備。若安全措施受到影響，我們將根據(jù)相關(guān)法律法規(guī)向主管部門報(bào)告，并及時(shí)通知受影響的用戶。商湯實(shí)踐：算法/芯片評測商湯通過基于真實(shí)場景下的數(shù)據(jù)集的算法驗(yàn)證與評測，實(shí)現(xiàn)AI技術(shù)的真正可信與可控。算法測評的不僅僅保障了AI算法應(yīng)用的可靠與可信，也使得整個(gè)算法實(shí)施的結(jié)果能夠在產(chǎn)品開發(fā)的全流程中實(shí)現(xiàn)應(yīng)用的技術(shù)可控。通過算法測評實(shí)現(xiàn)技術(shù)可信可控的人工智能的意義在于將人工智能原則轉(zhuǎn)化為了具體實(shí)踐，落實(shí)到了技術(shù)、產(chǎn)品與應(yīng)用中去，是AI企業(yè)回應(yīng)社會關(guān)切、防范AI倫理風(fēng)險(xiǎn)、解決突出的應(yīng)用實(shí)踐矛盾的重要路徑和必然選擇，也是關(guān)系到人工智能技術(shù)長遠(yuǎn)發(fā)展的重要工作。

技技術(shù)術(shù)可可控控具體來說，一方面算法評測可以幫助我們對AI算法的行為與結(jié)果進(jìn)行充分、完整和一致性的測試，保障算法的結(jié)果是完全是可以被預(yù)測和控制的，從而實(shí)現(xiàn)了在結(jié)果層面的穩(wěn)定與可信；另一方面，我們通過專業(yè)的測評，保障算法能夠被完整、充分和正確的被定義與使用，其定義的規(guī)則及其后果可以通過數(shù)據(jù)集反復(fù)驗(yàn)證得到可靠的結(jié)果，實(shí)現(xiàn)了AI技術(shù)的可信與可控。通過算法測評的方式，可以通過真實(shí)的數(shù)據(jù)集全面的對算法真實(shí)的應(yīng)用場景進(jìn)行測評，圍繞“AI算法的數(shù)據(jù)隱私保護(hù)”、“AI算法的魯棒性”、“AI算法的公平性”等多個(gè)方面，對AI產(chǎn)品與開放的全流程進(jìn)行測評，包括不限于數(shù)據(jù)處理、模型構(gòu)建、模型部署以及支撐與服務(wù)相關(guān)的產(chǎn)品流程，通過對人工智能算法研發(fā)和使用過的整個(gè)生命周期過程中貫徹“技術(shù)可控”的要求，從產(chǎn)品源頭確保了人工智能算法的可信品質(zhì)。除此之外，我們還關(guān)注芯片的測評工作，聯(lián)合產(chǎn)業(yè)并聯(lián)合產(chǎn)業(yè)生態(tài)上下游形成智算聯(lián)盟，來更好的實(shí)現(xiàn)技術(shù)可控的目標(biāo)，具體舉措如下：（1）針對商業(yè)化算法場景的全面評測通過對主要場景和長尾場景的算法測評的全覆蓋，我們實(shí)現(xiàn)了所有商業(yè)化算法的可信與可控。為了保障算法評測覆蓋的全面性，我們將算法評測的對象按大類分為主算法和長尾算法兩個(gè)部分，主算法是人臉、人體和結(jié)構(gòu)化屬性，車輛車牌識別和結(jié)構(gòu)化屬性等，長尾算法是指特定場景的專用算法，涉及智慧城市，智慧軌道交通和智慧車站等。其中主算法的測評包括靜態(tài)場景算法評測與動(dòng)態(tài)場景算法評測，而長尾算法則根據(jù)不同的場景進(jìn)行全面的細(xì)節(jié)評測。（2）全方位多數(shù)據(jù)集的算法評測為了保障算法能夠被完整、正確與充分的使用，在測評過程中我們通過足夠充分的數(shù)據(jù)集以及全方面的評測方案對算法進(jìn)行充分的評測。主算法的評測以圖片解析為主，會按照學(xué)術(shù)的精準(zhǔn)率、召回率、準(zhǔn)確率、F值計(jì)算：長尾算法大多數(shù)以事件檢測為主，使用帶有事件的視頻，有的是以算法精度測試有漏報(bào)和誤報(bào)來計(jì)算準(zhǔn)確率的指標(biāo)，有的是以事件發(fā)生的時(shí)間區(qū)間維度的準(zhǔn)確率指標(biāo)，也有按照視頻內(nèi)目標(biāo)對象的事件維度準(zhǔn)確率指標(biāo)。以SenseCore大裝置為例，其支持108類算法的部署，87類不同的精度評測方案以及1279個(gè)測試數(shù)據(jù)集。（3）推動(dòng)算法測評的成熟與創(chuàng)新隨著算法測評的工作實(shí)踐逐步成熟，我們逐步推動(dòng)行業(yè)算法測評標(biāo)準(zhǔn)的形成，以推動(dòng)人工智能技術(shù)在普遍意義上的可信與可控。我們將目前所使用的主算法評測的方式與實(shí)踐提煉出來，打造了一系列行業(yè)標(biāo)準(zhǔn)。而在長尾場景的測評中，我們所提出很多創(chuàng)新的測試方法。例如使用最先進(jìn)的逐幀標(biāo)注方法，目前正在申請8項(xiàng)基于事件的算法測評專利，而業(yè)界目前沒有從這個(gè)角度去做任何創(chuàng)新的測評方法，商湯首先在產(chǎn)業(yè)實(shí)踐中去應(yīng)用了該方法提升算法測評的可靠性。34 35商湯科技·平衡發(fā)展的AI倫理觀（4）組建智算聯(lián)盟，推動(dòng)多家廠商的芯片評測落實(shí)2021年7月9日，商湯科技聯(lián)合中國電子技術(shù)標(biāo)準(zhǔn)化研究院，中國信息通信研究院華東分院、清華大學(xué)、上海交通大學(xué)、復(fù)旦大學(xué)，及華為、寒武紀(jì)、燧原科技等多個(gè)行業(yè)伙伴成立人工智能算力產(chǎn)業(yè)生態(tài)聯(lián)盟（智算聯(lián)盟），旨在不斷探索AI算力創(chuàng)新應(yīng)用，推動(dòng)國產(chǎn)AI算力的落地應(yīng)用，建立自主可控的AI算力開發(fā)生態(tài)，促進(jìn)中國自主AI算力的可持續(xù)發(fā)展。目前我們基本完成寒武紀(jì)和海光芯片的適配，并且開始規(guī)?；少徍屯七M(jìn)商業(yè)化算力。正在進(jìn)行中的華為、天數(shù)智芯、燧原等自主可控的AI芯片的摸底測試。另外，積極的推進(jìn)自主可控AI芯片的編譯生態(tài)，推出長尾算子的benchmark,以智算聯(lián)盟為基礎(chǔ)，探索自主可控的編譯框架。（5）建立聯(lián)合實(shí)驗(yàn)室，加強(qiáng)芯片測評工作體系化進(jìn)程工信部標(biāo)準(zhǔn)化研究院和商湯科技合作共建“CESI-SenseTime人工智能算力及芯片評測聯(lián)合實(shí)驗(yàn)室”，共同開展人工智能芯片評測方法與相關(guān)標(biāo)準(zhǔn)研究，促進(jìn)人工智能處理器評測技術(shù)及標(biāo)準(zhǔn)化等領(lǐng)域的推廣，分享標(biāo)準(zhǔn)化領(lǐng)域的科研成果轉(zhuǎn)化經(jīng)驗(yàn)，進(jìn)一步推動(dòng)各方在人工智能芯片相關(guān)方面的標(biāo)準(zhǔn)研究和制定。商湯實(shí)踐：科研課題研究為了保障AI技術(shù)的自主可控，需要在前瞻性技術(shù)方向進(jìn)行科技研究。商湯科技自2019年便開始了對聯(lián)邦學(xué)習(xí)的前瞻性研究，并攜手美國羅格斯大學(xué)計(jì)算機(jī)系計(jì)算生物醫(yī)學(xué)成像和建模研究中心，在全球頂級計(jì)算機(jī)視覺會議ECCV（歐洲計(jì)算機(jī)視覺國際會議）上發(fā)表了一項(xiàng)新的研究成果，創(chuàng)新地使用基于分布式生成對抗網(wǎng)絡(luò)（GAN）的結(jié)構(gòu)來實(shí)現(xiàn)聯(lián)邦學(xué)習(xí)，為打通AI醫(yī)療應(yīng)用的最后一公里開辟出一條“新的道路”。該研究通過將位于多個(gè)數(shù)據(jù)孤島的分布式異步鑒別器和一個(gè)中心生成器組成對抗網(wǎng)絡(luò)，讓中心生成器在不接觸原始隱私數(shù)據(jù)的情況下，也能進(jìn)行合成訓(xùn)練，從而能夠生成與各數(shù)據(jù)孤島中原始數(shù)據(jù)相近似的合成數(shù)據(jù)樣本，供下游任務(wù)使用。由于避免了對原始數(shù)據(jù)的直接訪問，這套研究方法秉承了聯(lián)邦學(xué)習(xí)的核心優(yōu)勢，很好地解決了醫(yī)療數(shù)據(jù)的隱私保護(hù)問題。不僅如此，相較于傳統(tǒng)的聯(lián)邦學(xué)習(xí)，由于在實(shí)現(xiàn)方法上“另辟蹊徑”，該研究成果還有效減少了中心與數(shù)據(jù)孤島之間的通信數(shù)據(jù)量，僅需傳輸合成圖像數(shù)據(jù)和反饋誤差而非整個(gè)模型的所有參數(shù)數(shù)據(jù)，而且各數(shù)據(jù)孤島之間無需交換任何數(shù)據(jù)或參數(shù)，因而可顯著降低醫(yī)療機(jī)構(gòu)之間通過聯(lián)邦學(xué)習(xí)進(jìn)行研究的成本，加快研究效率和AI模型的生產(chǎn)速度。

技技術(shù)術(shù)可可控控此外，這種創(chuàng)新、低成本的聯(lián)邦學(xué)習(xí)模式還可以推動(dòng)低效率的分散型數(shù)據(jù)中心向高效的集約型數(shù)據(jù)網(wǎng)絡(luò)升級，從而更好地助力地區(qū)性數(shù)據(jù)中心或行業(yè)標(biāo)準(zhǔn)數(shù)據(jù)庫的建立。這正契合了國家“新基建”的戰(zhàn)略指導(dǎo)方針，加速“數(shù)據(jù)智能”的基礎(chǔ)設(shè)施建設(shè)，為醫(yī)療乃至更多行業(yè)節(jié)約成本，創(chuàng)造價(jià)值。除了上述研究，我們還與上海清源研究院共同完成人工智能醫(yī)學(xué)圖像的可解釋的神經(jīng)網(wǎng)絡(luò)的課題，目前這兩個(gè)聯(lián)合研究都發(fā)表了專業(yè)的論文，成為重要的學(xué)術(shù)成果，具體如下：（1）2020年入選ECCV論文一篇，主題是創(chuàng)新地使用基于分布式生成對抗網(wǎng)絡(luò)（GAN）的結(jié)構(gòu)來實(shí)現(xiàn)聯(lián)邦學(xué)習(xí)，在保障數(shù)據(jù)隱私和數(shù)據(jù)安全的前提下去訓(xùn)練模型；（2）2021年入選TMI學(xué)術(shù)論文一篇，主要是針對人工智能醫(yī)學(xué)圖像的可解釋的神經(jīng)網(wǎng)絡(luò)的課題，用于對醫(yī)療領(lǐng)域的AI算法的可解釋性進(jìn)行研究。合作方論文主題入選刊物美國格羅斯大學(xué)計(jì)算機(jī)系創(chuàng)新地使用基于分布式生成對抗網(wǎng)絡(luò)（GAN）的結(jié)構(gòu)來實(shí)EuropeanConference現(xiàn)聯(lián)邦學(xué)習(xí)onComputerVision上海交大清源研究院人工智能醫(yī)學(xué)圖像領(lǐng)域可解釋性的神經(jīng)網(wǎng)絡(luò)研究IEEETransactionsonMedicalImaging(TMI)36 37商湯科技·平衡發(fā)展的AI倫理觀第五部分AI倫理與治理實(shí)踐商湯實(shí)踐：組建AI倫理與治理委員會商湯實(shí)踐：人工智能倫理與治理風(fēng)險(xiǎn)控制機(jī)制商湯實(shí)踐：AI倫理標(biāo)準(zhǔn)制定商湯實(shí)踐：AI倫理外部聯(lián)合研究38

商商湯湯AIAI倫倫理理委委員員會會簡簡介介在可持續(xù)發(fā)展原則、以人為本原則與技術(shù)可控原則的指引下，商湯在以下幾個(gè)方面開展AI倫理與治理的工作：商湯實(shí)踐：組建AI倫理與治理委員會隨著AI產(chǎn)業(yè)的發(fā)展，AI倫理已經(jīng)成為產(chǎn)業(yè)各方都關(guān)注的重要課題之一，也是AI企業(yè)發(fā)展過程中面對的巨大挑戰(zhàn)。AI倫理不僅僅是AI企業(yè)承擔(dān)社會責(zé)任的重要因素，也是客戶信任的基石。商湯作為AI企業(yè)的領(lǐng)軍者，也承擔(dān)著更重要的行業(yè)責(zé)任和社會表率作用，商湯的倫理工作的核心，就是推動(dòng)商湯所有員工共同參與到AI倫理的落實(shí)和負(fù)責(zé)任的AI企業(yè)建設(shè)過程之中來，推動(dòng)商湯在AI倫理層面成為業(yè)界的標(biāo)桿，推動(dòng)商湯作為“可持續(xù)發(fā)展AI”的價(jià)值提倡者的落實(shí)。為了充分落實(shí)商湯在倫理工作的原則，實(shí)現(xiàn)商湯倫理工作的“知行合一”，將倫理的原則落實(shí)在具體工作實(shí)踐中，推動(dòng)AI倫理工作能夠獨(dú)立、專業(yè)的在企業(yè)內(nèi)部進(jìn)行，因此需要成立專業(yè)的倫理委員會來推動(dòng)相應(yīng)的工作落實(shí)。2020年1月，商湯人工智能倫理與治理委員會正式成立，人工智能倫理與治理委員會由六名成員組成，包括兩名外部顧問（其為人工智能倫理領(lǐng)域的學(xué)術(shù)專家）及四名高級管理層成員。作為集團(tuán)在人工智能倫理方面的第一責(zé)任機(jī)構(gòu)，人工智能倫理與治理委員會負(fù)責(zé)確定及實(shí)施人工智能倫理相關(guān)原則、戰(zhàn)略及具體政策舉措，在公司內(nèi)部設(shè)計(jì)并推動(dòng)整體組織踐行AI倫理規(guī)范，推動(dòng)商湯落實(shí)AI的可持續(xù)發(fā)展戰(zhàn)略，同時(shí)發(fā)揮商湯作為行業(yè)領(lǐng)袖的影響力，在政府、產(chǎn)業(yè)、生態(tài)圈中倡導(dǎo)負(fù)責(zé)任的、可持續(xù)的AI發(fā)展觀。39商湯科技·平衡發(fā)展的AI倫理觀考慮到構(gòu)建健康的AI倫理生態(tài)，不能是一家之言，需要AI企業(yè)、各類研究機(jī)構(gòu)、政府和教育機(jī)構(gòu)多方共同參與，兼聽并收，商湯倫理委員會由商湯內(nèi)部高層和外部的人工智能權(quán)威專家組成，并且硬性規(guī)定外部委員不能少于1/3席位，以此來吸納不同背景、不同視角、不同觀點(diǎn)，綜合兼顧，以確保委員會及其運(yùn)作的專業(yè)性、中立性及客觀性。商湯AI倫理委員會外部委員則是倫理委員會的重要組成部分，是指不在公司擔(dān)任除委員以外的其他職務(wù)，并與公司及倫理委員會其他委員間不存在可能妨礙其進(jìn)行獨(dú)立客觀判斷的關(guān)系，外部委員需要在不存在利益沖突的前提下對商湯的倫理與治理相關(guān)事宜進(jìn)行判斷和輔導(dǎo)。外部委員主要來自于從事AI倫理的高校、智庫以及其他第三方機(jī)構(gòu)。日常工作職責(zé)制定倫理領(lǐng)域產(chǎn)品倫理審核倫理通識培訓(xùn)倫理治理參與倫理標(biāo)準(zhǔn)廣泛開展戰(zhàn)略發(fā)展規(guī)劃與風(fēng)險(xiǎn)把控與宣傳生態(tài)建設(shè)討論與制定聯(lián)合研究

商商湯湯AIAI倫倫理理委委員員會會簡簡介介商湯實(shí)踐：人工智能倫理與治理風(fēng)險(xiǎn)控制機(jī)制我們已建立人工智能倫理審查程序，以審查及監(jiān)測我們產(chǎn)品及服務(wù)的潛在倫理風(fēng)險(xiǎn)，涵蓋從項(xiàng)目審批、產(chǎn)品及服務(wù)的發(fā)布，到持續(xù)運(yùn)營監(jiān)控，及其后的產(chǎn)品及解決方案迭代的整個(gè)生命周期。我們的倫理審查程序根據(jù)符合我們上述三項(xiàng)人工智能倫理原則的標(biāo)準(zhǔn)評估項(xiàng)目及服務(wù)。在評估過程中，我們可選擇駁回新產(chǎn)品方案，中斷進(jìn)行中的產(chǎn)品開發(fā)項(xiàng)目，或停止不符合我們原則及標(biāo)準(zhǔn)的現(xiàn)有產(chǎn)品。我們亦非常重視數(shù)據(jù)隱私保護(hù)，并會對我們所有的項(xiàng)目及解決方案的數(shù)據(jù)隱私相關(guān)事項(xiàng)進(jìn)行全面審查。有關(guān)我們對數(shù)據(jù)隱私保護(hù)措施的審查流程，請參閱《數(shù)據(jù)隱私及個(gè)人信息保護(hù)》。我們亦聘請外部顧問為我們的審查程序及風(fēng)險(xiǎn)管理模型提供建議，以確保我們的產(chǎn)品及服務(wù)符合倫理規(guī)范。2019年至今，為緊密跟蹤全球人工智能產(chǎn)業(yè)違法事件、倫理挑戰(zhàn)，已在商湯內(nèi)部建立起“全球AI倫理風(fēng)險(xiǎn)庫”，包括涵蓋百余項(xiàng)全球AI倫理正面及負(fù)面事件、案例分析，我們從產(chǎn)品立項(xiàng)、發(fā)布、運(yùn)營全生命周期設(shè)置AI倫理審核環(huán)節(jié)，自發(fā)布日起審核商湯內(nèi)部100%的新產(chǎn)品研發(fā)立項(xiàng)，并根據(jù)倫理準(zhǔn)則拒絕了10%的產(chǎn)品立項(xiàng)提案。我們已經(jīng)實(shí)現(xiàn)了嚴(yán)格的倫理領(lǐng)域的風(fēng)險(xiǎn)控制體系和專業(yè)的倫理風(fēng)險(xiǎn)控制的機(jī)制，關(guān)注以下三個(gè)方面的風(fēng)險(xiǎn)控制：重要工作內(nèi)容對公司及倫理委員會重大事項(xiàng)（詳見下）發(fā)表獨(dú)立意見公司倫理戰(zhàn)略重大事項(xiàng)倫理委員會發(fā)展規(guī)劃提名、任免倫理委員有關(guān)法律、行政法規(guī)、部門規(guī)章、規(guī)范性文件、及公司的決策制定的設(shè)定與調(diào)整會專家顧問章程規(guī)定的其他事項(xiàng)40

數(shù)據(jù)風(fēng)險(xiǎn)包括數(shù)據(jù)隱私、數(shù)據(jù)治理與數(shù)據(jù)質(zhì)量三方面問題數(shù)據(jù)隱私指在人工智能的開發(fā)、測試、運(yùn)行過程中存在的隱私侵犯問題，這一類問題當(dāng)前是人工智能應(yīng)用需要解決的關(guān)鍵問題之一。數(shù)據(jù)質(zhì)量主要用于人工智能的訓(xùn)練數(shù)據(jù)集以及采集的現(xiàn)場數(shù)據(jù)潛在存在的質(zhì)量問題，以及可能導(dǎo)致的后果，這是人工智能特有的一類數(shù)據(jù)安全問題。數(shù)據(jù)保護(hù)主要指人工智能開發(fā)及應(yīng)用企業(yè)對持有數(shù)據(jù)的安全保護(hù)問題，涉及數(shù)據(jù)采