生成式人工智能-海外合規(guī)白皮書（東南亞篇）

序言一、新加坡 1一）新加坡生成式人工智能產(chǎn)業(yè)及監(jiān)管 2生成式人工智能在新加坡的發(fā)展現(xiàn)狀和地位 2新加坡生成式人工智能監(jiān)管框架 7二）新加坡生成式人工智能合規(guī)核心問(wèn)10基礎(chǔ)模型和AI產(chǎn)品關(guān)系及定性 10大模型預(yù)訓(xùn)練使用公開數(shù)據(jù)合規(guī) 12數(shù)據(jù)本地化和數(shù)據(jù)跨境 15開發(fā)者安全責(zé)任 19內(nèi)容安全 25生成物知識(shí)產(chǎn)權(quán)可版性 28大模型透明度 30用戶權(quán)利保護(hù) 321·目錄二、越南 35一）越南生成式人工智能產(chǎn)業(yè)及監(jiān)管 36生成式人工智能在越南的發(fā)展現(xiàn)狀和地36越南生成式人工智能監(jiān)管框架 39二）越南生成式人工智能合規(guī)核心問(wèn)題 41基礎(chǔ)模型和AI產(chǎn)品關(guān)系及定性 41大模型預(yù)訓(xùn)練使用公開數(shù)據(jù)合規(guī) 43數(shù)據(jù)本地化和跨境數(shù)據(jù) 45開發(fā)者安全責(zé)任 48內(nèi)容安全 50生成物知識(shí)產(chǎn)權(quán)可版性 52大模型透明度 53用戶權(quán)利保護(hù) 53三、泰國(guó) 55一）泰國(guó)生成式人工智能產(chǎn)業(yè)及監(jiān)管 56生成式人工智能在泰國(guó)的發(fā)展現(xiàn)狀和地位 56泰國(guó)生成式人工智能監(jiān)管框架 60二）泰國(guó)生成式人工智能合規(guī)核心問(wèn)題 62基礎(chǔ)模型和AI產(chǎn)品關(guān)系及定性 62大模型預(yù)訓(xùn)練使用公開數(shù)據(jù)合規(guī) 62數(shù)據(jù)本地化和跨境數(shù)據(jù) 65開發(fā)者安全責(zé)任 68內(nèi)容安全 69生成物知識(shí)產(chǎn)權(quán)可版性 70大模型透明度 70用戶權(quán)利保護(hù) 722·目錄四、馬來(lái)西亞 73一）馬來(lái)西亞生成式人工智能產(chǎn)業(yè)及監(jiān)管 74生成式人工智能在馬來(lái)西亞的發(fā)展現(xiàn)狀和地位 74馬來(lái)西亞生成式人工智能監(jiān)管框架 76二）馬來(lái)西亞生成式人工智能合規(guī)核心問(wèn)題 79基礎(chǔ)模型和AI產(chǎn)品關(guān)系及定性 79大模型預(yù)訓(xùn)練使用公開數(shù)據(jù)合規(guī) 78數(shù)據(jù)本地化和跨境數(shù)據(jù) 80開發(fā)者安全責(zé)任 835.內(nèi)容安全 83生成物知識(shí)產(chǎn)權(quán)可版性 85大模型透明度 85用戶權(quán)利保護(hù) 86五、印度尼西亞 87一）印度尼西亞生成式人工智能產(chǎn)業(yè)及監(jiān)管 88生成式人工智能在印度尼西亞的發(fā)展現(xiàn)狀和地位 88印度尼西亞生成式人工智能監(jiān)管框架 93二）印度尼西亞生成式人工智能合規(guī)核心問(wèn)題 95基礎(chǔ)模型和AI產(chǎn)品關(guān)系及定性 95大模型預(yù)訓(xùn)練使用公開數(shù)據(jù)合規(guī) 96數(shù)據(jù)本地化和跨境數(shù)據(jù) 96開發(fā)者安全責(zé)任 98內(nèi)容安全 98生成物知識(shí)產(chǎn)權(quán)可版性 大模型透明度 用戶權(quán)利保護(hù)

1001001003·目錄六、菲律賓 一）菲律賓生成式人工智能產(chǎn)業(yè)及監(jiān)管

102103生成式人工智能在菲律賓的發(fā)展現(xiàn)狀和地位 103菲律賓生成式人工智能監(jiān)管框架 105二）菲律賓生成式人工智能合規(guī)核心問(wèn)題 107基礎(chǔ)模型和AI產(chǎn)品關(guān)系及定性 107大模型預(yù)訓(xùn)練使用公開數(shù)據(jù)合規(guī) 107數(shù)據(jù)本地化和跨境數(shù)據(jù) 108開發(fā)者安全責(zé)任 5.內(nèi)容安全 生成物知識(shí)產(chǎn)權(quán)可版性 大模型透明度 用戶權(quán)利保護(hù)

111111112聯(lián)系我們

1144·目錄撰寫人簡(jiǎn)介墾丁律師事務(wù)所墾丁律師事務(wù)所是由一群在網(wǎng)絡(luò)法實(shí)務(wù)領(lǐng)域有豐富經(jīng)驗(yàn)的律師，于2017年7月共同創(chuàng)設(shè)，是一家完全專注于提供“網(wǎng)絡(luò)法”法律服務(wù)的專業(yè)律師機(jī)構(gòu)。墾丁律師正在服務(wù)或曾經(jīng)服務(wù)的客戶包括：騰訊、小米、螞蟻國(guó)際、天貓人工智能、百度、360、星際魅族、虎牙、唯品會(huì)、焦點(diǎn)科技等綜合和細(xì)分市場(chǎng)頭部互聯(lián)網(wǎng)企業(yè)。也包括強(qiáng)生、耐克、松下、特斯拉（中國(guó)）、smart、上汽大眾、OPPO、日立（中國(guó)）、傳音控股、鵬成新能源等智能制造和新興產(chǎn)品市場(chǎng)。墾丁所的業(yè)務(wù)范圍涉及平臺(tái)治理、產(chǎn)品合規(guī)、投資并購(gòu)、數(shù)據(jù)合規(guī)、知識(shí)產(chǎn)權(quán)、跨境爭(zhēng)議解決等等，行業(yè)領(lǐng)域涉及綜合網(wǎng)絡(luò)平臺(tái)、AIGC、NFT/區(qū)塊鏈、數(shù)字娛樂(lè)、智能終端等。未一咨詢專注于幫助出海企業(yè)解決全球化拓展中的跨文化挑戰(zhàn)。創(chuàng)立于2022年，未一咨詢提供海外市場(chǎng)調(diào)研、品牌建設(shè)、市場(chǎng)營(yíng)銷、公共關(guān)系、跨文化管理培訓(xùn)等專業(yè)服務(wù)。創(chuàng)始團(tuán)隊(duì)均曾供職于大型跨國(guó)科技企業(yè)，擁有深耕東南亞、日韓、歐美、大中華等多個(gè)市場(chǎng)的經(jīng)驗(yàn)，深入了解各國(guó)文化1·撰寫人簡(jiǎn)介和市場(chǎng)環(huán)境、監(jiān)管政策、行業(yè)動(dòng)態(tài)，服務(wù)過(guò)從大型跨國(guó)企業(yè)，到初創(chuàng)公司體量不等的各類客戶，為客戶量身定制高效的品牌營(yíng)銷策略、提供從高管到核心員工的跨文化培訓(xùn)，幫助更多具有國(guó)際化視野和雄心、有潛力領(lǐng)跑未來(lái)的企業(yè)在復(fù)雜多變的環(huán)境中找準(zhǔn)錨點(diǎn)，揚(yáng)帆遠(yuǎn)航，取得更大成功。BoosterHubBoosterHub全速引擎是以全球化服貿(mào)為產(chǎn)業(yè)核心的創(chuàng)新商業(yè)化園區(qū)，是中國(guó)杭州市綜試區(qū)的“全球跨境電商DTC品牌創(chuàng)新中心”。BoosterHub全速引擎專注于引進(jìn)、孵化、服務(wù)在全球化市場(chǎng)方向上具備創(chuàng)新和產(chǎn)業(yè)優(yōu)勢(shì)的企業(yè)，圍繞全球化的商流、物流、資金流、信息流四個(gè)核心服務(wù)方向，打造大中小全鏈路產(chǎn)業(yè)生態(tài)。除此之外，在垂直市場(chǎng)化產(chǎn)業(yè)基金配套、行業(yè)媒體矩陣服務(wù)、跨境服務(wù)商體系對(duì)接等方面給予支持。起草人：墾丁新加坡辦公室（按拼音排序）顧問(wèn)：姚雪羅威2·撰寫人簡(jiǎn)介免責(zé)聲明本文章僅代表作者個(gè)人觀點(diǎn)，僅為提供一般性信息之目的，不應(yīng)用于替代專業(yè)咨詢意見。盡管本文章中所包含的信息都是我們于發(fā)布之時(shí)從我們認(rèn)為可靠的渠道獲得，但鑒于人工智能相關(guān)的法律法規(guī)變化迅速，司法實(shí)踐也會(huì)依個(gè)案實(shí)際情況處理，因此不對(duì)本文章內(nèi)容、觀點(diǎn)以及建議的準(zhǔn)確性、可靠性、時(shí)效性以及完整性作任何明確或隱含的保證。本文章僅供企業(yè)參考使用，企業(yè)切勿依賴，任何僅依照本文全部或者部分內(nèi)容而做出的決定以及因此造成的后果由行為人自行負(fù)責(zé)，本文的機(jī)構(gòu)和作者明示不予承擔(dān)任何責(zé)任。在相關(guān)法律法規(guī)進(jìn)行變更或更新時(shí)亦不會(huì)另行通知。3·免責(zé)聲明序言隨著生成式人工智能（GenerativeAI）技術(shù)的迅猛發(fā)展，其應(yīng)用范圍已經(jīng)深入到社會(huì)生活的各個(gè)角落，從電商、制造、金融服務(wù)到教育和娛樂(lè)，無(wú)一不受到這一前沿技術(shù)的影響。生成式人工智能不僅帶來(lái)了前所未有的創(chuàng)新和效率提升，同時(shí)也引發(fā)了諸多倫理、政治和經(jīng)濟(jì)方面的討論和挑戰(zhàn)。在這一背景下，法律合規(guī)的重要性尤為突出，特別是在不同國(guó)家和地區(qū)，其合規(guī)要求各有特色，需要我們深入了解并嚴(yán)格遵守。東南亞作為全球經(jīng)濟(jì)快速發(fā)展的區(qū)域之一，人工智能行業(yè)也展現(xiàn)出蓬勃的發(fā)展勢(shì)頭。東南亞各國(guó)在政治、文化、法律制度等方面具有鮮明的區(qū)域特性，因此，在生成式人工智能的應(yīng)用和發(fā)展過(guò)程中，合規(guī)問(wèn)題顯得尤為重要。不同國(guó)家的法律框架、AI合規(guī)相關(guān)的法規(guī)、倫理標(biāo)準(zhǔn)以及政府監(jiān)管政策等方面都需要特別關(guān)注和遵守，以確保技術(shù)創(chuàng)新與法律規(guī)范的有機(jī)結(jié)合。東南亞地區(qū)經(jīng)濟(jì)快速發(fā)展，各國(guó)在科技創(chuàng)新方面也展現(xiàn)出巨大的潛力。然而，由于各國(guó)在政治、經(jīng)濟(jì)和文化上的差異，生成式AI的法律監(jiān)管和合規(guī)要求也各不相同。這使得東南亞的AI行業(yè)在合規(guī)方面面臨獨(dú)特的挑戰(zhàn)和要求。通過(guò)對(duì)東南亞各國(guó)生成式AI產(chǎn)業(yè)及監(jiān)管框架的深入分析，本白皮書旨在全面解析東南亞各國(guó)在生成式人工智能領(lǐng)域的法律合規(guī)要求，幫助企業(yè)4·序言和從業(yè)者更好地理解和應(yīng)對(duì)這一復(fù)雜多變的法律環(huán)境。我們將從各國(guó)具體的法律法規(guī)出發(fā)，結(jié)合實(shí)際案例和應(yīng)用場(chǎng)景，深入探討東南亞AI行業(yè)的合規(guī)特點(diǎn)和應(yīng)對(duì)策略。希望通過(guò)本白皮書的研究和分享，能夠?yàn)閺V大AI從業(yè)者提供有價(jià)值的指導(dǎo)和參考，推動(dòng)生成式人工智能技術(shù)在東南亞地區(qū)的健康、可持續(xù)發(fā)展。5·序言第一章、新加坡一）新加坡生成式人工智能產(chǎn)業(yè)及監(jiān)管生成式人工智能在新加坡的發(fā)展現(xiàn)狀和地位新加坡生成式人工智能監(jiān)管框架二）新加坡生成式人工智能合規(guī)核心問(wèn)題基礎(chǔ)模型和AI產(chǎn)品關(guān)系及定性大模型預(yù)訓(xùn)練使用公開數(shù)據(jù)合規(guī)數(shù)據(jù)本地化和數(shù)據(jù)跨境開發(fā)者安全責(zé)任內(nèi)容安全生成物知識(shí)產(chǎn)權(quán)可版性大模型透明度用戶權(quán)利保護(hù)一）新加坡生成式人工智能產(chǎn)業(yè)及監(jiān)管生成式人工智能在新加坡的發(fā)展現(xiàn)狀和地位1）生成式AI產(chǎn)業(yè)政策新加坡在人工智能治理方面采取了部門性的方法，即通過(guò)各個(gè)行業(yè)的監(jiān)管機(jī)構(gòu)來(lái)管理人工智能的使用。這些監(jiān)管機(jī)構(gòu)主要通過(guò)發(fā)布非約束性的指南和建議（軟法手段）來(lái)進(jìn)行治理，而不是通過(guò)強(qiáng)制性的法規(guī)（硬法手段）。①金融領(lǐng)域新加坡金融管理局是新加坡的中央銀行和綜合金融監(jiān)管機(jī)構(gòu)。金融管理局是首個(gè)在人工智能治理方面采取行動(dòng)的部門監(jiān)管機(jī)構(gòu)。2018年，金融管理局與金融行業(yè)共同創(chuàng)建了一套原則（即公平性Fairness、倫理Ethics、問(wèn)責(zé)Accountability和透明性Transparency），以指導(dǎo)人工智能的負(fù)責(zé)任使用。2019年，金融管理局宣布與金融行業(yè)合作創(chuàng)建eritas框架，為金融機(jī)構(gòu)提供可驗(yàn)證的方法，將FET原則納入其人工智能和數(shù)據(jù)分析驅(qū)動(dòng)的解決方案中。原則和Veritas框架是新加坡國(guó)家人工智能戰(zhàn)略的一部分，旨在為金融部門的人工智能采用建立一個(gè)進(jìn)步和可信賴的環(huán)境。②信息通信領(lǐng)域信息通信媒體發(fā)展局（IMDA）和個(gè)人數(shù)據(jù)保護(hù)委員會(huì)（PDPC）是人工智能治理中最活躍的監(jiān)管機(jī)構(gòu)。自2019年以來(lái)，IMDA和PDPC出了與人工智能治理相關(guān)的指南或倡議。2019年，兩大機(jī)構(gòu)在達(dá)沃斯世界經(jīng)濟(jì)論壇年會(huì)上發(fā)布了首個(gè)《人工智能治理模型框架》。該框架旨在為私營(yíng)部門組織在部署人工智能解決方案時(shí)提供可實(shí)施的指導(dǎo)，解決關(guān)2·第一章、新加坡鍵的倫理和治理問(wèn)題。依據(jù)國(guó)際隱私專業(yè)人員協(xié)會(huì)（IAPP）的相關(guān)報(bào)告，2020年，上述兩機(jī)構(gòu)更新了該模型框架，發(fā)布了第二版，并推出了《組織實(shí)施和自我評(píng)估指南》，幫助組織評(píng)估其人工智能治理實(shí)踐與模型框架的匹配程度，還發(fā)布了《案例匯編》，展示了組織如何實(shí)施負(fù)責(zé)任的人工智能治理實(shí)踐。③醫(yī)療衛(wèi)生領(lǐng)域2021年10月，新加坡衛(wèi)生部發(fā)布了《醫(yī)療人工智能指南》，提高患者對(duì)人工智能在醫(yī)療中使用的信任。該指南是與衛(wèi)生科學(xué)局和綜合健康信息系統(tǒng)（現(xiàn)稱為Synapxe）共同完成的，補(bǔ)充了新加坡對(duì)人工智能醫(yī)療設(shè)備監(jiān)管的空白。④生成式人工智能評(píng)估沙箱新加坡信息通信媒體發(fā)展局在2024年2月初與新加坡企業(yè)發(fā)展局合作啟動(dòng)了生成式人工智能評(píng)估沙箱。生成式人工智能評(píng)估沙箱將為選中的中小企業(yè)提供AIGC解決方案，并根據(jù)中小企業(yè)提供的反饋結(jié)果評(píng)估這些解決方案，最終在本地中小企業(yè)中推廣生成式人工智能應(yīng)用。2）生成式AI企業(yè)案例①AIRudderAIRudder成立于2019年，是一家領(lǐng)先的對(duì)話式AI平臺(tái)和解決方案提供商，專注于潛在客戶生成、客戶服務(wù)和技術(shù)優(yōu)化。其主要產(chǎn)品包括人工智能語(yǔ)音助手、AI聊天機(jī)器人、VoiceGPT等。AIRudder的技術(shù)在金融行業(yè)中表現(xiàn)尤為出色，優(yōu)化了自動(dòng)語(yǔ)音識(shí)別（ASR）模型，提升了客戶服務(wù)的準(zhǔn)確性和效率。AIRudder的模型支持新加坡當(dāng)?shù)豂P訪問(wèn)。②ADVANCE.AI網(wǎng)址：https://www.advance.ai/3·第一章、新加坡ADVANCE.AI成立于2016年，總部位于新加坡，并在全球如中國(guó)、印尼、菲律賓、馬來(lái)西亞等多地設(shè)有本地客戶支持團(tuán)隊(duì)，其母公司是東南亞獨(dú)角獸AdvanceIntelligenceGroup，集團(tuán)業(yè)務(wù)覆蓋12個(gè)市場(chǎng)。該公司利用AI、大數(shù)據(jù)和云計(jì)算技術(shù)提供數(shù)字化解決方案，主要服務(wù)包括人臉識(shí)別、活體檢測(cè)、OCR技術(shù)支持的數(shù)字身份驗(yàn)證、大數(shù)據(jù)與機(jī)器學(xué)習(xí)支持的風(fēng)險(xiǎn)管理和信貸評(píng)估、企業(yè)級(jí)數(shù)據(jù)分析等。提供混合部署方案，可根據(jù)企業(yè)實(shí)際情況選擇合適的方式運(yùn)行應(yīng)用程序（本地或云端），支持新加坡當(dāng)?shù)豂P訪問(wèn)。ADVANCE.AI的大模型本身不提供GoogleTrends功能。如果需要使用Googleends數(shù)據(jù)，通常需要通過(guò)調(diào)用GoogleendsAPI來(lái)實(shí)現(xiàn)。③科大訊飛（iFLYTEK）網(wǎng)址：https:/ww.ifytekcom/about.html科大訊飛股份有限公司成立于1999年，是一家智能語(yǔ)音和人工智能上市企業(yè)，科大訊飛在中國(guó)和全球范圍內(nèi)提供包括智能語(yǔ)音、計(jì)算機(jī)視覺、自然語(yǔ)言處理、認(rèn)知智能等產(chǎn)品和服務(wù)?？拼笥嶏w將新加坡作為其海外業(yè)務(wù)的第一站和戰(zhàn)略中心。2024年5月，科大訊飛新加坡辦公室正式開業(yè)，并宣布將在新加坡建立區(qū)域總部。為實(shí)現(xiàn)國(guó)際化戰(zhàn)略布局，科大訊飛制定了“1+4”戰(zhàn)略，即一個(gè)以新加坡為中心的訊飛開放平臺(tái)國(guó)際站與四項(xiàng)戰(zhàn)略投資：本地化投資、技術(shù)投資、產(chǎn)品創(chuàng)新投資、合作伙伴計(jì)劃投資?？拼笥嶏w在新加坡推出了星火認(rèn)知大模型，星火認(rèn)知大模型是一個(gè)基于云服務(wù)的大模型平臺(tái)，具備跨領(lǐng)域的知識(shí)和語(yǔ)言理解能力，能夠基于自4·第一章、新加坡然對(duì)話方式理解與執(zhí)行任務(wù)。星火認(rèn)知大模型支持當(dāng)?shù)豂P訪問(wèn)，未限制其在特定國(guó)家或地區(qū)的訪問(wèn)權(quán)限。星火認(rèn)知大模型本身不直接提供Google功能，但可以通過(guò)API集成實(shí)現(xiàn)對(duì)Google數(shù)據(jù)的處理和分析。④字節(jié)跳動(dòng)字節(jié)跳動(dòng)成立于2012年，是一家跨國(guó)互聯(lián)網(wǎng)技術(shù)公司，主要產(chǎn)品包括抖音、今日頭條、西瓜視頻、飛書、剪映等。字節(jié)跳動(dòng)積極拓展新加坡市場(chǎng)，將TikTok業(yè)務(wù)總部遷至新加坡，并在新加坡設(shè)立了SPRING公司，專注于開發(fā)和推廣AI應(yīng)用。2023年，字節(jié)跳動(dòng)在海外上線基于云雀大語(yǔ)言模型（現(xiàn)名為“豆包大模型”）創(chuàng)建的AI工具平臺(tái)“ChitChop”，為用戶提供200余種工作、生活場(chǎng)景智能機(jī)器人服務(wù)。字節(jié)跳動(dòng)推出的豆包大模型支持新加坡當(dāng)?shù)豂P訪問(wèn)。其他國(guó)家投資該國(guó)情況：新加坡已然成為東南亞地區(qū)最受歡迎的初創(chuàng)企業(yè)投資目的地，尤其在人工智能領(lǐng)域。新加坡的人工智能獨(dú)角獸公司和人工智能初創(chuàng)企業(yè)吸引了來(lái)自全球各地的投資者。美國(guó)投資者積極參與新加坡AI企業(yè)的融資活動(dòng)。根據(jù)新加坡《經(jīng)濟(jì)日?qǐng)?bào)》，新加坡已與美國(guó)晶片制造商英偉達(dá)（Nvidia）達(dá)成共識(shí)，由英偉達(dá)公司幫助、支持和參與新加坡NAIS2.0，深化雙方在AI技術(shù)領(lǐng)域的合作，共同創(chuàng)建一個(gè)支持11種語(yǔ)言的大語(yǔ)言模型，以發(fā)展新加坡本土AI技術(shù)，并將在新加坡新建一臺(tái)超級(jí)計(jì)算機(jī)。5·第一章、新加坡在新加坡舉行的第十屆AWS東盟峰會(huì)上，亞馬遜云科技（AmazonebServices，簡(jiǎn)稱WS）宣布計(jì)劃從2024年到2028年額外投資120億新元（約合88.8）用于擴(kuò)展其在新加坡現(xiàn)有的云基礎(chǔ)設(shè)施，以滿足該國(guó)對(duì)云技術(shù)和服務(wù)日益增長(zhǎng)的客戶需求。AWS還宣布了一項(xiàng)名為WSAISpring的新計(jì)劃，以加速AI（包括生成式人工智能）在新加坡的采用。重點(diǎn)將是為公共部門、當(dāng)?shù)仄髽I(yè)、初創(chuàng)企業(yè)、社區(qū)、研發(fā)組織和勞動(dòng)力開發(fā)這些技術(shù)。目前已就該計(jì)劃與新加坡資媒局IMDA簽署了一份意向備忘錄。其他國(guó)家如西班牙、印度尼西亞和馬來(lái)西亞也在新加坡AI領(lǐng)域有一定的投資活動(dòng)。例如，Bolttech公司還從西班牙和新加坡EDBI獲得了3000萬(wàn)美元的投資。此外，新加坡也吸引了來(lái)自東南亞其他國(guó)家如泰國(guó)和越南的企業(yè)前來(lái)設(shè)立研發(fā)中心或進(jìn)行技術(shù)合作。6·第一章、新加坡新加坡生成式人工智能監(jiān)管框架1）新加坡政府部門治理總框架新加坡在其國(guó)家人工智能戰(zhàn)略（NAIS）中宣布了一個(gè)宏偉的目標(biāo)，就是要走在開發(fā)和部署具有可擴(kuò)展性和影響力的人工智能解決方案的前沿，成為全球人工智能解決方案的開發(fā)、測(cè)試、部署和擴(kuò)展的中心。該戰(zhàn)略提出了五個(gè)“生態(tài)系統(tǒng)促進(jìn)因素”，旨在推動(dòng)人工智能的應(yīng)用，其中一個(gè)就是為人工智能創(chuàng)造一個(gè)“進(jìn)步和可信”的環(huán)境，即在創(chuàng)新和社會(huì)風(fēng)險(xiǎn)之間找到平衡點(diǎn)的環(huán)境。為了建立這樣一個(gè)“進(jìn)步和可信”的環(huán)境，新加坡目前對(duì)人工智能的監(jiān)管采用了一種較為寬松和自主的方式。這種方式反映了新加坡對(duì)人工智能的兩個(gè)現(xiàn)實(shí)考量。一方面，新加坡政府把人工智能視為促進(jìn)經(jīng)濟(jì)發(fā)展和提升國(guó)民生活水平的重要戰(zhàn)略手段。這就說(shuō)明了為什么新加坡在監(jiān)管人工智能方面沒(méi)有采取過(guò)于嚴(yán)厲的措施，以免抑制創(chuàng)新和投資。另一方面，考慮到自身的規(guī)模，新加坡意識(shí)到，在全球人工智能治理的討論、框架和法規(guī)不斷發(fā)展的情況下，它可能只能是價(jià)格的接受者，而不是價(jià)格的制定者。因此，新加坡沒(méi)有重新制定新的人工智能原則，而是選擇“順應(yīng)世界的現(xiàn)狀，而不是期待世界成為什么樣”。①《用于生成式人工智能模型的治理框架》(ModellGernanceFameworkorGeneatiel，以下簡(jiǎn)稱為“MGFforGenAI”）。②人工智能治理示范框架示范框架（ModelFamework）是新加坡在2019年世界經(jīng)濟(jì)論壇年會(huì)（WEF）上推出的亞洲首個(gè)人工智能治理示范框架，作為一個(gè)自愿的、非強(qiáng)制性的框架，示范框架旨在指導(dǎo)各組織在大規(guī)模部署人工智能解決7·第一章、新加坡方案時(shí)做到負(fù)責(zé)任，而不涉及技術(shù)的開發(fā)階段。因?yàn)楣膊块T的人工智能使用受到內(nèi)部指導(dǎo)方針和人工智能與數(shù)據(jù)治理工具包的約束，示范框架這一指南主要面向私營(yíng)部門提供人工智能部署的實(shí)用建議。示范框架是一個(gè)“活的文檔”，會(huì)根據(jù)技術(shù)和社會(huì)的變化在未來(lái)的版本中不斷更新。示范框架也不受技術(shù)、行業(yè)、規(guī)模和業(yè)務(wù)模式的限制。從內(nèi)容上看，示范框架遵循兩個(gè)基本原則，以增強(qiáng)對(duì)人工智能的信任和理解：第一，使用人工智能進(jìn)行決策的組織應(yīng)該保證決策過(guò)程具有可解釋性、透明性和公平性；第二，人工智能系統(tǒng)應(yīng)該以人為本：在設(shè)計(jì)、開發(fā)和使用人工智能時(shí)，應(yīng)該優(yōu)先考慮保護(hù)人類的福祉和安全。該框架把這些指導(dǎo)原則具體化為四個(gè)關(guān)鍵領(lǐng)域的可操作實(shí)踐，這些領(lǐng)域涉及組織的決策和技術(shù)的開發(fā)過(guò)程：內(nèi)部治理的結(jié)構(gòu)和措施；確定人類在人工智能輔助決策中的參與程度；業(yè)務(wù)管理；利益相關(guān)方的交流和溝通。下圖列出了屬于每個(gè)關(guān)鍵領(lǐng)域的一些建議考慮因素、做法和措施的摘要。8·第一章、新加坡2）AI領(lǐng)域主要監(jiān)管機(jī)構(gòu)及其職責(zé)（包括網(wǎng)址、聯(lián)系方式等）①信息通信媒體發(fā)展局（InfocommMediaDevelopmentAuthority，IMDA）網(wǎng)址：https://.sg聯(lián)系方式：+6563773800（PersonalProtectionCommission，PDPC）聯(lián)系方式：+6563773131③金融管理局（MonetaryAuthorityofSingapore，MAS）網(wǎng)址：https://.sg聯(lián)系方式：+6562255577（CyberSecurityAgencyofSingaporeCSA）網(wǎng)址：https:/wwcsa.g.sg聯(lián)系方式提供犯罪信息）（MinistryofHealth,MOH）聯(lián)系方式：+65632592209·第一章、新加坡二）新加坡生成式人工智能合規(guī)核心問(wèn)題基礎(chǔ)模型和AI產(chǎn)品關(guān)系及定性在新加坡的監(jiān)管框架中，并沒(méi)有明確針對(duì)不同AI產(chǎn)品進(jìn)行分類并區(qū)別監(jiān)管，但是，我們?nèi)钥蓮男录悠履壳暗南嚓P(guān)法律法規(guī)中梳理不同產(chǎn)品類型需側(cè)重滿足的監(jiān)管重點(diǎn)。整體而言，在任何情況下AI產(chǎn)品都應(yīng)注意遵守forGenAI中對(duì)AI產(chǎn)品的宏觀、基礎(chǔ)的要求，包括透明度、偏見、問(wèn)責(zé)制等問(wèn)題。具體到模型應(yīng)用時(shí)，應(yīng)同時(shí)重點(diǎn)關(guān)注數(shù)據(jù)保護(hù)問(wèn)題。對(duì)于大模型周邊服務(wù)，如果為網(wǎng)絡(luò)安全產(chǎn)品的，應(yīng)注意新加坡《網(wǎng)絡(luò)安全法》的要求?；A(chǔ)大模型是廣泛訓(xùn)練的通用AI模型，能夠執(zhí)行多種任務(wù)，但并不特定于某一行業(yè)或應(yīng)用場(chǎng)景。這類模型的監(jiān)管重點(diǎn)在于透明度、數(shù)據(jù)質(zhì)量、偏見和歧視以及算法透明度。根據(jù)MGFforGenAI的內(nèi)容，透明度是監(jiān)管的關(guān)鍵，以確保這些模型的訓(xùn)練數(shù)據(jù)和算法設(shè)計(jì)不會(huì)導(dǎo)致不公平或歧視性的結(jié)果。數(shù)據(jù)質(zhì)量同樣重要，因?yàn)椴粶?zhǔn)確或偏見的數(shù)據(jù)會(huì)導(dǎo)致模型產(chǎn)生錯(cuò)誤或有害的決策。為了應(yīng)對(duì)這些挑戰(zhàn)，新加坡在MGFforGenAI中強(qiáng)調(diào)了透明度和問(wèn)責(zé)制的重要性。通用大模型與基礎(chǔ)模型類似，但這些模型經(jīng)過(guò)特定領(lǐng)域的微調(diào)，應(yīng)用于更具體的任務(wù)或行業(yè)。例如，在醫(yī)療領(lǐng)域，通用大模型可以用于診斷疾病或預(yù)測(cè)患者的治療效果。在金融領(lǐng)域，這些模型可以用于信用評(píng)估或風(fēng)險(xiǎn)管理。通用大模型一方面同樣適用基礎(chǔ)大模型的監(jiān)管重點(diǎn)；另一方面，還有通用大模型所在領(lǐng)域特定的應(yīng)用合規(guī)性、隱私保護(hù)和數(shù)據(jù)管理。例如，醫(yī)療應(yīng)用中，監(jiān)管機(jī)構(gòu)會(huì)特別關(guān)注模型是否符合醫(yī)療法規(guī)10·第一章、新加坡和患者隱私保護(hù)的要求；在金融應(yīng)用中，重點(diǎn)則是模型是否遵守金融監(jiān)管政策并有效管理風(fēng)險(xiǎn)。另外，數(shù)據(jù)安全保護(hù)為該等產(chǎn)品的監(jiān)管重點(diǎn)，應(yīng)確保對(duì)相關(guān)數(shù)據(jù)的處理符合。模型應(yīng)用是指具體行業(yè)或任務(wù)的應(yīng)用，如醫(yī)療診斷AI、金融風(fēng)險(xiǎn)評(píng)估AI等。這些應(yīng)用的監(jiān)管重點(diǎn)在于安全性、有效性、責(zé)任歸屬以及用戶同意和透明度。例如，在醫(yī)療診斷中，AI模型的安全性和有效性直接影響到患者的健康和生命，因此監(jiān)管機(jī)構(gòu)要求這些模型經(jīng)過(guò)嚴(yán)格的測(cè)試和驗(yàn)證，確保其診斷結(jié)果的準(zhǔn)確性和可靠性。同時(shí)，明確的責(zé)任歸屬也是監(jiān)管的重要方面，以確保在出現(xiàn)問(wèn)題時(shí)可以迅速找到責(zé)任方并采取相應(yīng)措施。就此，同樣應(yīng)該重點(diǎn)關(guān)注MGFforGenAI中問(wèn)責(zé)制的內(nèi)容。同樣，數(shù)據(jù)安全保護(hù)為該等產(chǎn)品的監(jiān)管重點(diǎn)，應(yīng)確保對(duì)相關(guān)數(shù)據(jù)的處理符合。大模型周邊服務(wù)，如AI安全等，涉及提供安全保障、監(jiān)控和優(yōu)化AI系統(tǒng)等服務(wù)。網(wǎng)絡(luò)安全局(CSA)助理首席執(zhí)行官Hau于2024年7月4(AI)應(yīng)對(duì)不斷演變的威脅。新加坡通訊及新聞部高級(jí)政務(wù)部長(zhǎng)JanilPuthucheary博士強(qiáng)調(diào)了在網(wǎng)絡(luò)安全工具中帶頭使用AI的作用。對(duì)于該等網(wǎng)絡(luò)產(chǎn)品，應(yīng)重點(diǎn)確保遵守新加坡《網(wǎng)絡(luò)安全法》的要求（例如，第五部分針對(duì)網(wǎng)絡(luò)安全服務(wù)提供商的要求，未經(jīng)許可，任何人不得提供滲透測(cè)試和托管安全運(yùn)營(yíng)中心（SOC）監(jiān)控服務(wù)）。11·第一章、新加坡大模型預(yù)訓(xùn)練使用公開數(shù)據(jù)合規(guī)1）個(gè)人信息在構(gòu)建、訓(xùn)練與評(píng)估人工智能系統(tǒng)的過(guò)程中，個(gè)人數(shù)據(jù)扮演著至關(guān)重要的角色，其目的是使人工智能模型能夠從這些數(shù)據(jù)中汲取用戶的行為模式，提煉洞察用戶的需求，進(jìn)而做出精準(zhǔn)的推斷。根據(jù)對(duì)個(gè)人信息的保護(hù)有較為全面的保護(hù)，其規(guī)范不僅局限于企業(yè)對(duì)個(gè)人數(shù)據(jù)的初步采集與使用，更延伸至整個(gè)生命周期。因此，如果訓(xùn)練語(yǔ)料中含有新加坡或涉及新加坡居民的個(gè)人數(shù)據(jù)的大模型，使用該等模型的企業(yè)務(wù)必確保遵守的規(guī)定。2024年3月1日，新加坡個(gè)人數(shù)據(jù)保護(hù)委員會(huì)（PDPC）發(fā)布了《關(guān)于在人工智能推薦和決策系統(tǒng)中使用個(gè)人數(shù)據(jù)的咨詢指南》（以下簡(jiǎn)稱《指南》）。該指南基于PDPA起草發(fā)布，雖大部分個(gè)人信息使用的要求與一脈相承，但其強(qiáng)調(diào)了在人工智能系統(tǒng)中保護(hù)個(gè)人隱私和數(shù)據(jù)安全的重要性，同時(shí)確保AI系統(tǒng)的透明度、公平性和可問(wèn)責(zé)性。該指南要求企業(yè)在使用人工智能系統(tǒng)的組織應(yīng)當(dāng)保持公開透明，并在其書面政策中納入相關(guān)做法和保障措施，以實(shí)現(xiàn)公平合理，政策內(nèi)容提供的詳細(xì)程度應(yīng)與風(fēng)險(xiǎn)相稱，一般鼓勵(lì)企業(yè)提供更多信息，說(shuō)明在人工智能系統(tǒng)開發(fā)過(guò)程中的數(shù)據(jù)質(zhì)量和為了保障個(gè)人信息安全所采取的管理措施，具體可以包括披露以下信息。數(shù)據(jù)質(zhì)量：確保訓(xùn)練數(shù)據(jù)集中個(gè)人信息的質(zhì)量(例如，數(shù)據(jù)集在市場(chǎng)中的代表性和最近的編制時(shí)間)，以提高模型的準(zhǔn)確性和性能而采取的措施；數(shù)據(jù)匿名化及訪問(wèn)限制：是否使用匿化數(shù)據(jù)進(jìn)行模型開發(fā)，如果不是，采取了哪些流程或技術(shù)保障措施以限制只有開發(fā)人員才能訪問(wèn)個(gè)人12·第一章、新加坡信息。另外，值得一提的是新加坡牽頭發(fā)起的《東盟數(shù)據(jù)匿名化指南》（ASEANGuideonAnonymisation）將在2025年發(fā)布；偏見性評(píng)估：在進(jìn)行偏見性評(píng)估時(shí)，是否有必要使用個(gè)人信息來(lái)檢查特殊信息(如種族信息或宗教信息)在預(yù)訓(xùn)練過(guò)程是否被使用，或評(píng)估訓(xùn)練數(shù)據(jù)集的偏見情況；測(cè)試環(huán)境安全及訪問(wèn)限制：如果模型預(yù)訓(xùn)練使用了個(gè)人信息，企業(yè)采取了哪些程序或技術(shù)保障措施來(lái)確保測(cè)試環(huán)境的安全并限制測(cè)試人員的訪問(wèn)權(quán)限；數(shù)據(jù)最小化原則：是否在人工智能系統(tǒng)開發(fā)和測(cè)試的所有階段都遵守?cái)?shù)據(jù)最小化原則等。2）開源數(shù)據(jù)集除了使用個(gè)人信息進(jìn)行模型訓(xùn)練外，更多的企業(yè)會(huì)使用市面上已有的開源數(shù)據(jù)集作為模型訓(xùn)練的主要數(shù)據(jù)來(lái)源，一方面使用開源數(shù)據(jù)集的可以一定程度上規(guī)避知識(shí)產(chǎn)權(quán)、版權(quán)、個(gè)人信息等帶來(lái)的風(fēng)險(xiǎn)，另一方面許多數(shù)據(jù)集有適用的針對(duì)性場(chǎng)景，可能會(huì)更加適配所需調(diào)試的模型。當(dāng)人工智能系統(tǒng)訓(xùn)練使用開源數(shù)據(jù)集時(shí)，企業(yè)應(yīng)檢查數(shù)據(jù)集的許可證，確保數(shù)據(jù)的使用行為遵守其條款和條件。一些開源許可證可能要求數(shù)據(jù)使用者在再分發(fā)數(shù)據(jù)時(shí)保留版權(quán)聲明，共享相同許可，或在某些情況下提供源代碼。目前在訓(xùn)練大模型時(shí)較常用到的開源數(shù)據(jù)集有綜合性的數(shù)據(jù)集，如UCIMachineLearningRepository，該公開數(shù)據(jù)集包含了數(shù)百個(gè)數(shù)據(jù)集，適用于各種機(jī)器學(xué)習(xí)任務(wù)，如分類、回歸和聚類，還有Kaggle13·第一章、新加坡Datasets，這一數(shù)據(jù)集提供了豐富的數(shù)據(jù)集，涵蓋了從圖像識(shí)別到文本分析等多個(gè)領(lǐng)域。也有偏向某一使用場(chǎng)景的開源數(shù)據(jù)集，如適用于圖像處理類大模型的數(shù)據(jù)集COCO，這一數(shù)據(jù)集提供了日常物體的圖像和詳細(xì)的注釋以及自動(dòng)駕駛領(lǐng)域常用的開源數(shù)據(jù)集OpenDataset用于自動(dòng)駕駛技術(shù)的研究）。還有像Reddit這樣與谷歌達(dá)成6000萬(wàn)美元協(xié)議，允許其利用其線上討論帖子訓(xùn)練人工智能模型，形成的數(shù)據(jù)集edditComments，其中包含了eddit網(wǎng)站上的評(píng)論數(shù)據(jù)，主要用于文本分析和社交網(wǎng)絡(luò)研究。14·第一章、新加坡數(shù)據(jù)本地化和數(shù)據(jù)跨境《指南》明確了PDPA如何適用于AI系統(tǒng)。《指南》建議企業(yè)在AI系統(tǒng)開發(fā)、測(cè)試和監(jiān)控中使用個(gè)人數(shù)據(jù)時(shí)，考慮有效性、效益性、合規(guī)性和市場(chǎng)性。新加坡的AI數(shù)據(jù)保護(hù)政策：人工智能監(jiān)管模式框架：新加坡早在2019年便推出了人工智能監(jiān)管模式框架（ModelAIGovernanceFramework），旨在為AI開發(fā)和部署提供指導(dǎo)，確保數(shù)據(jù)使用的透明度和安全性。AIVerify：2022和工具箱AIVerify，用于測(cè)試和驗(yàn)證AI系統(tǒng)的安全性和透明度。生成式AI開發(fā)安全指南：新加坡計(jì)劃在2025年初推出針對(duì)生成式AI開發(fā)者的安全指南，建議開發(fā)者向用戶透明公開所使用的數(shù)據(jù)來(lái)源、測(cè)試結(jié)果以及可能涉及的風(fēng)險(xiǎn)和限制，以增強(qiáng)用戶對(duì)AI產(chǎn)品的信任。隱私增強(qiáng)科技：新加坡政府還支持在AI領(lǐng)域使用隱私增強(qiáng)科技（PrivacyEnhancingTechnologies），包括通過(guò)資訊通信媒體發(fā)展局監(jiān)管沙盒，支持與生成式AI數(shù)據(jù)使用相關(guān)的項(xiàng)目。1）數(shù)據(jù)本地化AI技術(shù)依賴于大規(guī)模的數(shù)據(jù)處理和分析，數(shù)據(jù)本地化要求可能限制數(shù)據(jù)的自由流動(dòng)，影響AI模型的訓(xùn)練和優(yōu)化。數(shù)據(jù)本地化是指在本地存儲(chǔ)和處理數(shù)據(jù)的要求，旨在確保數(shù)據(jù)的主權(quán)、安全和隱私。隨著AI技術(shù)的迅速發(fā)展，數(shù)據(jù)本地化政策對(duì)AI應(yīng)用產(chǎn)生了重要影響。新加坡在數(shù)據(jù)本地化方面有著明確的法律和政策，以保護(hù)數(shù)據(jù)隱私和確保國(guó)家安全。15·第一章、新加坡2）數(shù)據(jù)跨境數(shù)據(jù)跨境傳輸要求根據(jù)新加坡《個(gè)人信息保護(hù)法》第26條“個(gè)人信息跨新加坡國(guó)境傳輸”條款規(guī)定：第一，對(duì)于跨境傳輸?shù)臄?shù)據(jù)，機(jī)構(gòu)應(yīng)當(dāng)按該法律規(guī)定建立個(gè)人信息保護(hù)標(biāo)準(zhǔn)，確保被傳輸?shù)臄?shù)據(jù)得到與新加坡法律相等的保護(hù)，否則不得進(jìn)行跨新加坡國(guó)境傳輸。第二，新加坡個(gè)人信息保護(hù)委員會(huì)可以根據(jù)機(jī)構(gòu)的申請(qǐng)，通過(guò)書面通知豁免機(jī)構(gòu)前述跨境合規(guī)義務(wù)。第三，可豁免的情形可以由個(gè)人信息保護(hù)委員會(huì)書面說(shuō)明；豁免不需要在政府公報(bào)中公布，并且委員會(huì)隨時(shí)可撤銷豁免。第四，新加坡個(gè)人信息保護(hù)委員會(huì)可以隨時(shí)增加、改變或撤銷豁免的具體適用情形。"組織須遵守轉(zhuǎn)移限制的義務(wù)：組織機(jī)構(gòu)在將個(gè)人數(shù)據(jù)傳輸至新加坡境外任何地點(diǎn)時(shí)，必須遵守的相關(guān)規(guī)定。組織不得將個(gè)人數(shù)據(jù)轉(zhuǎn)移到新加坡以外的國(guó)家或地區(qū)，除非按照規(guī)定的要求，確保被轉(zhuǎn)移的個(gè)人數(shù)據(jù)將獲得與規(guī)定的保護(hù)標(biāo)準(zhǔn)相當(dāng)?shù)谋Ｗo(hù)。要做到這一點(diǎn)，該組織必須：①確保其將遵守收集、使用和披露個(gè)人數(shù)據(jù)的義務(wù)，同時(shí)轉(zhuǎn)移的個(gè)人數(shù)據(jù)仍由該組織持有或受其控制；16·第一章、新加坡②確認(rèn)且保證在新加坡境外的國(guó)家或地區(qū)的接收人受到法律上可執(zhí)行的義務(wù)的約束，向被轉(zhuǎn)移的個(gè)人數(shù)據(jù)提供至少與PDPA下的保護(hù)標(biāo)準(zhǔn)相當(dāng)?shù)谋Ｗo(hù)。legallyenforceableobligations"包括根據(jù)法律法規(guī)、合同或具有約束力的公司規(guī)則（BCRs）或任何其他具有法律約束力的文書規(guī)定的義務(wù)。此外，持有根據(jù)個(gè)人數(shù)據(jù)被轉(zhuǎn)移到的國(guó)家或地區(qū)的法律授予或認(rèn)可的"特定認(rèn)證specifiedcertificationProtectionRegulations，"特定認(rèn)證"是指亞太經(jīng)濟(jì)合作組織跨境隱私規(guī)則CBPR”）體系和亞太經(jīng)濟(jì)合作組織隱私識(shí)別處理PRP”）體系下的認(rèn)證?；砻夂吞厥馇闆r在某些情況下，如為履行合同所必需、基于個(gè)人合法利益或國(guó)家利益所需，企業(yè)可以在采取合理措施后進(jìn)行數(shù)據(jù)跨境傳輸。此外，匿名處理后的個(gè)人數(shù)據(jù)不作為個(gè)人數(shù)據(jù)對(duì)待，可以自由流動(dòng)。國(guó)際合作新加坡積極參與國(guó)際協(xié)調(diào)，通過(guò)雙邊或多邊協(xié)議推動(dòng)區(qū)域內(nèi)形成統(tǒng)一的數(shù)據(jù)跨境流動(dòng)制度。例如，新加坡加入了APEC主導(dǎo)的跨境隱私規(guī)則體系（CBPR），并著手開發(fā)與CBPR對(duì)接的認(rèn)證機(jī)制數(shù)據(jù)跨境執(zhí)法案例例如，某澳大利亞物流公司新加坡主體因未通過(guò)簽署數(shù)據(jù)處理協(xié)議履行數(shù)據(jù)跨境傳輸義務(wù)而被處罰。此案例表明，新加坡主體在使用母公司統(tǒng)17·第一章、新加坡一采購(gòu)的境外供應(yīng)商系統(tǒng)時(shí)，仍需確保自身履行相關(guān)義務(wù)?？傮w而言，新加坡的數(shù)據(jù)跨境政策較為寬松，但監(jiān)管機(jī)構(gòu)執(zhí)法活躍，企業(yè)需要嚴(yán)格遵守相關(guān)規(guī)定以避免觸及監(jiān)管紅線。18·第一章、新加坡開發(fā)者安全責(zé)任新加坡《生成式人工智能治理模型框架》雖然不具有法律約束力，但它反映了政府對(duì)人工智能開發(fā)和部署的期望，并為行業(yè)參與者提供了參考標(biāo)準(zhǔn)，鼓勵(lì)采用合乎道德和透明的人工智能實(shí)踐。該框架建議從九個(gè)維度全面審視生成式人工智能的開發(fā)，其中就包括開發(fā)者問(wèn)責(zé)制、可信開發(fā)和部署、事件報(bào)告等開發(fā)者安全責(zé)任相關(guān)的內(nèi)容。2022年5月25日，新加坡IMDA和PDPC還共同推出了全球首個(gè)生成式人工智能治理測(cè)試框架和工具包：AIVerify-ProjectMoonshot，這款工、DBS銀行、谷歌、Meta、微軟、新加坡航空公司、NCS（Singtel集團(tuán)的一部分）/陸路運(yùn)輸管理局、渣打銀行、UCARE.AI和。AIVerify由測(cè)試框架、AI驗(yàn)證工具包以及測(cè)試報(bào)告共同組成。其中測(cè)試框架與國(guó)際公認(rèn)的人工智能治理原則、指導(dǎo)方針和框架保持一致，例如來(lái)自歐盟、經(jīng)合組織和新加坡的原則、指導(dǎo)方針和框架，該框架由11項(xiàng)人工智能道德原則和相應(yīng)的測(cè)試標(biāo)準(zhǔn)和測(cè)試流程組成。AIVerify是一個(gè)人工智能治理測(cè)試框架和工具包。通過(guò)使用AIVerify，組織能夠結(jié)合使用技術(shù)測(cè)試和基于流程的檢查來(lái)對(duì)其AI系統(tǒng)進(jìn)行自愿自我評(píng)估。反過(guò)來(lái)，該系統(tǒng)幫助公司試圖客觀和可驗(yàn)證地向利益相關(guān)者證明他們的人工智能系統(tǒng)是以負(fù)責(zé)任和值得信賴的方式實(shí)施的。鑒于人工智能測(cè)試方法、標(biāo)準(zhǔn)、指標(biāo)和工具繼續(xù)發(fā)展，人工智能驗(yàn)證目前也處于個(gè)技術(shù)限制，以及它可以測(cè)試或分析的AI模型或數(shù)據(jù)集的類型和大小限制。其次，預(yù)計(jì)AIVerify將隨著人工智能測(cè)試能力的成熟而發(fā)展。19·第一章、新加坡2023年10月31日，新加坡媒體發(fā)展局（IMDA）和新加坡AI驗(yàn)證基金會(huì)推出了首個(gè)生成式人工智能（GenAI）的評(píng)估沙盒，該沙盒推出的測(cè)試用例將揭示當(dāng)前GenAI評(píng)估中的差距項(xiàng)，在特定領(lǐng)域（例如人力資源或安全）和目前不發(fā)達(dá)的文化特定領(lǐng)域，評(píng)估沙盒制定了測(cè)試基準(zhǔn)，用于評(píng)估該特定領(lǐng)域的模型性能。2023年11月，《安全人工智能系統(tǒng)開發(fā)指南》由英國(guó)國(guó)家網(wǎng)絡(luò)安全中心（NCSC）和美國(guó)網(wǎng)絡(luò)安全與基礎(chǔ)設(shè)施安全局（CISA）發(fā)布，得到了來(lái)20·第一章、新加坡自18個(gè)國(guó)家的23個(gè)國(guó)際機(jī)構(gòu)的認(rèn)可，這其中就包括新加坡網(wǎng)絡(luò)安全局的參與。該指南將幫助人工智能提供商構(gòu)建按預(yù)期運(yùn)行的人工智能系統(tǒng)，在需要時(shí)可用，并在不向未經(jīng)授權(quán)的方泄露敏感數(shù)據(jù)的情況下工作。新加坡網(wǎng)絡(luò)安全局敦促所有利益相關(guān)者（包括數(shù)據(jù)科學(xué)家、開發(fā)人員、經(jīng)理、決策者和風(fēng)險(xiǎn)所有者）閱讀這些指南，以幫助他們就人工智能系統(tǒng)的設(shè)計(jì)、開發(fā)、運(yùn)營(yíng)做出明智的決策。值得注意的是，為在人工智能時(shí)代更好地保障個(gè)人數(shù)據(jù)安全，也讓使用者能更安心使用AI產(chǎn)品，新加坡在2024年7月宣布，新加坡將推出針對(duì)生成式AI開發(fā)者的安全指南，旨在將數(shù)據(jù)透明度和安全性測(cè)試，定為AI開發(fā)的優(yōu)先基準(zhǔn)和基本要求，新的安全指南也將是新加坡人工智能驗(yàn)證系統(tǒng)AIVerify框架的一部分。2024年7月15日，PDPC還發(fā)布了《隱私增強(qiáng)技術(shù)（PET）：合成數(shù)據(jù)生成擬議指南》，該指南將PET定義為套件工具和技術(shù)，允許從數(shù)據(jù)中處理、分析和提取見解，而不會(huì)泄露潛在的個(gè)人或商業(yè)敏感數(shù)據(jù)，在指南中PET被分為三類，即數(shù)據(jù)混淆、加密數(shù)據(jù)處理和聯(lián)合分析。數(shù)據(jù)混淆包括匿名化和假名化、合成數(shù)據(jù)生成、差異隱私和零知識(shí)證明，加密數(shù)據(jù)處理包括同態(tài)加密、多方計(jì)算和可信執(zhí)行環(huán)境等技術(shù)，而聯(lián)合分析包括聯(lián)邦學(xué)習(xí)和分布式分析。該指南提出了生成合成數(shù)據(jù)的良好做法，以盡量減少可能的重新識(shí)別風(fēng)險(xiǎn)，最終將可能被用于為人工智能（AI）模型生成訓(xùn)練數(shù)據(jù)集時(shí)，用于數(shù)據(jù)分析和協(xié)作以及在軟件測(cè)試中使用。通過(guò)這些應(yīng)用，合成數(shù)據(jù)將為金融部門的欺詐檢測(cè)訓(xùn)練人工智能模型，為研究人工智能偏見而訓(xùn)練人工智能模型，以及為數(shù)據(jù)分析保護(hù)患者數(shù)據(jù)。安全的開發(fā)和部署責(zé)任21·第一章、新加坡在開發(fā)環(huán)節(jié)，新加坡指出人工智能開發(fā)的安全措施正在迅速發(fā)展，模型開發(fā)人員和應(yīng)用程序部署者最適合決定使用什么安全框架。例如，從人類反饋中強(qiáng)化學(xué)習(xí)（RLHF）等微調(diào)技術(shù)可以指導(dǎo)模型產(chǎn)生更符合人類偏好和價(jià)值觀的“更安全”輸出。檢索增強(qiáng)生成（RAG）和幾針學(xué)習(xí)等技術(shù)也通常用于減少幻覺和提高準(zhǔn)確性。在部署披露環(huán)節(jié)，新加坡要求應(yīng)向下游用戶披露相關(guān)信息，使他們能夠做出更明智的決定。披露領(lǐng)域可能包括使用的數(shù)據(jù)、培訓(xùn)基礎(chǔ)設(shè)施、評(píng)估結(jié)果、緩解措施和安全措施、風(fēng)險(xiǎn)和限制、預(yù)期用途和用戶數(shù)據(jù)保護(hù)。披露的細(xì)節(jié)水平可以根據(jù)對(duì)保護(hù)專有信息的透明度進(jìn)行校準(zhǔn)。對(duì)于可能構(gòu)成高風(fēng)險(xiǎn)的模型，例如具有國(guó)家安全或社會(huì)影響的高級(jí)模型，還需要提高政府的透明度。在測(cè)試評(píng)估大模型階段，新加坡認(rèn)為，除了目前的主要基準(zhǔn)測(cè)試方法（根據(jù)問(wèn)題和答案的數(shù)據(jù)集測(cè)試模型以評(píng)估性能和安全）和紅色團(tuán)隊(duì)（紅色團(tuán)隊(duì)充當(dāng)對(duì)手用戶來(lái)“打破”模型并誘發(fā)安全、安保和其他違規(guī)行為）之外，在生成人工智能方面，需要采取更全面和系統(tǒng)的安全評(píng)估方法。行業(yè)和部門決策者需要共同改進(jìn)評(píng)估基準(zhǔn)和工具，同時(shí)保持基線和特定部門要求之間的一致性。模型測(cè)試針對(duì)模型安全測(cè)試，新加坡主要關(guān)注兩個(gè)問(wèn)題，一是如何標(biāo)準(zhǔn)化測(cè)試，二是測(cè)試對(duì)象的合格性。針對(duì)如何標(biāo)準(zhǔn)化測(cè)試，新加坡認(rèn)為在短期內(nèi)，第三方測(cè)試將壓縮開發(fā)人員自己使用的相同基準(zhǔn)和評(píng)估集，這需要以標(biāo)準(zhǔn)化的方式進(jìn)行，以使第三方檢測(cè)有效，并促進(jìn)模型之間的有意義的可比性。所以，應(yīng)更加重視22·第一章、新加坡制定共同的測(cè)試基準(zhǔn)和方法，而對(duì)于更成熟的領(lǐng)域，人工智能測(cè)試可以通過(guò)ISO/IEC和IEEE等標(biāo)準(zhǔn)組織進(jìn)行編碼，以支持更協(xié)調(diào)、更穩(wěn)健的第三方測(cè)試。針對(duì)測(cè)試對(duì)象的獨(dú)立性問(wèn)題，新加坡認(rèn)為獨(dú)立性是確保測(cè)試結(jié)果客觀性和完整性的關(guān)鍵，建立一個(gè)合格的第三方測(cè)試人員庫(kù)至關(guān)重要，這需要行業(yè)機(jī)構(gòu)和政府的共同努力。最終，新加坡可以建立一個(gè)認(rèn)證機(jī)制，以確保獨(dú)立性和能力。這些模型測(cè)試的目的是讓大模型適應(yīng)“設(shè)計(jì)安全”，即通過(guò)在系統(tǒng)開發(fā)生命周期（SDLC）的每個(gè)階段設(shè)計(jì)安全性，最大限度地減少系統(tǒng)漏洞，減少攻擊面，SDLC的關(guān)鍵階段包括開發(fā)、評(píng)估、運(yùn)營(yíng)和維護(hù)。鑒于生成人工智能的獨(dú)特性，可能需要進(jìn)行改進(jìn)以制定新的安全保障措施，包括數(shù)據(jù)輸入過(guò)濾器的布置，即使用輸入審核工具檢測(cè)不安全的提示（例如，阻止惡意代碼）。同時(shí)也包括使用生成人工智能的數(shù)字取證工具，數(shù)字取證工具用于調(diào)查和分析數(shù)字?jǐn)?shù)據(jù)（如文件內(nèi)容），以重建網(wǎng)絡(luò)安全事件，并幫助增強(qiáng)識(shí)別和提取可能隱藏在生成人工智能模型中的惡意代碼的能力。事件報(bào)告新加坡政府在《生成式人工智能治理模型框架》中明確指出，事件報(bào)告是確保人工智能系統(tǒng)安全和可靠的重要機(jī)制。即使有最健全的開發(fā)過(guò)程和保障措施，人工智能系統(tǒng)也可能出現(xiàn)紕漏。因此，建立結(jié)構(gòu)和流程以進(jìn)行事件監(jiān)控和報(bào)告是關(guān)鍵。事件報(bào)告機(jī)制允許及時(shí)通知和補(bǔ)救，支持人工智能系統(tǒng)的持續(xù)改進(jìn)。該框架建議實(shí)施事件管理系統(tǒng)，以便在發(fā)生問(wèn)題時(shí)能夠迅速采取行動(dòng)，確保問(wèn)題得到及時(shí)解決，并防止類似事件再次發(fā)生。23·第一章、新加坡此外，事件報(bào)告機(jī)制還包括對(duì)事件的詳細(xì)記錄和分析，以便從中吸取教訓(xùn)，改進(jìn)系統(tǒng)設(shè)計(jì)和操作流程。這種做法不僅有助于提高系統(tǒng)的安全性和可靠性，還能增強(qiáng)公眾對(duì)人工智能技術(shù)的信任。新加坡的事件報(bào)告機(jī)制強(qiáng)調(diào)透明度和責(zé)任制。通過(guò)建立明確的職責(zé)范圍和報(bào)告流程，確保所有相關(guān)方在事件發(fā)生時(shí)能夠迅速響應(yīng)，并采取適當(dāng)?shù)难a(bǔ)救措施。這種機(jī)制不僅適用于開發(fā)者，還包括使用人工智能系統(tǒng)的各類用戶。24·第一章、新加坡內(nèi)容安全在新加坡，伴隨生成式人工智能產(chǎn)品和技術(shù)的廣泛應(yīng)用，確保內(nèi)容的安全性以及符合正確的價(jià)值觀導(dǎo)向成為亟待解決的問(wèn)題。本章節(jié)將基于新加坡的監(jiān)管框架，結(jié)合本土的生成式人工智能產(chǎn)品案例，探討內(nèi)容安全中價(jià)值觀導(dǎo)向等相關(guān)問(wèn)題。價(jià)值觀導(dǎo)向問(wèn)題①避免歧視與偏見新加坡《反歧視法》嚴(yán)禁任何基于種族、宗教、性別、年齡、國(guó)籍、婚姻狀況、性取向等因素的歧視行為。在生成式人工智能的內(nèi)容創(chuàng)作與應(yīng)用中，必須嚴(yán)格遵循此原則。我們目前并未就新加坡當(dāng)?shù)氐腁IGC產(chǎn)品發(fā)現(xiàn)涉及歧視的內(nèi)容安全問(wèn)題，但在國(guó)際上有類似案例。微軟于2016年3月在Twitter平臺(tái)上推出了人工智能聊天機(jī)器人。被設(shè)定為一個(gè)十九歲美國(guó)女性，主要目標(biāo)受眾是18歲至24歲的青少年，用戶只需在推特上就能得到的回復(fù)，而也會(huì)借此和witter上用戶的互動(dòng)學(xué)習(xí)。但不到24小時(shí)，ay就被用戶“教壞”了，成為一個(gè)集反猶太、性別歧視、種族歧視于一身的“不良少女”，并發(fā)布了95000多條公然帶有種族主義、厭女主義和反猶太主義的推文。微軟最終終止了該服務(wù)并刪除了的所有不當(dāng)發(fā)言。②維護(hù)社會(huì)道德與倫理新加坡社會(huì)高度重視道德倫理，生成式人工智能生成的內(nèi)容須符合相關(guān)標(biāo)準(zhǔn)，不得生成鼓勵(lì)暴力、犯罪、欺詐、淫穢、誹謗等違背公序良俗和法律規(guī)定的內(nèi)容。我們目前并未就新加坡當(dāng)?shù)氐腁IGC產(chǎn)品發(fā)現(xiàn)涉及道德25·第一章、新加坡倫理的內(nèi)容安全問(wèn)題，故以假設(shè)性案例進(jìn)行說(shuō)明。③避免內(nèi)容實(shí)質(zhì)錯(cuò)誤與AI幻覺除了歧視偏見與道德倫理問(wèn)題，生成式人工智能還可能產(chǎn)生內(nèi)容實(shí)質(zhì)錯(cuò)誤與幻覺現(xiàn)象，輸出荒謬或有害的內(nèi)容。這方面在國(guó)際有相關(guān)案例，2024年5月，谷歌宣布將其最新的AI模型植入了搜索引擎，試圖一次性追趕競(jìng)爭(zhēng)對(duì)手微軟和OpenAI。然而，這項(xiàng)名為“AIOverview（AI概述）”的AI搜索功能一上線便遭遇了滑鐵盧，“建議用戶使用膠水將芝士固定在披薩上”“推薦每天至少食用一塊小石頭獲取營(yíng)養(yǎng)”等一連串荒謬的回答不僅讓谷歌十分尷尬，也在網(wǎng)上掀起了軒然大波。建議用戶用膠水將芝士固定在披薩上”推薦每天至少食用一塊小石頭獲取營(yíng)養(yǎng)”建議用戶用膠水將芝士固定在披薩上 推薦每天至少食用一塊小石頭獲取營(yíng)養(yǎng)26·第一章、新加坡內(nèi)容審核與監(jiān)管機(jī)制①企業(yè)自我監(jiān)管依據(jù)《生成式人工智能模型管理框架》，企業(yè)在開發(fā)和應(yīng)用生成式人工智能技術(shù)時(shí)，需建立全面的內(nèi)容管理和審核體系。②政府監(jiān)管與執(zhí)法新加坡政府相關(guān)部門依據(jù)《人工智能治理模型框架》和《組織實(shí)施和自我評(píng)估指南》等文件，積極履行監(jiān)管職責(zé)，建立起全方位、多層次的監(jiān)管體系。政府部門制定了詳細(xì)的生成式人工智能產(chǎn)品和服務(wù)的審核標(biāo)準(zhǔn)與流程，要求企業(yè)在產(chǎn)品上市前提交內(nèi)容審核報(bào)告、風(fēng)險(xiǎn)評(píng)估報(bào)告和合規(guī)承諾書等材料。同時(shí)，政府定期組織專業(yè)人員對(duì)市場(chǎng)上的生成式人工智能應(yīng)用進(jìn)行抽查和評(píng)估，重點(diǎn)檢查內(nèi)容的合法性、公正性、道德性以及準(zhǔn)確性，及時(shí)發(fā)現(xiàn)并處理存在內(nèi)容實(shí)質(zhì)錯(cuò)誤與AI幻覺問(wèn)題的產(chǎn)品和服務(wù)。對(duì)于發(fā)現(xiàn)的違規(guī)行為，政府依據(jù)相關(guān)法律法規(guī)，對(duì)涉事企業(yè)處以罰款、責(zé)令整改、暫停業(yè)務(wù)甚至吊銷營(yíng)業(yè)執(zhí)照等處罰措施。此外，政府建立了公眾舉報(bào)平臺(tái)和獎(jiǎng)勵(lì)機(jī)制，鼓勵(lì)社會(huì)公眾積極參與監(jiān)督，對(duì)舉報(bào)屬實(shí)的個(gè)人或機(jī)構(gòu)給予一定的獎(jiǎng)勵(lì)和表彰。27·第一章、新加坡生成物知識(shí)產(chǎn)權(quán)可版權(quán)性新加坡對(duì)于AI生成物可版權(quán)性的觀點(diǎn)是，人類作者是可版權(quán)性的前提。在AsiaPacificPublishingPteLtd訴Pioneers&Leaders(Publishers)PteLtd1911和作為暗示人類作者的版權(quán)立法的例子，因?yàn)樗鼈優(yōu)樽髡咛峁┙K50新加坡上訴法院在2017年GlobalLtd訴PromediaDirectoriesPteLtd案中的一項(xiàng)裁決中，確認(rèn)了其先前在AsiaPublishingPteLtdPioneers&Leaders(Publishers)PteLtd關(guān)于“自然人”要求的意見，同一法院在該裁決中認(rèn)為，任何文學(xué)作品要享有版權(quán)，作者的創(chuàng)作必須與“人類智力的運(yùn)用”有因果聯(lián)系。上訴法院隨后將人類智力定義為“智力努力的運(yùn)用……或腦力勞動(dòng)的鍛煉”，非人類作者則被視為無(wú)法提供這一點(diǎn)。此外，在新加坡新的《2021表明，只有人類個(gè)人或自然人才可以成為“作者”：（i）期限條款（114）——期限與一個(gè)人的死亡掛鉤（70/假名作品）；（ii）“合格個(gè)人”條款（第77條）——只有作者是合格個(gè)（iii）連接因素條款（109、110），闡明了未出版和已出版的作者作品中版權(quán)存在的條件；以及（iv）道德權(quán)利條款（第370、386、387條）——其中提到權(quán)利本質(zhì)上是個(gè)人權(quán)利，以及死亡時(shí)權(quán)利的轉(zhuǎn)移。一個(gè)相關(guān)的問(wèn)題是，在參與該過(guò)程的個(gè)人中，誰(shuí)應(yīng)該被認(rèn)定為任何人工28·第一章、新加坡智能輸出的人類作者——例如，編寫算法的程序員、訓(xùn)練人工智能系統(tǒng)的程序員以及使用人工智能系統(tǒng)生成輸出的程序員。根據(jù)案例權(quán)威，有兩個(gè)指導(dǎo)原則。只有創(chuàng)造性的努力才算數(shù)首先，在決定誰(shuí)是作者時(shí)，只計(jì)算作者創(chuàng)作的努力，不計(jì)算為其他目的而付出的努力。新加坡上訴法院最近在GlobalYellowLtdvPromediaDirectoriesPteLtd[2017]SGCA28沒(méi)有合作就沒(méi)有共同作者其次，如果要確定兩個(gè)或兩個(gè)以上的人是共同作者，他們需要進(jìn)行過(guò)合作。Pioneers&Leaders案中強(qiáng)調(diào)了這一點(diǎn)。這一要求可能常常被忽視，類似案例是澳大利亞的AcohsPtyLtdvUcorpPtyLtd[2012]FCAFC16（“Acohs”）一案。在Acohs據(jù)表（“MSDS”）被發(fā)現(xiàn)不受版權(quán)保護(hù)。MSDS成的，上訴人的員工在其中輸入了特定數(shù)據(jù)。然后將這些數(shù)據(jù)與計(jì)算機(jī)數(shù)據(jù)庫(kù)中的信息相結(jié)合以生成MSDS。問(wèn)題在于，計(jì)算機(jī)程序是由一名顧問(wèn)編寫的，而他并沒(méi)有與使用該程序的員工進(jìn)行溝通。因此，這些人不能被稱為共同作者。鑒于無(wú)法確定任何作者或共同作者，澳大利亞聯(lián)MSDSAI統(tǒng)，另一家公司對(duì)其進(jìn)行了訓(xùn)練，然后提供給第三家公司使用，那么可以想象，這些不同實(shí)體的員工之間可能沒(méi)有任何溝通。在這種情況下，如果參與各個(gè)階段的兩名或多名個(gè)人對(duì)最終成果做出了創(chuàng)造性貢獻(xiàn)，但卻是各自為政，這可能意味著最終成果將不享有任何版權(quán)保護(hù)。29·第一章、新加坡大模型透明度新加坡政府認(rèn)為，適當(dāng)?shù)耐该鞫人胶颓逦鞔_地向數(shù)據(jù)主體解釋關(guān)于用于決策的數(shù)據(jù)、數(shù)據(jù)如何影響決策以及對(duì)數(shù)據(jù)主體的后果，有助于促進(jìn)數(shù)據(jù)主體對(duì)公司使用人工智能的理解，也有助于確保這些系統(tǒng)、應(yīng)用程序和算法以透明和公平的方式運(yùn)行，而清晰地解釋并不需要暴露知識(shí)產(chǎn)權(quán)或發(fā)布專有源代碼。但在AIDA模型應(yīng)用于某些特殊用途時(shí)，應(yīng)當(dāng)設(shè)定適當(dāng)?shù)耐该鞫人蕉且晃兜靥岣?，因?yàn)榇藭r(shí)過(guò)度的透明度水平可能與使用AIDA的目的相違背。名詞及定義：人工智能與數(shù)據(jù)分析（AIDA，ArtificialIntelligenceandataAnaytics)相關(guān)文件新加坡金融管理局（MonetaryAuthorityofSingapore）2018年11月12日發(fā)布了，“在新加坡金融業(yè)使用人工智能和數(shù)據(jù)分析時(shí)促進(jìn)公平、道德、問(wèn)責(zé)和透明度的原則”。為提供金融產(chǎn)品和服務(wù)的公司提供了一套關(guān)于負(fù)責(zé)任地使用人工智能和數(shù)據(jù)分析(AIDA)的基本原則。這些原則還有助于公司加強(qiáng)圍繞數(shù)據(jù)管理AIDA《FEAT原則》專門在第八章Transparency（透明度）中就大模型透明度的相關(guān)問(wèn)題提供了指導(dǎo)原則?！度斯ぶ悄苤卫砟Ｐ涂蚣堋返诙嬖谡暮透郊嗀中也有提及提升大模型透明度的必要性。30·第一章、新加坡基本原則《FEAT原則》認(rèn)為雖然提高AIDA公司使用AIDA的透明度可以提高公眾對(duì)AIDA的理解和信心，但過(guò)度的透明度可能會(huì)造成混亂或?yàn)閭€(gè)人利用或操縱AIDA模型創(chuàng)造意想不到的機(jī)會(huì)。在確定適當(dāng)?shù)耐该鞫人綍r(shí)，必須平衡這些考慮因素。《人工智能治理模型框架》第二版同樣認(rèn)為，適當(dāng)?shù)幕?dòng)和溝通等提高透明度和解釋的行為可以在公司和數(shù)據(jù)主體(包括員工)之間建立和保持開放的關(guān)系，從而激發(fā)雙方之間的信任和信心?！禙EAT原則》提到，數(shù)據(jù)主體可能會(huì)尋求關(guān)于用于決策的數(shù)據(jù)、數(shù)據(jù)如何影響決策以及對(duì)數(shù)據(jù)主體的后果的明確解釋，清晰地解釋并不需要暴露知識(shí)產(chǎn)權(quán)或發(fā)布專有源代碼。相反，清晰明確的解釋可以側(cè)重于促進(jìn)數(shù)據(jù)主體對(duì)公司使用AIDA的理解。在大模型透明度的體現(xiàn)中清晰的解釋可以遵循以下基本原則：為了提高公眾對(duì)AIDA使用的信任感，應(yīng)主動(dòng)向數(shù)據(jù)主體披露AIDA的使用情況。在數(shù)據(jù)主體請(qǐng)求時(shí)，向數(shù)據(jù)主體提供明確的解釋，說(shuō)明使用哪些數(shù)據(jù)來(lái)作出由AIDA驅(qū)動(dòng)的有關(guān)數(shù)據(jù)主體的決策，以及這些數(shù)據(jù)如何影響決策。在數(shù)據(jù)主體請(qǐng)求時(shí)，向數(shù)據(jù)主體提供明確的解釋，說(shuō)明由AIDA驅(qū)動(dòng)做出的決策可能對(duì)他們產(chǎn)生哪些后果。31·第一章、新加坡8.用戶權(quán)利保護(hù)1）用戶數(shù)據(jù)權(quán)利：新加坡生成式人工智能中的個(gè)人信息權(quán)利適用PDPA的要求。首先，PDPA對(duì)于用戶的同意權(quán)（UserConsent）有著明確的規(guī)定。這種同意應(yīng)當(dāng)是：.明確同意：新加坡的PDPA要求企業(yè)在收集、使用或披露個(gè)人數(shù)據(jù)之前，必須獲得個(gè)人數(shù)據(jù)主體的明確同意。這種同意必須是自愿的、知情的，并且是在充分理解數(shù)據(jù)將被如何使用的基礎(chǔ)上給出的；2.事先同意：同意必須在數(shù)據(jù)收集、使用或披露之前獲得，不能是事后追認(rèn)的。3.具體同意：同意應(yīng)當(dāng)針對(duì)特定的數(shù)據(jù)收集、使用或披露目的，不能是泛泛的、無(wú)針對(duì)性的。生成式人工智能的“同意”彈窗則可參考新加坡PDPC發(fā)布的《GUIDELINESONUSEOFPERSONALINAIANDDECISIONSYSTEMS》第9.6、節(jié)：32·第一章、新加坡此外，根據(jù)PDPA，還應(yīng)確保用戶訪問(wèn)和更正權(quán)、刪除權(quán)、限制處理權(quán)、反對(duì)權(quán)、數(shù)據(jù)可攜帶權(quán)、投訴和尋求救濟(jì)權(quán)。33·第一章、新加坡道德和治理框架：模型人工智能治理框架為部署人工智能解決方案時(shí)的道德和治理問(wèn)題提供指導(dǎo)。它強(qiáng)調(diào)可解釋性、透明度、公平性、福祉和安全等原則。透明度和問(wèn)責(zé)制：(MAS)2024年1月推出的生成式人工智能模型人工智能治理框架草案，該框架也解決了與生成式人工智能相關(guān)的特定風(fēng)險(xiǎn)，并提供了有關(guān)問(wèn)責(zé)制、數(shù)據(jù)完整性、可信開發(fā)和部署、事件報(bào)告、測(cè)試和保證、安全、內(nèi)容來(lái)源、安全和一致性研發(fā)以及公共利益人工智能的指南。34·第一章、新加坡第二章、越南一）越南生成式人工智能產(chǎn)業(yè)及監(jiān)管生成式人工智能在越南的發(fā)展現(xiàn)狀和地位越南生成式人工智能監(jiān)管框架二）越南生成式人工智能合規(guī)核心問(wèn)題基礎(chǔ)模型和AI產(chǎn)品關(guān)系及定性大模型預(yù)訓(xùn)練使用公開數(shù)據(jù)合規(guī)數(shù)據(jù)本地化和跨境數(shù)據(jù)開發(fā)者安全責(zé)任內(nèi)容安全生成物知識(shí)產(chǎn)權(quán)可版性大模型透明度用戶權(quán)利保護(hù)一）越南生成式人工智能產(chǎn)業(yè)及監(jiān)管.生成式人工智能在越南的發(fā)展現(xiàn)狀和地位1）生成式AI產(chǎn)業(yè)政策隨著越南數(shù)字化轉(zhuǎn)型不斷深入各個(gè)領(lǐng)域，人工智能（AI）產(chǎn)品在越南的公共管理、交通、醫(yī)療、銀行等行業(yè)中都擁有廣泛的應(yīng)用前景。越南擅長(zhǎng)的是越南語(yǔ)數(shù)字助理，并在圖像處理、人體和車牌識(shí)別攝像頭等方面也有優(yōu)勢(shì)。但截至目前，越南并沒(méi)有形成獨(dú)立的人工智能法案。在2021年1月26日頒布的第127/QD-TTg號(hào)總理決定中，越南政府頒布了《2030年人工智能研究、發(fā)展和應(yīng)用國(guó)家戰(zhàn)略》，提出了加大人工智能研究、開發(fā)和應(yīng)用力度，目標(biāo)是到2030年使越南成為東盟領(lǐng)先國(guó)家并創(chuàng)立十大知名人工智能品牌，使人工智能成為越南在第四次工業(yè)革命時(shí)代的一個(gè)重要技術(shù)產(chǎn)業(yè)。越南科技部（MoST）提議越南政府在2030年前批準(zhǔn)一項(xiàng)關(guān)于人工智能（AI）研究、開發(fā)和應(yīng)用的國(guó)家戰(zhàn)略。2024年2月2日，政府批準(zhǔn)了一項(xiàng)國(guó)家數(shù)據(jù)戰(zhàn)略，為國(guó)內(nèi)人工智能產(chǎn)業(yè)發(fā)展奠定基礎(chǔ)，并設(shè)定了確保全國(guó)100%的國(guó)家數(shù)據(jù)中心、區(qū)域數(shù)據(jù)中心和國(guó)家大數(shù)據(jù)存儲(chǔ)與高性能計(jì)算中心成功連接的目標(biāo)。為了實(shí)施到2030年的科學(xué)、技術(shù)和創(chuàng)新發(fā)展戰(zhàn)略，科技部批準(zhǔn)了到2030年的一些國(guó)家科學(xué)和技術(shù)項(xiàng)目。2）生成式AI企業(yè)案例活躍在越南的生成式AI企業(yè)：36·第二章、越南網(wǎng)址：FPT是越南最大的私營(yíng)通訊技術(shù)公司，業(yè)務(wù)涵蓋人工智能、系統(tǒng)集成、軟件開發(fā)、信息技術(shù)服務(wù)等多個(gè)領(lǐng)域，是越南科技領(lǐng)域的領(lǐng)軍企業(yè)。AIMentor是公司推出的企業(yè)培訓(xùn)顧問(wèn)，旨在通過(guò)虛擬助手幫助企業(yè)提升員工的各項(xiàng)能力。AIMentor的模型支持越南當(dāng)?shù)豂P訪問(wèn)。其模型不直接支持Google功能，但可以通過(guò)集成API或其他工具實(shí)現(xiàn)。VinBigdata網(wǎng)址：VinBigData是越南領(lǐng)先的人工智能和大數(shù)據(jù)技術(shù)公司，隸屬于Vingroup集團(tuán)，公司成立于Vingroup大數(shù)據(jù)研究所的科學(xué)成果基礎(chǔ)上，致力于提供基于大數(shù)據(jù)和人工智能的先進(jìn)技術(shù)解決方案和產(chǎn)品，在人工智能領(lǐng)域，VinBigData專注于計(jì)算機(jī)視覺和智能健康領(lǐng)域的人工智能軟件解決方案。VinBigData開發(fā)的人工智能模型ViGPT向公眾開放，支持越南本地IP訪問(wèn)。其他國(guó)家投資該國(guó)情況越南的數(shù)字化轉(zhuǎn)型使其成為國(guó)際企業(yè)擴(kuò)展亞洲市場(chǎng)的重要門戶，吸引各國(guó)投資者進(jìn)入。37·第二章、越南美國(guó)英偉達(dá)（NVIDIA）在越南部署多個(gè)投資項(xiàng)目，并與越南與中央和地方相關(guān)機(jī)構(gòu)合作進(jìn)行籌備，其中包括建立人工智能研究、開發(fā)和培訓(xùn)中心。英偉達(dá)還與FPT集團(tuán)達(dá)成全面戰(zhàn)略合作，以促進(jìn)人工智能研究，為越南和全球客戶提供服務(wù)和解決方案，雙方計(jì)劃建設(shè)人工智能工廠，培養(yǎng)高素質(zhì)人力資源。38·第二章、越南2.越南生成式人工智能監(jiān)管框架越南政府部門治理總框架2024年7月2日，越南發(fā)布了《數(shù)字技術(shù)產(chǎn)業(yè)法》（征求意見稿），該法涵蓋了數(shù)字技術(shù)產(chǎn)業(yè)活動(dòng)、數(shù)字技術(shù)產(chǎn)品和服務(wù)在內(nèi)的數(shù)字技術(shù)產(chǎn)業(yè)。《數(shù)字技術(shù)產(chǎn)業(yè)法》（征求意見稿）中，越南第一次在法律法規(guī)中以專章方式明確了人工智能發(fā)展的合規(guī)框架。而數(shù)字技術(shù)產(chǎn)品和服務(wù)包括信息技術(shù)產(chǎn)品和新技術(shù)產(chǎn)品，但不限于人工智能、大數(shù)據(jù)、云計(jì)算、物聯(lián)網(wǎng)、區(qū)塊鏈、虛擬現(xiàn)實(shí)/增強(qiáng)現(xiàn)實(shí)，以數(shù)字化現(xiàn)實(shí)、收集、存儲(chǔ)、傳輸、處理信息和數(shù)字?jǐn)?shù)據(jù)。202346工智能生命周期國(guó)家標(biāo)準(zhǔn)》草案提出意見。該草案建立了人工智能開發(fā)的生命周期流程，并力求確保人工智能開發(fā)安全、合乎道德且透明。它呼吁進(jìn)行基于風(fēng)險(xiǎn)的評(píng)估，以評(píng)估和減輕人工智能系統(tǒng)和應(yīng)用程序的潛在安全風(fēng)險(xiǎn)。2022年6月，新《保險(xiǎn)業(yè)務(wù)法》(LawonInsuranceBusiness)獲得通過(guò)，允許在保險(xiǎn)業(yè)務(wù)活動(dòng)中使用技術(shù)。越南政府鼓勵(lì)保險(xiǎn)公司使用包括AI在內(nèi)的技術(shù)來(lái)銷售創(chuàng)新型保險(xiǎn)產(chǎn)品和服務(wù)。雖然越南尚未采用全面的框架來(lái)管理和規(guī)范人工智能以及越南對(duì)生成式人工智能的監(jiān)管較為粗糙奔放，但監(jiān)管趨勢(shì)為師歐盟，以效歐盟。如越南《數(shù)字技術(shù)產(chǎn)業(yè)法》根據(jù)影響組織、個(gè)人健康、合法權(quán)益、人員或財(cái)產(chǎn)安全的風(fēng)險(xiǎn)等級(jí)進(jìn)行分類（類似于歐盟《人工智能法案》中的風(fēng)險(xiǎn)分類模式設(shè)定）；并規(guī)定國(guó)家重要信息系統(tǒng)、關(guān)鍵基礎(chǔ)設(shè)施的安全，以及39·第二章、越南應(yīng)用管理措施和技術(shù)控制風(fēng)險(xiǎn)的范圍和影響很大。再如《數(shù)字技術(shù)產(chǎn)業(yè)法》規(guī)定，人工智能生成的數(shù)字技術(shù)產(chǎn)品必須貼上標(biāo)識(shí)標(biāo)簽，以確保人工智能系統(tǒng)的輸出以機(jī)器可讀和可檢測(cè)的格式標(biāo)記為人工生成或操作。上述條款由越南信息和通信部提出關(guān)于人工智能生成的數(shù)字產(chǎn)品標(biāo)簽的指導(dǎo)。AI領(lǐng)域主要監(jiān)管機(jī)構(gòu)及其職責(zé)科學(xué)技術(shù)部網(wǎng)址：.vn聯(lián)系方式：84-439439731信息和通信部網(wǎng)址：.vn聯(lián)系方式：02435563461公安部聯(lián)系方式：043822660240·第二章、越南二）越南生成式人工智能合規(guī)核心問(wèn)題基礎(chǔ)模型和AI產(chǎn)品關(guān)系及定性如上文所述，越南尚未采用全面的框架來(lái)管理和規(guī)范人工智能以及越南對(duì)生成式人工智能的監(jiān)管較為粗糙奔放，但監(jiān)管趨勢(shì)為師歐盟，以效歐盟。就越南目前已生效的規(guī)定而言，并未對(duì)AI產(chǎn)品的監(jiān)管進(jìn)行明確的分類規(guī)定?；A(chǔ)大模型/通用大模型對(duì)于大模型產(chǎn)品，應(yīng)重點(diǎn)注意遵守《數(shù)字技術(shù)產(chǎn)業(yè)法》（征求意見稿）、《人工智能生命周期國(guó)家標(biāo)準(zhǔn)》草案中關(guān)于大模型的基礎(chǔ)要求，如開發(fā)安全、合乎道德、透明度等。注意，越南科技部在《2030年人工智能研究、發(fā)展和應(yīng)用國(guó)家戰(zhàn)略》中指出，基礎(chǔ)大模型必須具有高透明度和可解釋性，以確保模型的訓(xùn)練數(shù)據(jù)和算法設(shè)計(jì)不會(huì)導(dǎo)致不公平或歧視性結(jié)果，數(shù)據(jù)質(zhì)量是基礎(chǔ)大模型監(jiān)管的關(guān)鍵要素。不準(zhǔn)確或有偏見的數(shù)據(jù)可能導(dǎo)致模型產(chǎn)生錯(cuò)誤或有害的決策。因此，確保數(shù)據(jù)的準(zhǔn)確性和公正性是監(jiān)管的重要內(nèi)容。另外，對(duì)于通用大模型，越南的信息和通信部在其《AI發(fā)展戰(zhàn)略》中強(qiáng)調(diào)，這類模型的監(jiān)管需要特別關(guān)注領(lǐng)域特定的合規(guī)性、隱私保護(hù)和數(shù)據(jù)管理。因此，始終需要關(guān)注大模型開發(fā)和運(yùn)營(yíng)過(guò)程中的數(shù)據(jù)保護(hù)問(wèn)題。模型應(yīng)用首先需要注意的是，《數(shù)字技術(shù)產(chǎn)業(yè)法》第83條規(guī)定了禁止研發(fā)的人工智能產(chǎn)品和技術(shù)，包括人工智能基于特定人群（年齡/殘疾等）進(jìn)行行業(yè)操控、通過(guò)個(gè)性化評(píng)估形成不利待遇、非監(jiān)管領(lǐng)域識(shí)別或預(yù)測(cè)個(gè)人犯罪的風(fēng)險(xiǎn)、公開網(wǎng)絡(luò)和視頻中處理面部識(shí)別、醫(yī)療和安全人工智能系統(tǒng)以41·第二章、越南外的情緒分析，以及基于生物特征數(shù)據(jù)對(duì)個(gè)人進(jìn)行分類以推斷敏感數(shù)據(jù)六類。因此，首先應(yīng)確保研發(fā)的AI產(chǎn)品不屬于禁止類產(chǎn)品。此外，越南《數(shù)字技術(shù)產(chǎn)業(yè)法》根據(jù)影響組織、個(gè)人健康、合法權(quán)益、人員或財(cái)產(chǎn)安全的風(fēng)險(xiǎn)等級(jí)對(duì)AI風(fēng)險(xiǎn)進(jìn)行分類。在研發(fā)AI產(chǎn)品時(shí)，可以初步評(píng)估產(chǎn)品落入何等AI風(fēng)險(xiǎn)等級(jí)，以符合相應(yīng)要求。對(duì)于特定行業(yè)，如，越南政府鼓勵(lì)保險(xiǎn)公司使用包括AI在內(nèi)的技術(shù)來(lái)銷售創(chuàng)新型保險(xiǎn)產(chǎn)品和服務(wù)，鑒于保險(xiǎn)業(yè)務(wù)可能涉及個(gè)人健康、財(cái)產(chǎn)安全、敏感數(shù)據(jù)等內(nèi)容，需要尤為注意符合數(shù)據(jù)保護(hù)法、AI合規(guī)方面的要求。42·第二章、越南大模型預(yù)訓(xùn)練使用公開數(shù)據(jù)合規(guī)1).個(gè)人信息202341713/2023/ND-CP護(hù)法令》（DecreeProtectionofPersonalData，以下簡(jiǎn)稱這部法規(guī)適用于在越南境內(nèi)處理個(gè)人數(shù)據(jù)的所有組織和個(gè)人，該法令強(qiáng)調(diào)了數(shù)據(jù)處理的合法性、透明性和目的性，并要求數(shù)據(jù)處理者采取適當(dāng)?shù)墓芾砗图夹g(shù)措施來(lái)保護(hù)個(gè)人數(shù)據(jù)的安全。其中還提到了“自動(dòng)個(gè)人數(shù)據(jù)”，自動(dòng)個(gè)人數(shù)據(jù)處理是通過(guò)電子手段進(jìn)行個(gè)人數(shù)據(jù)處理的一種形式，用于評(píng)估、分析和預(yù)測(cè)特定人員的活動(dòng)，例如：習(xí)慣、興趣、信任水平、行為、位置、趨勢(shì)、能力和其他情況。當(dāng)個(gè)人信息用于大模型預(yù)訓(xùn)練時(shí)應(yīng)當(dāng)注意符合PDPD的規(guī)定，包括但不限于以下內(nèi)容：有效同意在收集和使用個(gè)人數(shù)據(jù)之前，除非法律另有規(guī)定，否則必須獲得數(shù)據(jù)主體的有效同意。同意必須是明確的、自愿的，并且數(shù)據(jù)主體應(yīng)該能夠輕松地撤銷同意。將用戶信息投入大模型預(yù)訓(xùn)練，應(yīng)當(dāng)獲得用戶的明確同意。敏感個(gè)人數(shù)據(jù)處理對(duì)于敏感個(gè)人數(shù)據(jù)（如種族、宗教信仰、政治觀點(diǎn)、健康狀況等）的處理，通常需要更嚴(yán)格的同意標(biāo)準(zhǔn)和保護(hù)措施。注意，若將種族、宗教信仰、政治觀點(diǎn)、健康信息等信息數(shù)據(jù)投入算法預(yù)訓(xùn)練的，應(yīng)當(dāng)在算法研發(fā)設(shè)計(jì)中，實(shí)施詞匯轉(zhuǎn)移和阻止詞過(guò)濾等引導(dǎo)解碼策略，避免因個(gè)性化差別待遇、內(nèi)容安全和越南當(dāng)?shù)氐慕墒马?xiàng)而產(chǎn)生相應(yīng)糾紛。數(shù)據(jù)保留期限43·第二章、越南必須設(shè)定合理的數(shù)據(jù)保留期限，并在不再需要時(shí)刪除或匿名化數(shù)據(jù)。若將用戶的個(gè)人信息投入大模型預(yù)訓(xùn)練建議應(yīng)當(dāng)匿名化處理。(2).公開數(shù)據(jù)集《數(shù)字技術(shù)產(chǎn)業(yè)法》中專門章節(jié)對(duì)數(shù)字技術(shù)產(chǎn)業(yè)法中的數(shù)字?jǐn)?shù)據(jù)管理和利用進(jìn)行了詳細(xì)說(shuō)明。該法規(guī)明確鼓勵(lì)企業(yè)按照法律規(guī)定發(fā)展數(shù)字?jǐn)?shù)據(jù)市場(chǎng)、交易所及數(shù)字?jǐn)?shù)據(jù)定價(jià)活動(dòng)，并支持開發(fā)樣本數(shù)據(jù)集以促進(jìn)數(shù)字技術(shù)產(chǎn)品和服務(wù)的開發(fā)活動(dòng)。此外，如果國(guó)家有內(nèi)部數(shù)據(jù)集成的相關(guān)政策，該法規(guī)也允許組織和個(gè)人訪問(wèn)國(guó)家機(jī)構(gòu)的開放數(shù)據(jù)。《數(shù)字技術(shù)產(chǎn)業(yè)法》還對(duì)輸入數(shù)據(jù)作出了明確規(guī)定：輸入的數(shù)字?jǐn)?shù)據(jù)應(yīng)為非個(gè)人信息，或是已按照法規(guī)標(biāo)準(zhǔn)去標(biāo)識(shí)化的數(shù)字?jǐn)?shù)據(jù)，或者符合數(shù)據(jù)法律規(guī)定的個(gè)人信息。未來(lái)，越南可能會(huì)對(duì)訓(xùn)練數(shù)據(jù)集實(shí)行統(tǒng)一化的交易管理，這將一定程度上保障數(shù)據(jù)集的質(zhì)量與合規(guī)性，同時(shí)促進(jìn)數(shù)據(jù)的合理使用和流通。44·第二章、越南數(shù)據(jù)本地化和跨境數(shù)據(jù)越南憲法中規(guī)定了隱私權(quán)和個(gè)人秘密權(quán)（personalsecretsright）。以及政府頒布的第13/2023/ND-CP號(hào)個(gè)人數(shù)據(jù)保護(hù)法令（PDPD），該法令已經(jīng)于202371與此同時(shí)，越南關(guān)于數(shù)據(jù)保護(hù)的法律規(guī)定也散見于其他法律中，例如越南第86/2015/QH13號(hào)網(wǎng)絡(luò)信息安全法（LawonCyberInformation”）;24/2018/QH14（以下簡(jiǎn)稱“網(wǎng)絡(luò)安全法”）以上其他法律規(guī)定了關(guān)于個(gè)人數(shù)據(jù)保護(hù)的相關(guān)條款。LCS和網(wǎng)絡(luò)安全法，提供了基本的數(shù)據(jù)傳輸原則，包括個(gè)人信息的傳輸需要數(shù)據(jù)主體的同意等。此外，越南是多項(xiàng)國(guó)際數(shù)據(jù)傳輸協(xié)議的締約方，包括APEC隱私框架和東盟個(gè)人數(shù)據(jù)保護(hù)框架。目前，越南的數(shù)據(jù)保護(hù)監(jiān)管機(jī)構(gòu)為公共安全部（MinistryofPublicSecurity，以下簡(jiǎn)稱“MPS”）數(shù)據(jù)本地化在越南開展AI相關(guān)業(yè)務(wù)，在一定條件下可能需要遵守越南《網(wǎng)絡(luò)安全法》等相關(guān)法律規(guī)定的數(shù)據(jù)本地化和當(dāng)?shù)貦C(jī)構(gòu)設(shè)立義務(wù)要求。45·第二章、越南規(guī)范數(shù)據(jù)定義：53號(hào)令對(duì)《網(wǎng)絡(luò)安全法》引入的“數(shù)據(jù)本地化”和“強(qiáng)制性物理設(shè)施”要求提供了重要指導(dǎo)和澄清，53號(hào)令規(guī)范以下數(shù)據(jù)（“規(guī)范數(shù)據(jù)”）：越南用戶的個(gè)人數(shù)據(jù)；越南用戶創(chuàng)建的數(shù)據(jù)，包括帳戶名稱、使用時(shí)間、信用卡信息、電子郵件地址、IP地址、最近注銷和注冊(cè)電話號(hào)碼；與越南用戶與用戶的朋友或與用戶互動(dòng)的其他人的關(guān)系有關(guān)的數(shù)據(jù)。（《53號(hào)令》，第條）數(shù)據(jù)跨境根據(jù)越南《信息技術(shù)法》第21條的規(guī)定，可以出于以下目的傳輸數(shù)據(jù)：簽訂、修改或?qū)嵤┚W(wǎng)絡(luò)環(huán)境中信息、產(chǎn)品或服務(wù)的使用合同；計(jì)算在網(wǎng)絡(luò)環(huán)境中使用信息、產(chǎn)品或服務(wù)的價(jià)格和費(fèi)用；履行《信息技術(shù)法》規(guī)定的其他義務(wù)。2013年5月16日越南政府《關(guān)于電子商務(wù)的第52/2013/ND-CP號(hào)法令》規(guī)定，從電商平臺(tái)用戶收集個(gè)人數(shù)據(jù)的組織可以將此類數(shù)據(jù)傳輸給第三方，如果此類傳輸?shù)哪康氖牵焊鶕?jù)數(shù)據(jù)主體的要求提供服務(wù)或產(chǎn)品；履行法律規(guī)定的其他義務(wù)。越南2013年7月15日《關(guān)于互聯(lián)網(wǎng)服務(wù)和在線信息的管理、提供和使用的第72/2013/ND-CP號(hào)法令》規(guī)定，提供基于互聯(lián)網(wǎng)的服務(wù)的組織可以傳輸服務(wù)用戶的個(gè)人數(shù)據(jù)：46·第二章、越南根據(jù)與另一組織的協(xié)議，以開具發(fā)票、準(zhǔn)備憑證或防止用戶逃避合同義務(wù)；應(yīng)國(guó)家主管部門的要求。但是，屬于國(guó)家秘密的信息，必須經(jīng)主管機(jī)關(guān)批準(zhǔn)后，方可傳輸。目前，越南數(shù)據(jù)保護(hù)法律暫時(shí)沒(méi)有規(guī)定數(shù)據(jù)傳輸協(xié)議/標(biāo)準(zhǔn)合同條款、白名單和國(guó)際條約等跨境傳輸解決方案。數(shù)據(jù)跨境傳輸條件：數(shù)據(jù)傳輸方需進(jìn)行個(gè)人數(shù)據(jù)跨境傳輸影響評(píng)估（TIA），評(píng)估內(nèi)容包括傳輸方和接收方的詳細(xì)信息、傳輸目的、數(shù)據(jù)類型、保護(hù)措施等。評(píng)估檔案需在處理個(gè)人數(shù)據(jù)之日起60天內(nèi)提交給越南公安部，并接受事后監(jiān)管。數(shù)據(jù)輸出方需在傳輸完成后通知公安部相關(guān)信息，并在檔案內(nèi)容發(fā)生變化時(shí)進(jìn)行更新。特殊情況下，公安部可要求停止向境外傳輸個(gè)人數(shù)據(jù)，如數(shù)據(jù)用于危害國(guó)家安全或未遵守評(píng)估檔案更新規(guī)定等。綜上所述，越南的數(shù)據(jù)跨境傳輸要求較為嚴(yán)格，在越南進(jìn)行AI相關(guān)業(yè)務(wù)可能需要進(jìn)行詳細(xì)的影響評(píng)估并提交給監(jiān)管部門，同時(shí),在某些特定條件下還需遵守本地化存儲(chǔ)要求。47·第二章、越南開發(fā)者安全責(zé)任針對(duì)人工智能系統(tǒng)開發(fā)者安全責(zé)任，越南目前暫未制定專門法規(guī)予以規(guī)制。在越南第24/2018/QH14號(hào)《網(wǎng)絡(luò)安全法》“第四十一條網(wǎng)絡(luò)空間服務(wù)企業(yè)的責(zé)任”中對(duì)在越南提供網(wǎng)絡(luò)空間服務(wù)的企業(yè)負(fù)有的網(wǎng)絡(luò)安全保護(hù)責(zé)任。在第13/2023/ND-CP號(hào)《個(gè)人數(shù)據(jù)保護(hù)法令》的第三十八、三十九條中列明的個(gè)人數(shù)據(jù)控制者的責(zé)任、個(gè)人數(shù)據(jù)處理方的責(zé)任。為了研究并采取措施以減少在開發(fā)和使用人工智能過(guò)程中可能產(chǎn)生的風(fēng)險(xiǎn)，并在經(jīng)濟(jì)、倫理和法律因素之間取得平衡，越南科技部在20246月11日簽發(fā)了第1290/QD-BKHCN號(hào)決定，并隨該決定一同發(fā)布了《負(fù)責(zé)任人工智能系統(tǒng)研究與開發(fā)原則指南》版（“《人工智能開發(fā)指南》”），為開發(fā)者研究和開發(fā)負(fù)責(zé)任的人工智能(AI)系統(tǒng)提供一系列的原則指導(dǎo)。越南科技部在《人工智能開發(fā)指南》中提出了負(fù)責(zé)任的人工智能發(fā)展的九項(xiàng)基本原則，包括：合作創(chuàng)新、透明度、可控性、安全保障、安全性、隱私保護(hù)、尊重人權(quán)、用戶支持和問(wèn)責(zé)制。《人工智能開發(fā)指南》中指出，開發(fā)者針對(duì)可能影響用戶或相關(guān)第三方生命、安全、隱私或財(cái)產(chǎn)的人工智能系統(tǒng)，需要注意系統(tǒng)輸入和輸出的明確性以及基于所應(yīng)用技術(shù)特性和使用方式的可解釋性，以確保用戶在內(nèi)的社會(huì)信任。開發(fā)者還需要確保人工智能系統(tǒng)的可控性。首先，開發(fā)者需要進(jìn)行事先評(píng)估與人工智能系統(tǒng)控制能力相關(guān)的風(fēng)險(xiǎn)（評(píng)估系統(tǒng)是否滿足相關(guān)技術(shù)要求和標(biāo)準(zhǔn)）。評(píng)估風(fēng)險(xiǎn)的一種方法是在實(shí)驗(yàn)室或已采取安全保障措施的測(cè)試環(huán)境中進(jìn)行測(cè)試，然后再實(shí)際應(yīng)用。此外，為確48·第二章、越南保人工智能系統(tǒng)的可控性，開發(fā)者還需要注意系統(tǒng)監(jiān)控（有評(píng)估/監(jiān)控工具或根據(jù)用戶反饋進(jìn)行調(diào)整/更新）和應(yīng)對(duì)措施（如系統(tǒng)斷開、斷網(wǎng)等），這些措施可以由人類或其他可靠的人工智能系統(tǒng)執(zhí)行。關(guān)于人工智能系統(tǒng)的安全保障，開發(fā)者需要確保人工智能系統(tǒng)不會(huì)對(duì)用戶或第三方的生命、安全或財(cái)產(chǎn)造成損害。對(duì)于這一問(wèn)題，越南科技部原則上鼓勵(lì)開發(fā)者參考相關(guān)國(guó)際標(biāo)準(zhǔn)，但同時(shí)提出了以下幾點(diǎn)注意事項(xiàng)，特別是由于人工智能系統(tǒng)訓(xùn)練過(guò)程中的輸出或程序變化：進(jìn)行事先評(píng)估，以識(shí)別和減少與系統(tǒng)安全相關(guān)的風(fēng)險(xiǎn)；在人工智能系統(tǒng)開發(fā)的各個(gè)階段，采取有效措施確保內(nèi)在安全（風(fēng)險(xiǎn)因素，如設(shè)備的能量水平）和功能安全（通過(guò)使用附加控制設(shè)備減少風(fēng)險(xiǎn)，如發(fā)生故障時(shí)自動(dòng)停止）；向相關(guān)方解釋系統(tǒng)設(shè)計(jì)者的意圖和適用性；對(duì)用戶和第三方的生命、安全或財(cái)產(chǎn)進(jìn)行安全評(píng)估（保護(hù)人類生命、安全、財(cái)產(chǎn)的設(shè)計(jì)思路）。同時(shí)，開發(fā)者還需要注意人工智能系統(tǒng)的安全性。除了遵守專業(yè)機(jī)構(gòu)和權(quán)威機(jī)構(gòu)的相關(guān)文件、指導(dǎo)和信息安全措施外，開發(fā)者還需注意以下幾點(diǎn)，特別是人工智能系統(tǒng)在訓(xùn)練過(guò)程中產(chǎn)生的輸出或程序變更：（1）需要關(guān)注系統(tǒng)的可靠性（即是否能按預(yù)期運(yùn)行且不被非法第三方干擾）和抵御攻擊或物理事故的能力。確保人工智能系統(tǒng)的安全性、完整性，以及與人工智能系統(tǒng)信息安全性相關(guān)的必要信息的可用性；（2）進(jìn)行事前評(píng)估，以識(shí)別和控制與人工智能系統(tǒng)安全相關(guān)的風(fēng)險(xiǎn)；（3）能系統(tǒng)開發(fā)過(guò)程中，采取必要措施以保持安全性，基于所應(yīng)用技術(shù)的特點(diǎn)（設(shè)計(jì)時(shí)的安全性）。49·第二章、越南內(nèi)容安全相關(guān)法規(guī)及監(jiān)管越南政府在制定相關(guān)法律法規(guī)和指導(dǎo)方針時(shí)，特別強(qiáng)調(diào)了生成式人工智能產(chǎn)品的內(nèi)容安全問(wèn)題。具體來(lái)說(shuō)：《人工智能開發(fā)指南》中明確要求開發(fā)者確保人工智能系統(tǒng)不會(huì)侵犯用戶或第三方的隱私權(quán)。該指南還強(qiáng)調(diào)開發(fā)者在開發(fā)與人類相關(guān)的人工智能系統(tǒng)時(shí)應(yīng)特別關(guān)注尊重相關(guān)個(gè)人的人權(quán)和尊嚴(yán)。此外，開發(fā)者需采取預(yù)防措施，確保人工智能系統(tǒng)不會(huì)違反越南基本原則中的人類價(jià)值和社會(huì)道德?！稊?shù)字技術(shù)產(chǎn)業(yè)法》（征求意見稿）開發(fā)、提供、部署和使用可靠的、以人為本的人工智能系統(tǒng)，并要求對(duì)人工智能系統(tǒng)按照對(duì)“組織、個(gè)人健康、合法權(quán)益、人身或者財(cái)產(chǎn)安全”影響的風(fēng)險(xiǎn)程度進(jìn)行分類。該草案還規(guī)定了個(gè)人智能生成物的可識(shí)別性要求，即由人工智能創(chuàng)造的數(shù)字技術(shù)產(chǎn)品必須帶有識(shí)別標(biāo)簽，以確保人工智能系統(tǒng)的輸出以人工創(chuàng)建或操縱的機(jī)器可讀和可檢測(cè)的格式進(jìn)行標(biāo)記。《人工智能生命周期國(guó)家標(biāo)準(zhǔn)》草案提出了人工智能開發(fā)的生命周期流程，并力求確保人工智能開發(fā)安全、合乎道德且透明。該草案呼吁進(jìn)行基于風(fēng)險(xiǎn)的評(píng)估，以評(píng)估和減輕人工智能系統(tǒng)和應(yīng)用程序的潛在安全風(fēng)險(xiǎn)。雖然目前尚未發(fā)現(xiàn)具體的監(jiān)管案例，但從上述法律法規(guī)和指導(dǎo)方針中可50·第二章、越南以看出越南政府對(duì)于人工智能產(chǎn)品內(nèi)容安全的高度關(guān)注。越南政府希望通過(guò)建立相應(yīng)的監(jiān)管框架來(lái)確保人工智能技術(shù)的健康發(fā)展，并平衡商業(yè)利益與消費(fèi)者權(quán)益。51·第二章、越南生成物知識(shí)產(chǎn)權(quán)可版權(quán)性越南對(duì)于AI生成物可版權(quán)性暫無(wú)定論。根據(jù)2021年出臺(tái)的《2030年人工智能研究、發(fā)展和應(yīng)用國(guó)家戰(zhàn)略》，越南計(jì)劃在2030年之前制定與人工智能相關(guān)的知識(shí)產(chǎn)權(quán)的附加法律文件。根據(jù)越南《知識(shí)產(chǎn)權(quán)法》第143條，作品必須由作者通過(guò)智力勞動(dòng)直接創(chuàng)作，不得抄襲他人作品。實(shí)際上，為了確保越南版權(quán)保護(hù)的質(zhì)量，作品必須具有原創(chuàng)性(即作者自己的智力創(chuàng)作)和創(chuàng)造性(即足夠的智力創(chuàng)造力)。版權(quán)自作品被固定在有形媒介之時(shí)起就存在(無(wú)論其內(nèi)容、質(zhì)量、形式、模式和語(yǔ)言，也無(wú)論該作品是否已出版或注冊(cè))，只要它符合獨(dú)創(chuàng)性要求(這意味著它是獨(dú)立創(chuàng)作的，不是抄襲別人的作品，并且表現(xiàn)出了一點(diǎn)創(chuàng)造力。）暫未檢索到越南關(guān)于AI生成物可版權(quán)性相關(guān)的案例及新聞。我們認(rèn)為，越南《知識(shí)產(chǎn)權(quán)法》也強(qiáng)調(diào)了作為作者的“人”的存在，以