人工智能風(fēng)險治理報告（2024年）-構(gòu)建面向產(chǎn)業(yè)的人工智能安全治理實踐方案

1 1 3 4 6 6 9 12 12 14 17 18 19 19 21 23 25 27 29 29 30 30 31 5 7 9 201一、概述（一）人工智能風(fēng)險挑戰(zhàn)引發(fā)全球關(guān)注倍，并呈現(xiàn)持續(xù)增長態(tài)勢1。與此同時，人工智能風(fēng)險1https://aiindex.stanf2/view/journals/006/2024/03/threat/reportdeta2外，政府驅(qū)動的人工智能風(fēng)險治理逐漸完備。根據(jù)加拿大咨詢公司法規(guī)已達(dá)317份4；產(chǎn)業(yè)驅(qū)動的人工智能標(biāo)準(zhǔn)化行改革推進(jìn)中國式現(xiàn)代化的決定》中提出建立“人工智能安全監(jiān)管制4https://www.fairly.ai/blog/map-5秦銘浩徐慧芳.全球人工智能標(biāo)準(zhǔn)化進(jìn)展及我國發(fā)展建議[J].世界科技研究與發(fā)展,203（二）人工智能風(fēng)險治理模式亟需創(chuàng)新4主體多個維度復(fù)雜互動，產(chǎn)業(yè)鏈的延展使得治理結(jié)構(gòu)變得更加復(fù)雜，統(tǒng)，或?qū)⒃黾舆@些軟件錯誤和失控風(fēng)險6。人工（三）推動面向產(chǎn)業(yè)界的人工智能風(fēng)險治理落地框架迫在眉睫6/articles/early-thoughts-on-regulating-generative56環(huán)節(jié)，為不同優(yōu)先級的風(fēng)險制定定制化方案，并動態(tài)優(yōu)化治理措施。二、人工智能風(fēng)險認(rèn)知漸進(jìn)深化（一）人工智能內(nèi)生安全與衍生安全復(fù)雜交織業(yè)替代、不可持續(xù)發(fā)展等衍生安全問題（見圖2）。安全問題的客觀7“投毒”，數(shù)據(jù)標(biāo)注不規(guī)范也會降低數(shù)據(jù)質(zhì)量，誘發(fā)能會被第三方用于訓(xùn)練包括生成式人工智能在內(nèi)的人工智能模型7。7/en/priv88/news/show/189/9（二）人工智能風(fēng)險認(rèn)知邁向多維度深化融合人工智能風(fēng)險的認(rèn)知向全球性融合、前瞻性10/20240115/66fe98299e11https://www.c1播虛假信息，這些問題只能通過全球協(xié)調(diào)加以解13.uk/government/publications/ai-safety-summit-2023-the-bletchleydeclaration-by-countries-attending-the-ai-safety-summit-1-2-novem14.uk/government/publications/seoul-declaration-for-safe-inno15.uk/government/publications/ai-safety-summit-2023-the-bletchleydeclaration-by-countries-attending-the-ai-safety-summit-1-2-novem明、數(shù)據(jù)歧視、責(zé)任界定困難和隱私泄露等問題16/content/dam/oecd/en/publications/reports/2024/11intelligence-risks-benefits-and-policy-imperatives_8a491447/3f4e3dfb-en.pdf17/nistpubs/ai/NIST.AI.6018/kxyj/qwfb/bps/202107/P0202107093198664139 位圖靈獎得主和25位權(quán)威專家在《科學(xué)》（Science）期刊聯(lián)合發(fā)表甚至產(chǎn)生新的風(fēng)險20。三、人工智能風(fēng)險治理全球?qū)嵺`（一）國際層面：加速推進(jìn)風(fēng)險治理行動及合作19.uk/media/666ac68ca8b7ec4fae43d0f9/international_sci_safety_of_advanced_ai_executive_summary_chinese.pdf20/rain/a/20240526A01TUD00?web_channel=wap&openApp=false&suid=&media_id=沿人工智能帶來的風(fēng)險和采取行動的必要性達(dá)成共識，并提出建立韓國及英國共同主辦人工智能首爾峰會，16家頂尖人工智能科技公供指引。2024年4月，聯(lián)合國下屬標(biāo)準(zhǔn)組織世界數(shù)字技術(shù)研究院聯(lián)盟（ITU）在“AIforGood”全球峰會期間組織了“檢測深度（二）主要經(jīng)濟(jì)體：迭代完善風(fēng)險劃分與管控舉措包括成立人工智能辦公室，負(fù)責(zé)監(jiān)管人工智能發(fā)展，同時防范風(fēng)險；先治理醫(yī)療保健、消費(fèi)市場等領(lǐng)域。2024年品監(jiān)管機(jī)構(gòu)（MHRA）規(guī)劃報告重點之一是（三）產(chǎn)業(yè)組織：協(xié)同推進(jìn)治理框架和安全工具院依托中國人工智能產(chǎn)業(yè)發(fā)展聯(lián)盟發(fā)起大模型安全基準(zhǔn)測試AISafetyBenchmark。在內(nèi)容安全維度，整理了50（四）企業(yè)主體：深化技管融合的風(fēng)險應(yīng)對方案技術(shù)解決方案逐步向一體化和定制化發(fā)展，涵蓋了從研發(fā)方評估人工智能系統(tǒng)的安全狀況并實施防護(hù)。微軟的AzureAIContentSafety提供了自動識別和干預(yù)有害四、面向產(chǎn)業(yè)的人工智能風(fēng)險治理實踐方案（一）打造全鏈條人工智能風(fēng)險治理框架（二）提升人工智能風(fēng)險系統(tǒng)治理能力（三）設(shè)立人工智能風(fēng)險精準(zhǔn)識別機(jī)制人工智能系統(tǒng)生命周期中可能造成負(fù)面影響的不確定性和潛在威脅（四）健全人工智能風(fēng)險科學(xué)評估體系風(fēng)險評估是對人工智能風(fēng)險進(jìn)行挖掘分析和精準(zhǔn)把脈的重要階可接受度評價標(biāo)準(zhǔn)。風(fēng)險可接受度不僅與現(xiàn)對于嚴(yán)重程度遠(yuǎn)高于可接受度的風(fēng)險種類，可以劃定為“高優(yōu)先級”對于“低優(yōu)先級”風(fēng)險，組織可以選擇接受風(fēng)險，并持續(xù)進(jìn)行監(jiān)控。五、展望建議（一）促進(jìn)全球合作，共筑人工智能治理新格局一是參與并主導(dǎo)多邊治理框架，通過聯(lián)合國、二十國集團(tuán)（G20）、協(xié)作性，積極代表新興經(jīng)濟(jì)體發(fā)聲，