我國Chat GPT 類產品運行中的風險和風險規(guī)制問題研究

一、ChatGPT類產品合規(guī)治理(一)人工智能產品律法的發(fā)展歷程2012年影音圖像識別技術和識別精度的提升，讓人們能夠更加便捷地使用軟件將影音圖像進行深度合成，比如人工智能換臉技術，就是將一個人的肖像剪切到另外一個人的頭上。但換臉技術會產生一些道德倫理方面的問題，甚至會有不法分子利用其進行犯罪活動。我國目前對于人工智能這一方面的法規(guī)只有一些零星的規(guī)定，未能形成系統(tǒng)性的法律法規(guī)體系，導致犯罪分子的定罪較為困難。下面五部法規(guī)為我國目前對人工智能監(jiān)管方面進行合規(guī)治理的依據(jù)：1.《網絡音頻信息服務管理規(guī)定》由網信辦、文旅部和廣電總局聯(lián)合發(fā)布，2020年1月1日起實施。該規(guī)定第十條(具有媒體屬性或者社會動員功能的音視頻信息服務)和第十一條(生成內容標識和不得發(fā)布虛假信息)對人工智能生成內容的音頻方面做出了規(guī)定。2.《網絡信息內容生態(tài)治理規(guī)定》由網信辦發(fā)布，2020年3月1日起實施。該規(guī)定第二十三條指出，網絡信息內容服務使用者和網絡信息內容生產者、網絡信息內容服務平臺不得利用深度學習、虛擬現(xiàn)實等新技術新應用從事法律、行政法規(guī)禁止的活動。該規(guī)定對網絡信息生成內容生態(tài)進行了約束，人工智能利用深度學習、機器學習和網絡虛擬技術所生成的內容都要符合相關主管部門的規(guī)定。3.《民法典》第一千零一十九條規(guī)定，任何組織或者個人不得以丑化、污損，或者利用信息技術手段偽造等方式侵害他人的肖像權。《民法典》第一千零二十三條規(guī)定，對自然人聲音的保護，參照適用肖像權保護的有關規(guī)定。上述規(guī)定適用于人的肖像權和聲音的保護。4.《互聯(lián)網信息服務算法推薦管理規(guī)定》由網信辦、公安部、工信部和市場監(jiān)督管理總局聯(lián)合發(fā)布，2022年3月1日起實施。該規(guī)定第二條、第九條和第十三條，均對合成內容做出了規(guī)定，特別是規(guī)范了算法的適用范疇。5.《互聯(lián)網信息服務深度合成管理規(guī)定》由網信辦、工信部和公安部聯(lián)合發(fā)布，2023年1月10日起實施。該文件對于深度合成服務和產品提出了全方位的合規(guī)要求，是我國當前人工智能內容以及人工智能發(fā)布平臺進行合規(guī)治理最核心的一個依據(jù)，也就是深度合成內容的一個管理規(guī)定。(二)產品的牌照和備案我國實行行業(yè)準入制度，在互聯(lián)網行業(yè)內，互聯(lián)網產品在上市的時候需要滿足基礎牌照的要求。我國的主管機關對于互聯(lián)網平臺的治理會提出的很高的一些要求，那么存在ChatGPT類產品的平臺或者軟件運營者又都需要滿足哪些基礎的要求？另外，互聯(lián)網平臺一般除了主營業(yè)務之外，其他旁支業(yè)務也會不斷地進行擴大與發(fā)展，衍生出更多的業(yè)務線，但基礎要求的前提是其生成的內容是一些相對簡單的文字類的解釋，并且其問答的性質是能不具有文化屬性的，所以業(yè)務的升級，則又需要滿足哪些要求？1.產品上線的基礎要求(1)基礎牌照。人工智能學習所需要的內容和輸出的內容均屬于互聯(lián)網信息。按照《互聯(lián)網信息服務管理辦法》第七條從事經營性互聯(lián)網信息服務，應向電信管理機構或者國務院信息產業(yè)主管部門申請辦理互聯(lián)網信息服務增值電信業(yè)務經營許可證。ChatGPT類產品則適用《電信業(yè)務分類目錄》B類增值電信業(yè)務項下的B21(在線數(shù)據(jù)處理和交易處理業(yè)務)和B25(信息服務業(yè)務，包括信息發(fā)布平臺和遞送服務、信息檢索查詢服務、信息社區(qū)平臺服務、信息即時交互服務、信息保護和處理服務等)許可證。一個目的是在兩個監(jiān)管機構存檔，讓他們知道這個網站誰在做，做什么，如何聯(lián)系；另一個目的則是為將來的業(yè)務發(fā)展預留空間。(2)算法備案。人工智能的深度合成內容有清晰的規(guī)定，根據(jù)《互聯(lián)網信息服務深度合成管理規(guī)定》第十九條指出，具有輿論屬性和或社會動員能力的深度合成服務提供者，應該履行算法備案、變更、注銷手續(xù)。所以互聯(lián)網平臺只要具有社會輿論性質或是具有社會動員能力，產品上線以及運營都需要經過該規(guī)定進行備案。(3)安全評估。在互聯(lián)網平臺上線產品前，除了需要遵守《數(shù)據(jù)安全法》《網絡安全法》《個人信息保護法》外，還需要遵循《具有輿論屬性或社會動員能力的互聯(lián)網信息服務安全評估規(guī)定》第三條，聯(lián)網信息服務提供者應當依照本規(guī)定自行開展安全評估，并對評估結果負責。綜上所述，我國互聯(lián)網平臺上線ChatGPT類產品時，需要首先申請對應的互聯(lián)網信息服務增值電信業(yè)務經營許可證，其次是將算法進行備案，最后是根據(jù)三大法規(guī)及評估規(guī)定進行安全評估，均通過后方可上線產品。2.業(yè)務升級的進階要求(1)網絡文化經營許可證。在互聯(lián)網技術和媒體發(fā)展推動下，網絡文藝蓬勃發(fā)展，網絡文學、網絡影視、網絡綜藝、網絡比賽、網絡動漫、網絡音樂、短視頻等文化藝術類創(chuàng)作不斷迸發(fā)。如果ChatGPT類產品的平臺進行了以盈利為目地的營業(yè)性互聯(lián)網文藝活動，向上網客戶收費或是網絡技術、廣告宣傳、冠名贊助等方法獲得權益，展出互聯(lián)網文化產品以及服務項目的主題活動，就需要辦理《網絡文化經營許可證》。(2)網絡出版服務許可證。傳統(tǒng)的圖書和音像制品是以物質的形式存在，并且是通過出版社、報紙、期刊、唱片公司進行發(fā)行，具有版權，受到法律的保護。經過互聯(lián)網的發(fā)展，大部分圖書和音響制品不再需要通過其他渠道進行發(fā)行，直接上傳至平臺即可，載體從實物轉化成數(shù)據(jù)，需要獲取網絡出版的版權。所以ChatGPT類產品的平臺發(fā)展不能缺少《網絡出版服務許可證》。(3)信息網絡傳播視聽節(jié)目許可證。網絡視聽節(jié)目比網絡文化涵蓋面更廣，包括網絡劇、網絡電影、紀錄片、文藝、娛樂、科技、財經、體育、教育、原創(chuàng)試聽節(jié)目等。如今ChatGPT的接收與輸出也在從圖文類正在向影像類發(fā)展，所以也需要《信息網絡傳播視聽節(jié)目許可證》來支撐其發(fā)展。該證在我國申請難度大，但含金量極高。(4)互聯(lián)網新聞信息服務許可證。用戶在使用ChatGPT的時候會為其提供一些新聞事件的報導或是讓其輸出，相當于向社會公眾提供了互聯(lián)網的新聞信息服務，所以應當取得《互聯(lián)網新聞信息服務許可》，才可開展互聯(lián)網新聞信息服務活動。(5)數(shù)據(jù)安全評估。ChatGPT的本質是一個大的語言模型，之所以ChatGPT能夠以人類自然語言的形式輸出，是因為它靠的是對于海量內容進行分析所得出來的人類語言的相關規(guī)則。因為有數(shù)據(jù)的交互，所以這里就涉及到數(shù)據(jù)安全的問題。用戶使用產品的時候，會遺留大量的個人信息，比如所填寫電話的實名信息、接入ChatGPT時的網絡IP、個人語言習慣等。根據(jù)《網絡安全法》標準要求，需要分析網絡運營者相關活動存在的數(shù)據(jù)安全風險，并對其進行評估。綜上所述，我國互聯(lián)網平臺ChatGPT類產品業(yè)務升級時，應該根據(jù)拓展的業(yè)務類型，開具相應的資質許可證明及備案，并且進行數(shù)據(jù)的安全評估，方可繼續(xù)發(fā)展。二、ChatGPT類產品運營風險防控ChatGPT類產品主要包含兩個端口，一個是輸入端，另外一個是輸出端。輸入端包含兩種：第一種是用戶的交互型的輸入；第二種是爬蟲主動抓取網上的各種信息，是最主要的輸入來源。輸出端的輸出則為人工智能以自然語言文字或影音圖像為形式給用戶的反饋。ChatGPT通過分析輸入端的信息進行信息檢索，使用爬蟲來抓取網絡上的各種信息數(shù)據(jù)，并對信息進行自然語言的加工，在輸出端輸出。比如，用戶詢問關于秦國的歷史問題，ChatGPT將用戶輸入信息上傳至后端檢索關于秦國的發(fā)展歷程、相關事件、關鍵人物、時代典故等進行綜合分析，形成一個清晰完整的脈絡，用自然語言加工后輸出你所需要的回答。如果沒有這些基礎前提，是無法滿足用戶需求的。ChatGPT不斷循環(huán)上述過程，將每次檢索的內容和用戶的反饋存入數(shù)據(jù)庫，從而達到學習的目的。我們主要探討的是以下兩點：輸入端通過爬蟲所抓取的內容所獲得信息，這個行為存在什么問題和運營風險？輸出端所輸出的內容是否存在侵權、違法信息所在？(一)輸入端輸入端通過用戶的交互型輸入從風險角度來分析，用戶把相關內容提供給供給ChatGPT類產品去進行學習知識，尤其是專業(yè)論文方面的知識，是一個比較好的方式，所以這種輸入方式風險較小?；诨ヂ?lián)網互聯(lián)、互通、公開的基礎理念，Robert協(xié)議里面沒有明令禁止爬蟲抓取相關的規(guī)定，所以原則上搜索引擎就可以對數(shù)據(jù)(如：網絡上的文本數(shù)據(jù)、社交媒體數(shù)據(jù)、問答網站數(shù)據(jù)、新聞站數(shù)據(jù)、文學作品數(shù)據(jù)等)通過爬蟲抓取，建立共存共融的網絡生態(tài)環(huán)境。上述理念雖然很好，但是這會出現(xiàn)一個互聯(lián)網平臺流量無法變現(xiàn)的問題，出現(xiàn)破壞互聯(lián)網生態(tài)的風險。常規(guī)的搜索引擎為互聯(lián)網平臺做信息定位，用戶通過搜索引擎的定位訪問互聯(lián)網平臺，為后者帶來流量。任何虛擬產業(yè)都需要有實體產業(yè)的支撐，實體產業(yè)通過互聯(lián)網平臺投放的大量廣告來增大銷售量，而后返利給互聯(lián)網平臺和搜索引擎，從而形成一種共存共融的產業(yè)鏈。但ChatGPT類產品的出現(xiàn)打破了這條產業(yè)鏈，它通過爬蟲直接獲取互聯(lián)網平臺的數(shù)據(jù)，雖然通過搜索引擎進入了該網站，但是不會引導用戶進入其中。所以最終結果是搜索引擎無法引導真實的流量，實體產業(yè)無法通過互聯(lián)網平臺的廣告增加銷售量，最終導致該產業(yè)鏈的總資金減少，形成三者俱敗的局面。輸入端除了上述的問題以外，往更深層次去探究其風險，互聯(lián)網平臺會因為無法獲取公共流量帶來的紅利，打破互聯(lián)網互聯(lián)、互通、公開的理念，封鎖自身的信息，搭建自己的信息孤島，最終破壞了互聯(lián)網生態(tài)。例如，QQ和微信是同一個公司的兩款通訊類產品，他們之間的聯(lián)系緊密，只要是微信能夠使用的程序，無需額外的渠道去進行對接，直接在QQ打開也能夠使用，反之亦然。但是微信和短視頻平臺卻無法做到，短視頻用戶想要分享視頻給微信用戶，短視頻用戶需要下載視頻或者微信用戶要打開相應的短視頻APP才能夠觀看，也就是需要額外的渠道進行連接兩個平臺。這就是ChatGPT類產品在運營中所存在的風險，讓信息孤島加快形成，大大降低了互聯(lián)網的傳輸效率，違背了互聯(lián)網互通有無的宗旨。(二)輸出端輸出端的問題主要圍繞其輸出的內容來開展。第一，著作權侵權。ChatGPT類產品使用的模式，一定是構成侵權的。這就涉及到后端的分析，也就是ChatGPT抓取進行學習這個行為原則上會和后端結合在一起，并不是孤立的概念。如果從孤立的角度來分析，那就是其是否影響了轉換性的使用。比如某出版社將紙質書籍收錄進了書籍管理系統(tǒng)里面進行線上售賣，它是不構成侵權的，因為該出版社擁有該圖書的版權。但是ChatGPT類產品在引用這些書籍的時候是沒有版權的，所以其輸出內容(文字、音頻、圖片、視頻)和方式會很大程度上決定它是否著作權侵權，這就是商業(yè)風險所在。第二，不正當競爭。任何網站和平臺的運營都需要大量的資金投入進行開發(fā)，并且許多網站需要雇傭大量的創(chuàng)作者為網站創(chuàng)作內容，并且經過長時間的產出，才能穩(wěn)定其發(fā)展。但是ChatGPT只需要使用爬蟲，便可以極低的成本快速將其創(chuàng)作內容全部抓取，除了涉嫌侵犯著作權之外，還構成不正當競爭。第三，個人信息侵權?；趥€人信息保護法，信息主體可以行使遺忘權，要求相關平臺刪除已經被發(fā)布在網絡上有關自身不符的信息，以及此前收集的個人信息。ChatGPT類產品是在你不知情的情況下將數(shù)據(jù)存放至數(shù)據(jù)庫，如果沒有關鍵詞檢索它是不會輸出相關的內容，所以難以界定是否侵犯該權力。三、ChatGPT類產品生成內容的法律保護無論是ChatGPT產品的研發(fā)者，還是用戶將其作為輔助工具去創(chuàng)作，過程都會進行勞動力的投入。我國法律進行保護的前提是具有勞動力價值的投入，無論是物質，還是精神層面損耗，它都需要有對等的等價物的概念，才能夠受到法律的保護。我們將圍繞這幾個關鍵問題展開論述：ChatGPT類產品生成的文章、影音圖像等內容能否受到法律保護？ChatGPT產品的本身是否受到法律保護？ChatGPT產品的著作權人使用其進行創(chuàng)作，生成的內容是否歸屬于著作權人？我國法律保護的是人的權力，而不是人工智能的權力。根據(jù)《著作權法實施條例》第二條規(guī)定，“著作權法所稱作品，是指文學、藝術和科學領域內具有獨創(chuàng)性并能以某種有形形式復制的智力成果”。該條例表明了著作權法保護的客體是自然人通過智慧勞動創(chuàng)作出具有獨創(chuàng)性的作品。人工智能雖然可以模擬人的智力活動進行創(chuàng)作，并且生成內容與自然人創(chuàng)作的作品大同小異，但是該創(chuàng)作是依賴于算法的機械運算，所以不能與人類智力勞動相提并論。綜上所述，ChatGPT類產品生成的內容不存在于法律保護的范疇之中。ChatGPT是人類智慧勞動所創(chuàng)造出來的產物，屬于計算機類軟件作品。根據(jù)《中華人民共和國著作權法》第三條規(guī)定，“本法所稱的作品，是指文學、藝術和科學領域內具有獨創(chuàng)性并能以一定形式表現(xiàn)的智力成果”。其中包含計算機軟件，所以只要是軟件的著作權人或者其受讓者，都享有軟件著作權的各項權利，也表明ChatGPT產品本身受到法律保護。ChatGPT產品的著作權人使用其進行創(chuàng)作，不符合主客體屬性邏輯，生成的內容也并非創(chuàng)作者的主觀意志。ChatGPT產品被軟件制作者創(chuàng)作出來，則有一個明確的主體與客體，制作者為主體創(chuàng)作了客體ChatGPT產品。ChatGPT創(chuàng)作過程中再將其視為創(chuàng)作主體，這就意味著ChatGPT同時具有了主體與客體屬性，形成了二元對立的局面，從而無法判斷是否符合法律法規(guī)。除此之外，按照著作權體系的基本觀點，獨創(chuàng)性應當反映作者個性、作者思想和情感的表達。從ChatGPT的創(chuàng)作流程來看，ChatGPT使用者只是發(fā)出指令，并未參與生成