生成的AI透明度：識(shí)別機(jī)器生成的內(nèi)容

JRCJRC137136夠生成逼真的類人類內(nèi)容。對(duì)其潛在濫用和社會(huì)影響的關(guān)注突顯了識(shí)別機(jī)器生成內(nèi)→識(shí)別AI生成內(nèi)容的解決方案應(yīng)具備以下四個(gè) 的一個(gè)前沿領(lǐng)域，近年來由于最先進(jìn)的技術(shù)進(jìn)步用于生成媒體內(nèi)容（如文本、音頻、圖像或視頻 )的模型，這些內(nèi)容模仿人類制作的內(nèi)容。該技術(shù)的應(yīng)用潛力覆蓋了各個(gè)行業(yè)。其創(chuàng)造力和推理諸多益處，其不斷增長的能力也引發(fā)了對(duì)其自身或操控的內(nèi)容（如圖像、音頻或視頻）與現(xiàn)有的人、物、地點(diǎn)或其他實(shí)體或事件極為相似，并且 通用型AI系統(tǒng)、生成合成音頻、圖像、視humans"人工生成或操縱。提供商應(yīng)確保其技術(shù)解決方案在相關(guān)范圍內(nèi)有效、互操作性強(qiáng)、穩(wěn)健可靠。對(duì)于歐盟以外的地區(qū)，機(jī)器生成內(nèi)容的問題也已受 開發(fā)有效的技術(shù)手段以確保用戶知曉內(nèi)容由AI生成[9]，以及中國對(duì)深度合成互聯(lián)網(wǎng)服務(wù)提出眾多要求，包括使用技術(shù)手段標(biāo)注這些服務(wù)生成或編輯的內(nèi)容[10]。在過去五十年中，數(shù)字技術(shù)的興起顯著重塑了所有權(quán)和版權(quán)的格局。數(shù)字化資產(chǎn)可以被復(fù)制和修改的可能性催生了將隱藏信息或標(biāo)記嵌入到圖像技術(shù)），以及唯一標(biāo)識(shí)這些資產(chǎn)的方法（指紋識(shí)），的修改，如添加標(biāo)志或文字。隨著時(shí)間的推移，這些技術(shù)演進(jìn)為對(duì)人類感官不可感知且在視覺和音頻領(lǐng)域具有強(qiáng)大抗篡改性的水印。水印技術(shù)與指紋識(shí)別方法相結(jié)合，進(jìn)一步增強(qiáng)了安全性，采此簡報(bào)的目的，我們將重點(diǎn)放在最常見的研究工作中產(chǎn)生的文本、音頻、圖像和視頻數(shù)據(jù)上。支器（GPT基于卷積網(wǎng)絡(luò)的技術(shù)[13]，例如用于生成的內(nèi)容對(duì)于確保數(shù)字技術(shù)和媒體的信心保這份簡報(bào)旨在回顧四種技術(shù)解決方案（見圖1） ,以實(shí)現(xiàn)這一目標(biāo)。這些解決方案根據(jù)四項(xiàng)des供者名稱、創(chuàng)建日期或用于身份驗(yàn)證的數(shù)字簽名等信息來實(shí)現(xiàn)。該過程應(yīng)要求最小的努力和受到可預(yù)見的變化或修改影響，這些變化或修改不影響內(nèi)容的合成性質(zhì)，也不改變內(nèi)容的整體外觀或可解釋性（例如，圖像的亮度或音頻的音量 )。的的信息的修改，無論是更改識(shí)別元素（篡改）元數(shù)據(jù)是嵌入計(jì)算機(jī)文件中并提供有關(guān)這些文件G、JPG、MP3或PDF。當(dāng)生成音頻或圖像時(shí)，這通常是常見的做法，但對(duì)于返回原始文本的文據(jù)。然而，某些元數(shù)據(jù)中的信息可能需要更新以圖1對(duì)四種技術(shù)解決方案的示意圖進(jìn)行了分析，以識(shí)別生成的內(nèi)容。水印技術(shù)將元數(shù)據(jù)嵌入內(nèi)容中作為不可見或幾乎不可感知的標(biāo)記。水印可以在媒體內(nèi)容生成期間[23]。-水印可以設(shè)計(jì)成對(duì)內(nèi)容質(zhì)量影響最小，尤其是對(duì)的水印是可行的，并且已在科學(xué)作品中進(jìn)行了演下，指紋識(shí)別涉及生成并存儲(chǔ)在一個(gè)外部數(shù)據(jù)庫中唯一標(biāo)識(shí)符，該標(biāo)識(shí)符用于識(shí)別生成的內(nèi)容，標(biāo)識(shí):識(shí)別過程包括計(jì)算待識(shí)別內(nèi)容的指紋，并將修改敏感，這可能導(dǎo)致不同的指紋和錯(cuò)誤的身份基于人工智能的檢測(cè)工具采用機(jī)器學(xué)習(xí)分類技術(shù)構(gòu)建，并通過人工制作和機(jī)器生成的內(nèi)容進(jìn)行訓(xùn)標(biāo)識(shí):水印需要特定的工具來驗(yàn)證真?zhèn)?、檢測(cè)篡標(biāo)識(shí):識(shí)別過程涉及將內(nèi)容輸入到檢測(cè)器中。然而，當(dāng)前用于檢測(cè)生成內(nèi)容的技術(shù)存在較高的誤報(bào)率，并且可能會(huì)錯(cuò)誤地識(shí)別出由人類生成的內(nèi)。開放性促進(jìn)了創(chuàng)新文化的形成，允許開發(fā)者迭代關(guān)鍵想法并逐步開發(fā)更為先進(jìn)的系統(tǒng)。然而，當(dāng)數(shù)據(jù)、指紋或水印只需刪除一行代碼即可，從而指紋識(shí)別、水印或檢測(cè)方法）也是開源的，惡意行為者可能分析代碼以找出繞過生成內(nèi)容識(shí)對(duì)于這些問題，最穩(wěn)健的方法是在生成過程中整或?qū)τ?xùn)練數(shù)據(jù)集中的所有圖像進(jìn)行水印處理，使而另一端保持封閉。例如，公開水印代碼和封閉受限于當(dāng)前的技術(shù)水平，且目前尚未找到單一解決方案能夠全面滿足識(shí)別可靠生成內(nèi)容的全部理將元數(shù)據(jù)和水印整合到內(nèi)容中，可以更容易地跟蹤和驗(yàn)證由機(jī)器生成的數(shù)字內(nèi)容。諸如內(nèi)容來源表1與上述討論的四種desirable屬性相比的技術(shù)解決方案比較。（綠色：已覆蓋，橙色：部分覆蓋，紫色：未覆蓋）效率完整性對(duì)含量變更操縱TextText音頻音頻ImageImageTextText音頻音頻ImageImageTextText音頻音頻ImageImageTextText音頻音頻ImageImage元數(shù)據(jù)水印指紋檢測(cè)另一方面，指紋識(shí)別和檢測(cè)方法可以區(qū)分真容與被篡改的內(nèi)容，無論是否存在元數(shù)據(jù)或水印。然而，這些方法仍然存在一些不足：指紋識(shí)別需要專門的基礎(chǔ)設(shè)施來大規(guī)模生成和存儲(chǔ)指紋，依賴于數(shù)字簽名的解決方案需要設(shè)置合適的公鑰基礎(chǔ)設(shè)施(PKI)此外，技術(shù)實(shí)施可以留給提供商處理，或者在專更廣泛治理系統(tǒng)的一部分，以確保各方之間的正確互動(dòng)。在實(shí)踐中，這帶來了諸多挑戰(zhàn)，尤其是需要進(jìn)行進(jìn)一步的基礎(chǔ)研究。這還包括探索新的工程方法以開發(fā)產(chǎn)品，使內(nèi)容生成的識(shí)別更Intelligence'.2021.[online].Available:theproposalforaregulation[.]layingdownficialIntelligenceAct)[..],2023.[online]. TrustworthyArtificialIntelligence',Thewhite whatcost?'printing:ForwhichApplications?', nismsasaconditionnismsasaconditionofpublicRelease',Glo'AdversarialAudiowatermarkintoDeepFeature',Miers,andT.GoldstFingerprintsforDiffusionImages',ngh,'surveyofrobustandimperceptiblewatermarking',Z.Jiang,J.zhang,andN.z.Gong,'Evadingwa-content'.arxiv線進(jìn)行多輪機(jī)器生成文本檢測(cè)的國際機(jī)器學(xué)習(xí)大,'Robustness