《以零信任應對AI部署中的影子訪問風險》

目錄序言 8摘要 9什么是影子訪問？ 9零信任概述 9為什么存在影子訪問？ 10零信任原則可以如何減少影子訪問 GenAI、LLMs等技術概述 AI、GenAI、LLMs和影子訪問 全面的清單、變更管理和運營控制 數據訪問的可見性、可控性和合規(guī)性 12授權和治理框架 12多模態(tài)數據的細粒度訪問控制 12向量嵌入的訪問控制 12非結構化內容的數據分類 13身份驗證和負責任使用 13內容適宜性和授權 13防止個人信息和機密數據泄露 13結論 14其他資料 14?2024云安全聯盟大中華區(qū)版權所有 7序言AI（Gen（LL）AI部署中的影子訪問風險》深入探討了影子訪問這一新興寶貴的建議和指導。AI時代下，持續(xù)關注和深入探討影子訪問問題的重要性。通過不斷探索和制定統(tǒng)的安全性和穩(wěn)定性。李雨航YaleLiCSA大中華區(qū)主席兼研究院院長摘要訪問，往往因現代技術環(huán)境的復雜性和訪問權限管理不足而加劇。中，零信任的實際落地面臨著挑戰(zhàn)。（GeA（Ls和檢索增強生成（RAG）的集成，引入了影子訪問風險的額外維度，如未經授權的訪問、敏感數信任方法必須適應生成式人工智能技術帶來的細微差別。本文檔著重于討論影子訪問與當今最重要的兩種技術的交叉點：零信任和人工智能。什么是影子訪問？影子訪問是對資源（如應用程序、網絡和數據）的意外和/或非預期的訪問。隨著云計算、DevOps、云原生架構和數據共享的發(fā)展，這個新問題更加嚴重。（程中，為用戶提供了非必要的訪問，進而增加了影子訪問問題。零信任概述它可以大大減輕影子訪問的可能性和影響。（（最小特權、基于角色的訪問控制（BA、基于屬性的訪問控制（ABC、基于上下文的訪問控制（BAC。它還需要使用網絡分割和微隔離、持續(xù)認證和監(jiān)控（用（EB子訪問。為什么存在影子訪問？徑。那么，為什么會存在影子訪問呢？IAM流程和應用程序開發(fā)實踐中的差距，是影子訪問產險的必要性。個組成部分，如果不能首先杜絕任何影子訪問，就無法實現零信任的最終狀態(tài)。健壯和更安全的環(huán)境。零信任原則可以如何減少影子訪問權限意味著只為用戶、設備、應用程序和工作負載提供他們絕對需要的訪問權限。顯式操作或模板是由于應用程序更改導致的意外后果。理解使得能夠優(yōu)先解決最重要的影子訪問問題。GenAI、LLMs等技術概述生成式人工智能TransformerGenAIAI他方面，請參考以下文件：《AI組織責任-核心安全責任》《AI彈性:AI安全革命性基準型》《從原則到實踐:AI》AI、GenAI、LLMs和影子訪問以下是人工智能和大模型語言模型（LLMs）的新時代下創(chuàng)新者、安全、隱私和數據治理的領導者最關心的問題：全面的清單、變更管理和運營控制GenAI引入了一類全新的技術資產：LLMRAGGenAI資產及其相AI資產管理（CMDB）AI數據訪問的可見性、可控性和合規(guī)性GenAIRAG對企業(yè)數據的透明、受控和合規(guī)的訪問，RAG將預訓LLMGenAI監(jiān)督數據共享實踐，確保符合數據隱私、存儲地、主權和法規(guī)標準。授權和治理框架LLMAI驅動的應多模態(tài)數據的細粒度訪問控制感信息得到適當的保護。向量嵌入的訪問控制企業(yè)必須認識到，LLMsRAG系統(tǒng)完全繞過了企業(yè)訪問控制機制。風險在于關LLM堆棧的需求。非結構化內容的數據分類LLM應用程序的多樣化需求至,應用程序能夠適當地訪問和處理非結構化內容。身份驗證和負責任使用（API的身能使用的信任和透明度，同時防止?jié)撛诘臑E用或倫理違規(guī)。內容適宜性和授權實施內容適宜性和授權措施對于驗證和保證生成的內容符合用戶期望并被授權分估內容的適宜性。防止個人信息和機密數據泄露（PII）LLM堆棧中的泄漏對于維