deepseek大模型賦能高校教學(xué)和科研-廈大團(tuán)隊-202503

每個人都可以讀懂的大模型科普報告（高校篇）廈門大學(xué)林子雨廈門大學(xué)林子雨副教授 1.人工智能發(fā)展簡史2.人工智能思維3.大模型：人工智能的前沿4.高校本地部署DeepSeek大模型5.AIGC應(yīng)用與實踐6.基于大模型的智能體7.AI賦能高?？蒲?.AI賦能高校教學(xué)廈門大學(xué)大數(shù)據(jù)教學(xué)團(tuán)隊作品2025年2月廈門大學(xué)大數(shù)據(jù)教學(xué)團(tuán)隊作品1950年，“計算機(jī)之父”和“人工智能之父”艾倫·圖靈（AlanM.Turing）發(fā)表了論文《計算機(jī)器與智能》，這篇論文被譽(yù)為人工智能科學(xué)的開山之作。在論文的開篇，圖靈提出了一個引人深思的問題：“機(jī)器能思考嗎？”。這個問題激發(fā)了人們無盡的想象，同時也奠定了人工智能的基本概念和雛形1.2人工智能的誕生人工智能的誕生可以追溯到20世紀(jì)50年代。當(dāng)時，計算機(jī)科學(xué)剛剛起步，人們開始嘗試通過計算機(jī)程序來模擬人類的思維和行為。在這個背景下，一些杰出的科學(xué)家和工程師們開始研究如何使計算機(jī)具備更高級的功能1956年8月，在美國達(dá)特茅斯學(xué)院舉辦的人工智能夏季研討會，是人工智能領(lǐng)域具有里程碑意義的一次重要會議。這次會議匯聚了眾多杰出的科學(xué)家和工程師，他們共同探討和研究人工智能的發(fā)展和應(yīng)用前景這次會議的主題圍繞著人工智能的定義、研究方法和應(yīng)用場景展開。與會者們深入探討了人工智能的基本概念、算法和技術(shù)，以及其在各個領(lǐng)域的應(yīng)用潛力。他們共同認(rèn)識到，人工智能的研究和發(fā)展將為人類帶來巨大的變革和進(jìn)步1.2人工智能的誕生在這次會議上，“人工智能”這個詞匯被約翰.麥卡錫（JohnMcCarthy）首次提出。與會者們不僅對人工智能的研究和應(yīng)用前景進(jìn)行了深入探討，還提出了許多重要的觀點和思路，為人工智能的發(fā)展奠定了基礎(chǔ)。這次會議的召開標(biāo)志著人工智能作為一個獨立學(xué)科的正式誕生，因此，達(dá)特茅斯會議被稱為“人工智能的開端”，1956年也被稱為“人工智能元年”。這次會議不僅為人工智能的研究和發(fā)展奠定了基礎(chǔ)，還為人類帶來了巨大的變革和進(jìn)步1.3人工智能的發(fā)展階段從1956年人工智能元年至今，人工智能的發(fā)展歷程經(jīng)歷了漫長的歲月，大致可以劃分為以下6個階段1.4未來人工智能發(fā)展5個階段廈門大學(xué)大數(shù)據(jù)教學(xué)團(tuán)隊作品2.人工智能思維2.人工智能思維2024年12月，人工智能教母級人物、斯坦福大學(xué)終身教授李飛飛在公開演講中說道：“斯坦福應(yīng)該錄取最會用ChatGPT的前2000名學(xué)生”。2025年1月，互聯(lián)網(wǎng)知名企業(yè)家周鴻祎發(fā)表觀點”未來擅長使用AI的人會淘汰不會使用AI的人“。廈門大學(xué)大數(shù)據(jù)教學(xué)團(tuán)隊作品3.1大模型的概念參數(shù)數(shù)量龐大計算資源需求高訓(xùn)練數(shù)據(jù)量大參數(shù)數(shù)量龐大計算資源需求高訓(xùn)練數(shù)據(jù)量大3.1大模型的概念大模型的設(shè)計和訓(xùn)練旨在提供更強(qiáng)大、更準(zhǔn)確的模型性能，以應(yīng)對更復(fù)雜、更龐大的數(shù)據(jù)集或任務(wù)。大模型通常能夠?qū)W習(xí)到更細(xì)微的模式和規(guī)律，具有更強(qiáng)的泛化能力和表達(dá)能力上下文理解能力語言生成能力學(xué)習(xí)能力強(qiáng)可遷移性高3.2大模型的發(fā)展歷程大模型發(fā)展歷經(jīng)三個階段，分別是萌芽期、沉淀期和爆發(fā)期3.2大模型的發(fā)展歷程3.2大模型的發(fā)展歷程大模型發(fā)展對算力的需求演變3.3人工智能與大模型的關(guān)系ChatGPT人工智能包含了機(jī)器學(xué)習(xí)，機(jī)器學(xué)習(xí)包含了深度學(xué)習(xí)，深度學(xué)習(xí)可以采用不同的模型，其中一種模型是預(yù)訓(xùn)練模型，預(yù)訓(xùn)練模型包含了預(yù)訓(xùn)練大模型（可以簡稱為“大模型”預(yù)訓(xùn)練大模型包含了預(yù)訓(xùn)練大語言模型（可以簡稱為“大語言模型”預(yù)訓(xùn)練大語言模型的典型代表包括OpenAI的GPT和百度的文心ERNIE，ChatGPT是基于GPT開發(fā)的大模型產(chǎn)品，文心一言是基于文心ERNIE開發(fā)的大模型產(chǎn)品ChatGPT文心一言深度學(xué)習(xí)模型預(yù)訓(xùn)練模型預(yù)訓(xùn)練大語言模型GPT文心ERNIE...預(yù)訓(xùn)練大模型預(yù)訓(xùn)練大語言模型人工智能文心一言深度學(xué)習(xí)模型預(yù)訓(xùn)練模型預(yù)訓(xùn)練大語言模型GPT文心ERNIE...預(yù)訓(xùn)練大模型預(yù)訓(xùn)練大語言模型人工智能機(jī)器學(xué)習(xí)深度學(xué)習(xí)3.4大模型的分類語言大模型是指在自然語言處理（NaturalLanguageProcessing，NLP）領(lǐng)域中的一類大模型，通常用于處理文本數(shù)據(jù)和理解自然語言。這類大模型以學(xué)習(xí)自然語言的各種語法、語義和語境規(guī)則。代表性產(chǎn)品包括GPT系列（OpenAI）、Bard視覺大模型是指在計算機(jī)視覺（ComputerVision，CV）領(lǐng)域中使用的大模型，通常用于圖像處理和分析。這類模型通過在大規(guī)模圖像數(shù)據(jù)上進(jìn)行訓(xùn)練，可圖像分割、姿態(tài)估計、人臉識別等。代表性產(chǎn)品包括VIT系列（Google）、文心UFO、華為盤古多模態(tài)大模型3.4大模型的分類按照應(yīng)用領(lǐng)域的不同，大模型主要可以分為L0、L1、L2三個層級相當(dāng)于AI完成了“通識教育”領(lǐng)域的性能和準(zhǔn)確度，相當(dāng)于AI成為“行業(yè)專家”3.4大模型的分類大語言模型可以分為通用大模型和推理大模型推理大模型的概念大規(guī)模傳播應(yīng)該開始于OpenAI官方宣布了OpenAIo1推理大模在OpenAI的官網(wǎng)上，OpenAI定義推理模型是在回答之前進(jìn)行思考，并在回復(fù)用戶之前，在內(nèi)部生成一長串的思維鏈過程。思維鏈?zhǔn)且环N提示大語言模型進(jìn)行逐步推先顯式地寫出推理的中間步驟。這就像人類解決復(fù)雜問題時會先把思考過程寫下來3.4大模型的分類n推理大模型DeepSeekR1的對話效果3.4大模型的分類SebastianRaschka博士（LightningAI的首席教育學(xué)家）將“推理”定義為通過生成中間步驟來回答復(fù)雜問題的過程非推理問題：”非推理問題：”法國的首都是哪里？”（答案直接、無需推導(dǎo)）推理問題：”一列火車以每小時60英里的速度行駛3小時推理問題：”一列火車以每小時60英里的速度行駛3小時，行駛距離是多少？”（需先理解”距離=速度×?xí)r間”的關(guān)系，再分步計算）通用的大語言模型（LLM）可能直接輸出簡短答案（如”180英里”）推理模型的特點在于顯式展示中間推導(dǎo)過程3.4大模型的分類在應(yīng)用方面二者各有擅長的領(lǐng)域，而不是簡單的誰強(qiáng)誰弱問題n如果你需要完成數(shù)據(jù)分析、邏輯推理、代碼生成等邏輯性較強(qiáng)且較為復(fù)雜的任務(wù)，請選擇推理大模型n如果你面臨創(chuàng)意寫作、文本生成、意圖識別等發(fā)散性較強(qiáng)且較為創(chuàng)意多樣的任務(wù)，請選擇通用大模型特性推理大模型通用大模型適用場景復(fù)雜推理、解謎、數(shù)學(xué)、編碼難題文本生成、翻譯、摘要、基礎(chǔ)知識問答復(fù)雜問題解決能力優(yōu)秀，能進(jìn)行深度思考和邏輯推理一般，難以處理多步驟的復(fù)雜問題運算效率較低，推理時間較長，資源消耗大較高，響應(yīng)速度快，資源消耗相對較小幻覺風(fēng)險較高，可能出現(xiàn)“過度思考”導(dǎo)致的錯誤答案較低，更依賴于已知的知識和模式泛化能力更強(qiáng)，能更好地適應(yīng)新問題和未知場景相對較弱，更依賴于訓(xùn)練數(shù)據(jù)擅長任務(wù)舉例解決復(fù)雜邏輯謎題，編寫復(fù)雜算法，數(shù)學(xué)證明撰寫新聞稿，翻譯文章，生成產(chǎn)品描述，回答常識問題成本通常更高通常更低3.5大模型的基本原理大模型是基于Transformer架構(gòu)的，這種架構(gòu)是一種專門用于自然語言處理的“編碼-解碼器”架構(gòu)。在訓(xùn)練過程中，大模型將輸入的單詞以向量的形式傳遞給神經(jīng)網(wǎng)絡(luò)，然后通過網(wǎng)絡(luò)的編碼解碼以及自注意力機(jī)制，建立起每個單詞之間聯(lián)系的權(quán)重。大模型的核心能力在于將輸入的每句話中的每個單詞與已經(jīng)編碼在模型中的單詞進(jìn)行相關(guān)性的計算，并把相關(guān)性又編碼疊加在每個單詞中。這樣，大模型能夠更好地理解和生成自然文本，同時還能夠表現(xiàn)出一定的邏輯思維和推理能力3.5大模型的基本原理廈門大學(xué)大數(shù)據(jù)教學(xué)團(tuán)隊作品3.6.1國外的大模型產(chǎn)品ChatGPT是一種由OpenAI訓(xùn)練的大語言模型。它是基于Transformer架構(gòu)，經(jīng)過大量文本數(shù)據(jù)訓(xùn)練而成，能夠生成自然、流暢的語言，并具備回答問題、生成文本、語言翻譯等多種功能ChatGPT的應(yīng)用范圍廣泛，可以用于客服、問答系統(tǒng)、對話生成、文本生成等領(lǐng)域。它能夠理解人類語言，并能夠回答各種問題，提供相關(guān)的知識和信息。與其他聊天機(jī)器人相比，ChatGPT具備更強(qiáng)的語言理解和生成能力，能夠更自然地與人類交流，并且能夠更好地適應(yīng)不同的領(lǐng)域和場景。ChatGPT的訓(xùn)練數(shù)據(jù)來自互聯(lián)網(wǎng)上的大量文本，因此，它能夠涵蓋多種語言風(fēng)格和文化背景3.6.1國外的大模型產(chǎn)品Gemini是谷歌發(fā)布的大模型，它能夠同時處理多種類型的數(shù)據(jù)和任務(wù)，覆蓋文本、圖像、音頻、視頻等多個領(lǐng)域。Gemini采用了全新的架構(gòu)，將多模態(tài)編碼器和多模態(tài)解碼器兩個主要組件結(jié)合在一起，以提供最佳結(jié)果Gemini包括三種不同規(guī)模的模型：GeminiUltra、GeminiPro和GeminiNano，適用于不同任務(wù)和設(shè)備。2023年12月6日，Gemini的初始版本已在Bard中提供，開發(fā)人員版本可通過GoogleCloud的API獲得。Gemini可以應(yīng)用于Bard和Pixel8Pro智能手機(jī)。Gemini的應(yīng)用范圍廣泛，包括問題回答、摘要生成、翻譯、字幕生成、情感分析等任務(wù)。然而，由于其復(fù)雜性和黑箱性質(zhì)，Gemini的可解釋性仍然是一個挑戰(zhàn)3.6.1國外的大模型產(chǎn)品2024年2月16日，OpenAI再次震撼全球科技界，發(fā)布了名為Sora的文本生成視頻大模型，只需輸入文本就能自動生成視頻。這一技術(shù)的誕生，不僅標(biāo)志著人工智能在視頻生成領(lǐng)域的重大突破，更引發(fā)了關(guān)于人工智能發(fā)展對人類未來影響的深刻思考。隨著Sora的發(fā)布，人工智能似乎正式踏入了通用人工智能（AGI：ArtificialGeneralIntelligence）的時代。AGI是指能夠像人類一樣進(jìn)行各種智能活動的機(jī)器智能，包括理解語言、識別圖像、進(jìn)行復(fù)雜推理等。Sora大模型能夠直接輸出長達(dá)60秒的視頻，并且視頻中包含了高度細(xì)致的背景、復(fù)雜的多角度鏡頭，以及富有情感的多個角色。這種能力已經(jīng)超越了簡單的圖像或文本生成，開始觸及到視頻這一更加復(fù)雜和動態(tài)的媒介。這意味著人工智能不僅在處理靜態(tài)信息上越來越強(qiáng)大，而且在動態(tài)內(nèi)容的創(chuàng)造上也展現(xiàn)出了驚人的潛力3.6.1國外的大模型產(chǎn)品右圖是Sora根據(jù)文本自動生成的視頻畫面，一位戴著墨鏡、穿著皮衣的時尚女子走在雨后夜晚的東京市區(qū)街道上，抹了鮮艷唇彩的唇角微微翹起，即便帶著墨鏡也能看到她的微笑，地面的積水映出了她的身影和燈紅酒綠的霓虹燈，熱鬧非凡的唐人街正在進(jìn)行舞龍表演，熙熙攘攘的人群目光都聚焦在躍動的彩龍身上，整個環(huán)境的喜慶氛圍仿佛令人身臨其境3.6.1國外的大模型產(chǎn)品2024年12月20日，OpenAI發(fā)布推理模型o3，無論在軟件工程、編寫代碼，還是競賽數(shù)學(xué)、掌握人類博士級別的自然科學(xué)知識能力方面，o3都達(dá)到了很高的水平3.6.2國內(nèi)的大模型產(chǎn)品大模型指標(biāo)排名DeepSeek能力測評第一豆包用戶數(shù)量第一文本處理第一即夢AI作圖能力第一通義萬相視頻生成第一智譜清言文檔歸納第一3.6.2國內(nèi)的大模型產(chǎn)品nDeepSeek（深度求索）2024年12月26日，杭州一家名為“深度求索”（DeepSeek）的中國初創(chuàng)公司，發(fā)布了全新一代大模型DeepSeek-V3。在多個基準(zhǔn)測試中，DeepSeek-V3的性能均超越了其他開源模型，甚至與頂尖的閉源大模型GPT-4o不相上下，尤其在數(shù)學(xué)推理上，DeepSeek-V3更是遙遙領(lǐng)先。DeepSeek-V3以多項開創(chuàng)性技術(shù)，大幅提升了模型的性能和訓(xùn)練效率。DeepSeek-V3在性能比肩GPT-4o的同時，研發(fā)卻只花了558萬美元，訓(xùn)練成本不到后者的二十分之一。因為表現(xiàn)太過優(yōu)越，DeepSeek在硅谷被譽(yù)為“來自東方的神秘力量”。2025年1月20日，DeepSeek-R1正式發(fā)布，擁有卓越的性能，在數(shù)學(xué)、代碼和推理任務(wù)上可與OpenAIo1媲美。DeepSeek創(chuàng)始人梁文峰3.6.2國內(nèi)的大模型產(chǎn)品n通義千問通義千問是阿里云推出的一個超大規(guī)模的語言模型，它具備多輪對話、文案創(chuàng)作、邏輯推理、多模態(tài)理解、多語言支持的能力。通義千問這個名字有“通義”和“千問”兩層含義，“通義”表示這個模型能夠理解各種語言的含義，“千問”則表示這個模型能夠回答各種問題。通義千問基于深度學(xué)習(xí)技術(shù)，通過對大量文本數(shù)據(jù)進(jìn)行訓(xùn)練，從而具備了強(qiáng)大的語言理解和生成能力。它能夠理解自然語言，并能夠生成自然語言文本n字節(jié)跳動豆包豆包是字節(jié)跳動基于云雀模型開發(fā)的AI，能理解你的需求并生成高質(zhì)量回應(yīng)。它知識儲備豐富，涵蓋歷史、科學(xué)、技術(shù)等眾多領(lǐng)域，無論是日常問題咨詢，還是深入學(xué)術(shù)探討，都能提供準(zhǔn)確全面的信息。同時，具備出色的文本創(chuàng)作能力，能撰寫故事、詩歌、文案等各類體裁。并且擅長語言交互，交流自然流暢，就像身邊的知心伙伴，耐心傾聽并給予恰當(dāng)反饋。3.6.2國內(nèi)的大模型產(chǎn)品n文心一言文心一言是由百度研發(fā)的知識增強(qiáng)大模型，能夠與人對話互動、回答問題、協(xié)助創(chuàng)作，高效便捷地幫助人們獲取信息、知識和靈感文心一言基于飛槳深度學(xué)習(xí)平臺和文心知識增強(qiáng)大模型，持續(xù)從海量數(shù)據(jù)和大規(guī)模知識中融合學(xué)習(xí)，具備知識增強(qiáng)、檢索增強(qiáng)和對話增強(qiáng)的技術(shù)特色。文心一言具有廣泛的應(yīng)用場景，例如智能客服、智能家居、移動應(yīng)用等領(lǐng)域。它可以與用戶進(jìn)行自然語言交互，幫助用戶解決各種問題，提供相關(guān)的知識和信息Kimi是月之暗面科技2023年推出的AI助手，可處理200萬字超長文本，支持多格式文件解讀、互聯(lián)網(wǎng)信息搜索整合、多語言對話等，能用于辦公、學(xué)習(xí)、創(chuàng)作等場景，有網(wǎng)頁版、APP、微信小程序等使用方式。3.6.3主流大模型“幻覺”評測大模型幻覺，也被稱為AI幻覺，是指大型語言模型在生成內(nèi)容時，產(chǎn)生與事實不符、邏輯錯誤或無中生有等不合理信息的現(xiàn)象。比如在回答歷史事件時，可能會編造不存在的細(xì)節(jié)或人物；在進(jìn)行科學(xué)知識講解時，給出錯誤的理論或數(shù)據(jù)。其產(chǎn)生原因主要包括：模型訓(xùn)練數(shù)據(jù)存在偏差、不完整或錯誤，導(dǎo)致在學(xué)習(xí)過程中引入了不準(zhǔn)確的信息；模型基于概率分布生成內(nèi)容，在某些情況下會選擇一些看似合理但實際錯誤的路徑。大模型幻覺會影響信息的準(zhǔn)確性和可靠性，在信息傳播、學(xué)術(shù)研究等領(lǐng)域可能帶來不良影響。因此，在使用大模型時，需要對其輸出內(nèi)容進(jìn)行仔細(xì)驗證和甄別。廈門大學(xué)大數(shù)據(jù)教學(xué)團(tuán)隊作品3.7大模型的應(yīng)用領(lǐng)域大模型的應(yīng)用領(lǐng)域非常廣泛，涵蓋了自然語言處理、計算機(jī)視覺、語音識別、推薦系統(tǒng)、醫(yī)療健康、金融風(fēng)控、工業(yè)制造、生物信息學(xué)、自動駕駛、氣候研究等多個領(lǐng)域跨語言翻譯）、問答系統(tǒng)（能夠回答用戶提出的問題）（用于判斷文本中的情感傾向）、語言生成（如聊天機(jī)器（2）計算機(jī)視覺體）、圖像生成（如風(fēng)格遷移、圖像超分辨率增強(qiáng)）、人臉于安全驗證和身份識別）、醫(yī)學(xué)影像分析（輔助醫(yī)生診斷疾?。┑?.7大模型的應(yīng)用領(lǐng)域（3）語音識別（4）推薦系統(tǒng)大模型可以用于個性化推薦、廣告推薦等任務(wù)。通過分析3.7大模型的應(yīng)用領(lǐng)域3.7大模型的應(yīng)用領(lǐng)域廈門大學(xué)大數(shù)據(jù)教學(xué)團(tuán)隊作品4.1直接使用在線大模型n2025年1月國內(nèi)大模型排行榜大模型圖標(biāo)DeepSeek豆包即夢AI通義萬相智譜清言指標(biāo)排名能力測評第一用戶數(shù)量第一文本處理第一作圖能力第一視頻生成第一文檔歸納第一4.2國產(chǎn)AI大模型DeepSeek走入高校DeepSeek滿血版R1，參數(shù)高達(dá)6710億（671B相當(dāng)于一個“超級大腦”，能處理復(fù)雜數(shù)學(xué)題、編程、長文本分析等高難度任務(wù)。部署本地DeepSeek-R1（671B）滿血版模型，支持校園辦公自動化、科研項目輔助、學(xué)術(shù)資源分析等多領(lǐng)域應(yīng)用浙江大學(xué)、中國人民大學(xué)、廈門大學(xué)、北京師范大學(xué)、北京交通大學(xué)等高校發(fā)布消息，表示正在探索開展有關(guān)DeepSeek的實踐應(yīng)用，部分高校已在自主研發(fā)的教學(xué)課程平臺中接入該大浙江大學(xué)、中國人民大學(xué)、廈門大學(xué)、北京師范大學(xué)、北京交通大學(xué)等高校發(fā)布消息，表示正在探索開展有關(guān)DeepSeek的實踐應(yīng)用，部分高校已在自主研發(fā)的教學(xué)課程平臺中接入該大中國農(nóng)業(yè)大學(xué)、中央民族大學(xué)等高校還利用該大模型的問答功中國農(nóng)業(yè)大學(xué)、中央民族大學(xué)等高校還利用該大模型的問答功北京交通大學(xué)教學(xué)運行中心在智慧教學(xué)課程平臺中全面接入Deep-Seek-R1大模型，利用其在數(shù)學(xué)、代碼、自然語言處理等方面的強(qiáng)大推理能力，幫助教師高效解決教學(xué)過程中各類復(fù)雜問題。該校表示，目前“深度思考”功能對全校教師開放，4.2國產(chǎn)AI大模型DeepSeek走入高校2025年2月19日，鄭州大學(xué)國家超級計算中心、計算機(jī)與人工智能學(xué)院、信息化辦公室攜手攻堅，成功在超算中心設(shè)備上部署本地化“滿血版”DeepSeek-R1大模型（671B）。在多個關(guān)鍵應(yīng)用領(lǐng)域，DeepSeek-R1大模型展現(xiàn)出強(qiáng)大的實力編程助手支持10余種編程語言的代碼創(chuàng)作與問題診斷編程助手支持10余種編程語言的代碼創(chuàng)作與問題診斷文本分析能夠解答高等數(shù)學(xué)、概率統(tǒng)計、線性代數(shù)知識問答文本創(chuàng)作與智能辦公場景實現(xiàn)高效語言生成、知識問答文本創(chuàng)作與智能辦公場景實現(xiàn)高效語言生成、輔助寫作、智能糾錯論文寫作輔助提通過多輪對話實時聯(lián)網(wǎng)搜索權(quán)威信息，提通過多輪對話實時聯(lián)網(wǎng)搜索權(quán)威信息，4.2國產(chǎn)AI大模型DeepSeek走入高校鄭州大學(xué)DeepSeek-R1系列大模型正在對接學(xué)校統(tǒng)一身份認(rèn)證平臺，近期將面向全校師生開放試用同時，將根據(jù)學(xué)校各學(xué)科具體需求與硬件條件，以具體化、針對性、私有化、學(xué)科專用或?qū)嶒炇覍Ｓ玫姆绞綄⑦M(jìn)一步將70B、32B、14B、8B、7B等不同版本的DeepSeek-R1大模型部署到學(xué)科內(nèi)部，并接入本地知識庫（如學(xué)術(shù)資源、課程資源、實驗數(shù)據(jù)等后期學(xué)校將根據(jù)具體需求及資源占用情況提供差異化服務(wù)，構(gòu)建“AI+學(xué)科”垂直領(lǐng)域解決方案，為學(xué)科交叉創(chuàng)新發(fā)展提供有力支撐4.3為什么需要本地部署大模型本地部署大模型本地部署大模型4.4本地部署大模型方案使用海量數(shù)據(jù)進(jìn)行預(yù)訓(xùn)練得到的基礎(chǔ)大模型，具備廣泛的語言理解和生成能力，但在特定任務(wù)上的表現(xiàn)往往不夠精準(zhǔn)。解決方案：（1）模型微調(diào)；（2）本地知識庫（1）領(lǐng)域針對性強(qiáng)：經(jīng)過微調(diào)的模型在特定領(lǐng)域的表現(xiàn)會有顯著提升，能夠更好地理解和處理該領(lǐng)域的專業(yè)問題；（2）模型適應(yīng)性優(yōu)化：通過微調(diào)可以調(diào)整模型的參數(shù)，使其更符合特定任務(wù)的要求，提高輸出的準(zhǔn)確性和穩(wěn)定性。（1）高質(zhì)量的標(biāo)注數(shù)據(jù)：標(biāo)注數(shù)據(jù)的質(zhì)量直接影響微調(diào)的效果，需要確保數(shù)據(jù)標(biāo)注的準(zhǔn)確性和一致性。（2）合理的微調(diào)策略：選擇合適的微調(diào)算法和超參數(shù)，避免過擬合或欠擬合問題。4.4本地部署大模型方案模型微調(diào)主要是指令微調(diào)，指令微調(diào)包括兩個階段：監(jiān)督微調(diào)和強(qiáng)化學(xué)習(xí)在監(jiān)督微調(diào)階段在監(jiān)督微調(diào)階段，模型會學(xué)習(xí)一個指令-響應(yīng)（Instruction-Response）數(shù)據(jù)集，該數(shù)據(jù)集包含大量人類編寫的任務(wù)示例，例如“請解釋相對論的基本概念”及其標(biāo)準(zhǔn)答案通過這種方式，模型能夠理解不同類型的任務(wù)并提供符合預(yù)期的回答。指令-響應(yīng)（Instruction-Response）數(shù)據(jù)集用于訓(xùn)練模型理解任務(wù)指令并生成符合預(yù)期的響應(yīng)在微調(diào)完成后，部分高級模型還會使用強(qiáng)化學(xué)習(xí)進(jìn)行優(yōu)化。例如，ChatGPT和Claude使用人類反饋強(qiáng)化學(xué)習(xí)（RLHF）讓模型的回答更符合用戶期望，更好地選擇符合人類偏好的答案不足之處：需要收集、整理和標(biāo)注大量特定領(lǐng)域的數(shù)據(jù)，這是一個耗時費力的過程對知識更新頻繁的領(lǐng)域需要收集、整理和標(biāo)注大量特定領(lǐng)域的數(shù)據(jù)，這是一個耗時費力的過程4.4本地部署大模型方案n本地知識庫RAG（Retrieval-AugmentedGeneration即檢索增強(qiáng)生成，是一種結(jié)合檢索技術(shù)和生成模型的技術(shù)框架，旨在提升模型生成內(nèi)容的準(zhǔn)確性和相關(guān)性其核心思想是：在生成答案前，先從外部知識庫中檢索相關(guān)信息，再將檢索結(jié)果與用戶輸入結(jié)合，指導(dǎo)生成模型輸出更可靠的回答。簡單地說，就是利用已有的文檔、內(nèi)部知識生成向量知識庫，在提問的時候結(jié)合庫的內(nèi)容一起給大模型，讓其回答的更準(zhǔn)確，它結(jié)合了信息檢索和大模型技術(shù)4.4本地部署大模型方案n本地知識庫的優(yōu)點由于日常的業(yè)務(wù)知識是保存到本地的由于日常的業(yè)務(wù)知識是保存到本地的，所以減少信息泄露的風(fēng)險由于提問結(jié)合了業(yè)務(wù)知識，所以減少了模型的幻覺，即減少了模型的胡說八道不用重新訓(xùn)練模型不用重新訓(xùn)練模型，微調(diào)模型降低了成本模型的回復(fù)結(jié)合了業(yè)務(wù)知識和實時知識，所以實時性可以更好4.4本地部署大模型方案安裝Ollama下載DeepSeekR1運行DeepSeekR1使用OpenWebUI增強(qiáng)交互體驗 4.4本地部署大模型方案DeepSeekDeepSeekR1671B（滿血版）部署成本1.硬件采購成本?服務(wù)器集群：含8張NVIDIAA100/H100顯卡的服務(wù)器，市場價格約80-120萬元?配套設(shè)備：液冷系統(tǒng)、冗余電源等附加成本約15-25萬元2.運維成本?電費：滿載功耗約6000W，年電費約5-8萬元（按工業(yè)電價1.2元/度計算）?維護(hù)：專業(yè)工程師團(tuán)隊年成本約30-50萬元4.4本地部署大模型方案高校本地部署大模型面臨的問題：高校科研基礎(chǔ)設(shè)施不足，算力短缺且資源碎片化問題依然突出DeepSeek雖然大幅降低了算力消耗，但對于尖端的AIforScience，仍需大量算力。過去，傳統(tǒng)的高校算力建設(shè)方式，往往是不同院系、研究小組，自行采購和管理各自的計算資源，一個學(xué)校內(nèi)可能存在多個小型計算集群。賽爾網(wǎng)絡(luò)的一份報告顯示，全國近2000所高等學(xué)校中，91.6%的高校未建設(shè)校級算力平臺。這顯然難以匹配大模型時代的要求，容易出現(xiàn)算力資源分散管理、忙閑不均、共享不暢等問題，拖慢科研成果產(chǎn)出效率大模型的技術(shù)棧復(fù)雜。即使是目前廣其落地門檻仍然很高比如拿到一個開源的DeepSeek模型后，要先做算力適配，一種簡單粗暴的做法是多買一些已經(jīng)適配過的卡，把它給 裝進(jìn)去，再結(jié)合用戶的私有數(shù)據(jù)，去做常規(guī)的RAG或微調(diào)。這種方式簡單易操作，但成本較高。現(xiàn)在，高校和科研院所在探索一些新方法。比如，先將開源模型蒸餾，獲得更小參數(shù)的模型，來降低算力需求4.4本地部署大模型方案n2025年2月10日，清華大學(xué)AI團(tuán)隊發(fā)布KTransformers開源項目迎來重大更新，成功打破大模型推理算力門檻。此前，擁有671B參數(shù)的MoE架構(gòu)大模型DeepSeek-R1在推理時困難重重。推理服務(wù)器常因高負(fù)荷宕機(jī)，專屬版云服務(wù)器按GPU小時計費的高昂成本讓中小團(tuán)隊無力承擔(dān)，而市面上的“本地部署”方案多為參數(shù)量大幅縮水的蒸餾版，在本地小規(guī)模硬件上運行滿血版DeepSeek-R1被認(rèn)為幾乎不可能n此次KTransformers項目更新帶來重大突破，支持在24G顯存（4090D）的設(shè)備上本地運行DeepSeek-R1、V3的671B滿血版。其預(yù)處理速度最高可達(dá)286tokens/s，推理生成速度最高能達(dá)到14tokens/s。甚至有開發(fā)者借助這一優(yōu)化技術(shù)，在3090顯卡和200GB內(nèi)存的配置下，使Q2_K_XL模型的推理速度達(dá)到9.1tokens/s，實現(xiàn)了千億級模型的“家庭化”運行傳統(tǒng)方案：8卡A100服務(wù)器成本超百萬元，按需計費每小時數(shù)千元清華方案：單卡RTX4090方案，整機(jī)成本約2萬元，功耗80W廈門大學(xué)大數(shù)據(jù)教學(xué)團(tuán)隊作品廈門大學(xué)大數(shù)據(jù)教學(xué)團(tuán)隊作品5.1.1什么是AIGCAIGC的全稱為“ArtificialIntelligenceGeneratedContent”，中文翻譯為“人工智能生成內(nèi)容”。這是一種新的創(chuàng)作方式，利用人工智能技術(shù)來生成各種形式的內(nèi)容，包括文字、音樂、圖像、視頻等5.1.2AIGC與大模型的關(guān)系大模型與AIGC之間的關(guān)系可以說是相輔相成、相互促進(jìn)的。大模型為AIGC提供了強(qiáng)大的技術(shù)基礎(chǔ)和支撐，而AIGC則進(jìn)一步推動了大模型的發(fā)展和應(yīng)用AIGC的需求也推動了大AIGC的需求也推動了大模型的發(fā)展大模型和AIGC的結(jié)合，也帶來了廣泛的應(yīng)用前景大模型為AIGC提供了豐富的數(shù)據(jù)資源和強(qiáng)大的計算能力5.1.3常見的AIGC應(yīng)用場景辦公寫周報日報辦公寫周報日報，寫方案，寫運營活動，制作PPT，寫讀后感，寫代碼生成商品標(biāo)題、描述、廣告文案和廣告圖生成場景原畫，生成角色形象，生成世界觀，生成數(shù)值，生成商品標(biāo)題、描述、廣告文案和廣告圖娛樂影視娛樂頭像生成，照片修復(fù)，圖像生成，音樂生成生成分鏡頭腳本，生成劇本腳本頭像生成，照片修復(fù)，圖像生成，音樂生成5.1.3常見的AIGC應(yīng)用場景藝術(shù)寫詩藝術(shù)寫詩，寫小說，生成藝術(shù)創(chuàng)作品，草圖生成，藝術(shù)風(fēng)格轉(zhuǎn)換，音樂創(chuàng)作教育批改試卷，試卷創(chuàng)建，搜題虛擬講師動漫原畫繪制，動畫生成，分鏡生成，音樂生成媒體軟文撰寫媒體軟文撰寫，大綱提煉，熱點撰寫生活制定學(xué)習(xí)計劃，做旅游規(guī)劃設(shè)計UI設(shè)計，美術(shù)設(shè)計，插畫設(shè)計，建筑設(shè)計5.1.4常見的AIGC大模型工具OpenAI的ChatGPT科大訊飛的訊飛星火OpenAI的ChatGPT科大訊飛的訊飛星火阿里的通義千問DeepSeek字節(jié)跳動豆包百度文心一言字節(jié)跳動豆包百度文心一言這些工具基于大語言模型技術(shù)，具備文本生成、語言理解、知識問答、邏輯推理等多種能力，可廣泛應(yīng)用于寫作輔助、內(nèi)容創(chuàng)作、智能客服等多個領(lǐng)域。通過不斷迭代和優(yōu)化，為用戶提供更加智能、高效的內(nèi)容生成解決方案5.1.5AIGC大模型的提示詞AIGC大模型的提示詞（Prompt）是指用戶向大模型輸入的文本內(nèi)容，用于觸發(fā)大模型的響應(yīng)并指導(dǎo)其如何生成或回應(yīng)這些提示詞可以是一個問題、一段描述、一個指令，甚至是一個帶有詳細(xì)參數(shù)的文字描述。它們?yōu)榇竽Ｐ吞峁┝松蓪?yīng)文本、圖片、音頻、視頻等內(nèi)容的基礎(chǔ)信息和指導(dǎo)方向。提示詞的重要作用如下：引導(dǎo)生成增強(qiáng)交互性提高準(zhǔn)確性5.1.5AIGC大模型的提示詞使用提示詞需要注意一些技巧，這樣可以從大模型獲得更加符合我們預(yù)期要求的結(jié)果簡潔明確分解復(fù)雜任務(wù)使用肯定性指令考慮受眾簡潔明確分解復(fù)雜任務(wù)使用肯定性指令考慮受眾示例驅(qū)動遵守規(guī)則自然語言回答明確角色示例驅(qū)動遵守規(guī)則自然語言回答明確角色5.1.5AIGC大模型的提示詞提示詞之道：通用大模型與推理大模型在提示詞策略方面也有不同側(cè)重與技巧推理模型通用模型5.2文本類AIGC應(yīng)用實踐進(jìn)入百度官網(wǎng)訪問DeepSeek保證正?？焖偈褂?.2文本類AIGC應(yīng)用實踐案例：DeepSeek步驟2：步驟3：步驟2：步驟3：登錄DeepSeek平臺。在瀏覽器地址欄中輸入“/”網(wǎng)址，進(jìn)入“DeepSeek”平臺，完成登錄后，進(jìn)入平臺的對話功能界面。步驟5：步驟6：步驟5：步驟6：步驟7：登錄KIMI平臺。在瀏覽器地址欄中輸入“/”網(wǎng)址，進(jìn)入“KIMI平臺”，登錄成功后，點擊平臺左側(cè)的“kimi+”后選擇PPT助手功能5.2文本類AIGC應(yīng)用實踐案例：DeepSeek+Kimi制作腦圖為Markdown格式將內(nèi)容復(fù)制到text的文件中，進(jìn)行保存，并將文件的后綴名改為.md5.3圖片類AIGC應(yīng)用實踐圖片類AIGC是一種基于人工智能技術(shù)生成圖片的方法，它利用深度學(xué)習(xí)、生成對抗網(wǎng)絡(luò)（GAN）等先進(jìn)算法，通過學(xué)習(xí)和模仿大量圖像數(shù)據(jù)，能夠自動創(chuàng)作出高度真實和藝術(shù)化的圖片。AIGC在圖像生成、修復(fù)、風(fēng)格轉(zhuǎn)換、藝術(shù)創(chuàng)作等領(lǐng)域展現(xiàn)出強(qiáng)大能力，為數(shù)字藝術(shù)、設(shè)計、游戲、電影等多個行業(yè)帶來創(chuàng)新解決方案。其優(yōu)勢包括高效性、多樣性和自動化，能夠快速生成大量高質(zhì)量的圖像內(nèi)容，滿足各種復(fù)雜需求5.3圖片類AIGC應(yīng)用實踐AIGC能夠生成高度逼真的圖像，如人臉、動物、建筑物等。例如，OpenAI發(fā)布的DALL-E可以根據(jù)文本提示詞創(chuàng)作出全新的、原創(chuàng)的圖像，展示了AI在圖像創(chuàng)作方面的強(qiáng)大能力AIGC還可以修復(fù)損壞的圖像，如去除噪聲、填充缺失的部分等。這項技術(shù)對于保護(hù)和恢復(fù)古老的藝術(shù)作品、修復(fù)損壞的照片等具有重要意義通過對圖像進(jìn)行增強(qiáng)處理，AIGC可以增加圖像的飽滿感和增強(qiáng)細(xì)節(jié)，使圖像質(zhì)量得到提升。這在提升照片的視覺效果、改善圖像的清晰度和細(xì)節(jié)方面非常有用AIGC在圖像識別方面也有廣泛應(yīng)用，可以識別圖像中的對象、場景和特征，如人臉識別、車牌識別等。這項技術(shù)對于安防監(jiān)控、智能搜索、自動駕駛等領(lǐng)域的發(fā)展至關(guān)重要5.3圖片類AIGC應(yīng)用實踐案例：DeepSeek+即夢AI，生成教師節(jié)海報第1步：登錄DeepSeek，輸入如下提示詞：第2步：登錄“即夢AI”，進(jìn)入“AI作圖”的“圖片生成”，在提示詞輸入框中，把第1步DeepSeek生成的提示詞粘貼進(jìn)來，點擊“立即生成”5.3圖片類AIGC應(yīng)用實踐案例：去除圖片中的水印帶有水印的圖片去除水印后的圖片5.4語音類AIGC應(yīng)用實踐語音類AIGC是一種利用人工智能技術(shù)（特別是語音識別、自然語言處理和語音合成技術(shù)自動生成和處理語音內(nèi)容的技術(shù)。它能夠模擬人類語音，實現(xiàn)語音到文本的轉(zhuǎn)換、文本到語音的合成，以及語音情感分析等功能，廣泛應(yīng)用于智能語音助手、智能客服、語音翻譯等多個領(lǐng)域5.4語音類AIGC應(yīng)用實踐智能語音助手虛擬人物與數(shù)字人語音合成虛擬人物與數(shù)字人語音合成與轉(zhuǎn)換智能客服語音分析與情感識別智能客服智能駕駛艙與車載語音助手應(yīng)用場景5.4語音類AIGC應(yīng)用實踐n高校教師可以使用語音類AIGC工具（喜馬拉雅音頻大模型、騰訊智影根據(jù)自己教學(xué)課件的文本內(nèi)容，自動生成專業(yè)的配音，可以采用專業(yè)播音員的音色，也可n高校教師使用鬼手剪輯GhostCut進(jìn)行語音翻譯，可以把一種語言的講課視頻自動轉(zhuǎn)換成另外5.5視頻類AIGC應(yīng)用實踐視頻類AIGC是指利用人工智能技術(shù)，特別是深度學(xué)習(xí)、機(jī)器學(xué)習(xí)等算法，自動創(chuàng)建或處理視頻內(nèi)容的技術(shù)。它能根據(jù)給定的文本、圖像或其他數(shù)據(jù)，自動生成符合描述的視頻內(nèi)容，涵蓋文生視頻、圖生視頻、視頻風(fēng)格化、人物動態(tài)化等多個方向。這一技術(shù)在創(chuàng)意設(shè)計、影視制作等領(lǐng)域潛力巨大，極大地提升了視頻內(nèi)容的生產(chǎn)效率和質(zhì)量5.5視頻類AIGC應(yīng)用實踐視頻類AIGC大模型發(fā)端于Sora。2024年2月，美國的OpenAI發(fā)布了全球第一款文生視頻大模型Sora（這里的“文生視頻”是指由輸入的文本內(nèi)容生成相應(yīng)的視頻迅速引起了業(yè)界的廣泛關(guān)注和討論Vidu可靈由快手推出，Vidu可靈由快手推出，被譽(yù)為中國版Sora，視頻生成時長可達(dá)120秒，支持文生視頻、圖生視頻、視頻續(xù)寫、鏡頭控制等功能，表現(xiàn)出色。即夢AI是字節(jié)跳動旗下剪映團(tuán)隊開發(fā)的一站式AI創(chuàng)意創(chuàng)作平臺。支持文生圖、圖生圖、文生視頻、圖生視頻等即夢AI是字節(jié)跳動旗下剪映團(tuán)隊開發(fā)的一站式AI創(chuàng)意創(chuàng)作平臺。支持文生圖、圖生圖、文生視頻、圖生視頻等，有智能畫布、故事創(chuàng)作等高校教師怎么用？□借助可靈AI工具，根據(jù)文本內(nèi)容自動生成高質(zhì)量的視頻□使用即夢AI實現(xiàn)圖生視頻□使用通義萬相根據(jù)圖片生成自帶音效的視頻□借助剪映AI工具，根據(jù)文字自動生成高質(zhì)量的視頻，并自帶配音配樂□使用鬼手剪輯生成視頻解說□使用騰訊智影生成數(shù)字人播報視頻（用于制作教學(xué)視頻）5.5視頻類AIGC應(yīng)用實踐案例：使用騰訊智影生成數(shù)字人播報視頻（可以用于制作高校教學(xué)視頻）在瀏覽器地址欄中輸入網(wǎng)址“/”，進(jìn)入“騰訊智影”平臺，點擊平臺首頁“智能小工具”欄目中的“數(shù)字人播報”按鈕或者“智能小工具”上方的“數(shù)字人播報”按鈕，進(jìn)入“數(shù)字人播報”功能界面。圖騰訊智影登錄界面圖“數(shù)字人播報”功能入口5.6AIGC技術(shù)在輔助編程中的應(yīng)用AIGC技術(shù)在輔助編程中的應(yīng)用日益廣泛，它能夠自動生成高質(zhì)量的代碼，從而顯著提高開發(fā)效率代碼自動生成應(yīng)用場景代碼風(fēng)格統(tǒng)一代碼優(yōu)化與重構(gòu)代碼補(bǔ)全與提示能夠提供輔助編程服務(wù)的AIGC大模型包括Codex、GitHubCopilot、CodeGeeX、aiXcoder、豆包、通義靈碼等推薦高校使用AI編程工具：VSCode+DeepSeek，字節(jié)跳動Trae（AI原生集成開發(fā)環(huán)境）5.6AIGC技術(shù)在輔助編程中的應(yīng)用為什么要在VSCode中接入DeepSeek？代碼智能補(bǔ)全：根據(jù)上下文自動補(bǔ)全代碼，減少重復(fù)輸入，提高編碼效率。代碼生成：根據(jù)自然語言描述直接生成代碼，例如快速搭建項目框架或?qū)崿F(xiàn)特定功能。AI對話輔助：隨時與AI對話，獲取編程建議、解決技術(shù)難題。VSCode接入DeepSeek步驟注冊DeepSeek賬號并獲取APIKey安裝VSCode插件配置VSCode插件具體操作步驟請參考網(wǎng)頁：AI搜索，即人工智能搜索引擎，是一種利用先進(jìn)的人工智能技術(shù)，特別是深度學(xué)習(xí)和自然語言處理（NLP來理解和響應(yīng)用戶的查詢需求的新型搜索工具。它不僅僅是傳統(tǒng)搜索引擎（比如百度）的簡單升級，而是通過模擬人類的思維方式和行為模式，為用戶提供更加精準(zhǔn)、個性化且高效的信息檢索服務(wù)。AI搜索通過收集和分析用戶的歷史搜索數(shù)據(jù)和行為模式，構(gòu)建用戶畫像，從而實現(xiàn)更加精準(zhǔn)的個性化搜索服務(wù)。這種數(shù)據(jù)驅(qū)動的智能決策機(jī)制，使得AI搜索能夠不斷自我優(yōu)化，提升用戶體驗。納米AI搜索是360公司在2024年12月推出的全新AI搜索應(yīng)用，結(jié)合了自然語言處理、機(jī)器學(xué)習(xí)以及專家協(xié)同技術(shù)，致力于打破傳統(tǒng)搜索引擎的局限，提供智能化、多樣化的搜索體驗。搜索”5.8AI智能辦公WPS靈犀n一鍵生成PPTn閱讀課件、論文、翻譯英文論文廈門大學(xué)大數(shù)據(jù)教學(xué)團(tuán)隊作品6.基于大模型的智能體智能體本身既不是單純的軟件也不是硬件智能體本身既不是單純的軟件也不是硬件，而是一個更為寬泛的概念，它們可以是軟件程序、機(jī)器人或其他形式的系統(tǒng)，具備一定的自主性和智能性智能體（AIAgent又稱“人工智能代理”，是一種模仿人類智能行為的智能化系統(tǒng)，它就像是擁有豐富經(jīng)驗和知識的“智慧大腦”，能夠感知所處的環(huán)境，并依據(jù)感知結(jié)果，自主地進(jìn)行規(guī)劃、決策，進(jìn)而采取行動以達(dá)成特定目標(biāo)。簡單來說，智能體能夠根據(jù)外部輸入做出決策，并通過與環(huán)境的互動，不斷優(yōu)化自身行為6.基于大模型的智能體理流程而言AIAgent主要分為兩大類：行動類、規(guī)劃6.基于大模型的智能體6.基于大模型的智能體nRAG和智能體RAGRAG技術(shù)就像是一個智能的知識助手，它通過將外部知識庫與大語言模型相結(jié)合，極大地增強(qiáng)了模型的回答能力。當(dāng)用戶提出問題時，例如，在企業(yè)客服場景中，RAG可以快速檢索企業(yè)的產(chǎn)品資料、常見問題解答等知識庫，為客戶提供精準(zhǔn)的服務(wù)，大大提高了客服的效率智能體更像是一個擁有自主意識的智能員工智能體更像是一個擁有自主意識的智能員工，它以大語言模型為驅(qū)動，具備自主理解、感知RAG的部署相對來說成本較低RAG的部署相對來說成本較低，主要集中在知識庫的建設(shè)和維護(hù)上。企業(yè)可以利用現(xiàn)有的數(shù)據(jù)資源，構(gòu)建自己的知識庫，然后通過接入大AIAIAgent的部署則需要更高的技術(shù)門檻和成本。它不僅需要強(qiáng)大的大語言模型支持，還需要構(gòu)建復(fù)雜的智能規(guī)劃和決策系統(tǒng)，以及與各種工具和系統(tǒng)的集成。此外，AIAgent還需要不斷地進(jìn)行訓(xùn)練和優(yōu)化，以提高其智能水平和適應(yīng)性。因此，對于一些中小企業(yè)來說，AI6.基于大模型的智能體nRAG和智能體RAG在運行效果上，RAG在處理一些需要大量知識支持的任務(wù)時表現(xiàn)出色，比如智能問答、文檔生成等。它能夠利用知識庫中的信息，為用戶提供準(zhǔn)確、詳細(xì)的AIAgentAIAgent則在復(fù)雜場景下展現(xiàn)出了強(qiáng)大的優(yōu)勢，它能夠根據(jù)環(huán)境的變化和任務(wù)的要求，自主地進(jìn)行決策和規(guī)劃，實現(xiàn)Agent都能夠發(fā)揮出其獨特的價值，提各自的優(yōu)勢和適用場景各自的優(yōu)勢和適用場景RAG和AIAgent都有各自的優(yōu)勢和適用場景。對于企業(yè)用戶來說，在選擇時需要根據(jù)自身的業(yè)務(wù)需求、數(shù)據(jù)資源、技術(shù)實力和預(yù)算等因素進(jìn)行綜合考慮。如果企業(yè)只是需要解決一些簡單的知識不錯的選擇；如果企業(yè)希望實現(xiàn)業(yè)務(wù)流Agent則更能滿足其需求。在這個快速發(fā)展的人工智能時代，只有選擇最適合自己的技術(shù)，才能在激烈的市場競爭中6.基于大模型的智能體2025年1月23日2025年1月23日，OpenAI發(fā)布了一個創(chuàng)新性的智能體—人類一樣使用計算機(jī)的智能體。它基于OpenAI最新研發(fā)的CUA（Computer-UsingAgent）模型，CUA將GPT-4o的過訓(xùn)練可以與圖形用戶界面（GUI，即人們在屏幕上看到的按鈕、菜單和文本字段）進(jìn)行交互。Operator通過觀察屏幕并使用虛擬鼠標(biāo)和鍵盤來完成任務(wù)，而無需依賴專門的Operator好比一個博士水平的個人助理Operator好比一個博士水平的個人助理，你給他一個復(fù)雜的任務(wù)，它就會自動執(zhí)行。Operator的主要功能包括自主完成諸如采購雜貨、提交費用報表、訂票、買日用品、填寫表格等任務(wù)，旨在通過自動化操作提升日常生活和工作效率。它還可以一邊在6.基于大模型的智能體2025年2月3日，OpenAI發(fā)布了一款新的智能體產(chǎn)品——DeepResearch。DeepResearch由OpenAIo3模型的一個版本提供支持，該模型針對網(wǎng)頁瀏覽和數(shù)據(jù)分析進(jìn)行了優(yōu)化，它利用推理來搜索、解釋和分析互聯(lián)網(wǎng)上的大量文本、圖像和PDF，并根據(jù)需要根據(jù)遇到的信息做出調(diào)整。DeepResearch具有以下四大核心技術(shù)：數(shù)據(jù)雷達(dá)知識拼圖數(shù)據(jù)雷達(dá)會自動24小時掃描全球知識庫能把零散的信息拼成完整的戰(zhàn)略地圖會自動24小時掃描全球知識庫邏輯推理邏輯推理學(xué)術(shù)裁縫學(xué)術(shù)裁縫綜合各種知識綜合各種知識，生成完美的報告，還附帶文獻(xiàn)引用發(fā)現(xiàn)矛盾時，自動回溯、驗證，調(diào)整推理路徑6.基于大模型的智能體Coze(扣子)是字節(jié)跳動推出的新一代AI智能體開發(fā)服務(wù)平臺6.基于大模型的智能體Coze平臺上的高校教師智能體，每個老師都可以制作自己的專屬智能體6.基于大模型的智能體智能體在高校的應(yīng)用場景教學(xué)場景管理場景教學(xué)場景n課堂智能體：生成動態(tài)課件，實時調(diào)整教學(xué)節(jié)奏n實驗智能體：n課堂智能體：生成動態(tài)課件，實時調(diào)整教學(xué)節(jié)奏n實驗智能體：VR+數(shù)字孿生模擬高危實驗操作n行政智能體：自動處理蓋章、證明開具、報銷等流程科研場景服務(wù)場景科研場景n文獻(xiàn)智能體：跨語言論文溯源與創(chuàng)新點挖掘nn文獻(xiàn)智能體：跨語言論文溯源與創(chuàng)新點挖掘n實驗智能體：自動生成變量組合方案n就業(yè)指導(dǎo)智能體：分析百萬崗位數(shù)據(jù)生成個性化求職策略6.基于大模型的智能體n【案例】上海海事大學(xué)超級智能體采取自建大模型+引用AI服務(wù)模式，AI編排流程使多個智能體綜合協(xié)作，由一顆大腦（LLM）進(jìn)行自主支配運行，能夠根據(jù)人的要求，自主判斷、決策、分解子任務(wù)，自行與業(yè)務(wù)系統(tǒng)、專業(yè)知識庫、海事垂直大模型及互聯(lián)網(wǎng)交互分析，構(gòu)建校級統(tǒng)一AI服務(wù)平臺，最終輸出任務(wù)結(jié)果，從而助學(xué)、助教、助研、助管和助國際交流助教助研助教助研助管助管量業(yè)務(wù)系統(tǒng)操作、調(diào)取業(yè)務(wù)系統(tǒng)數(shù)據(jù)、分析并生成用戶所綠色化。超級智能體可對目標(biāo)內(nèi)容進(jìn)行英文翻譯。方便留學(xué)廈門大學(xué)大數(shù)據(jù)教學(xué)團(tuán)隊作品首篇DeepSeekSCI已發(fā)表，1區(qū)高分期刊，用時1天！這篇論文主要探討了不同人工智能（A這篇論文主要探討了不同人工智能（AI）工具在傳播心肺復(fù)蘇（CPR）指南方面的效果，并重點分析了它們在心臟驟停教育中的應(yīng)用潛力。研究選取了ChatGPT-4o、GeminiAdvanced和DeepSeek三種AI模型，評估了它們向非醫(yī)學(xué)背景公眾傳達(dá)歐洲復(fù)蘇委員會（ERC）指南的有效性。意大利的一個研究團(tuán)隊借助DeepSeek模型，在中科院1區(qū)、影響因子6.5分的《Resuscitation》期刊上發(fā)表了一篇Letter，從投稿到接收僅用時1天！ceep《自然》雜志2025年2月發(fā)表文章：科研人員正在測試研究人員將普遍接受在準(zhǔn)備論文、撰寫資助申請和同行評議信息檢索、國家自然科學(xué)基金及社會科學(xué)基金申請書撰頂級期刊發(fā)表、提高辦公效率、激發(fā)創(chuàng)意靈感、寫作翻生成、科研繪圖、代碼自動生成、成果發(fā)表、課題申報寫、腳本創(chuàng)作、文案編輯、翻譯服務(wù)、數(shù)據(jù)分析以及復(fù)浙江大學(xué)生命科學(xué)研究院研究人員把DeepSeek當(dāng)作“交叉學(xué)科DeepSeek可以幫助科研人員在文獻(xiàn)檢索、數(shù)據(jù)分析和實驗設(shè)計等方面提升效率DeepSeek能夠快速根據(jù)關(guān)鍵詞檢索相關(guān)文獻(xiàn)DeepSeek能夠快速根據(jù)關(guān)鍵詞檢索相關(guān)文獻(xiàn)，并按照相關(guān)性、引用次數(shù)等指標(biāo)對結(jié)果進(jìn)行排序。其獨特的語義檢索功能，能更精確地理解用戶需求，提供高質(zhì)量的文獻(xiàn)結(jié)果，減少傳統(tǒng)文獻(xiàn)檢索的盲目性雖然雖然DeepSeek無法直接將實驗數(shù)據(jù)轉(zhuǎn)化為直觀、易理解的圖表，但可以為科研人員提供不同的繪圖軟件（如R語言、Python等）的繪圖代碼。無論是趨勢圖、熱力圖，還是散點圖，DeepSeek都能在復(fù)雜數(shù)據(jù)中提煉出關(guān)鍵信息，支持科研人員更快速地識別研究規(guī)律基于已有文獻(xiàn)和數(shù)據(jù)，DeepSeek能夠為用戶提供智能化的實驗設(shè)計建議。它通過對相關(guān)文獻(xiàn)的深度分析，為實驗方案的優(yōu)化提供指導(dǎo)，幫助科研人員減少設(shè)計上的誤差和不必要的重復(fù)DeepSeek不僅適用于醫(yī)學(xué)領(lǐng)域，還能夠跨學(xué)科地支持生物學(xué)、化學(xué)、物理學(xué)等多個學(xué)科的研究。它能夠幫助科研人員打破學(xué)科間的壁壘，從其他領(lǐng)域汲取創(chuàng)新思路，開拓新的研究方向DeepSeek可以幫助科研人員在文獻(xiàn)檢索、數(shù)據(jù)分析和實驗設(shè)計等方面提升效率DeepSeekDeepSeek能夠協(xié)助研究人員高效完成論文創(chuàng)作。它不僅能夠生成高質(zhì)量的學(xué)術(shù)內(nèi)容，還能優(yōu)化論文的邏輯結(jié)構(gòu)和語言表達(dá)，顯著提升科研寫作效率。此外，DeepSeek還可以根據(jù)提供的數(shù)據(jù)和要求，生成專業(yè)的報告框架和內(nèi)容，為科研人員提供有力支持學(xué)術(shù)寫作與報告生成通過深度學(xué)習(xí)和機(jī)器學(xué)習(xí)算法通過深度學(xué)習(xí)和機(jī)器學(xué)習(xí)算法，DeepSeek能夠發(fā)現(xiàn)隱藏在數(shù)據(jù)中的信息，幫助用戶發(fā)現(xiàn)新的機(jī)會和趨勢。在醫(yī)學(xué)科研中，DeepSeek能夠從大量實驗數(shù)據(jù)中提取有價值的信息，發(fā)掘潛在的研究方向和生物標(biāo)志物對于有特定需求的用戶，DeepSeek還支持上傳文件建立自定義知識庫。將與自己工作、學(xué)習(xí)相關(guān)的文檔、資料上傳后，DeepSeek就能基于這些知識為你提供更個性化、針對性更強(qiáng)的回答和建議每日500頁免費超強(qiáng)文檔公式圖表識別額度和200頁的免費翻譯額度(支持GLM4,DeepSeek等大模型對照沉浸式翻譯)支持導(dǎo)出微軟Word,LaTeX,markdown,html等多種格式《DeepSeek論文指令大全》詳細(xì)教程請訪問：/s/VcFGnVw3tEPl-N2GSd6bMg注意：DeepSeek大模型只能作為科研的輔助工具，給人提供思路和啟發(fā)，人仍然是科研的主體警惕：使用AI輔助科研可能存在的問題！??！警惕DeepSeek在應(yīng)用于科研檢索時，會一本正經(jīng)地胡說八道，也就是虛構(gòu)出不存在的材料【例子】（1）一個研究人員發(fā)現(xiàn)，DeepSeek給出的5篇文章中，有3篇論文題目根本就不存在；剩下的2篇題目存在，但是后面的作者、期刊、PMID等都是錯誤的（2）DeepSeek給出的5篇論文PMID都是錯誤的，指向另外完全無關(guān)的論文使用AI工具自動生成的內(nèi)容，是可以被AI檢測工具識別出來的論文如果“AI味”很重，論文查重可能無法通過！建議不要直接使用AI生成的內(nèi)容英文論文快讀閱讀從百度官網(wǎng)訪問DeepSeek，上傳英文論文PDF在對話框中輸入提示詞“請幫我總結(jié)這篇論文的創(chuàng)新點”或者在對話框中輸入提示詞“請幫我把這篇論文翻譯成中文”步驟1：打開通義千問的效率工具“閱讀助手”。通過瀏覽器，打開大模型工具通義千問，并登錄個人賬戶。如圖所示，點擊左側(cè)菜單欄的“效率”，進(jìn)入“工具箱”頁面，并在右邊的頁面上選擇“閱讀助手”效率工具。第2步：上傳論文第3步：上傳論文，待上傳的論文解析成功后，點擊“閱讀助手”，進(jìn)入“閱讀助手”功能頁面第4步：論文導(dǎo)讀模式。如圖所示，點擊頁面右上角“導(dǎo)讀”，通過“全文摘要”和“論文速讀”，可以快速了解論文的主要內(nèi)容和研究目的，確保對論文的整體內(nèi)容有一個初步的了解。點擊頁面右上角“翻譯”，通過“中英互譯”，可以將論文翻譯成中文，以便進(jìn)行進(jìn)一步的閱讀。同時，也可以在頁面的左半部分，點擊頁面左下角的翻頁，進(jìn)行原文的對照閱讀。在閱讀過程中，如果有任何疑問或不理解的地方，可以在“閱讀助手”頁面的右下角的問題輸入框中輸入相關(guān)問題，進(jìn)入“智能問答”頁面。點擊頁面右上角“腦圖”，可以看到工具生成的論文思維導(dǎo)圖，幫助我們以可視化的方式理解和組織學(xué)術(shù)論文的內(nèi)容n使用AI工具提升科研效率【1】依次點擊高級搜索、查找你敢興趣的文獻(xiàn)、選擇文獻(xiàn)、導(dǎo)出與分析、查新（引文格式）、復(fù)制到剪貼板，粘貼到deepseek中?！?】在DeepSeek中輸入下方的文獻(xiàn)綜述模板，即可一鍵生成文獻(xiàn)綜述。下面是寫入DeepSeek對話框中的內(nèi)容（其中，綠色文字是從中國知網(wǎng)復(fù)制，可以復(fù)制多篇文獻(xiàn)過來，這里只復(fù)制了1篇文獻(xiàn)作為演示）：[1]馮旭南.新質(zhì)生產(chǎn)力與價值創(chuàng)造：數(shù)字經(jīng)濟(jì)時代的生產(chǎn)方式變革[J].上海管理科學(xué),2025,47(01):48-52.摘要:隨著數(shù)字經(jīng)濟(jì)的迅速崛起，傳統(tǒng)生產(chǎn)力的內(nèi)涵和結(jié)構(gòu)正經(jīng)歷深刻的變革。新質(zhì)生產(chǎn)力作為新興生產(chǎn)力的表現(xiàn)形式，依托人工智能、大數(shù)據(jù)、區(qū)塊鏈、物聯(lián)網(wǎng)等前沿技術(shù)，推動了社會生產(chǎn)方式的全面轉(zhuǎn)型，并在多個領(lǐng)域構(gòu)建了全新的價值體系。從新質(zhì)生產(chǎn)力的內(nèi)涵與特征出發(fā)，深入剖析其在數(shù)字經(jīng)濟(jì)時代的價值創(chuàng)造機(jī)制，探討其如何重塑生產(chǎn)方式與產(chǎn)業(yè)結(jié)構(gòu)。同時，還重點分析了中國在新質(zhì)生產(chǎn)力發(fā)展中的實踐與成果，并提出了未來的發(fā)展路徑與前景展望。下面我給你一段國內(nèi)外研究現(xiàn)狀的模板，你學(xué)習(xí)模仿它的寫作風(fēng)格把上面的文獻(xiàn)使用進(jìn)去，寫一份文獻(xiàn)綜述：文獻(xiàn)綜述模版開頭模板：(1)當(dāng)前，關(guān)于……問題的討論在國內(nèi)外學(xué)術(shù)界呈現(xiàn)出多樣化的觀點，