《人工智能概論》 課件 第七章 人工智能開放平臺(tái)應(yīng)用_第1頁
《人工智能概論》 課件 第七章 人工智能開放平臺(tái)應(yīng)用_第2頁
《人工智能概論》 課件 第七章 人工智能開放平臺(tái)應(yīng)用_第3頁
《人工智能概論》 課件 第七章 人工智能開放平臺(tái)應(yīng)用_第4頁
《人工智能概論》 課件 第七章 人工智能開放平臺(tái)應(yīng)用_第5頁
已閱讀5頁,還剩42頁未讀, 繼續(xù)免費(fèi)閱讀

下載本文檔

版權(quán)說明:本文檔由用戶提供并上傳,收益歸屬內(nèi)容提供方,若內(nèi)容存在侵權(quán),請(qǐng)進(jìn)行舉報(bào)或認(rèn)領(lǐng)

文檔簡(jiǎn)介

《人工智能概論》第七章人工智能開放平臺(tái)應(yīng)用目

錄CONTENT01AI開放平臺(tái)概況02AI開放平臺(tái)應(yīng)用范例大規(guī)模模型及平臺(tái)應(yīng)用03近年來,隨著計(jì)算能力的提升和大數(shù)據(jù)的普及,人工智能技術(shù)得到了快速發(fā)展,應(yīng)用領(lǐng)域也日益廣泛。人工智能開放平臺(tái),簡(jiǎn)稱AI開放平臺(tái),顧名思義,就是為AI應(yīng)用提供運(yùn)行環(huán)境和工具的軟件平臺(tái)。它提供了一種便捷的方式來開發(fā)、訓(xùn)練、測(cè)試和部署AI模型應(yīng)用。通過這個(gè)平臺(tái),用戶可以專注于解決業(yè)務(wù)問題,而無須關(guān)心底層的復(fù)雜性。PART010304數(shù)據(jù)處理與管理:平臺(tái)需要處理各種類型的數(shù)據(jù),包括結(jié)構(gòu)化數(shù)據(jù)和非結(jié)構(gòu)化數(shù)據(jù)。這可能包括文本、圖像、音頻和視頻等多種形式的數(shù)據(jù)。因此,數(shù)據(jù)管理是平臺(tái)的一個(gè)關(guān)鍵功能,包括數(shù)據(jù)的采集、清洗、標(biāo)注和存儲(chǔ)等。模型訓(xùn)練與優(yōu)化:一旦數(shù)據(jù)被整理好,就可以用于訓(xùn)練機(jī)器學(xué)習(xí)模型。平臺(tái)提供了多種算法和工具來訓(xùn)練模型,并優(yōu)化模型以提高效率和準(zhǔn)確性。此外,許多平臺(tái)還提供了自動(dòng)化的超參數(shù)調(diào)整和模型選擇功能。02模型部署與服務(wù):訓(xùn)練好的模型需要被部署到生產(chǎn)環(huán)境中,以便在實(shí)際應(yīng)用中使用。平臺(tái)提供了一種方式來打包和發(fā)布模型,使其可以在網(wǎng)絡(luò)中分發(fā),或者在本地系統(tǒng)中運(yùn)行。此外,許多平臺(tái)還提供了服務(wù)化的功能,可以將模型作為API提供給其他應(yīng)用使用。監(jiān)控與評(píng)估:為了確保模型的性能和穩(wěn)定性,平臺(tái)通常會(huì)提供監(jiān)控和評(píng)估工具。這可能包括模型在生產(chǎn)環(huán)境中的性能監(jiān)控,以及對(duì)模型輸出的實(shí)時(shí)反饋和評(píng)估。05 管理和控制:為了保證AI系統(tǒng)的安全和合規(guī)性,平臺(tái)還需要提供一系列的管理和控制功能。這可能包括用戶權(quán)限管理、審計(jì)日志、異常檢測(cè)及策略管理等。AI開放平臺(tái)的主要功能硬件環(huán)境:對(duì)于大規(guī)模的模型訓(xùn)練和復(fù)雜的計(jì)算任務(wù),可能需要高性能的硬件設(shè)備,如GPU或TPU。此外,存儲(chǔ)設(shè)備(如硬盤或SSD)的性能也會(huì)影響到數(shù)據(jù)處理的速度。軟件環(huán)境:AI開放平臺(tái)需要運(yùn)行一些特定的軟件庫和框架,如Python和TensorFlow、PyTorch等。此外,操作系統(tǒng)也需要支持相應(yīng)的API和技術(shù)。網(wǎng)絡(luò)環(huán)境:如果模型需要通過網(wǎng)絡(luò)進(jìn)行分發(fā)或調(diào)用,那么網(wǎng)絡(luò)環(huán)境就變得非常重要了。這可能涉及網(wǎng)絡(luò)延遲、帶寬、數(shù)據(jù)安全和隱私等問題。010203AI開放平臺(tái)的運(yùn)行環(huán)境隨著技術(shù)的不斷發(fā)展,AI開放平臺(tái)的發(fā)展趨勢(shì)主要體現(xiàn)在以下幾個(gè)方面:020101030203自動(dòng)化和智能化:為了提高開發(fā)效率和減少錯(cuò)誤,平依賴自動(dòng)化工具和智能化的決策支持系臺(tái)將更加統(tǒng)。例如,自動(dòng)化的數(shù)據(jù)預(yù)處理、模型選擇和超參數(shù)調(diào)優(yōu)等功能將成為主流。云原生和分布式:隨著云計(jì)算的普及,越來越多的平臺(tái)將采用云原生的設(shè)計(jì)和分布式的架構(gòu)。這使得平臺(tái)可以更好地利用資源,提供彈性的服務(wù),并支持大規(guī)模并行計(jì)算。開源和開放:開源已經(jīng)成為軟件開發(fā)的一個(gè)重要趨勢(shì)。越來越多的平臺(tái)將選擇開源模式,這不僅可以減少研發(fā)成本,還可以吸引更多的開發(fā)者參與到平臺(tái)的建設(shè)和改進(jìn)中來。數(shù)據(jù)安全和隱私:隨著數(shù)據(jù)的規(guī)模和重要性不斷增加,如何保護(hù)數(shù)據(jù)的安全和隱私變得越來越重要。這需要在技術(shù)和政策兩個(gè)方面進(jìn)行努力。算法的公平性和透明性:AI算法在決策過程中可能存在偏見和不透明的問題。如何設(shè)計(jì)和使用公平、透明的算法是一個(gè)重大的挑戰(zhàn)。算力的需求和消耗:訓(xùn)練大型的深度學(xué)習(xí)模型需要大量的計(jì)算資源。如何有效地利用這些資源,同時(shí)降低能耗和環(huán)境影響,也是一個(gè)需要解決的問題。然而,AI開放平臺(tái)的發(fā)展也面臨一些挑戰(zhàn):AI開放平臺(tái)的發(fā)展趨勢(shì)和挑戰(zhàn)1.

國內(nèi)AI開放平臺(tái)百度AI開放平臺(tái)();騰訊AI開放平臺(tái)();華為云AI平臺(tái)ModelArts(https:///product/modelarts.html);阿里AI(

/);網(wǎng)易人工智能();??低旳I開放平臺(tái)();訊飛開放平臺(tái)(https://);小米AI開放平臺(tái)()。國內(nèi)外主要AI開放平臺(tái)名錄2.

國外AI開放平臺(tái)亞馬遜人工智能服務(wù)(/cn/events/amazon-ai);英特爾人工智能服務(wù)(/content/www/us/en/develop/topics/ai.html);IBMWatson(https:///watson);MicrosoftAzureAI(/en-us/services/cognitive-services);GoogleCloud

AI(/ai);NVIDIADeepLearningInstitute(https:///ai-data-science);OpenAI();TensorFlow(https://)。國內(nèi)外主要AI開放平臺(tái)名錄這些平臺(tái)提供了各種AI工具和服務(wù),包括自然語言處理、圖像識(shí)別、機(jī)器學(xué)習(xí)、深度學(xué)習(xí)等,可以幫助開發(fā)者更快速地構(gòu)建和應(yīng)用AI技術(shù)。相較而言,國內(nèi)平臺(tái)更適合使用。AI開放平臺(tái)使用步驟因平臺(tái)的不同而有所差異,具體操作需參考各平臺(tái)的官方文檔或指南。使用AI開放平臺(tái)的一般步驟如下:(1)注冊(cè)并登錄AI開放平臺(tái);(2)了解平臺(tái)提供的各種AI能力和服務(wù),包括自然語言處理、圖像識(shí)別、語音識(shí)別、機(jī)器學(xué)習(xí)等;(3)根據(jù)需求選擇相應(yīng)的AI能力,并創(chuàng)建相應(yīng)的應(yīng)用或項(xiàng)目;(4)根據(jù)所選的AI能力,選擇相應(yīng)的API或SDK進(jìn)行集成;(5)根據(jù)平臺(tái)提供的文檔和指南,進(jìn)行開發(fā)、測(cè)試和部署;(6)在應(yīng)用中調(diào)用集成好的AI能力,實(shí)現(xiàn)相應(yīng)的功能;(7)根據(jù)需要進(jìn)行調(diào)優(yōu)和優(yōu)化,提高應(yīng)用的性能和效果;(8)監(jiān)控應(yīng)用的運(yùn)行情況,及時(shí)解決可能出現(xiàn)的問題。PART本節(jié)以使用百度人工智能AI中的圖像識(shí)別服務(wù)接口來創(chuàng)建一個(gè)動(dòng)物識(shí)別腳本,即在代碼中輸入待識(shí)別圖像的文件(路徑),輸出識(shí)別結(jié)果為該圖像中所包含動(dòng)物的名稱,如圖所示。圖7.1

動(dòng)物識(shí)別腳本I/O圖01動(dòng)物圖像識(shí)別2創(chuàng)建應(yīng)用:進(jìn)入應(yīng)用列表頁/ai/#/ai/imagerecognition/app/list(見圖),在主界面中點(diǎn)擊“創(chuàng)建應(yīng)用”,在創(chuàng)建新應(yīng)用界面中,在“應(yīng)用名稱”“應(yīng)用描述”項(xiàng)輸入相應(yīng)的信息,“接口選擇”項(xiàng)勾選“圖像識(shí)別”類別中的“動(dòng)物識(shí)別”項(xiàng)(或直接勾選“全選”),“應(yīng)用歸屬”項(xiàng)選擇“個(gè)人”,點(diǎn)擊“立即創(chuàng)建”,完成應(yīng)用創(chuàng)建。創(chuàng)建成功后點(diǎn)擊返回應(yīng)用列表,獲取應(yīng)用關(guān)鍵信息:API

Key和Secret

Key。1用戶注冊(cè)與領(lǐng)取服務(wù):在百度AI開放平臺(tái)()進(jìn)行注冊(cè)和身份認(rèn)證;前往圖像識(shí)別服務(wù)主頁(/product/imagerecognition)領(lǐng)取免費(fèi)測(cè)試資源,領(lǐng)取成功開通的識(shí)別服務(wù)會(huì)在第(3)步時(shí),自動(dòng)將值寫入client_id和client_secret表單,否則無法實(shí)現(xiàn)測(cè)試。應(yīng)用列表頁4調(diào)整和優(yōu)化:根據(jù)應(yīng)用場(chǎng)景,鑒權(quán)參數(shù)建議選成access_token模式,具體操作觀看“教學(xué)視頻”。此外,示例代碼采用直接把待識(shí)別圖像的圖片數(shù)據(jù)base64編碼讀入,造成所在代碼行的長度過長,不適于使用,image參數(shù)改成通過get_file_content_as_base64(r"file_name",True)方法獲取,可將默認(rèn)第13行的代碼改成:3API在線測(cè)試:點(diǎn)擊應(yīng)用列表頁左側(cè)的“API在線測(cè)試”鏈接,進(jìn)入生成測(cè)試頁面(見圖),進(jìn)行相關(guān)的操作。首先,選擇“動(dòng)物識(shí)別”項(xiàng)。其次,在“鑒權(quán)參數(shù)”中選“ak_sk”模式,確保自動(dòng)填寫的client_id和client_secret與API

Key和SecretKey的值相對(duì)應(yīng),在“選填參數(shù)”項(xiàng)的image框中選擇“上傳文件”的方法,獲取待識(shí)別圖像的圖片數(shù)據(jù)base64編碼。最后,點(diǎn)擊“調(diào)試”按鈕,正確情況下,“調(diào)試結(jié)果”項(xiàng)會(huì)顯示“調(diào)試成功”信息,并將識(shí)別結(jié)果顯示在下端??蓪ⅰ笆纠a”中的相應(yīng)語言代碼復(fù)制或下載到其他項(xiàng)目進(jìn)行二次開發(fā)。API在線測(cè)試頁注:"ladybird.jpg"為待識(shí)別圖像的名稱。API在線測(cè)試頁手寫文字識(shí)別腳本I/O圖02(2)創(chuàng)建應(yīng)用:進(jìn)入應(yīng)用列表頁/app/myapp(見右圖),點(diǎn)擊“創(chuàng)建新應(yīng)用”鏈接,在彈出的頁面完成“項(xiàng)目名稱”“應(yīng)用分類”和“應(yīng)用功能描述”表單的填寫后,點(diǎn)擊“提交”鏈接返回應(yīng)用列表頁。(3)獲取服務(wù)接口信息:點(diǎn)擊新創(chuàng)建的應(yīng)用名稱(鏈接),進(jìn)入應(yīng)用的詳細(xì)交互頁面。首先,選擇應(yīng)用要實(shí)現(xiàn)的功能,點(diǎn)擊頁面左側(cè)的“文字識(shí)別”鏈接,在向下展開的選項(xiàng)里點(diǎn)擊“手寫文字識(shí)別”鏈接,主界面切換顯示當(dāng)前使用該接口相關(guān)信息。需點(diǎn)擊“購買服務(wù)量”鏈接,在彈出界面點(diǎn)擊“立即領(lǐng)取”獲得免費(fèi)包,進(jìn)行“支付”相關(guān)操作,返回“手寫文字識(shí)別”主界面。其次,在主界面右側(cè)顯示“服務(wù)接口認(rèn)證信息”的APPID和APIKey的值,以及“手寫文字識(shí)別API”的WebAPI的值,建議進(jìn)行復(fù)制保存。最后,點(diǎn)擊WebAPI接口地址右側(cè)的“文檔”鏈接,在“文檔中心”頁面查看接口的使用文檔(/doc/words/wordRecg/API.html)。應(yīng)用列表頁(4)范例腳本修改:首先,在“文檔中心”的“手寫文字識(shí)別API文檔”頁面中,點(diǎn)擊“手寫文字識(shí)別demo

python3語言”鏈接下載接口使用的demo腳本壓縮包(https://-/1561082414357990/ocr_handwriting_python3_demo.zip),包含代碼文件ocr.py和手寫文字識(shí)別的測(cè)試圖像文件ocr.jpg。其次,將兩個(gè)文件解壓后保存在相同目錄下,用編輯器打開ocr.py文件,對(duì)部分語句進(jìn)行修改,主要包括:第16行,核對(duì)URL

=

/v1/service/v1/ocr/handwriting是否準(zhǔn)確。第18行,將APPID=

"*****"中的*****替換成具體的值。第20行,將API_KEY=

"*****"中的*****替換成具體的值。第49行,picFilePath="E://1.jpg"改成picFilePath="ocr.jpg"。其他的修改或代碼理解可以參考“手寫文字識(shí)別

API

文檔”頁面。(5)范例腳本優(yōu)化:ocr.py文件經(jīng)過以上修改后,在所需Python包都已安裝的前提下,很快就能將識(shí)別結(jié)果以json格式輸出,由于包含信息過多,所識(shí)別的文字字符需要進(jìn)行提取,具體操作如下:新增第7行,輸入import

json。第53行,刪除或注釋print(r.content)。第54行,輸入以下代碼:PART隨著計(jì)算能力的提升和大數(shù)據(jù)技術(shù)的發(fā)展,大模型逐漸成為人工智能領(lǐng)域的核心技術(shù)。這些模型在模式識(shí)別、知識(shí)表示和推理、自適應(yīng)學(xué)習(xí)等方面擁有更高的性能,被用以解決實(shí)際問題。本節(jié)將認(rèn)識(shí)大型語言模型(LargeLanguage

Model,LLM)與人工智能生成內(nèi)容(Artificial

Intelligence

Generated

Content,AIGC)兩類大模型,并借助開放平臺(tái)進(jìn)行應(yīng)用。大型語言模型(LargeLanguage

Model,LLM)是一種基于深度學(xué)習(xí)的自然語言處理技術(shù)。它是通過對(duì)大量文本數(shù)據(jù)進(jìn)行訓(xùn)練,生成一個(gè)能夠理解和生成自然語言的模型。LLM的主要任務(wù)是學(xué)習(xí)語言的規(guī)律和結(jié)構(gòu),從而能夠生成流暢、自然的文本。LLM的核心組成部分包括輸入層、隱藏層和輸出層。輸入層負(fù)責(zé)接收文本數(shù)據(jù),隱藏層負(fù)責(zé)對(duì)輸入數(shù)據(jù)進(jìn)行處理和分析,輸出層負(fù)責(zé)生成自然語言文本。1LLM的定義大型語言模型概況01LLM的技術(shù)特點(diǎn)大規(guī)模語料庫:LLM需要大規(guī)模語料庫進(jìn)行訓(xùn)練,通常包含數(shù)十億甚至數(shù)百億的單詞。這些語料庫來源廣泛,包括新聞、博客、書籍、論壇等。深度學(xué)習(xí):LLM采用深度學(xué)習(xí)技術(shù),通常是循環(huán)神經(jīng)網(wǎng)絡(luò)(RNN)、長短時(shí)記憶網(wǎng)絡(luò)(LSTM)、門控循環(huán)單元(GRU)或變壓器(Transformer)等。概率分布:LLM通過學(xué)習(xí)語言的概率分布來生成文本。在生成文本時(shí),它根據(jù)已經(jīng)生成的單詞,預(yù)測(cè)下一個(gè)單詞的概率分布,然后選擇概率最高的單詞作為下一個(gè)單詞。上下文感知:LLM具有上下文感知能力,可以根據(jù)已經(jīng)生成的文本,生成與之相關(guān)的文本。2機(jī)器翻譯:LLM可以用于實(shí)現(xiàn)多種語言之間的自動(dòng)翻譯,如英語到中文、法語到德語等。文本摘要:LLM可以用于自動(dòng)生成文本的摘要,幫助用戶快速了解文本的主要內(nèi)容。情感分析:LLM可以用于分析文本中的情感傾向,如正面情緒、負(fù)面情緒等。問答系統(tǒng):LLM可以用于構(gòu)建智能問答系統(tǒng),回答用戶提出的問題。3 LLM的應(yīng)用場(chǎng)景4國內(nèi)外知名LLM模型名稱040103谷歌的神經(jīng)機(jī)器翻譯系統(tǒng)(GNMT)02 OpenAI的GPT系列(GPT-3、GPT-4等)百度的ERNIE系列(ERNIE

1.0、ERNIE2.0等)微軟的Transformer系列(Transformer-XL、XLNet等)020403計(jì)算資源:LLM需要大量的計(jì)算資源進(jìn)行訓(xùn)練,這增加了模型的訓(xùn)練時(shí)間和成本。數(shù)據(jù)偏差:LLM需要大量的語料庫進(jìn)行訓(xùn)練,但這些語料庫可能存在偏差,導(dǎo)致模型在處理某些類型的數(shù)據(jù)時(shí)表現(xiàn)不佳。01可解釋性:LLM的決策過程往往缺乏可解釋性,這使得人們難以理解模型的預(yù)測(cè)結(jié)果和決策過程。隱私和安全:LLM在處理敏感數(shù)據(jù)時(shí)可能存在隱私和安全問題,例如用戶的個(gè)人信息和敏感數(shù)據(jù)可能會(huì)被泄露。5人工智能生成內(nèi)容(Artificial

Intelligence

GeneratedContent,AIGC)是一種利用人工智能技術(shù)自動(dòng)生成各種類型的內(nèi)容的技術(shù)和方法。AIGC的核心思想是通過深度學(xué)習(xí)和自然語言處理技術(shù),讓計(jì)算機(jī)自動(dòng)學(xué)習(xí)和理解人類的知識(shí)體系,從而生成具有知識(shí)性、邏輯性和連貫性的內(nèi)容。AIGC的應(yīng)用場(chǎng)景非常廣泛,包括新聞報(bào)道、文章寫作、廣告創(chuàng)意、電影劇本等。1AIGC的定義人工智能生成內(nèi)容概況02AIGC的技術(shù)特點(diǎn)知識(shí)表示與推理:AIGC需要將人類的知識(shí)體系表示為計(jì)算機(jī)可以處理的形式,并通過推理算法來生成新的知識(shí)內(nèi)容。語義表示與理解:AIGC需要理解輸入文本的意義,包括詞匯、句子結(jié)構(gòu)和上下文等信息,以便生成符合人類認(rèn)知規(guī)律的內(nèi)容。生成策略與約束:AIGC需要設(shè)計(jì)合適的生成策略和約束條件,以確保生成的內(nèi)容具有一定的知識(shí)性和邏輯性。2新聞報(bào)道:AIGC可以用于自動(dòng)生成新聞稿件,提高新聞報(bào)道的效率和準(zhǔn)確性視頻制作:AIGC可以用于生成視頻內(nèi)容,例如自動(dòng)剪輯視頻、添加字幕等廣告創(chuàng)意:AIGC可以用于自動(dòng)生成廣告創(chuàng)意,提高廣告投放的效果和吸引力藝術(shù)創(chuàng)作:AIGC可以用于生成藝術(shù)作品,例如繪畫、音樂、詩歌等3 AIGC應(yīng)用場(chǎng)景4 國內(nèi)外知名AIGC模型名稱040103OpenAI的DALL-E模型:可以生成符合要求的圖像02 Midjourney公司的Midjourney:提供AI圖像生成服務(wù)DeepMind的MusicVAE模型:可以生成符合要求的音樂阿里的通義萬相模型:可以根據(jù)提示詞生成多種風(fēng)格的圖像AIGC面臨的挑戰(zhàn)版權(quán)問題:AIGC生成的內(nèi)容可能存在版權(quán)侵權(quán)問題,這可能導(dǎo)致法律糾紛和經(jīng)濟(jì)損失。01數(shù)據(jù)質(zhì)量:AIGC生成的內(nèi)容質(zhì)量受到訓(xùn)練數(shù)據(jù)的影響,如果訓(xùn)練數(shù)據(jù)存在偏差或錯(cuò)誤,生成的內(nèi)容也可能存在偏差或錯(cuò)誤。02隱私和安全:

AIGC在處理敏感數(shù)據(jù)時(shí)也可能存在隱私和安全問題,例如用戶的個(gè)人信息和敏感數(shù)據(jù)可能會(huì)被泄露。03算法透明度:AIGC的算法往往缺乏透明度,這使得人們難以理解模型的預(yù)測(cè)結(jié)果和決策過程。04503LLM與AIGC的對(duì)比應(yīng)用場(chǎng)景:LLM主要應(yīng)用于自然語言處理任務(wù),如機(jī)器翻譯、問答系統(tǒng)、情感分析等。而AIGC主要應(yīng)用于自動(dòng)生成各種類型的內(nèi)容,如新聞報(bào)道、文章寫作、廣告創(chuàng)意等。生成方式:LLM采用生成式模型,即根據(jù)已有的數(shù)據(jù)生成新的數(shù)據(jù)。而AIGC采用判別式模型,即通過判斷輸入文本是否符合某個(gè)類別或知識(shí)體系來生成內(nèi)容。生成內(nèi)容的質(zhì)量:LLM生成的內(nèi)容質(zhì)量取決于訓(xùn)練數(shù)據(jù)的質(zhì)量和數(shù)量。雖然LLM可以通過大規(guī)模的預(yù)訓(xùn)練來提高其泛化性能,但生成的內(nèi)容仍然可能存在一定的偏差和不足。而AIGC生成的內(nèi)容通常具有較高的知識(shí)性和邏輯性,但可能缺乏創(chuàng)造性和個(gè)性化。010203LLM和AIGC技術(shù)并非獨(dú)立存在,在諸多大模型平臺(tái)服務(wù)中,如國內(nèi)的通義千問、文心一言和訊飛星火等,都將LLM和AIGC技術(shù)相結(jié)合,通過自然語言交互生成新的內(nèi)容,或者根據(jù)用戶輸入的語言描述自動(dòng)創(chuàng)作不同風(fēng)格的圖像、視頻等。這樣可以提供更加全面、個(gè)性化的服務(wù),滿足用戶的不同需求。同時(shí),LLM和AIGC技術(shù)也可以相互促進(jìn)和優(yōu)化。例如,通過對(duì)LLM生成的文本進(jìn)行分析和理解,可以為AIGC生成更加準(zhǔn)確、有針對(duì)性的內(nèi)容提供參考。反過來,AIGC生成的內(nèi)容也可以為LLM提供更多的訓(xùn)練數(shù)據(jù),從而不斷提高LLM的性能和準(zhǔn)確性。03LLM與AIGC的對(duì)比對(duì)于大規(guī)模模型服務(wù)的應(yīng)用,主要在對(duì)公眾開放服務(wù)的網(wǎng)頁平臺(tái)或手機(jī)APP上進(jìn)行,用戶可以通過搜索引擎或者信息瀏覽獲得平臺(tái)的訪問地址。部分平臺(tái)還提供服務(wù)接口API,允許開發(fā)者將應(yīng)用環(huán)境集成到第三方軟件或者網(wǎng)站中。使用國內(nèi)通過《生成式人工智能服務(wù)管理暫行辦法》備案的平臺(tái)會(huì)獲得更好的體驗(yàn)和保障。04大規(guī)模模型平臺(tái)應(yīng)用以進(jìn)行一問一答的“對(duì)話式”交互是大規(guī)模模型平臺(tái)應(yīng)用的基本方法,輔以會(huì)話主題、風(fēng)格、目標(biāo)等約束條件,能使輸出結(jié)果更符合預(yù)期。以阿里的通義大模型(https://tongyi.

)為例,主要步驟如下:(1)在平臺(tái)首頁進(jìn)行注冊(cè)后登錄。(2)根據(jù)應(yīng)用需求(生成文字、繪畫內(nèi)容或者語音處理),選擇對(duì)應(yīng)的模型,操作方法將有所差別。1 大規(guī)模模型平臺(tái)應(yīng)用的基本方法①

通義千問。界面提示易于理解,主要注意“重新編輯”功能,它可以對(duì)提問進(jìn)行重新編輯(只對(duì)最后一條提問有效),將提問內(nèi)容優(yōu)化后提交,直至此輪回答結(jié)果滿意為止。多輪對(duì)話可用于多層級(jí)、連續(xù)關(guān)聯(lián)的提問,例如生成文章的需求,可首輪提出生成文章大綱,次輪提出生成第一章的次級(jí)大綱或者正文部分,依次進(jìn)行多輪對(duì)話,最后獲得完整的文章內(nèi)容。范例參考下圖,該范例提出“請(qǐng)為廣西三月三節(jié)日寫一首七言絕句詩,包含對(duì)歌、糯米飯、繡球、穿壯族服飾等?!币蠛图s束條件。系統(tǒng)輸出回復(fù)“三月三來歌對(duì)唱,糯米飯香飄四旁。繡球拋出心歡暢,壯族服飾展新妝?!睆奈淖直磉_(dá)來看是符合生成要求的。通義千問交互范例②

通義萬相。根據(jù)文字描述生成圖像的應(yīng)用難點(diǎn)主要在于提示詞(prompt)的撰寫,由此還衍生出“提示詞工程”的概念。提示詞工程(PromptEngineering)是一門較新的學(xué)科,關(guān)注提示詞開發(fā)和優(yōu)化,幫助用戶將LLM用于各場(chǎng)景和研究領(lǐng)域。掌握了提示詞工程相關(guān)技能將有助于用戶更好地了解LLM的能力和局限性。使用前建議學(xué)習(xí)平臺(tái)關(guān)于提示詞的文法要求。范例參考圖7.7,該范例的提示詞為“沉浸在全頁灰度涂色的迷人世界中,有一只鹿頭在曼陀羅寧靜的森林中,畫面采用線條、筆畫”,可見與常規(guī)的中文語句表述形式存在明顯差異。通義萬相交互界面這些差異產(chǎn)生的因素在于:系統(tǒng)以英文詞句的提示詞進(jìn)行“理解”,存在中英文相互翻譯產(chǎn)生的差異;提示詞包含復(fù)雜的藝術(shù)語言,類似藝術(shù)風(fēng)格、顏色和主題的描述存在中西方差異;文本生成圖像所需的提示詞包括但不限于內(nèi)容、色彩、形狀、紋理、情感、場(chǎng)景、時(shí)間、對(duì)象、動(dòng)作、價(jià)值觀、文化、歷史、科技等。010203由此可見,需要選擇合適的提示詞,并確保它們能夠激發(fā)模型的想象力和創(chuàng)造力。用戶可以借助提示詞輔助工具進(jìn)行提示詞及句子的生成。③

通義聽悟。該功能主要用于將語音(實(shí)時(shí)錄音或錄音文件)轉(zhuǎn)成文字,側(cè)重于會(huì)議記錄、報(bào)告筆記等需求,能對(duì)不同發(fā)言者進(jìn)行識(shí)別,還可以對(duì)文字內(nèi)容進(jìn)行提煉,生成知識(shí)要點(diǎn)(會(huì)議紀(jì)要),并且在界面右側(cè)提供了文檔編輯區(qū),用于進(jìn)行相應(yīng)的文檔編寫。使用時(shí),根據(jù)場(chǎng)景選擇“開啟實(shí)時(shí)記錄”或者“上傳音視頻”,獲取要進(jìn)行轉(zhuǎn)換的音頻文件。當(dāng)語音以時(shí)間節(jié)點(diǎn)轉(zhuǎn)換成文字后,以“原文”的形式顯示,同時(shí)還會(huì)分析生成關(guān)鍵詞、全文概要和發(fā)言總結(jié)等內(nèi)容。范例如下圖所示。通義聽悟交互界面使用過程產(chǎn)生的數(shù)據(jù)是大規(guī)模模型平臺(tái)進(jìn)行優(yōu)化迭代的重要依據(jù),不少平臺(tái)開放了API接口服務(wù),并且提供豐富的范例源文件,針對(duì)不同開發(fā)語言以及使用環(huán)境的調(diào)用腳本和軟件開發(fā)工具包(SDK)等,少量的調(diào)用參數(shù)結(jié)合詳細(xì)的技術(shù)開發(fā)文檔,為開發(fā)者進(jìn)行二次開發(fā)提供便利,最終達(dá)到提高用戶數(shù)和使用量的目的。本小節(jié)以使用訊飛認(rèn)知大模型API接口來創(chuàng)建兩個(gè)調(diào)用腳本為例,驗(yàn)證在Windows系統(tǒng)上運(yùn)行Python和PHP腳本文件可以使用大模型。2 大規(guī)模模型平臺(tái)應(yīng)用API的調(diào)用方法操作步驟可參考7.2.2節(jié)的內(nèi)容,在平臺(tái)中創(chuàng)建應(yīng)用,進(jìn)入應(yīng)用的詳細(xì)交互頁面。點(diǎn)擊頁面左側(cè)的“星火認(rèn)知大模型”鏈接,在向下展開的選項(xiàng)里點(diǎn)擊“星火大模型V1.5”鏈接,主界面切換顯示當(dāng)前使用該接口相關(guān)信息。需點(diǎn)擊“立即購買”鏈接,在彈出界面點(diǎn)擊“免費(fèi)包(個(gè)人認(rèn)證)”,進(jìn)行“支付”相關(guān)操作,返回“星火大模型V1.5”主界面。在主界面右側(cè)顯示“服務(wù)接口認(rèn)證信息”的APPID

、APISecret和APIKey的值,以及“Web”的接口地址,建議復(fù)制保存。點(diǎn)擊接口地址右側(cè)的“文檔”鏈接,在“文檔中心”頁面查看接口的使用文檔(https:///doc/spark/Web.html#_1-接口說明)。(4)范例腳本驗(yàn)證:在“文檔中心”的“星火認(rèn)知大模型Web文檔”頁面中,點(diǎn)擊頁面“2.調(diào)用示例”中的“Python調(diào)用示例”鏈接下載接口使用的腳本壓縮包(https://xfyun-doc.

cn-/static%2F16919367030710594%2FSparkApi_Python.zip)和“PHP調(diào)用示例”鏈接下載接口使用的腳本壓縮包(-/static%2F16907959653978197%

2FSpark_php_demo.zip)。①

Python調(diào)用示例驗(yàn)證。將壓縮包解壓后得到同目錄下的SparkApi.py和test.py兩個(gè)文件,需要將test.py代碼中第3~5行的變量appid、api_secret和api_key分別填寫控制臺(tái)中獲取的對(duì)應(yīng)信息,其他如版本切換可根據(jù)代碼注釋或技術(shù)文檔進(jìn)行修改。運(yùn)行代碼正常即可與大模型進(jìn)行對(duì)話交互,結(jié)果如圖所示,可見實(shí)現(xiàn)了基本的問答功能。Python調(diào)用運(yùn)行結(jié)果Python調(diào)用示例文件的代碼導(dǎo)入(import)8個(gè)模塊包,需要預(yù)先安裝正確,尤其websocket模塊實(shí)際是要安裝websocket-client。如果使用Pycharm編輯器且設(shè)置Python虛擬環(huán)境,可在設(shè)置-Python解釋器管理界面(見圖)中查

溫馨提示

  • 1. 本站所有資源如無特殊說明,都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請(qǐng)下載最新的WinRAR軟件解壓。
  • 2. 本站的文檔不包含任何第三方提供的附件圖紙等,如果需要附件,請(qǐng)聯(lián)系上傳者。文件的所有權(quán)益歸上傳用戶所有。
  • 3. 本站RAR壓縮包中若帶圖紙,網(wǎng)頁內(nèi)容里面會(huì)有圖紙預(yù)覽,若沒有圖紙預(yù)覽就沒有圖紙。
  • 4. 未經(jīng)權(quán)益所有人同意不得將文件中的內(nèi)容挪作商業(yè)或盈利用途。
  • 5. 人人文庫網(wǎng)僅提供信息存儲(chǔ)空間,僅對(duì)用戶上傳內(nèi)容的表現(xiàn)方式做保護(hù)處理,對(duì)用戶上傳分享的文檔內(nèi)容本身不做任何修改或編輯,并不能對(duì)任何下載內(nèi)容負(fù)責(zé)。
  • 6. 下載文件中如有侵權(quán)或不適當(dāng)內(nèi)容,請(qǐng)與我們聯(lián)系,我們立即糾正。
  • 7. 本站不保證下載資源的準(zhǔn)確性、安全性和完整性, 同時(shí)也不承擔(dān)用戶因使用這些下載資源對(duì)自己和他人造成任何形式的傷害或損失。

評(píng)論

0/150

提交評(píng)論