人工智能行業(yè)專題：海外AI基礎(chǔ)軟件被認可

證券研究報告|2023年06月19日人工智能行業(yè)專題海外AI基礎(chǔ)軟件被認可請務必閱讀正文之后的免責聲明及其項下所有內(nèi)容行業(yè)研究·行業(yè)專題計算機·人工智能投資評級：買入(維持評級)證券分析師：熊iongli1@S0980519030002一、Datadog：APM助力GPT應用降本增效二、Palantir：大模型應用于數(shù)據(jù)分析alantirAIPIPalantir三、投資建議：關(guān)注國內(nèi)相關(guān)映射公司請請務必閱讀正文之后的免責聲明及其項下所有內(nèi)容11、Datadog：APM助力GPT應用降本增效請請務必閱讀正文之后的免責聲明及其項下所有內(nèi)容美國AI主流分析可分為數(shù)據(jù)、數(shù)據(jù)傳輸和數(shù)據(jù)處理美國AI主流分析可分為數(shù)據(jù)、數(shù)據(jù)傳輸、數(shù)據(jù)處理。1)數(shù)據(jù)(Data)層面：對數(shù)據(jù)全方位的監(jiān)測服務，幫助用戶深入了解其基礎(chǔ)設(shè)施的性能表現(xiàn)，特別是監(jiān)控API的使用情況和tokens消耗對于控制支出和提高應用程序性能也至關(guān)重要，代表公司為Datadog；2)數(shù)據(jù)傳輸(Supplying/MovingtheData)層面：AI需要大量的數(shù)據(jù)訓練，對服務器之間數(shù)據(jù)傳輸速度提出更高要求，代表公司為博通；3)數(shù)據(jù)處理(ProcessingPowertoRunAIAlgorithmstodata)層面：這一環(huán)節(jié)需要強AI算力支撐，目前主流AI算力芯片仍是GPU，代表廠商為英偉達。圖1：美國AI主流分析可為數(shù)據(jù)、數(shù)據(jù)傳輸和數(shù)據(jù)處理數(shù)數(shù)據(jù)Datadog美國AI主流分析數(shù)數(shù)據(jù)處理英偉達數(shù)數(shù)據(jù)傳輸代表公司博通請請務必閱讀正文之后的免責聲明及其項下所有內(nèi)容圖2：微服務將取代傳統(tǒng)的整體架構(gòu)圖2：微服務將取代傳統(tǒng)的整體架構(gòu)微服務將取代傳統(tǒng)的整體架構(gòu)。1)在傳統(tǒng)的單片框架中，軟件被構(gòu)建為一個單一的、不可分割的單元，從而產(chǎn)生更簡單但不太靈活的系統(tǒng)；其優(yōu)點為更容易開發(fā)和安裝，但實現(xiàn)更改或進行拓展相對困難；2)微服務方法可將整個架構(gòu)拆分為不同的模塊，并將每個模塊為一項服務運行，這些服務使用輕量級API通過明確定義的接口進行通信，可以針對各項服務進行更新、部署和擴展，以滿足對應用程序特定功能的需求。圖3：微服務可針對各項服務進行更新、部署和擴展請請務必閱讀正文之后的免責聲明及其項下所有內(nèi)容 Datadog是一款專為云時代的應用程序而設(shè)計的監(jiān)控和分析平臺。它可以幫助開發(fā)人員、IT運營團隊和業(yè)務用戶實現(xiàn)對整個技術(shù)堆棧的統(tǒng)一、實時的可觀察性。?Datadog擁有實時統(tǒng)一數(shù)據(jù)平臺，使公司能夠輕松地跨各種“數(shù)據(jù)孤島”和格式聚合和監(jiān)控其數(shù)據(jù)；?隨著時間的推移，Datadog增加了功能豐富的創(chuàng)新，如基礎(chǔ)設(shè)施和性能監(jiān)控以及云安全；對于想要“做多人工智能”的公司，Datadog提供整合平臺解決方案；?Datadog數(shù)據(jù)產(chǎn)品、日志記錄、APM和測試的部分，它們以索引的數(shù)據(jù)量或測試量命名。Datadog產(chǎn)品包括括主機，云和容器的基礎(chǔ)架構(gòu)管理，日志管理，事件管理，早期問題和異常檢測，預生產(chǎn)測試，分析，應用程序安全管理和網(wǎng)絡(luò)監(jiān)控等服務。 圖4：Datadog產(chǎn)品應用豐富請請務必閱讀正文之后的免責聲明及其項下所有內(nèi)容 Datadog：在APM和可觀測研究領(lǐng)域，具備領(lǐng)先優(yōu)勢 Datadog在APM和可觀測研究領(lǐng)域，具備領(lǐng)先優(yōu)勢。根據(jù)Gartner披露數(shù)據(jù)，其將APM和可觀測研究領(lǐng)域市場參與者劃為四象限，其中Datadog和Dynatrace (DT)處于領(lǐng)導者(Leader)象限，具備非常明顯的領(lǐng)先優(yōu)勢。圖5：Datadog在APM和可觀測研究領(lǐng)域，具備領(lǐng)先優(yōu)勢請請務必閱讀正文之后的免責聲明及其項下所有內(nèi)容 Datadog+OpenAI：微調(diào)與增強 數(shù)據(jù)監(jiān)控對大模型廠商非常重要。監(jiān)控API的使用情況和Tokens消耗對大模型廠商控制支出和提高應用程序性能非常重要，大模型廠商可以通過優(yōu)化API的使用、延遲和成本，進而更加有效地使用AI模型。?了解用法：通過簡單的設(shè)置過程，用戶可以使用Datadog快速全面了解OpenAI對API的整體使用情況、tokens消耗和按服務、團隊和API密鑰劃分的成本；?優(yōu)化性能：通過跟蹤API錯誤率、速率限制和響應時間，Datadog允許用戶識別應用程序性能問題并將其與API性能問題隔離開來。此外，用戶可以查看包含提示和完成示例的跟蹤和日志，以了解關(guān)鍵應用程序瓶頸和用戶行為；?跟蹤成本：用戶可以查看tokens分配并分析OpenAIAPI調(diào)用的相關(guān)成本。Datadog提供按模型、服務和組織分配的tokens洞察，幫助團隊更有效地管理費用并避免意外賬單；?涵蓋多種AI模型：除了涵蓋大型語言模型的GPT系列之外，Datadog的集成還使組織能夠跟蹤其他OpenAI模型的性能，成本和使用情況，包括Ada，Babbage，Curie和Davinci。圖6：Datadog控制和管理數(shù)據(jù)流請請務必閱讀正文之后的免責聲明及其項下所有內(nèi)容APM是IT和SaaS的重要工具APM是IT服務管理(ITSM)的重要工具，主要對軟件應用程序的性能和服務質(zhì)量進行監(jiān)控和管理。APM工具對于保持應用程序性能，以及在性能出現(xiàn)問題時快速定位和解決問題非常重要。?APM的目標是通過確保應用程序性能達到滿意水平，以提高最終用戶的體驗和滿意度。這通常通過追蹤和監(jiān)控應用程序來實現(xiàn)，這些應用程序可能位于數(shù)據(jù)中心內(nèi)，也可能在云端。APM工具可以幫助IT和運維團隊了解應用程序的性能情況，以便在性能下降時可以及時采取措施進行優(yōu)化。?APM是SaaS中的重要環(huán)節(jié)。由于SaaS應用程序通常服務于大量用戶并且需求可能隨時間變化，所以需要有強大的監(jiān)控工具來確保服務的穩(wěn)定性和性能。如果SaaS應用程序出現(xiàn)性能問題，可能會影響到所有用戶，這就使得APM在這種環(huán)境下更為關(guān)鍵。圖7：應用性能管理流程圖APM9請請務必閱讀正文之后的免責聲明及其項下所有內(nèi)容 圖9：Datadog是專注于云端軟件基礎(chǔ)設(shè)施的平臺資料來源：Seeking 圖9：Datadog是專注于云端軟件基礎(chǔ)設(shè)施的平臺資料來源：SeekingAlpha，雪國信經(jīng)濟研究所整理Datadog是一種專注于云端軟件基礎(chǔ)設(shè)施的全維度監(jiān)測平臺。它提供實時的全棧性能可見性，涵蓋了從應用程序頂層到中間層的Kubernetes/Docker/Hypervisor，再到操作系統(tǒng)和中間件，甚至包括數(shù)據(jù)庫和第三方服務等完整基礎(chǔ)設(shè)施堆棧的性能監(jiān)測。無論是云原生架構(gòu)還是傳統(tǒng)部署，Datadog都能提供全方位的監(jiān)測服務，幫助用戶深入了解其基礎(chǔ)設(shè)施的性能表現(xiàn)。Datadog的APM解決方案優(yōu)勢有：?細節(jié)豐富的性能數(shù)據(jù)：Datadog收集并展示應用程序的各種性能指標，包括響應時間、請求吞吐量、錯誤率、數(shù)據(jù)庫查詢性能等。?跨平臺和跨語言支持：Datadog支持多種編程語言和應用程序框架，包括Java、Python、Ruby、Node.js等。無論應用程序運行在云環(huán)境、容器化環(huán)境還是傳統(tǒng)的物理服務器上，Datadog都能提供全面的性能監(jiān)測和管理。?實時性強：助力快速問題定位。圖10：Datadog的APM應用案例請請務必閱讀正文之后的免責聲明及其項下所有內(nèi)容圖11：智算中心架構(gòu)圖圖11：智算中心架構(gòu)圖請務必閱讀正文之后的免責聲明及其項下所有內(nèi)容在復雜的AIGC環(huán)境下，智算中心的架構(gòu)變得更為復雜，這也使得監(jiān)控系統(tǒng)的價值得到提升。.智算復雜性增加：在智算中心，相較于傳統(tǒng)數(shù)據(jù)中心，CPU、計算卡以及存儲實現(xiàn)了高度解耦和按需調(diào)用，這使得系統(tǒng)的復雜性顯著提升。.大模型訓練的復雜性增加：大模型的訓練通常需要使用數(shù)萬張以上的算力卡，并且由于參數(shù)數(shù)量龐大，通常需要采用更復雜的分布式計算方式。因此，各項資源都需要進行實時監(jiān)控。圖12：大模型訓練流程圖14：Datadog將互相割裂的IT監(jiān)測系統(tǒng)進行了整合圖14：Datadog將互相割裂的IT監(jiān)測系統(tǒng)進行了整合由于硬件端和訓練端的復雜性，傳統(tǒng)的IT監(jiān)控系統(tǒng)需要進行整合，以滿足運維需求。這帶來了監(jiān)控系統(tǒng)價值的提升。.傳統(tǒng)的IT監(jiān)控系統(tǒng)主要關(guān)注硬件設(shè)備和基本的系統(tǒng)指標，如服務器的CPU利用率、內(nèi)存使用情況、網(wǎng)絡(luò)流量和存儲容量等。隨著技術(shù)的進步和復雜的IT環(huán)境的出現(xiàn)，監(jiān)控解決方案需要提供更廣泛、更智能的功能，并涵蓋了更多的應用層面、云服務和容器化環(huán)境。.APM在整合IT監(jiān)控系統(tǒng)中的價值在于提供全面的應用程序監(jiān)測、業(yè)務影響分析、故障排除和快速恢復、自動化和智能化以及統(tǒng)一的監(jiān)控視圖。Datadog將企業(yè)原本的十幾個到最多幾十個互相割裂的IT監(jiān)測系統(tǒng)整合成一個，既提高監(jiān)控效率，又降低企業(yè)的IT支出。圖13：傳統(tǒng)的IT監(jiān)控系統(tǒng)案例請請務必閱讀正文之后的免責聲明及其項下所有內(nèi)容AIGC給APM帶來新的投資領(lǐng)域APM在整合IT監(jiān)控系統(tǒng)中的價值：.全面的應用程序監(jiān)測：傳統(tǒng)的IT監(jiān)控系統(tǒng)主要關(guān)注底層基礎(chǔ)設(shè)施的性能指標，而APM專注于應用程序?qū)用妗Ｍㄟ^集成APM工具，可以深入監(jiān)測應用程序的各個組件、事務和用戶體驗，提供全面的應用程序性能數(shù)據(jù)。這樣可以更好地了解應用程序的行為和性能瓶頸，并快速識別和解決問題。.業(yè)務影響分析：APM不僅提供了應用程序的性能數(shù)據(jù)，還能幫助分析這些數(shù)據(jù)與業(yè)務指標之間的關(guān)系。通過與IT監(jiān)控系統(tǒng)的整合，可以將應用程序性能數(shù)據(jù)與底層基礎(chǔ)設(shè)施的監(jiān)測數(shù)據(jù)進行關(guān)聯(lián)，從而更好地理解應用程序性能對業(yè)務的影響。這樣可以幫助管理員更加準確地評估應用程序的重要性和緊急性，優(yōu)化資源分配和決策。.故障排除和快速恢復：APM提供了詳細的性能指標和事務跟蹤數(shù)據(jù)，可以幫助快速定位應用程序中的性能問題和故障原因。通過整合APM和IT監(jiān)控系統(tǒng)，管理員可以更快速地識別問題并采取相應的措施。這有助于縮短故障恢復時間，最小化業(yè)務中斷和用戶影響。.自動化和智能化：現(xiàn)代的APM工具往往具備自動化和智能化的功能。它們可以自動識別異常模式、預測潛在的問題，并自動觸發(fā)警報和通知。通過與IT監(jiān)控系統(tǒng)的整合，這些智能化的功能可以進一步增強，使監(jiān)測和響應變得更加高效和準確。.統(tǒng)一的監(jiān)控視圖：整合APM和IT監(jiān)控系統(tǒng)可以為管理員提供一個統(tǒng)一的監(jiān)控視圖，將應用程序性能和底層基礎(chǔ)設(shè)施的狀態(tài)集中在一起。這樣可以幫助管理員更全面地了解系統(tǒng)的健康狀況，更好地進行容量規(guī)劃和資源管理請請務必閱讀正文之后的免責聲明及其項下所有內(nèi)容AIGC給APM帶來新的投資領(lǐng)域大模型的算力消耗較大，成本較高。目前根據(jù)根據(jù)GPT-4的公開數(shù)據(jù)，在8K的上下文長度下，每1000個token的提問成本為0.03美金，每1000個token的回答完成成本為0.06美金；在32K的上下文長度下，每1000個token的提問成本為0.06美金，每1000個token的回答完成成本為0.12美金。高效的運維系統(tǒng)對提升訓練效率、降低成本有貢獻。整合的IT監(jiān)控系統(tǒng)可實現(xiàn)對智算中心和模型在設(shè)計、迭代、部署等全生命周期的監(jiān)控，提高模型整體訓練效率：.優(yōu)化資源管理：包括計算、存儲和網(wǎng)絡(luò)資源。它能動態(tài)分配和調(diào)整資源，滿足訓練需求，避免資源浪費和瓶頸，提高訓練效率；.通過自動化工具和流程，實現(xiàn)自動完成環(huán)境配置、數(shù)據(jù)準備、模型部署和監(jiān)控等一系列運維任務。這減少了人工干預和錯誤，提高了訓練過程的速度和一致性；.通過監(jiān)控和故障檢測功能，及時發(fā)現(xiàn)訓練環(huán)境中的異常情況，如硬件故障、網(wǎng)絡(luò)問題或資源不足?？焖僮R別并采取適當?shù)募m正措施，減少訓練中斷時間，提高訓練效率。圖15：ChatGPT-4訪問價格請請務必閱讀正文之后的免責聲明及其項下所有內(nèi)容22、Palantir：大模型應用于數(shù)據(jù)分析請請務必閱讀正文之后的免責聲明及其項下所有內(nèi)容圖17：PalantirFoundary圖17：PalantirFoundary加速了端到端的數(shù)據(jù)轉(zhuǎn)化資料來源：數(shù)字海岸，國信證券經(jīng)濟研究所整理PalantirTechnologies是一家位于美國的軟件公司，專注于大數(shù)據(jù)分析。Palantir提供兩款主要產(chǎn)品：?Gotham主要用于政府機構(gòu)，包括防御和情報部門，用于數(shù)據(jù)集成、可視化和分析。?Foundry則更偏向于企業(yè)市場，可以幫助組織進行數(shù)據(jù)管理、數(shù)據(jù)治理和分析決策。圖16：Palantir的產(chǎn)品結(jié)構(gòu)達到22億美元請請務必閱讀正文之后的免責聲明及其項下所有內(nèi)容Palantir為特定AI業(yè)務需求提供解決方案PalantirPalantir的定制化是其在AI領(lǐng)域內(nèi)的核心優(yōu)勢。Palantir沒有通用工具軟件，它的產(chǎn)品中有30%需要定制化，這是其在AI領(lǐng)域的核心優(yōu)勢。?使得AI系統(tǒng)可以更加快速、準確地分析和識別數(shù)據(jù)模式和關(guān)聯(lián)關(guān)系；?通過將AI模型與特定任務或行業(yè)進行適配，Palantir可以提供高度專業(yè)化的解決方案，從而幫助客戶更好地理解和應用數(shù)據(jù)；?此外，Palantir的定制化還可以提高其安全性和隱私保護能力，使其在敏感領(lǐng)域中更具競爭優(yōu)勢。圖18：Palantir的數(shù)據(jù)分析界面圖19：Palantir為軍方提供的知識圖譜AI分析antir6.2030萬億美元，人工智能軍事市場規(guī)模將達到到6.2030萬億美元，人工智能軍事市場規(guī)模將智能市場將增長到6.2030萬億美元，人工智能軍請務必閱讀正文之后的免責聲明及其項下所有內(nèi)容圖20：PalantirAIP的戰(zhàn)場Demo圖20：PalantirAIP的戰(zhàn)場Demo請務必閱讀正文之后的免責聲明及其項下所有內(nèi)容達到22億美元PalantirAIP可應用于軍事和民用領(lǐng)域。1)軍事領(lǐng)域：PalantirAIP專注于為大型語言模型提高其安全性和隱私保護能力，使其在敏感領(lǐng)域中更具競爭優(yōu)勢，這是美國軍方和商業(yè)部門的關(guān)鍵利益；2)民用領(lǐng)域：其可用于與金融、醫(yī)療保健、政府、零售業(yè)等民用領(lǐng)域。圖21：PalantirAIP的民用領(lǐng)域AI市場增長加速Palantir收入增長全球AI市場快速增長。根據(jù)德勤數(shù)據(jù)，預計23年全球人工智能市場規(guī)模達到4.48萬億美元，預計25年增長至6.40萬億美金，17-25年CAGR達32.10%，全球AI市場快速增長；AI市場增長加速Palantir收入增長。根據(jù)Palantir財報披露，受益于AI快速發(fā)展，公司業(yè)績快速增長，23Q1實現(xiàn)營收5.25億美金，同比增長18%。圖22：全球AI市場規(guī)?？焖僭鲩L全球人工智能市場規(guī)模(單位：萬億美元)yoy(右軸)765432100%0%0%0%0%0%0%76543210201720182019E2020E2021E2022E2023E2024E2025E所整理請請務必閱讀正文之后的免責聲明及其項下所有內(nèi)容33、投資建議：關(guān)注國內(nèi)相關(guān)映射公司請請務必閱讀正文之后的免責聲明及其項下所有內(nèi)容投資建議：關(guān)注國內(nèi)相關(guān)映射公司Datadog國內(nèi)映射標的?Datadog為全球領(lǐng)先的AI數(shù)據(jù)處理公司，其在APM領(lǐng)域具備先發(fā)優(yōu)勢，助力GPT降本增效;?重點關(guān)注國內(nèi)相關(guān)數(shù)據(jù)公司，例如星環(huán)科技、博睿數(shù)據(jù)。Palantir國內(nèi)映射標的?Palantir是全球領(lǐng)先的數(shù)據(jù)分析公司，定制化能力為其核心競爭力，其推出的PalantitAIP平臺可應用于軍事和民間領(lǐng)域；?重點關(guān)注國內(nèi)相關(guān)公司，例如航天宏圖、中科星圖、易華錄、太極股份。請請務必閱讀正文之后的免責聲明及其項下所有內(nèi)容風險提示第一，宏觀經(jīng)濟波動。若宏觀經(jīng)濟波動，產(chǎn)業(yè)變革及新技術(shù)的落地節(jié)奏或?qū)⑹艿接绊?，宏觀經(jīng)濟波動還可能對IT投資產(chǎn)生負面影響，從而導致整體行業(yè)增長不及預期。第二，下游需求不及預期。若下游數(shù)字化需求不及預期，相關(guān)的數(shù)字化投入增長或慢于預期，致使行業(yè)增長不及預期。AI倫理風險:AI可能會生產(chǎn)違反道德、常規(guī)、法律等內(nèi)容。第四，核心技術(shù)水平升級不及預期的風險:AIGC相關(guān)產(chǎn)業(yè)技術(shù)壁壘較高，核心技術(shù)難以突破，影響整體進度。22請請務必閱讀正文之后的免責聲明及其項下所有內(nèi)容免責聲明國信證券投資評級類別級別定義股票投資評級買入預計6個月內(nèi)，股價表現(xiàn)優(yōu)于市場指數(shù)20%以上增持預計6個月內(nèi)，股價表現(xiàn)優(yōu)于市場指數(shù)10%-20%之間預計6個月內(nèi)，股價表現(xiàn)介于市場指數(shù)±10%之間賣出預計6個月內(nèi)，股價表現(xiàn)弱于市場指數(shù)10%以上行業(yè)投資評級超配預計6個月內(nèi)，行業(yè)指數(shù)表現(xiàn)優(yōu)于市場指數(shù)10%以上預計6個月內(nèi)，行業(yè)指數(shù)表現(xiàn)介于市場指數(shù)±10%之間低配預計6個月內(nèi)，行業(yè)指數(shù)表現(xiàn)弱于市場指數(shù)10%以上分析師承諾作者保證報告所采用的數(shù)據(jù)均來自合規(guī)渠道；分析邏輯基于作者的職業(yè)理解，通過合理判斷并得出結(jié)論，力求獨立、客觀、公正，結(jié)論不受任何第三方的授意或影響；作者在過去、現(xiàn)在或未來未就其研究報告所提供的具體建議或所表述的意見直接或間接收取任何報酬，特此聲明。重要聲明本報告由國信證券股份有限公司(已具備中國證監(jiān)會許可的證券投資咨詢業(yè)務資格)制作；報告版權(quán)歸國信證券股份有限公司(以下簡稱“我公司”)所有。，本公司不會因接收人收到本報告而視其為客戶。未經(jīng)書面許可，任何機構(gòu)和個人不得以任何形式使用、復制或傳播。任何有關(guān)本報告的摘要或節(jié)選都不代表本報告正式完整的觀點，一切須以我公司向客戶發(fā)布的本報告完整版本為準。本報告基于已公開的資料或信息撰寫，但我公司不保證該資料及信息的完整性、準確性。本報告所載的信息、資料、建議及推測僅反映我公司于本報告公開發(fā)布當日的判斷，在不同時期，我公司可能撰寫并發(fā)布與本報告所載資料、建議及推測不一致的報告。我公司不保證本報告所含信息及資料處于最新狀態(tài)；我公司可能隨時補充、更新和修訂有關(guān)信息及資料，投資者應當自行關(guān)注相關(guān)更新和修訂內(nèi)容。我公