大模型生產(chǎn)力工具的思考與實(shí)踐-商湯科技+賈安亞

商湯科技產(chǎn)品總監(jiān)、小浣熊家族產(chǎn)品負(fù)責(zé)人Al生產(chǎn)力工具海外應(yīng)用現(xiàn)狀(以編程助手為例)GenerativeAlcanincrea■WithoutgenerativeAl■0CodegenerationCoderefactoring*StackOverflow:2024DeveloperSurvey**McKinseyDigitalAl生產(chǎn)力工具海外應(yīng)用現(xiàn)狀(以編程助手為例) Fig.2.ChatGPT'sinfluenceonaspectsofdevelopersFinding2——60%ofparticipantsperceivedamoderatelypositiveimpactofChatGPTontheirsatisfaction.Notably,itenhancedperceivedproductivityandreducedidentifiedastheleastaffectedfafacilitationofactivities,supportinlearning,andprovisionofeffectivea揚(yáng)長(zhǎng)補(bǔ)短的使用能力——解決痛點(diǎn)新的解決問(wèn)題的體驗(yàn)——減輕壓力度的積極影響。尤為顯著的是，它使人們感知到了生產(chǎn)力的提升，減少了重復(fù)性工作，而并未帶來(lái)顯著的壓力影響。此外，其他反饋突出了ChatGPT在助力工作開(kāi)展、幫助學(xué)習(xí)新知以及便捷地獲取有效信息等方面所起的作用，與傳統(tǒng)工具相比優(yōu)勢(shì)明顯。02027E亞馬遜云科技tabnines一阿里云智譜ABaidu愁態(tài)騰訊云中游AI代碼生成工具在發(fā)展過(guò)程中面臨的挑戰(zhàn)主要集中在用戶體驗(yàn)、技術(shù)發(fā)展、技術(shù)提升的難點(diǎn)以及市場(chǎng)適應(yīng)性等方面。解決這些痛點(diǎn)需不斷的技術(shù)創(chuàng)新、市場(chǎng)反饋和經(jīng)驗(yàn)積累。通過(guò)持續(xù)優(yōu)化算法模型、增強(qiáng)用戶交互設(shè)計(jì)等，可逐步克服這些挑戰(zhàn)口易用性沙利文：2024年中國(guó)Al代碼生成市場(chǎng)報(bào)告關(guān)注模型精度關(guān)注端到端用戶體驗(yàn)主要問(wèn)題2:基于項(xiàng)目級(jí)Othermodels←Mo代碼小浣熊代碼小浣熊企業(yè)落地視角演變(以編程助手為例)》》》》》》維航品編碼后提交信息開(kāi)發(fā)計(jì)劃用戶調(diào)研!必發(fā)布計(jì)劃運(yùn)維交付運(yùn)維擄發(fā)布發(fā)布更新文檔更新文檔部署部署成成本低Zero-shotPrompti20220對(duì)企業(yè)的價(jià)值對(duì)企業(yè)的價(jià)值企業(yè)從需求到服務(wù)的業(yè)務(wù)閉環(huán)視角解構(gòu)、重構(gòu)多部門活動(dòng)、協(xié)作和流程探索新的企業(yè)從需求到服務(wù)的業(yè)務(wù)閉環(huán)視角解構(gòu)、重構(gòu)多部門活動(dòng)、協(xié)作和流程解決資產(chǎn)沉淀難、規(guī)范落地難，技術(shù)債務(wù)積累多等問(wèn)題解決資產(chǎn)沉淀難、規(guī)范落地難，技術(shù)債務(wù)積累多等問(wèn)題個(gè)人個(gè)人提升編碼效率、縮短走查時(shí)長(zhǎng)、減少測(cè)試成本等能更快交付么增強(qiáng)當(dāng)前能更快交付么生產(chǎn)力決定生產(chǎn)關(guān)系計(jì)算計(jì)算Embeddings文檔詢問(wèn)/指令提示合成大模型回復(fù)信息詢問(wèn)/指令提示合成大模型回復(fù)信息代碼補(bǔ)全開(kāi)發(fā)協(xié)助**對(duì)話問(wèn)答詢問(wèn)/指令響應(yīng)/調(diào)用請(qǐng)求結(jié)果/報(bào)錯(cuò)工具調(diào)用代碼執(zhí)行代碼倉(cāng)網(wǎng)絡(luò)檢索API調(diào)用代碼運(yùn)行沙盒提示合成大模型回復(fù)中的「調(diào)用」或「代碼執(zhí)行」請(qǐng)求回復(fù)信息分塊分塊知識(shí)資產(chǎn)行業(yè)背景術(shù)語(yǔ)&縮略詞業(yè)務(wù)知識(shí)系統(tǒng)知識(shí)需求分析需求規(guī)格設(shè)計(jì)功能流程功能界面接口說(shuō)明架構(gòu)設(shè)計(jì)概要設(shè)計(jì)用安規(guī)劃系決詳細(xì)設(shè)計(jì)代碼編寫(xiě)編碼實(shí)現(xiàn)測(cè)試用例例描述前置條件預(yù)期采測(cè)試用例軟件測(cè)試測(cè)試報(bào)告測(cè)試環(huán)境測(cè)試結(jié)果接口調(diào)用Agent編排自然語(yǔ)言大模型人機(jī)界面工具&插件運(yùn)行環(huán)境大模型產(chǎn)品是否能完全替代人?大模型當(dāng)下最好的產(chǎn)品形態(tài)是Copilot,不是完全替代人大模型產(chǎn)品是否能完全替代人?最直接的能給企業(yè)帶來(lái)什么收益?最直接的能給企業(yè)帶來(lái)什么收益?如何促進(jìn)全員使用大模型原生產(chǎn)品?管理要求與員工主動(dòng)相結(jié)合，從后向前持續(xù)推進(jìn)，激勵(lì)員工貢獻(xiàn)方法與資產(chǎn)RPrompt優(yōu)化(外化COT)+ConstrainedDecoding+(內(nèi)化COT?)更新人設(shè)模板更新人設(shè)模板StructureofGSM8KquesStructureofGSM8Kquesgovetoday.Aftertheyaredonethegroveworkersplanttotherewere21treesafterswereplanted.Sotheremusthwillplanttreesintheg"reasoning":"Thereare15treewere21treesaftersomemorewereplanted.Sother一軸生成**商湯學(xué)習(xí)成本應(yīng)用形態(tài)·語(yǔ)言與思維能力是否可