人工智能應(yīng)用熱的省思

2022年11月30日，OpenAI公司向全世界發(fā)布了其最新的大型語(yǔ)言預(yù)訓(xùn)練模型——ChatGPT。自打那個(gè)時(shí)候開(kāi)始，作為技術(shù)發(fā)燒友的焦建利教授就被生成式人工智能迷得一塌糊涂，兔年春節(jié)，他大多數(shù)時(shí)間是和大型語(yǔ)言模型應(yīng)用一起過(guò)的，一邊懷著激動(dòng)和興奮，琢磨ChatGPT以及其他大型語(yǔ)言模型給學(xué)校教育帶來(lái)的機(jī)遇，對(duì)學(xué)校教育的價(jià)值和意義、課程與教學(xué)的設(shè)計(jì)研究；一邊又充滿理性和審慎，省思ChatGPT之類的人工智能，對(duì)于技術(shù)派教師的知識(shí)、技能和素養(yǎng)的挑戰(zhàn)，對(duì)學(xué)生的學(xué)習(xí)、教師的教學(xué)以及學(xué)校的管理和服務(wù)所產(chǎn)生的諸多技術(shù)的、倫理道德的和法律法規(guī)的威脅和可能的挑戰(zhàn)。本期我們?cè)L談的專家就是華南師范大學(xué)焦建利教授。本刊編輯：2022年年底，OpenAI發(fā)布ChatGPT。不少人有這樣的擔(dān)心，生成式人工智能工具ChatGPT是懶惰學(xué)生的福音，可能會(huì)取代教師。您怎么看？焦建利：的確，這種說(shuō)法有一定的代表性，甚至連分析哲學(xué)領(lǐng)域的重要人物、認(rèn)知科學(xué)領(lǐng)域的創(chuàng)始人NoamChomsky（喬姆斯基）教授都有類似的觀點(diǎn)。在一次訪談中，喬姆斯基將使用ChatGPT視為“基本上是高科技剽竊”和“避免學(xué)習(xí)的一種方式”。我認(rèn)為，ChatGPT之類的大語(yǔ)言模型只是工具，是技術(shù)產(chǎn)物，是合乎人的目的性的存在。它究竟是剽竊的利器、抄襲的工具還是生產(chǎn)力的工具，完全取決于人，取決于人以什么目的，怎么使用它。比較有意思的是，我讀到的美國(guó)和英國(guó)的兩個(gè)有關(guān)ChatGPT的學(xué)校教育應(yīng)用的調(diào)查報(bào)告，結(jié)論出乎意料，發(fā)人深思。一項(xiàng)新的調(diào)查顯示，教師比學(xué)生更有可能使用聊天機(jī)器人來(lái)完成“作業(yè)”。該調(diào)查由沃爾頓家庭基金會(huì)（WaltonFamilyFoundation）委托，2023年2月2日-7日期間，對(duì)美國(guó)1002名K-12教師和1000名12-17歲的學(xué)生進(jìn)行了調(diào)查，調(diào)查的目的是了解他們對(duì)該技術(shù)以及將其用于學(xué)校工作的看法。調(diào)查結(jié)果發(fā)現(xiàn)，在美國(guó)全國(guó)范圍內(nèi)，51%的教師在學(xué)校使用ChatGPT，而學(xué)生中這一比例僅為33%。在受訪的教師中，黑人（69%）和拉丁裔（69%）教師報(bào)告的使用率更高。似乎很多教師都允許學(xué)生使用ChatGPT。報(bào)告作者寫道：“絕大多數(shù)使用過(guò)ChatGPT的教師和學(xué)生表示，它對(duì)他們的教與學(xué)產(chǎn)生了積極影響”“與其尋找限制它的方法，學(xué)生和老師都認(rèn)為我們應(yīng)該尋找方法將ChatGPT納入教育并充分利用它的潛力?！贝蠖鄶?shù)學(xué)生表示，這可以幫助他們成為更好的學(xué)生（68%），并幫助他們學(xué)得更快（75%）。73%的教師表示ChatGPT可以幫助學(xué)生學(xué)到更多。一家網(wǎng)站通過(guò)教師調(diào)查應(yīng)用程序TeacherTapp，對(duì)9323名英國(guó)教師進(jìn)行調(diào)查，報(bào)告顯示，只有6%的人在工作中使用過(guò)ChatGPT，而32%的人不知道ChatGPT是什么。這個(gè)結(jié)果再次發(fā)人深思。這兩個(gè)或許不具備可比性的對(duì)美國(guó)和英國(guó)教師的調(diào)查，似乎也佐證了在“人工智能領(lǐng)域，國(guó)家與國(guó)家之間的人工智能數(shù)字鴻溝正在呈幾何倍數(shù)的加大”的觀點(diǎn)。一方面，這或許是因?yàn)镺penAI是美國(guó)的互聯(lián)網(wǎng)公司，或許和兩個(gè)國(guó)家中小學(xué)教師的數(shù)字素養(yǎng)和技術(shù)文化有著密切的關(guān)系。至于ChatGPT之類的人工智能取代教師之說(shuō)，我的看法是：人工智能不會(huì)取代教師，過(guò)去不能，現(xiàn)在不能，將來(lái)也不能。但是，善于使用人工智能的教師，一定會(huì)淘汰不用人工智能的教師。本刊編輯：ChatGPT一石激起千層浪，引發(fā)了全球互聯(lián)網(wǎng)龍頭企業(yè)（尤其是微軟、谷歌、百度、Meta等）圍繞搜索引擎相關(guān)業(yè)務(wù)展開(kāi)的搜索引擎大戰(zhàn)。ChatGPT到底能夠?yàn)榻逃⒔虒W(xué)帶來(lái)什么呢？焦建利：在過(guò)去的100年里，每當(dāng)新的科技被引入教育時(shí)，都會(huì)產(chǎn)生激烈的爭(zhēng)論和普遍的擔(dān)憂。在這100年里，我們已經(jīng)見(jiàn)證了很多教育科技的應(yīng)用和變革，其中包括黑板、放映機(jī)、計(jì)算機(jī)、互聯(lián)網(wǎng)、平板電腦等，ChatGPT當(dāng)然也不例外。由于有了ChatGPT大型語(yǔ)言模型的快速發(fā)展，使得我們?nèi)祟惖膶W(xué)習(xí)方式會(huì)發(fā)生一個(gè)根本性變化，有助于推動(dòng)學(xué)習(xí)方式從“搜索就是學(xué)習(xí)”逐步轉(zhuǎn)向具有悠久歷史和古老傳統(tǒng)的“對(duì)話式學(xué)習(xí)”，這種影響在今年已經(jīng)顯現(xiàn)出來(lái)了。有了ChatGPT人工智能之后，每個(gè)人都有了自己的人工智能助理和私人學(xué)習(xí)的顧問(wèn)，學(xué)習(xí)、教育教學(xué)變得更加個(gè)性化，因材施教有望得到落實(shí)。特別是隨著生成式人工智能的發(fā)展，我們發(fā)現(xiàn)，在教育的生態(tài)里面，信息、知識(shí)甚至一些技能已經(jīng)不再重要，重要的將會(huì)是創(chuàng)意、批判性思維、創(chuàng)造性、溝通，包括提問(wèn)的技巧、協(xié)作、審美、情商和品格等。我總結(jié)了一下，ChatGPT之類的生成式人工智能可以幫助人們完成以下幾個(gè)方面的工作。一是作為生成式人工智能的代表，ChatGPT能夠?yàn)榻處熀蛯W(xué)生生成相應(yīng)的文本，如活動(dòng)方案、教學(xué)設(shè)計(jì)、隨堂練習(xí)題等。配合第三方應(yīng)用，ChatGPT還可以生成故事、電子書、講義、教案、教學(xué)材料、視頻微課，甚至演示文稿、代碼和網(wǎng)站等。二是作為一個(gè)基于自然語(yǔ)言的大型語(yǔ)言模型，ChatGPT更具對(duì)話性，且似乎更有語(yǔ)言天賦，它能夠回答后續(xù)問(wèn)題、承認(rèn)錯(cuò)誤、質(zhì)疑不正確的前提并拒絕不適當(dāng)?shù)恼?qǐng)求；還可以幫助學(xué)生、教師更好地理解和掌握抽象的概念和知識(shí)，并為教師提供課程相關(guān)支持，如回答學(xué)術(shù)（包括科學(xué)、歷史、文學(xué)、數(shù)學(xué)等）問(wèn)題。三是通過(guò)使某些任務(wù)和角色自動(dòng)化，ChatGPT已經(jīng)為諸多工作場(chǎng)所帶來(lái)重大變化。人工智能和機(jī)器人不但可以自動(dòng)化傳統(tǒng)的體力勞動(dòng)和重復(fù)性勞動(dòng)，而且能夠自動(dòng)化越來(lái)越多的腦力勞動(dòng)和知識(shí)密集型業(yè)務(wù)；通過(guò)將ChatGPT的功能與其他人工智能技術(shù)（如人工智能藝術(shù)引擎）相結(jié)合，可以使目前由人類設(shè)計(jì)師、藝術(shù)家和內(nèi)容創(chuàng)作者完成的任務(wù)自動(dòng)化；它還可以使學(xué)生學(xué)習(xí)和教師教學(xué)的相關(guān)業(yè)務(wù)自動(dòng)化，如為學(xué)生和教師提供學(xué)習(xí)資源，幫助教師和學(xué)生尋找有用的學(xué)習(xí)資源。四是ChatGPT的應(yīng)用場(chǎng)景不僅僅體現(xiàn)在常規(guī)工作和教學(xué)業(yè)務(wù)中，在科學(xué)研究領(lǐng)域，ChatGPT也有廣泛的應(yīng)用前景。許多科學(xué)家和研究人員嘗試使用ChatGPT輔助科學(xué)研究過(guò)程中的某些任務(wù)，取得了令人振奮的成績(jī)。如研究人員可結(jié)合ChatGPT和其他大型語(yǔ)言模型來(lái)確定研究空白、進(jìn)行文獻(xiàn)綜述、起草論文并修改完善，撰寫演講稿以及編寫計(jì)算機(jī)代碼等。本刊編輯：人工智能面臨著一定的應(yīng)用風(fēng)險(xiǎn)問(wèn)題，包括技術(shù)倫理、技術(shù)向善、隱私保護(hù)等，這些問(wèn)題引起了人們的高度關(guān)注。在運(yùn)用ChatGPT等AI軟件的過(guò)程中，您遇到了什么問(wèn)題，有什么樣的思考？焦建利：在我看來(lái)，今天我們看到人工智能對(duì)于教育在法律和倫理方面的議題，主要有以下五個(gè)方面。一是，我認(rèn)為它帶來(lái)的挑戰(zhàn)和問(wèn)題是不確定性和錯(cuò)誤的信息，ChatGPT經(jīng)常會(huì)生成一些不準(zhǔn)確的信息、誤導(dǎo)性信息，給人們帶來(lái)很大問(wèn)題。比如，我曾經(jīng)問(wèn)ChatGPT誰(shuí)是喬姆斯基，它告訴我是演員，這是錯(cuò)誤的；后來(lái)，我用英文問(wèn)，誰(shuí)是NoamChomsky，它的回答是正確的。所以，有的時(shí)候我們會(huì)思考，究竟它給我們的答案是對(duì)的還是錯(cuò)的，還是我們提問(wèn)方式有了問(wèn)題，我們批評(píng)ChatGPT的語(yǔ)言模型邊界和局限性的時(shí)候，是不是我們提問(wèn)的方法出了問(wèn)題。就好比，并非每一個(gè)會(huì)說(shuō)話的人都會(huì)聊天，否則，就不會(huì)有“把天聊死了”這樣的說(shuō)法了。我們使用ChatGPT之類的聊天機(jī)器人，需要學(xué)會(huì)怎么和它愉快地聊天，這就涉及了一個(gè)被稱之為“提示語(yǔ)工程學(xué)”的領(lǐng)域了。二是，ChatGPT經(jīng)常會(huì)產(chǎn)出一些并不可靠的內(nèi)容。比如，在應(yīng)用過(guò)程中間你會(huì)發(fā)現(xiàn)，它會(huì)給你提供一些不存在的信息，我曾經(jīng)遇到過(guò)，我讓它列出一些我自己研究的一個(gè)課題，有關(guān)的參考文獻(xiàn)，希望用MAPA格式來(lái)給出這樣的文獻(xiàn)，它列的非常規(guī)范，看上去非常漂亮，但是當(dāng)你去搜索，發(fā)現(xiàn)這個(gè)文獻(xiàn)是不存在的，所以這變成了一個(gè)很重要的問(wèn)題，尤其用到教育教學(xué)里面的時(shí)候，這種不可靠會(huì)帶來(lái)很大挑戰(zhàn)。三是，我曾經(jīng)開(kāi)玩笑地問(wèn)了ChatGPT一個(gè)很荒誕的問(wèn)題，我問(wèn)“為什么在慢跑之后吃自己穿的襪子更有營(yíng)養(yǎng)，更有利于健康？”ChatGPT是怎么回答我的呢，它說(shuō)“因?yàn)槁芸梢詭椭覀兿?，而襪子里面含有營(yíng)養(yǎng)成分，比如維生素、礦物質(zhì)、氨基酸等等”，它在一本正經(jīng)地胡說(shuō)八道。四是，數(shù)據(jù)安全的問(wèn)題、隱私保護(hù)以及相關(guān)法律的關(guān)注。比如涉及了攻擊性信息、種族歧視方面不恰當(dāng)?shù)膬?nèi)容，甚至一些有毒的信息，由ChatGPT的人工大型語(yǔ)言模型產(chǎn)出，很多專家談到了這一點(diǎn)，我很同意他們的看法，這點(diǎn)看法類似于莎士比亞講過(guò)一句“本無(wú)好壞，取決于人怎么思考”。還有就是由于大型語(yǔ)言模型訓(xùn)練帶來(lái)的偏見(jiàn)，涉及相關(guān)語(yǔ)料和相應(yīng)問(wèn)題，可以看到這方面的情況還是比較多的，因此，也有人批評(píng)在教育里面它帶給我們的是什么，有人認(rèn)為它是“教育的瘟疫”，有人說(shuō)“抄襲變得更容易了”。五是，開(kāi)放性和公平性的問(wèn)題。在很多專家討論人工智能里面提到了，以O(shè)penAI為例，它的名稱是Open，是不是全世界的人都能使用它，我們今天講由于技術(shù)的原因帶來(lái)很多挑戰(zhàn)和問(wèn)題，但是，歸根結(jié)底我的看法是，這取決于我們?cè)趺词褂盟?，如果以正確的方式使用它，它會(huì)成為我們教師的朋友。人工智能倫理的問(wèn)題變得非常重要，我們今天需要采取一些行動(dòng)來(lái)解決這些問(wèn)題。本刊編輯：作為技術(shù)發(fā)燒友，您最近還關(guān)注哪些人工智能方面的內(nèi)容？有什么推薦的最前沿的技術(shù)信息嗎？焦建利：我在“自留地君”微信公眾號(hào)上，會(huì)經(jīng)常發(fā)布一些我認(rèn)為很有意思也很有時(shí)效性的人工智能科技動(dòng)態(tài)。比如“人工智能藝術(shù)讓人人都成藝術(shù)家？”的推文中，介紹了以6Pen.art為代表的一組人工智能繪畫工具，基于人工智能算法的在線繪畫作品創(chuàng)作，可以讓每一個(gè)像我這樣沒(méi)怎么接受過(guò)藝術(shù)教育的人，在線借助人工智能，創(chuàng)作出一幅幅自己的繪畫作品，還可以參加在線畫展。用戶直接給出想象中畫面的關(guān)鍵詞，它就能借助人工智能算法給你生成對(duì)應(yīng)圖像，這一切就仿佛它能聽(tīng)懂人類的語(yǔ)言一樣。藝術(shù)創(chuàng)造不用畫筆，而靠“算”，一個(gè)“用嘴作畫”的時(shí)代，似乎已經(jīng)悄然到來(lái)。AI藝術(shù)成為藝術(shù)的一種新形式，每個(gè)使用AI創(chuàng)作軟件的人，都似乎可以算作是AI藝術(shù)家了。在技術(shù)的支撐下，一臺(tái)計(jì)算機(jī)在生成網(wǎng)絡(luò)里對(duì)一組聲音或圖片庫(kù)進(jìn)行研究，根據(jù)所采集到的資料來(lái)生成自己的內(nèi)容。然后，在其判別網(wǎng)絡(luò)里通過(guò)與原始資料庫(kù)比對(duì)，來(lái)測(cè)試自己的正確率。如此不斷重復(fù)以上步驟，機(jī)器在反復(fù)試驗(yàn)中逐步改進(jìn)和優(yōu)化自身。人工智能不僅可以讓每個(gè)人都成為視覺(jué)藝術(shù)家，還可以讓我們創(chuàng)作自己的音樂(lè)。人工智能在音樂(lè)領(lǐng)域的應(yīng)用愈發(fā)深刻廣泛，覆蓋了音樂(lè)教學(xué)、人工智能音樂(lè)創(chuàng)作、AI演奏、虛擬歌手、娛樂(lè)社交等眾多場(chǎng)景。單就AI音樂(lè)創(chuàng)作部分，人工智能可以讓普通人（當(dāng)然也包括音樂(lè)創(chuàng)作專業(yè)人士、作曲家和音樂(lè)家）利用人工智能技術(shù)對(duì)音樂(lè)進(jìn)行創(chuàng)作、加工和利用，比如：AI演唱、AI作詞、AI作曲、人聲/樂(lè)器分離、BGM識(shí)別、副歌剪輯、曲譜識(shí)別、音頻合成等。比較有代表性的包括：AmperMusic