人工智能應用熱的省思

2022年11月30日，OpenAI公司向全世界發(fā)布了其最新的大型語言預訓練模型——ChatGPT。自打那個時候開始，作為技術發(fā)燒友的焦建利教授就被生成式人工智能迷得一塌糊涂，兔年春節(jié)，他大多數(shù)時間是和大型語言模型應用一起過的，一邊懷著激動和興奮，琢磨ChatGPT以及其他大型語言模型給學校教育帶來的機遇，對學校教育的價值和意義、課程與教學的設計研究；一邊又充滿理性和審慎，省思ChatGPT之類的人工智能，對于技術派教師的知識、技能和素養(yǎng)的挑戰(zhàn)，對學生的學習、教師的教學以及學校的管理和服務所產(chǎn)生的諸多技術的、倫理道德的和法律法規(guī)的威脅和可能的挑戰(zhàn)。本期我們訪談的專家就是華南師范大學焦建利教授。本刊編輯：2022年年底，OpenAI發(fā)布ChatGPT。不少人有這樣的擔心，生成式人工智能工具ChatGPT是懶惰學生的福音，可能會取代教師。您怎么看？焦建利：的確，這種說法有一定的代表性，甚至連分析哲學領域的重要人物、認知科學領域的創(chuàng)始人NoamChomsky（喬姆斯基）教授都有類似的觀點。在一次訪談中，喬姆斯基將使用ChatGPT視為“基本上是高科技剽竊”和“避免學習的一種方式”。我認為，ChatGPT之類的大語言模型只是工具，是技術產(chǎn)物，是合乎人的目的性的存在。它究竟是剽竊的利器、抄襲的工具還是生產(chǎn)力的工具，完全取決于人，取決于人以什么目的，怎么使用它。比較有意思的是，我讀到的美國和英國的兩個有關ChatGPT的學校教育應用的調(diào)查報告，結(jié)論出乎意料，發(fā)人深思。一項新的調(diào)查顯示，教師比學生更有可能使用聊天機器人來完成“作業(yè)”。該調(diào)查由沃爾頓家庭基金會（WaltonFamilyFoundation）委托，2023年2月2日-7日期間，對美國1002名K-12教師和1000名12-17歲的學生進行了調(diào)查，調(diào)查的目的是了解他們對該技術以及將其用于學校工作的看法。調(diào)查結(jié)果發(fā)現(xiàn)，在美國全國范圍內(nèi)，51%的教師在學校使用ChatGPT，而學生中這一比例僅為33%。在受訪的教師中，黑人（69%）和拉丁裔（69%）教師報告的使用率更高。似乎很多教師都允許學生使用ChatGPT。報告作者寫道：“絕大多數(shù)使用過ChatGPT的教師和學生表示，它對他們的教與學產(chǎn)生了積極影響”“與其尋找限制它的方法，學生和老師都認為我們應該尋找方法將ChatGPT納入教育并充分利用它的潛力。”大多數(shù)學生表示，這可以幫助他們成為更好的學生（68%），并幫助他們學得更快（75%）。73%的教師表示ChatGPT可以幫助學生學到更多。一家網(wǎng)站通過教師調(diào)查應用程序TeacherTapp，對9323名英國教師進行調(diào)查，報告顯示，只有6%的人在工作中使用過ChatGPT，而32%的人不知道ChatGPT是什么。這個結(jié)果再次發(fā)人深思。這兩個或許不具備可比性的對美國和英國教師的調(diào)查，似乎也佐證了在“人工智能領域，國家與國家之間的人工智能數(shù)字鴻溝正在呈幾何倍數(shù)的加大”的觀點。一方面，這或許是因為OpenAI是美國的互聯(lián)網(wǎng)公司，或許和兩個國家中小學教師的數(shù)字素養(yǎng)和技術文化有著密切的關系。至于ChatGPT之類的人工智能取代教師之說，我的看法是：人工智能不會取代教師，過去不能，現(xiàn)在不能，將來也不能。但是，善于使用人工智能的教師，一定會淘汰不用人工智能的教師。本刊編輯：ChatGPT一石激起千層浪，引發(fā)了全球互聯(lián)網(wǎng)龍頭企業(yè)（尤其是微軟、谷歌、百度、Meta等）圍繞搜索引擎相關業(yè)務展開的搜索引擎大戰(zhàn)。ChatGPT到底能夠為教育、教學帶來什么呢？焦建利：在過去的100年里，每當新的科技被引入教育時，都會產(chǎn)生激烈的爭論和普遍的擔憂。在這100年里，我們已經(jīng)見證了很多教育科技的應用和變革，其中包括黑板、放映機、計算機、互聯(lián)網(wǎng)、平板電腦等，ChatGPT當然也不例外。由于有了ChatGPT大型語言模型的快速發(fā)展，使得我們?nèi)祟惖膶W習方式會發(fā)生一個根本性變化，有助于推動學習方式從“搜索就是學習”逐步轉(zhuǎn)向具有悠久歷史和古老傳統(tǒng)的“對話式學習”，這種影響在今年已經(jīng)顯現(xiàn)出來了。有了ChatGPT人工智能之后，每個人都有了自己的人工智能助理和私人學習的顧問，學習、教育教學變得更加個性化，因材施教有望得到落實。特別是隨著生成式人工智能的發(fā)展，我們發(fā)現(xiàn)，在教育的生態(tài)里面，信息、知識甚至一些技能已經(jīng)不再重要，重要的將會是創(chuàng)意、批判性思維、創(chuàng)造性、溝通，包括提問的技巧、協(xié)作、審美、情商和品格等。我總結(jié)了一下，ChatGPT之類的生成式人工智能可以幫助人們完成以下幾個方面的工作。一是作為生成式人工智能的代表，ChatGPT能夠為教師和學生生成相應的文本，如活動方案、教學設計、隨堂練習題等。配合第三方應用，ChatGPT還可以生成故事、電子書、講義、教案、教學材料、視頻微課，甚至演示文稿、代碼和網(wǎng)站等。二是作為一個基于自然語言的大型語言模型，ChatGPT更具對話性，且似乎更有語言天賦，它能夠回答后續(xù)問題、承認錯誤、質(zhì)疑不正確的前提并拒絕不適當?shù)恼埱螅贿€可以幫助學生、教師更好地理解和掌握抽象的概念和知識，并為教師提供課程相關支持，如回答學術（包括科學、歷史、文學、數(shù)學等）問題。三是通過使某些任務和角色自動化，ChatGPT已經(jīng)為諸多工作場所帶來重大變化。人工智能和機器人不但可以自動化傳統(tǒng)的體力勞動和重復性勞動，而且能夠自動化越來越多的腦力勞動和知識密集型業(yè)務；通過將ChatGPT的功能與其他人工智能技術（如人工智能藝術引擎）相結(jié)合，可以使目前由人類設計師、藝術家和內(nèi)容創(chuàng)作者完成的任務自動化；它還可以使學生學習和教師教學的相關業(yè)務自動化，如為學生和教師提供學習資源，幫助教師和學生尋找有用的學習資源。四是ChatGPT的應用場景不僅僅體現(xiàn)在常規(guī)工作和教學業(yè)務中，在科學研究領域，ChatGPT也有廣泛的應用前景。許多科學家和研究人員嘗試使用ChatGPT輔助科學研究過程中的某些任務，取得了令人振奮的成績。如研究人員可結(jié)合ChatGPT和其他大型語言模型來確定研究空白、進行文獻綜述、起草論文并修改完善，撰寫演講稿以及編寫計算機代碼等。本刊編輯：人工智能面臨著一定的應用風險問題，包括技術倫理、技術向善、隱私保護等，這些問題引起了人們的高度關注。在運用ChatGPT等AI軟件的過程中，您遇到了什么問題，有什么樣的思考？焦建利：在我看來，今天我們看到人工智能對于教育在法律和倫理方面的議題，主要有以下五個方面。一是，我認為它帶來的挑戰(zhàn)和問題是不確定性和錯誤的信息，ChatGPT經(jīng)常會生成一些不準確的信息、誤導性信息，給人們帶來很大問題。比如，我曾經(jīng)問ChatGPT誰是喬姆斯基，它告訴我是演員，這是錯誤的；后來，我用英文問，誰是NoamChomsky，它的回答是正確的。所以，有的時候我們會思考，究竟它給我們的答案是對的還是錯的，還是我們提問方式有了問題，我們批評ChatGPT的語言模型邊界和局限性的時候，是不是我們提問的方法出了問題。就好比，并非每一個會說話的人都會聊天，否則，就不會有“把天聊死了”這樣的說法了。我們使用ChatGPT之類的聊天機器人，需要學會怎么和它愉快地聊天，這就涉及了一個被稱之為“提示語工程學”的領域了。二是，ChatGPT經(jīng)常會產(chǎn)出一些并不可靠的內(nèi)容。比如，在應用過程中間你會發(fā)現(xiàn)，它會給你提供一些不存在的信息，我曾經(jīng)遇到過，我讓它列出一些我自己研究的一個課題，有關的參考文獻，希望用MAPA格式來給出這樣的文獻，它列的非常規(guī)范，看上去非常漂亮，但是當你去搜索，發(fā)現(xiàn)這個文獻是不存在的，所以這變成了一個很重要的問題，尤其用到教育教學里面的時候，這種不可靠會帶來很大挑戰(zhàn)。三是，我曾經(jīng)開玩笑地問了ChatGPT一個很荒誕的問題，我問“為什么在慢跑之后吃自己穿的襪子更有營養(yǎng)，更有利于健康？”ChatGPT是怎么回答我的呢，它說“因為慢跑可以幫助我們消化脂肪，而襪子里面含有營養(yǎng)成分，比如維生素、礦物質(zhì)、氨基酸等等”，它在一本正經(jīng)地胡說八道。四是，數(shù)據(jù)安全的問題、隱私保護以及相關法律的關注。比如涉及了攻擊性信息、種族歧視方面不恰當?shù)膬?nèi)容，甚至一些有毒的信息，由ChatGPT的人工大型語言模型產(chǎn)出，很多專家談到了這一點，我很同意他們的看法，這點看法類似于莎士比亞講過一句“本無好壞，取決于人怎么思考”。還有就是由于大型語言模型訓練帶來的偏見，涉及相關語料和相應問題，可以看到這方面的情況還是比較多的，因此，也有人批評在教育里面它帶給我們的是什么，有人認為它是“教育的瘟疫”，有人說“抄襲變得更容易了”。五是，開放性和公平性的問題。在很多專家討論人工智能里面提到了，以OpenAI為例，它的名稱是Open，是不是全世界的人都能使用它，我們今天講由于技術的原因帶來很多挑戰(zhàn)和問題，但是，歸根結(jié)底我的看法是，這取決于我們怎么使用它，如果以正確的方式使用它，它會成為我們教師的朋友。人工智能倫理的問題變得非常重要，我們今天需要采取一些行動來解決這些問題。本刊編輯：作為技術發(fā)燒友，您最近還關注哪些人工智能方面的內(nèi)容？有什么推薦的最前沿的技術信息嗎？焦建利：我在“自留地君”微信公眾號上，會經(jīng)常發(fā)布一些我認為很有意思也很有時效性的人工智能科技動態(tài)。比如“人工智能藝術讓人人都成藝術家？”的推文中，介紹了以6Pen.art為代表的一組人工智能繪畫工具，基于人工智能算法的在線繪畫作品創(chuàng)作，可以讓每一個像我這樣沒怎么接受過藝術教育的人，在線借助人工智能，創(chuàng)作出一幅幅自己的繪畫作品，還可以參加在線畫展。用戶直接給出想象中畫面的關鍵詞，它就能借助人工智能算法給你生成對應圖像，這一切就仿佛它能聽懂人類的語言一樣。藝術創(chuàng)造不用畫筆，而靠“算”，一個“用嘴作畫”的時代，似乎已經(jīng)悄然到來。AI藝術成為藝術的一種新形式，每個使用AI創(chuàng)作軟件的人，都似乎可以算作是AI藝術家了。在技術的支撐下，一臺計算機在生成網(wǎng)絡里對一組聲音或圖片庫進行研究，根據(jù)所采集到的資料來生成自己的內(nèi)容。然后，在其判別網(wǎng)絡里通過與原始資料庫比對，來測試自己的正確率。如此不斷重復以上步驟，機器在反復試驗中逐步改進和優(yōu)化自身。人工智能不僅可以讓每個人都成為視覺藝術家，還可以讓我們創(chuàng)作自己的音樂。人工智能在音樂領域的應用愈發(fā)深刻廣泛，覆蓋了音樂教學、人工智能音樂創(chuàng)作、AI演奏、虛擬歌手、娛樂社交等眾多場景。單就AI音樂創(chuàng)作部分，人工智能可以讓普通人（當然也包括音樂創(chuàng)作專業(yè)人士、作曲家和音樂家）利用人工智能技術對音樂進行創(chuàng)作、加工和利用，比如：AI演唱、AI作詞、AI作曲、人聲/樂器分離、BGM識別、副歌剪輯、曲譜識別、音頻合成等。比較有代表性的包括：AmperMusic