聊天機器人會影響文明發展嗎？ 天天簡訊

原標題：ChatGPT火爆背后的思考（引題）

聊天機器人會影響文明發展嗎？（主題）

(資料圖)

天津日報記者 孫瑜

時下，由人工智能公司OpenAI研發的通用聊天機器人ChatGPT，以強大的文字處理和人機交互功能迅速成為炙手可熱的新一代人工智能產品。與此相關的多個話題持續登錄各種熱搜頭條。種種跡象表明，以ChatGPT為代表的人工智能已經逐步影響到人類生產和生活的方方面面。從古至今，科技的發展促使人類文明發生了翻天覆地的變化。那么，人工智能將對人類的文化和文明產生何種影響？我們人類該如何應對？都是我們將要面對的課題。

會接話茬兒的機器人?

它真的擁有“智慧”嗎？

2月24日上午，科技部部長王志剛在國新辦新聞發布會上談及ChatGPT時表示：“ChatGPT本質上是一個大模型。什么叫大模型？大數據，大的計算力，還有一個強的計算方法。ChatGPT確實有它的優勢，有它進步的點。我們要看到這一點，同時要在算法、數據、算力上怎么樣能夠有效結合。”

ChatGPT，從字面出發可以分為2個部分，“聊天應用”和“GPT模型”。其實ChatGPT并不神奇，神奇的是他后面的通用語言模型GPT。以第三代GPT模型GPT-3為例，已經擁有前代1000倍的數據量和100倍的參數，達到了3000億詞匯的數據量和1750億的參數。

天津大學智算學部副教授王博表示，對于多數用戶來說，ChatGPT是一種可以進行問答或者對話的機器人。從常見的使用方式上來看，這么說沒有問題，但是實際上ChatGPT不是專門被設計用來回答問題和跟人聊天兒的。它就是一個會接話茬兒的機器人。所謂接話茬，就是用戶輸入給它一些文字，而ChatGPT則接著這些文字，盡量合理地往下說。而當用戶給它的這些文字是一個問題的時候，它要想合理地往下說，說出來的內容就會是問題的答案。

“現在，很多人認為ChatGPT具有一定通用人工智能的能力，能回答和解決各種不同的問題。”王博副教授坦言道，“其實原因就是完成這些任務的具體形式都是根據語言指令輸出正確的文字。因此，只要ChatGPT能夠根據用戶的指令把話說對，就能完成這些任務。是語言這個載體將這些不同的任務變成了同一件事。只要我們所問的問題經過合理的設計，ChatGPT就能夠給我們合理的回答。”

王博還提到，由于ChatGPT只是在字面上進行續寫，而沒有將說話的內容和背后的客觀事實聯系起來，所以我們并不認為它真正理解用戶的問題和自己所說的話。

“我們了解到，國外的一些學生用ChatGPT做作業，寫出的作業查重率很低，這說明ChatGPT并不是像傳統搜索引擎一樣直接選取互聯網或數據庫中已有的內容，而是通過掌握語言詞匯之間的組合規律，來生成全新的內容。”王博說，這從根本上說明ChatGPT不是“大號的搜索引擎”。通過學習詞匯的組合規律，它能夠間接地“掌握”由詞匯組合表示的知識。由于這個學習是需要時間來訓練的，所以ChatGPT還不能實時學習從網上直接搜來的東西。目前，ChatGPT使用的是2021年之前的信息。

ChatGPT可能在概念上被高估

人工智能在“模擬人類”上走了多遠？

人機對話是人工智能發展的一個重要方向。科技部高新司司長陳家昌表示：從發展趨勢來看，人工智能有兩個非常明顯的特點。首先，人工智能對社會經濟的發展具有滲透性、擴散性和顛覆性的作用。特別是在科研端，人工智能為生物科學、材料科學、能源科學的一些研究提供了新方法和新途徑，正在引領科研范式的變革。這個影響非常大。其次，在互聯網、大數據、超級計算、智能計算、腦與認知相關的技術的共同驅動下，人工智能領域加速發展，日益出現出一種群體性突破的態勢。特別是“智能+”的這種范式，在先進制造、交通、醫療等領域，都得到了廣泛的應用。

王博說，在世界范圍來看，目前國內的人工智能發展基本上跟國際是同步的。當前的人工智能技術主要體現為用算法來解決問題。其中，主流的算法被稱為機器學習。機器學習已經有二三十年的歷史了，它依靠統計方法從歷史數據中發現規律，然后用于解決新的問題。

目前機器學習當中的主流算法叫做深度學習，其核心是模擬人腦結構的深度神經網絡。現在許多前沿的人工智能技術都采用了深度學習算法，包括目前火爆全網的ChatGPT，都是深度學習的各種變體。

王博副教授進一步解釋到，從對人類模擬的深度來看，當前的人工智能技術可以分為認知智能和感知智能。認知智能較為深刻，它模擬人腦的認知能力，最典型的就是ChatGPT所代表的自然語言處理技術，專門理解和生成人類自然發展出來的語言。因為語言是人類文化的載體，也是人類思維的工具，所以語言的處理一直是人工智能的核心技術之一。

例如，法律就是一個以語言為主要形式的復雜領域。在法律領域，AI已經能夠參與調研、立法和裁判等多個環節。天津大學與北京大學等單位合作承擔的國家重點研發計劃項目《面向法治調研的立法規劃、計劃的意見特征智能識別技術》就成功的實現在立法工作中利用AI技術自動判斷法律文本中的核心信息和觀點，顯著提高立法意見搜集和整理的效率。

而感知智能旨在模仿人類感知客觀世界的能力，其中典型的技術是圖形圖像處理。王博副教授說，圖形圖像處理要比自然語言處理相對簡單一些，技術發展也更加成熟，在我們當前的生活中已經有普遍應用。另一種廣為應用的感知智能技術是語音的識別和生成。就是將人說話的聲音轉化成文字，或者將文字轉化成聲音。

其他的一些人工智能技術還包括了單智能體或者多智能體的控制，比如掃地機器人、智能制造工廠里面的機器人，下圍棋或者象棋的機器人等都是單智能體，多智能體比如無人機陣列，智能駕駛多輛車互相協調，防止互相碰撞。

不僅如此，大數據、區塊鏈和物聯網等技術也與人工智能有著密切的聯系。王博坦言，與這幾種技術相比，ChatGPT在誕生之初的成熟度要更高，在很多領域已經開始成為實實在在的生產力。

王博認為，對于大眾而言，現階段ChatGPT可能在概念上被高估，而在應用中被低估。什么意思呢？在概念中被高估，就是說人們甚至把它想象成流浪地球電影中的人工智能機器人一樣，可能擁有自由意志了，實際上它遠未達到這種水平。而在應用中被低估則是指人們還并沒有真正在生活中充分發揮它的能力。

新技術在推動人類文化發展同時

不可避免會帶來倫理與文化的碰撞和沖突

南開大學科技哲學教研室主任賈向桐教授認為，以ChatGPT為最新進展的人工智能本身就是當代人類社會文化或文明發展的重要產物，當然它也會對整個社會文化產生極為深遠的影響，而且這種影響會隨著科技與社會的融合發展而更加明顯。

這種全方位的影響是包含正負兩個層面的：即，發展機遇與風險并存。一方面，人工智能技術推動了人類認識世界和影響世界的能力，它為社會文化的發展提供了更有力而強大的物質技術基礎，也為人們的文化交流與傳播提供了更加便捷、豐富的途徑和載體。而且更為至關重要的是，人工智能等新技術的應用事實上是在不斷拓展著傳統的文化空間，進而有利于推動社會文化的創新與進一步變革。可以說，在21世紀這個信息革命的時代，以人工智能為代表的新技術構成人類文化發展的重要動力，它們在豐富人們的物質和精神文化生活的同時，也在提高著人們的精神文化水平，從而引領整個社會的文化進步與發展。另一方面，相應的消極或負面影響是非常需要我們特別去關注的，新技術在推動人類文化發展的同時，也不可避免會帶來一系列的社會與文化問題。無論是人工智能產品的設計、安全系數風險，還是在價值觀、社會公平以及倫理挑戰等生活與文化方面的碰撞和沖突，勢必都成為人們不得不面對的重要現實問題。

賈向桐表示，須知，人工智能的運行方式是以人—機的交互模式為中心的，工具化和形式化構成人們實踐活動的基本特征。具體而言，這種新技術的優勢更在于能夠滿足人們的工具性、實用性認知與交往活動方面的要求，但這種快速與便捷是基于人的情感性和體驗性等維度被壓縮為前提的。因此，新技術產品帶來的往往是人與人交往的工具性、便捷以及功用性方面的收獲，而問題則是缺少了傳統交往本身人性的溫情和情感關懷。例如在學生利用ChatGPT完成論文或作業的過程中，全面而實用性的知識可以迅速擺在面前，但這也使得教育本身的完整意義被極大拆解了，教書育人的形式和結果導向偏離了教育的初衷，這也是許多大學禁用ChatGPT完成作業的重要原因。

近代以來隨著科學、技術和社會的融合進入一個新的階段，科學技術成為引領社會與文化的發展的重要引擎。科學技術的發展在不斷豐富和擴展著社會文化的內容與形式，其實很多社會文化領域本身就是科學技術發展的產物，諸如動漫、影視文化均是如此，科技創新亦成為社會文化創新與發展的關鍵推動力。而且，新的科技創新成果應用，也就是它們與社會緊密融合的過程，其中蘊含的價值與觀念，同樣會在有意無意中融入人們的思想行為。這意味著人們的傳統文化價值和觀念也會逐漸隨著科技變革而發生相應的轉變，這一過程既有潤物細無聲的融合和更新，又有新舊觀念與思想的沖突和對立。倫理與文化的碰撞和沖突勢必成為科技推動社會文化發展過程中人們繞不開的重要問題。

主動面對新的文化與倫理挑戰

是人類社會發展的一個重要使命

“怎么做到推動發展的同時，兼顧科技成果的兩面性，加強倫理規范。”科技部部長王志剛說，“我們國家對于任何一個新的技術，包括AI技術出來以后，在倫理方面都采取了一些相應的措施，對科學技術發展趨利避害，讓利更好地發揮出來。”

說起ChatGPT會造成大量人員失業，王博副教授認為，嚴格來講，一種新技術會不會造成大量人員的失業，不僅取決于技術本身，也與我們的政策有關，是可以進行調節的社會問題。隨著簡單的工作被逐步替代，人類往往會“水漲船高”地被推到更具創造性的工作中去，不過這需要一個過程。

ChatGPT及它背后的GPT模型能取代腦力勞動甚至人類嗎？鑒于這個問題，ChatGPT給出了自己的答案：“……我并不能完全取代人類，因為人類有很多方面是我無法做到的。”無法取代人類 ，還真不是ChatGPT的謊言。因為在ChatGPT的算法中，AI被禁止進行自我探索。

王博說，自我探索，可以理解為我們日常生活當中說的反思，這種反思是以自我意識為前提的。人一旦有了這種反思，某種程度就代表著有了自我意識。而自我意識則是誘發自主行為，即自由意志的重要前提。我們一般不希望人工智能具有自由意志。目前我們還不能夠讓AI具有自由意志，事實上，如何確定一個AI是否具有自由意志都是一個挑戰。

對于AI是否會取代人類這個話題，賈向桐教授說，其中既包含了人們對人工智能技術發展本身的深深憂慮，又隱含了一種人們對其未來命運、人類智能的本質與發展的好奇。但客觀而言，當前科學的進展，還不足以回答這個問題。這里的一個關鍵環節在于人類智能（包括人工智能）的本質還未得以完全揭示，在沒有理解人類智能本質和規律的情況下，去討論人工智能是否能夠取代人類智能的問題，這與其說是解答，不如說是一種基于經驗的預測或推測。

從目前人工智能與認知科學、腦科學等領域的發展情況來看，人工智能完全趕上甚至取代人類（智能）還存在一定的距離。總體來看，當前的機器智能與人的智能之間還是存在明顯的不同，人工智能的重要優勢表現為信息的存儲和高速的運算能力，它在精確性和持續的高效性等方面遠超人類的大腦。但是，基于低消耗的人類腦力活動的推理能力、豐富的想象力和創造力等，也遠非當前人工智能所能比擬的。

其實，任何一種新興事物突然介入到社會之中，總會或多或少帶來一些在倫理與文化層面的沖突，這是再自然不過的現象。也就是說，這并非人工智能技術所特有的情況。

近年來以人工智能為代表的科學技術的飛速發展，正在全方位構建著人們新生活方式以及相應活動模式。顛覆傳統社會的生活方式，由此產生的個人隱私、信息安全等問題，成為以人工智能為中介環節的社會交往活動的新隱患。而且，這些由新技術革命引起的倫理和文化問題將在今后的社會發展中變得更為突出，人工智能融入社會而觸動傳統倫理規范和價值觀的變革，并推動著新的倫理規范不斷出現以適應新的生活空間。

主動面對新的文化與倫理挑戰，構成當代社會發展的一個重要使命。首先，我們要強化科技工作者的相關倫理責任與意識，人工智能技術的發展已經超出了普通公眾的理解，這一情況為這些科技工作者提出了更高的倫理責任要求，其技術和功能各方面的設計規劃，必須考慮到應用到社會之后可能產生的諸多負面效應問題。其次，我們要完善人工智能的技術倫理評估系統，在組織成員方面要集科學家和工程師共同體、公眾和倫理學家于一體，實現不同社會群體的充分交流與溝通，達到普遍性的社會共識是處理好問題的關鍵。此外，我們應該在心理和心態方面做好準備，這方面的客觀做法是“持謹慎的開放態度”，提升倫理預判的前瞻性能力。

ChatGPT驚艷的對話和超強的檢索能力在使人大開眼界的同時，不免也會讓人心生困惑：未來教育又需要做出怎樣的改變呢？

賈向桐教授說，毫無疑問，人工智能技術的飛速發展的確在迅速改變著傳統的社會生產與產業結構，世界各國也普遍意識到這種新的變化，從而開始制定新的發展戰略和規劃。比如，我國制定的《智能制造發展規劃（2016—2020年）》就明確指明了未來幾年智能制造的基本發展方向、重點和指定思想等關鍵問題。人工智能的核心驅動力對社會產業結構、勞動力結構等的變革升級、轉型和調整等都具有關鍵的導向作用，它直接影響著整個社會經濟結構的良性運行。特別是大數據、人工智能技術與商業化發展的有機結合，有效推動了智能商業的興起和完善，智能購物和無人超市等對人工智能最新技術的廣泛應用，對社會資源與產業的升級與調整意義重大。

更具體而言，在人工智能與社會生產、市場資源的配置之間，需要清晰區分資本要素和與勞動力要素二者的差異性，進而均衡兩條配置路徑的協調統一。人工智能技術的良性發展本身就是協調市場配置的重要環節，其帶動的新興產業領域更多是在調配人力資源的新平衡，新的產業空間可以回避結構性市場可能出現的問題。兩種資源要素的配置對應于智能制造的發展特點，因地因時制宜，將產業升級和勞動就業結構的優化相匹配，如果能夠處理好人工智能技術的產業沖擊，也就保證了資源配置要素的有效健康流通，對整個社會生產的有序運行意義重大。

標簽：