嘉 賓：清華大學人工智能國際治理研究院院長 薛 瀾

　　北京大學國際關系學院院長 唐士其

　　復旦大學國際問題研究院教授 宋國友

　　主持人：本報編輯 吳 浩

　　當前，世界百年變局加速演進，人工智能作為引領新一輪科技革命和產(chǎn)業(yè)變革的戰(zhàn)略性技術，正在深刻改變?nèi)祟惖纳a(chǎn)生活方式。同時，人工智能帶來的風險挑戰(zhàn)也引發(fā)廣泛關注。如何推動完善人工智能全球治理，是國際社會共同面臨的課題。習近平總書記指出：“堅持以人為本、智能向善，在聯(lián)合國框架內(nèi)加強人工智能規(guī)則治理，積極推進綠色轉型，讓廣大發(fā)展中國家更好融入數(shù)字化、智能化、綠色化潮流。”“十五五”規(guī)劃綱要提出：“推動建立各國廣泛參與的人工智能治理框架，共同構建平權、互信、多元、共贏的全球人工智能開放生態(tài)，支持全球南方國家加強人工智能能力建設。”中國積極推動形成具有廣泛共識的人工智能全球治理框架和規(guī)則，為國際社會提供中國方案、貢獻中國智慧。本期“訪談錄”邀請嘉賓，就如何推動完善人工智能全球治理展開交流探討。

　　人工智能全球治理的特點與挑戰(zhàn)

　　主持人：2025年，習近平總書記提出全球治理倡議，為推動構建更加公正合理的全球治理體系提出中國方案。與維護多邊貿(mào)易體制、應對氣候變化挑戰(zhàn)、實現(xiàn)可持續(xù)發(fā)展等較為成熟的全球治理議題相比，人工智能全球治理的特點體現(xiàn)在哪些方面?

　　薛瀾：習近平總書記指出：“我提出全球治理倡議，旨在推動構建更加公正合理的全球治理體系。”推動完善人工智能全球治理，是踐行全球治理倡議的重要內(nèi)容。人工智能全球治理的特點，源于人工智能技術發(fā)展快速迭代，而其影響又極為廣泛深遠，國際社會沒有在思想和行動上做好充分的應對準備。這一客觀情況，導致與較為成熟的全球治理議題相比，人工智能全球治理有一些特點。

　　比如，應對氣候變化挑戰(zhàn)等議題是在國際合作氛圍較好的時候達成了共識。與此不同，人工智能技術的爆發(fā)式發(fā)展恰與地緣政治風險持續(xù)上升同步，人工智能全球治理從誕生之初便面臨大國博弈、技術競爭的復雜局面。個別國家大搞“脫鉤斷鏈”，在技術開發(fā)、人才培養(yǎng)、數(shù)據(jù)互聯(lián)等方面筑起“小院高墻”，試圖以科技封鎖壟斷競爭優(yōu)勢，破壞了原本聯(lián)系較為緊密的全球科研及產(chǎn)業(yè)協(xié)作網(wǎng)絡。在這種背景下，由技術領先國家構成的人工智能全球治理核心主體之間不是“合作者”，而是“競爭者”，削弱了人工智能全球治理合作的信任基礎，導致國際社會在應對人工智能技術發(fā)展所帶來的風險和挑戰(zhàn)時，缺乏合作根基與協(xié)作機制。單邊主義、保護主義催生出技術壁壘與規(guī)則壁壘并存的格局，導致人工智能全球治理體系碎片化，削弱了規(guī)則的普遍約束力，導致人工智能全球治理陷入“分而治之”的困境。

　　唐士其：人工智能的發(fā)展速度遠遠超過其他領域，其未來發(fā)展具有巨大的不確定性。除此之外，人工智能全球治理的特點主要表現(xiàn)在兩個方面。

　　一是人工智能不僅是被決策的對象，而且部分地參與了決策。人工智能因其出色的信息加工和處理能力，已經(jīng)在諸多領域成為輔助決策的手段。未來，決策者對人工智能的依賴總體上會持續(xù)增加。人工智能提供信息的真實性和有效性對決策的結果和質量會產(chǎn)生越來越大的影響。然而，用于輔助決策的人工智能技術通常并不掌握在決策者手中，而是由行業(yè)內(nèi)具備顯著優(yōu)勢和強大資源整合能力的企業(yè)所掌控，它們主導基礎模型、掌握海量用戶數(shù)據(jù)，具有強大的影響力。因此，如何確保人工智能在信息供應環(huán)節(jié)做到全面、客觀，日益成為一個重要問題。

　　二是治理對象具有流動性和虛擬性。人工智能并不像貿(mào)易交往、氣候變化那樣，能夠通過一些可觀察、可控制的實體來展現(xiàn)其特征變化與發(fā)展趨勢。人工智能全球治理涉及的對象是算力、算法、數(shù)據(jù)和模型，它們本身是技術，而非技術產(chǎn)生的結果，因此人工智能缺乏清晰的“治理錨點”。此外，人工智能存在并自由流動于網(wǎng)絡空間，在很大程度上游離于人們物理性的把握和控制之外。人工智能所采集到的信息和數(shù)據(jù)，以及對這些信息和數(shù)據(jù)的具體處理方式并不完全在人的可控范圍。生成式人工智能具備“學習—優(yōu)化—再生成”的閉環(huán)機制，其行為可能超出開發(fā)者的初始設計，導致意圖與結果脫節(jié)。

　　宋國友：與相對成熟的全球治理議題相比，人工智能全球治理的特點至少有如下3個方面：一是治理影響的不均衡性。氣候變化是全球性的，所有國家都受到巨大影響。然而，人工智能的發(fā)展和影響并不均衡。一些國家已經(jīng)感受到人工智能帶來的劇烈沖擊，而部分國家可能認為自身不受影響或影響較小。二是治理路徑的非預知性。由于人工智能本身還處于早期發(fā)展階段，尚未定型，對其治理的重點和規(guī)則等具體事項現(xiàn)階段難以落實，治理路徑并不清晰。三是技術競爭的高敏感性。人工智能作為新一輪科技革命和產(chǎn)業(yè)變革的重要驅動力量，是大國競爭的戰(zhàn)略制高點。技術競爭的高敏感性導致個別國家競爭和對抗思維強烈，合作和互利意識不足。

　　主持人：中國倡導構建人類命運共同體、構建網(wǎng)絡空間命運共同體，堅持發(fā)展和安全并重的原則，提出《全球人工智能治理倡議》，歡迎各國政府、國際組織、企業(yè)、科研院校、民間機構和公民個人等各主體秉持共商共建共享的理念，協(xié)力共同促進人工智能治理。目前共建人工智能全球治理體系面臨哪些挑戰(zhàn)?

　　薛瀾：第一，國際社會在人工智能全球治理的突出問題上缺乏共識。比如，如何認識人工智能的潛在風險?需要在人工智能發(fā)展中劃定哪些紅線?政府如何在促進創(chuàng)新與防控風險之間取得動態(tài)平衡?各方仍存在較大分歧，給國際社會落實《全球人工智能治理倡議》帶來挑戰(zhàn)。同時，如何彌合日益加劇的智能鴻溝也是中國和其他發(fā)展中國家希望能夠引起國際社會關注的重要問題。

　　第二，人工智能技術正處于爆發(fā)式發(fā)展階段，其技術突破往往領先于治理規(guī)則的制定，這種“時間差”導致治理始終在“追趕”技術，形成治理難題。比如，面對生成式人工智能、具身智能等新技術帶來的風險，當前治理規(guī)則存在缺位或滯后的現(xiàn)象。因此，中國所倡導的敏捷治理等人工智能安全治理方式得到國際社會高度關注。

　　第三，全球層面看似治理機制眾多——聯(lián)合國、經(jīng)濟合作與發(fā)展組織等都在推動制定相關準則，各國還有各自的標準和規(guī)范。但這些機制缺乏統(tǒng)籌協(xié)調(diào)，彼此間存在重疊甚至沖突，形成了一個“機制復合體”，導致規(guī)則繁雜且難以落地，各國面臨“規(guī)則迷宮”，執(zhí)行成本高企，實際效能大打折扣。

　　唐士其：目前，世界范圍內(nèi)的技術民族主義抬頭，一些國家優(yōu)先考慮的是本國的技術安全與產(chǎn)業(yè)鏈韌性，而非全球公共利益。從企業(yè)層面看，人工智能的開發(fā)總體上處于一種缺乏秩序和規(guī)則的競爭狀態(tài)，并且與各個國家之間的競爭交織在一起，為建立人工智能全球治理體系帶來很大困難。在人工智能治理機制方面，不同國家在數(shù)據(jù)跨境、內(nèi)容審核、政府監(jiān)管權限等關鍵問題上也存在一系列分歧。減少矛盾和沖突，需要各種國際行為體，特別是大國之間增進互信與合作，建立一套相對完整的人工智能監(jiān)測、預警機制，以及利益和責任的分擔機制，在此基礎上盡可能增強共識。

　　宋國友：從共建主體的角度加以分析，困難有3點。一是個別國家奉行單邊主義、保護主義，阻礙了人工智能全球治理體系共建。二是部分人工智能技術欠發(fā)達的國家對于共建熱情不高。這些國家還沒有真正經(jīng)歷人工智能帶來的沖擊，對其機遇和風險缺乏認識，缺少參與人工智能全球治理的迫切意愿。三是參與人工智能全球治理體系共建的私營部門存在擔憂。大型人工智能企業(yè)等私營部門既是全球人工智能治理的重要主體，同時也是被治理的客體。相關私營部門希望以企業(yè)發(fā)展為中心，以利潤為目標，以便獲得市場領先優(yōu)勢和超額回報，對于政府主導的共建人工智能全球治理體系仍有疑慮和抵觸。

　　堅持以人為本、智能向善，匯聚治理合力

　　主持人：在現(xiàn)行國際機制下，人工智能治理，往往滯后于人工智能技術的迭代演進，這種失衡導致該領域全球治理赤字進一步擴大。應在全球范圍推廣何種治理理念，實現(xiàn)技術發(fā)展與治理效能的協(xié)同推進?

　　薛瀾：首先，必須堅持以人為本的發(fā)展理念。人工智能發(fā)展歸根結底要服務人類社會。我們一直強調(diào)“技術向善”，就是要把人的福祉作為科技發(fā)展的根本目標。無論是技術設計還是規(guī)則制定，都要圍繞人的需求展開，確保技術發(fā)展不偏離人類社會發(fā)展軌道，助力彌合南北發(fā)展鴻溝，推動各國共享人工智能發(fā)展成果。

　　其次，確立平等對話的治理基礎。人工智能全球治理不能由少數(shù)技術強國說了算。各國能力有強弱，體量有大小，但在治理規(guī)則制定上應該平等參與，堅持共商共建共享的全球治理觀。我們需要摒棄單邊主義，搭建多邊平臺，充分尊重不同國家的聲音，特別是發(fā)展中國家的訴求，提高發(fā)展中國家的代表權和發(fā)言權。只有包容互鑒，才能真正形成有共識的治理框架。

　　再者，必須注重行動導向，積極推動確立普惠發(fā)展的治理路徑?，F(xiàn)在各國技術差距明顯。如果放任這種差距擴大，治理鴻溝只會更深。所以，中國特別強調(diào)要加強能力建設，堅持系統(tǒng)謀劃、整體推進，通過技術援助、知識共享等方式，推動全球南方國家共享人工智能發(fā)展紅利。

　　最后，構建安全共治的風險防控體系。人工智能風險是全球性的，一個國家出現(xiàn)技術漏洞可能引發(fā)全球連鎖反應。因此，人工智能安全治理不能“各掃門前雪”。要把人工智能安全作為全球公共產(chǎn)品來提供，各國共同研發(fā)安全技術、制定統(tǒng)一標準、建立應急協(xié)作機制。

　　唐士其：在這個問題上，我覺得必須堅持3點。

　　一是堅持以人為本。傳統(tǒng)上我們認為人之為人，很大程度上是因為人擁有理性，而一種在某些方面遠遠超越了人的智慧，特別是邏輯思維能力的人工智能體的出現(xiàn)，毫無疑問撼動了人類傳統(tǒng)的地位。那么面對人工智能，我們究竟應該在什么方面維護人類的尊嚴、激發(fā)人類的創(chuàng)造力，同時保持基本的人文底線，就是一個需要全人類集體面對、共同探討，并形成基本共識與價值規(guī)范的根本性問題。無論如何，人工智能只能是人類的工具，對人工智能的利用必須以人為本，這是一個重要原則。

　　二是堅持互利合作。目前，人工智能的開發(fā)和利用都體現(xiàn)出多中心、分散化的特點，同時在世界范圍呈現(xiàn)出明顯的不均衡性。因此，一方面，要優(yōu)勢互補、避免重復建設和浪費;另一方面，要讓人工智能研發(fā)相對落后的國家和地區(qū)也能夠享受人工智能帶來的巨大便利、縮小數(shù)字鴻溝。這兩方面都需要在人工智能全球治理的過程中提倡互利合作的精神。

　　三是堅持開放互信。人工智能技術建立在大語言模型的基礎上，信息越開放，越能夠自由流動，人工智能的發(fā)展就會越快。人工智能在軍事、國家安全等領域的運用，及其巨大的經(jīng)濟潛能，又使人工智能成為大國博弈的關鍵領域。由于短期內(nèi)這種局面難以得到根本性改變，所以在人工智能全球治理的問題上，應該努力尋找一個平衡點，即國家安全、經(jīng)濟競爭與開放互信的平衡點。

　　宋國友：人工智能技術發(fā)展日新月異，人工智能全球治理應確保人工智能技術無論如何迭代，都能符合全人類的共同利益，讓人工智能發(fā)展服務于全人類福祉。具體而言，應強化開放智能、包容智能、普惠智能和安全智能等治理理念。開放智能，是指人工智能全球治理要防止個別大國將人工智能陣營化，對其他國家搞封鎖。包容智能，是指人工智能全球治理應該把全人類的文明都包含在內(nèi)，而不能在人工智能中注入文明排他主義基因。普惠智能，是指要讓人工智能造福于全人類，讓世界各國能夠在人工智能技術創(chuàng)新中獲益。安全智能，是指要積極防范人工智能可能引發(fā)的各種危害國家安全的風險和挑戰(zhàn)，確保其不威脅人類。只有將這四大理念貫穿于人工智能全球治理全過程，成為牢固的治理“護欄”，才能實現(xiàn)技術發(fā)展和治理效能的協(xié)同推進。

　　推動建立各國廣泛參與的人工智能治理框架

　　主持人：中國舉辦2025世界人工智能大會暨人工智能全球治理高級別會議，發(fā)布《人工智能全球治理行動計劃》，提出“推動構建包容、公平的多邊全球數(shù)字治理體系”，并倡議在人工智能安全治理、人工智能能力建設等方面開展國際合作。當前，人工智能國際合作應如何突破地緣政治壁壘，把上述共識轉化為可操作的信任機制與務實成果?

　　薛瀾：首先，必須堅定支持聯(lián)合國發(fā)揮主渠道作用，支持在聯(lián)合國框架下建立“人工智能獨立國際科學小組”和“人工智能治理全球對話”機制。同時，積極鼓勵和參與其他各種雙邊和多邊對話機制，走出一條開放協(xié)商、多元參與的互信共治之路。其次，在鼓勵技術創(chuàng)新與產(chǎn)業(yè)應用的同時，通過國際合作建立人工智能風險測試評估體系、完善數(shù)據(jù)保護規(guī)范，尋求發(fā)展與安全的平衡。此外，我們要積極倡導開放合作，幫助世界各國特別是全球南方國家加強能力建設，推動人工智能發(fā)展成果由各國共享。

　　宋國友：習近平總書記強調(diào)：“進一步拓展人工智能合作，加強信息交流和技術合作，共同做好風險防范，形成具有廣泛共識的人工智能治理框架和標準規(guī)范，不斷提升人工智能技術的安全性、可靠性、可控性、公平性。”開展人工智能國際合作可從以下幾方面突破地緣政治壁壘。一是重要議題合作。可圍繞人工智能對人類最具風險和最具公共產(chǎn)品屬性的重要議題先行開展合作。前者如合作管控軍事應用人工智能等，后者如發(fā)展醫(yī)療健康人工智能和減輕全球災害人工智能等。二是開展現(xiàn)有多邊機制下的務實合作，增強合作信心。如支持聯(lián)合國啟動的“人工智能治理全球對話”機制，在聯(lián)合國框架內(nèi)加強人工智能規(guī)則治理，推動相關國際合作。三是推動雙邊、小多邊等合作，作為人工智能國際多邊合作的有益補充。雙邊和小多邊合作更具針對性和靈活性，可在雙邊和小多邊成員共同關心的人工智能相關問題方面開展合作，推動人工智能治理取得積極成果，逐漸擴大合作共識。四是鼓勵私營部門的市場合作。市場合作是國際合作的重要組成部分，應積極鼓勵私營部門在符合相關監(jiān)管規(guī)則等前提下開展各種形式的商業(yè)合作，在市場端夯實合作基礎、構建合作樣板，打破地緣政治藩籬，自下而上地推動國家間治理合作。

　　主持人：當前，全球南方國家面臨人工智能技術鴻溝與治理話語權不足的雙重挑戰(zhàn)。應如何切實保障全球南方國家平等參與人工智能全球治理?

　　薛瀾：全球南方國家面臨雙重挑戰(zhàn)的根源在于教育與研究基礎薄弱，缺乏人才支撐，科技能力不足，信息基礎設施落后。在這樣的情況下技術賦能無從談起。因此，為避免人工智能技術鴻溝繼續(xù)擴大，要高度關注全球南方國家的教育及科技能力建設，關注其信息基礎設施建設，重視“授人以漁”。

　　在參與人工智能全球治理決策層面，需要加強全球南方國家治理能力的培養(yǎng)，這與人工智能技術應用的實踐相輔相成。人工智能普惠發(fā)展既可以使全球南方國家享受人工智能造福人類的紅利，也可以增強其參與人工智能全球治理的能力。

　　唐士其：習近平總書記指出：“要加強人工智能國際治理和合作，確保人工智能向善、造福全人類，避免其成為‘富國和富人的游戲’。”可以從3個層面保障和促進全球南方國家平等參與人工智能全球治理進程，享受人工智能發(fā)展帶來的成果。

　　第一是技術層面。在發(fā)展問題上，大國有更多合作的空間，比如可以共同建設全球公共產(chǎn)品型人工智能系統(tǒng)，包括應對氣候變化的碳排放監(jiān)測平臺、全球傳染病早期預警模型、農(nóng)作物健康管理系統(tǒng)等，并向全球南方國家開放。同時，通過各種方式幫助全球南方國家建立自己的人工智能系統(tǒng)，培養(yǎng)相關人才，并形成自身的發(fā)展能力。

　　第二是規(guī)則層面。在人工智能全球治理的規(guī)則制定過程中充分吸收全球南方國家參與，確保代表名額分配公平，以保證全球南方國家的訴求能夠對未來人工智能發(fā)展的基本方向產(chǎn)生影響。

　　第三是價值層面。一方面，人工智能大國應該避免通過云服務、預訓練模型等向全球南方國家輸出隱含某種特定價值觀的人工智能系統(tǒng)、塑造新型依附關系;另一方面，應在人工智能未來的發(fā)展中，充分體現(xiàn)全球南方國家的文化和價值因素。由于當前的人工智能發(fā)展基于人類語言系統(tǒng)，所以嚴格來說，它在價值層面并不是完全中立的。文明的特征既體現(xiàn)在價值和倫理層面，也體現(xiàn)在思維方式上，這些都內(nèi)含于一個民族的語言系統(tǒng)之中。未來人工智能發(fā)展的一個重要寶庫就是非西方國家的語言和文化資源，如果能夠把這些資源納入人工智能的語料庫，那么我相信會大大增加人工智能的智慧程度，同時也會為全球南方國家和人類文明的發(fā)展提供新的可能性。

　　宋國友：首先，全球南方國家要依靠自身，從能力建設和機制建設兩方面推動聯(lián)合自強，打破人工智能全球治理中全球南方和全球北方的結構不對稱性，而不能“等”“靠”“要”，寄希望于發(fā)達國家主動平等對待。

　　其次，強化全球南方國家人工智能能力建設，盡量縮小與發(fā)達國家之間的人工智能鴻溝。從改善人工智能基礎設施做起，如確保穩(wěn)定電力供應和網(wǎng)絡鏈接、在全球南方不同區(qū)域平衡布局算力集群、擴大優(yōu)質人工智能產(chǎn)品使用范圍并降低人工智能使用成本等。同時，推動人工智能領域的南南教育合作，共建人工智能培訓中心，幫助全球南方國家提升人工智能科研能力、培養(yǎng)人工智能尖端人才。

　　最后，完善人工智能全球治理的機制建設，提高全球南方國家的治理機制話語權。充分借助聯(lián)合國以及金磚國家、上海合作組織等重要多邊機制，協(xié)調(diào)全球南方國家在人工智能領域的共同利益和治理訴求，推動形成國際人工智能治理領域的南方議程。全球南方國家要積極為人工智能全球治理提供重要理念，把全球南方國家的共識性理念注入全球人工智能治理進程。