人工智能代表著推動全球邁向更加公平未來的重要機遇，將激發(fā)創(chuàng)新、提升生產力、推動可持續(xù)發(fā)展實踐，并切實增進全人類福祉。

為實現(xiàn)上述愿景，人工智能全球治理須降低潛在風險，著力解決各國特別是全球南方國家的需要。治理須在《聯(lián)合國憲章》和各國監(jiān)管框架下開展，尊重國家主權，遵循代表性、發(fā)展導向、可及性、包容性、動態(tài)更新和敏捷性原則。治理應切實注重個人數(shù)據(jù)保護，保障人類權益，確保安全、透明、可持續(xù)，且有利于彌合本國及國家間日益擴大的數(shù)字與數(shù)據(jù)鴻溝。世界各國應共同努力，構建以聯(lián)合國為核心的人工智能治理體系，弘揚共同價值觀，應對風險，建立信任，確保廣泛包容的人工智能國際合作與可及性，包括加強發(fā)展中國家人工智能能力建設。

在國際層面，各類治理倡議的激增及多邊協(xié)調中的分歧，可能加劇現(xiàn)有不對稱和全球數(shù)字治理的合法性赤字，從而進一步削弱多邊主義。

為支持開展建設性對話，實現(xiàn)更加均衡的治理路徑，我們，金磚國家領導人一致同意制定一系列指導方針，以負責任方式推動人工智能技術開發(fā)、部署和應用，助力實現(xiàn)可持續(xù)發(fā)展和包容性增長。這些方針僅限于非軍事領域的人工智能，應通過國內或適用的國際框架及具有互操作性的標準與協(xié)議，以包容、透明、基于共識的方式予以落實。

一、多邊主義、合法性與數(shù)字主權

聯(lián)合國是人工智能全球治理的核心。全球人工智能治理必須不惜一切代價避免碎片化與重復。我們必須依托聯(lián)合國系統(tǒng)作為充分包容且具有代表性的國際框架推進人工智能國際治理。在聯(lián)合國相關倡議的決策進程中，我們須推動新興市場和發(fā)展中國家及全球南方國家有意義參與并發(fā)揮作用，同時認識到區(qū)域和多利益攸關方框架的互補作用，鼓勵開展人工智能政策交流和對話，激發(fā)創(chuàng)新活力，促進經濟增長。

人工智能協(xié)同共治錯綜復雜，但前景可期。發(fā)達國家與發(fā)展中國家的相關利益攸關方網絡應根據(jù)各自角色與責任，貢獻專業(yè)知識、觀念和資源。重申各國政府在人工智能治理中占據(jù)基礎性和主導性作用，我們愿同私營部門、民間機構、國際組織、科研和學術團體以及其他利益攸關方密切合作，以實現(xiàn)代表性和包容性。

數(shù)字主權和發(fā)展權是全球人工智能治理的關鍵。我們堅定支持各國在捍衛(wèi)基本權利的同時，有權充分利用數(shù)字經濟與新興技術特別是人工智能帶來的發(fā)展紅利，通過加強數(shù)字基礎設施建設、培育本土技術人才、確保公民免受人工智能風險傷害等方式，制定本國法律權限范圍內的人工智能監(jiān)管框架，提升人工智能研究能力，培育自主技術創(chuàng)新，確保數(shù)據(jù)安全，推進本國數(shù)字經濟發(fā)展。

二、市場規(guī)范、數(shù)據(jù)治理與技術可及性

公平競爭和市場規(guī)范是人工智能邁向公平未來的基石。數(shù)字經濟應根據(jù)國內法律框架和法規(guī)及適用的國際協(xié)定，明確國家、企業(yè)與用戶的權利和義務，構建公平競爭的市場環(huán)境，促進創(chuàng)新和經濟增長。我們強調避免監(jiān)管體系碎片化，推動公平、透明的市場規(guī)范重要性，鼓勵競爭，增強競爭力，避免任何形式的扭曲行為，營造可持續(xù)、健康的市場環(huán)境。

數(shù)據(jù)治理是人工智能包容性治理的關鍵。我們強調，公平、包容和公正的數(shù)據(jù)治理對發(fā)展中國家利用數(shù)字經濟和人工智能等新興技術至關重要。我們同樣認識到需根據(jù)《金磚國家數(shù)據(jù)經濟治理諒解》建立數(shù)據(jù)治理框架以建立信任，在尊重隱私權、個人數(shù)據(jù)保護、算法透明性、知識產權和國家安全等相關法律框架的同時，為發(fā)展中國家提供公平、一致、安全、可靠的高質量數(shù)據(jù)。

人工智能技術獲取應遵循公平、公正、賦能性與包容性原則。世界各國，無論處于何種經濟發(fā)展階段，均享有開發(fā)、使用人工智能并從中受益的權利。我們強調應通過國際合作促進人工智能技術及關鍵部件的獲取，消除人工智能研究與創(chuàng)新的資金壁壘，尤其是在中低收入國家構建必要的知識、技能與風險管理框架，以有效利用人工智能技術。

保護知識產權與維護公共利益之間需要平衡。應在專利權、透明度及問責制之間建立平衡，以維護公共利益，促進國際技術轉移，遵守國內法律及適用的國際法。針對未經授權的人工智能使用，應建立適當?shù)闹R產權特別是版權保護機制，防止剝奪性數(shù)據(jù)提取和隱私侵犯，同時建立公平的補償機制。相關保護措施應明確問責機制，遵守人工智能模型輸入與輸出透明度要求等相關法律。

人工智能發(fā)展應堅持開放原則，鼓勵創(chuàng)新生態(tài)系統(tǒng)。在符合各國政策與優(yōu)先事項的情況下，我們鼓勵通過開放科學和開放創(chuàng)新機制推動開源發(fā)展和國際科技合作，將其作為提升人工智能研究、開發(fā)、創(chuàng)新、數(shù)據(jù)保護、數(shù)據(jù)主權及部署能力的關鍵引擎，允許研究人員、開發(fā)者及相關組織進行審查和審計，進而構建安全、可信、透明的人工智能系統(tǒng)。我們必須確保實質性參與并培育包容性協(xié)作方式，防范全球人工智能發(fā)展和供應鏈壁壘。我們鼓勵開發(fā)資源高效、專業(yè)、開放的基礎模型，促進人工智能創(chuàng)新生態(tài)系統(tǒng)發(fā)展。

國際標準應助力實現(xiàn)具有包容性、代表性及可及性的人工智能。制定人工智能系統(tǒng)技術標準、規(guī)范與協(xié)議應有公共部門、標準制定組織及聯(lián)合國專門機構的參與，以確保在人工智能技術全開發(fā)周期及跨平臺應用中具備可信性、互操作性、安全性與可靠性。我們必須杜絕以標準制定變相為中小企業(yè)及發(fā)展中經濟體構筑市場準入壁壘。

三、公平與可持續(xù)發(fā)展

人工智能應普惠共享。健全的基礎設施、有意義的互聯(lián)互通和數(shù)字包容是任何國家部署人工智能的先決條件。在數(shù)字公共基礎設施等基礎上構建的數(shù)字政務服務，可能會成為數(shù)字經濟包容性發(fā)展、保障公民權利與福利的催化劑。應通過國內政策、多邊開發(fā)銀行等解決能力和基礎設施領域存在的普遍差距，以推進人工智能在新興市場國家和發(fā)展中國家的應用與開發(fā)。

人工智能引領協(xié)同可持續(xù)發(fā)展。我們致力于通過開源等方式支持人工智能應用，應對醫(yī)療衛(wèi)生、教育、安全、交通、能源、農業(yè)、環(huán)境、水資源及廢棄物管理等領域的關鍵發(fā)展挑戰(zhàn)，相關工作需遵循各國法律與優(yōu)先事項。應持續(xù)推廣人工智能對可持續(xù)發(fā)展的益處。我們將聚焦培育、賦能本土技術能力與抱負的研究、開發(fā)與創(chuàng)新倡議，彌合發(fā)達國家與發(fā)展中國家間的技術鴻溝。

環(huán)境可持續(xù)性是人工智能發(fā)展的前提。人工智能應幫助減排、適應氣候變化、助力環(huán)境保護、推動可持續(xù)資源管理與優(yōu)化、維護生態(tài)平衡，助益經濟社會可持續(xù)發(fā)展，并與各國優(yōu)先事項保持一致。開發(fā)和部署人工智能應具有可持續(xù)性，最大限度減少其對環(huán)境的影響，應對溫室氣體排放、能源和水資源消耗、材料使用以及電子廢棄物等問題。發(fā)展中國家應把握低碳經濟轉型帶來的機遇窗口，并通過人工智能領域的技術進步引領發(fā)展。

人工智能應保障體面勞動，提高生產力。人工智能系統(tǒng)有提高生產力、激發(fā)創(chuàng)新活力、創(chuàng)造就業(yè)機會的潛力，但同時也給勞動環(huán)境、工作強度和崗位替代帶來挑戰(zhàn)、關切和風險，對就業(yè)和勞動者尊嚴構成威脅。當前，數(shù)字平臺快速發(fā)展，生成式人工智能等對就業(yè)市場的結構性影響日益顯著，我們應保障全體勞動者特別是直接受到數(shù)字化轉型影響群體的權力與福祉。在設計、部署及使用人工智能時應考慮人力資源的適應性和兼容性，利用人工智能等技術的優(yōu)勢，促進體面勞動，實現(xiàn)充分和生產性就業(yè)。

人工智能應成為變革教育和學習的工具。人工智能系統(tǒng)能夠整理信息、定制個性化體驗和提供建議，我們擔憂，過度依賴人工智能系統(tǒng)可能對人類認知、決策過程及應對復雜信息環(huán)境的能力產生影響。我們致力于提升民眾數(shù)字素養(yǎng)，特別是教師與學生的數(shù)字素養(yǎng)，使其能夠審慎評估人工智能生成內容，理解算法固有的偏差，培養(yǎng)強大的知識自主意識和批判思維能力。

四、符合倫理的、可信的、負責的人工智能，造福所有人

人工智能必須具有包容性。我們認識到，在數(shù)據(jù)集和人工智能模型中，知識、文化遺產和文化價值的缺乏存在被濫用和歪曲的風險。我們重申構建合乎倫理的、透明的和負責的框架具有重要意義，例如聯(lián)合國教科文組織提出的《人工智能倫理問題建議書》。人工智能系統(tǒng)的研發(fā)必須充分尊重各國語言、文化、種族、地理及人口多樣性。我們?yōu)榇藨_展國際合作，來訓練全面、多語種、包容的優(yōu)質數(shù)據(jù)集，并培育本土人工智能人才。

必須著力減輕歧視性偏見。我們需要有力工具識別并減少錯誤及負面算法偏差，確保獨立審計機制以維護公平，制定針對偏見風險的評估標準，避免歧視性和排他性現(xiàn)象。使用歧視性數(shù)據(jù)訓練的人工智能系統(tǒng)，往往對女性、少數(shù)族裔、殘障人士以及兒童、青少年、老年人等弱勢群體影響最為嚴重。推動不同背景人員開展跨學科合作對制定標準、提升模型運行與輸出的可解釋性、制定切實可行的治理策略至關重要，有助于防范負面偏見，支持負責任、公平地開發(fā)人工智能系統(tǒng)。

必須將公共利益置于首位。我們將秉持以人為本的理念，構建和諧的人機交互關系，始終將人工智能作為提升人類自身能力的有力工具，確保人類對人工智能的最終控制權和監(jiān)督權。我們將構建人類監(jiān)督機制、提升人工智能決策透明度和健全有效的問責體系作為優(yōu)先事項，以負責任且安全的方式推進技術研發(fā)與應用，降低相關風險，實現(xiàn)社會效益最大化。

必須堅持以事實為基礎。人工智能生成的虛假文本、圖像、音頻及視頻內容對信息真實性和完整性構成嚴峻威脅，可能引發(fā)輿論操控、社會動蕩，影響公共機構公信力。我們將采取多維治理方式，提升信息完整性，強化媒體教育策略和地方傳播工作，包括研發(fā)快速識別虛假信息和錯誤信息的工具，提升個體數(shù)字素養(yǎng)與批判性思維以增強網絡內容鑒別力，制定明確的倫理準則與法規(guī)，在保護隱私權與數(shù)據(jù)安全的同時，滿足人工智能在信息傳播領域的開發(fā)和應用。

人工智能系統(tǒng)必須堅守安全與信任。我們認識到，需要實現(xiàn)人工智能安全、符合倫理、可信賴且負責任的發(fā)展，造福全人類。各國必須在遵循本國政策與安全考量的前提下，協(xié)同推動人工智能技術創(chuàng)新與可及性，同時應對人工智能技術引發(fā)的即時與長期風險。我們重申，攜手應對并防范人工智能技術惡意應用的有關風險的重要性。應審慎設計人工智能系統(tǒng)及其他信息通信技術，使其能有效檢測并防止技術濫用，例如欺詐、計算機攻擊、網絡犯罪或數(shù)據(jù)操縱等。

五、未來之路

通用人工智能應以審慎方式發(fā)展。至關重要的是，通用人工智能研究應遵循倫理準則，并以負責任且可信賴的方式進行應用，助力各國特別是新興市場與發(fā)展中經濟體的經濟增長，并應對經濟社會發(fā)展面臨的緊迫挑戰(zhàn)。若僅有少數(shù)實體掌控通用人工智能，將加劇不平等，催生新型技術依賴，對可持續(xù)發(fā)展帶來嚴峻挑戰(zhàn)。

邁向公平、包容的人工智能。金磚國家將采取共同、積極舉措，為所有人創(chuàng)造公平的數(shù)字環(huán)境，確定共同觀點，加強全球合作，推進聯(lián)合國全球人工智能治理對話和國際人工智能科學小組，確保發(fā)展中國家有意義地參與相關進程并發(fā)揮作用。我們將匯集各方力量，在國際平臺上推廣包括上述指導方針在內的共同原則。我們歡迎各方特別是廣大發(fā)展中國家為完善指導方針貢獻智慧，將秉持開放態(tài)度持續(xù)優(yōu)化相關準則。