2025-09-04
人工智能（AI)作為引領(lǐng)未來(lái)的戰(zhàn)略新興技術(shù)，已經(jīng)成為發(fā)展新質(zhì)生產(chǎn)力、推動(dòng)科技革命和產(chǎn)業(yè)升級(jí)的核心引擎。隨著人工智能領(lǐng)域的高速發(fā)展，尤其是生成式人工智能的突破，其復(fù)雜效應(yīng)也不斷顯現(xiàn)，既釋放巨大的技術(shù)紅利，也衍生出超越以往范疇的安全問(wèn)題。2023年以來(lái)，全球人工智能安全治理的努力大幅增加，治理進(jìn)程正在不斷加速，并且形成了各國(guó)政府主導(dǎo)、國(guó)際組織積極推進(jìn)、科技企業(yè)協(xié)同治理的多方參與格局。
推進(jìn)“軟性”倫理規(guī)范走向“硬性”法律監(jiān)管
歐盟展現(xiàn)了領(lǐng)先全球的立法速度。2024年3月，其發(fā)布的《人工智能法案》被認(rèn)為是全球首部綜合性人工智能治理立法。該法案對(duì)人工智能系統(tǒng)進(jìn)行了分類，并根據(jù)風(fēng)險(xiǎn)等級(jí)制定了相應(yīng)的監(jiān)管要求，設(shè)定了普適、全面的人工智能監(jiān)管方法，包括數(shù)據(jù)管理、透明度、可解釋性、人類監(jiān)督等方面。歐盟2024年新設(shè)了人工智能辦公室，推動(dòng)實(shí)施《人工智能法案》。此外，歐盟《人工智能責(zé)任指令》在2024年也將出現(xiàn)更多的進(jìn)展。
與歐盟《人工智能法案》以風(fēng)險(xiǎn)預(yù)防和責(zé)任追究為中心的立法不同，中國(guó)采取了更加包容審慎的治理方式，且采取了“小切口”的立法策略，深入特定應(yīng)用領(lǐng)域提出監(jiān)管要求，體現(xiàn)了中國(guó)在人工智能領(lǐng)域的敏捷治理理念。2023年8月，《生成式人工智能服務(wù)管理暫行辦法》開(kāi)始施行，中國(guó)成為世界上首個(gè)為生成式大模型立法的國(guó)家。
美國(guó)人工智能治理則總體寬松溫和，以促進(jìn)發(fā)展為主，兜底風(fēng)險(xiǎn)為輔，立法滯后。近年來(lái)，在生成式預(yù)訓(xùn)練人工智能及相關(guān)技術(shù)引發(fā)越來(lái)越多關(guān)注和擔(dān)憂后，美國(guó)政府逐步加強(qiáng)監(jiān)管。2023年1月，美國(guó)商務(wù)部國(guó)家標(biāo)準(zhǔn)與技術(shù)研究院發(fā)布《人工智能風(fēng)險(xiǎn)管理框架》，旨在對(duì)人工智能系統(tǒng)全生命周期實(shí)行有效的風(fēng)險(xiǎn)管理。2023年10月，美國(guó)第一次在政治對(duì)話中真正納入人工智能的議程，并發(fā)布總統(tǒng)行政令《安全、可靠和值得信賴的人工智能開(kāi)發(fā)和使用》，明確了美國(guó)政府治理人工智能的政策法律框架，具有里程碑意義。最受矚目的一點(diǎn)是該行政令動(dòng)用《國(guó)防生產(chǎn)法》的緊急權(quán)力，強(qiáng)制要求人工智能企業(yè)進(jìn)行安全測(cè)試并與政府分享測(cè)試結(jié)果。2024年5月，美國(guó)參議院人工智能工作組發(fā)布《推動(dòng)美國(guó)在AI領(lǐng)域的創(chuàng)新：參議院AI政策路線圖》。一系列行動(dòng)，標(biāo)志著美國(guó)通過(guò)“全面立法”治理人工智能的戰(zhàn)略努力。2024年，疊加人工智能對(duì)美國(guó)大選年的重大威脅，人工智能立法將成為美國(guó)重頭戲。
推動(dòng)形成全球人工智能安全治理共識(shí)和創(chuàng)新合作
全球共商機(jī)制初步建立。一直以來(lái)，如何推出能被廣泛接受的人工智能治理原則挑戰(zhàn)重重。從經(jīng)合組織到聯(lián)合國(guó)，國(guó)際層面始終在努力推進(jìn)這一議程。2023年以來(lái)，聯(lián)合國(guó)積極參與、推動(dòng)人工智能全球監(jiān)管機(jī)構(gòu)和治理機(jī)制的構(gòu)建，以期探索全球監(jiān)管的“公約數(shù)”。聯(lián)合國(guó)秘書(shū)長(zhǎng)出席聯(lián)合國(guó)安理會(huì)人工智能與安全問(wèn)題高級(jí)別公開(kāi)會(huì)，呼吁管控人工智能技術(shù)風(fēng)險(xiǎn)，成立新的聯(lián)合國(guó)機(jī)構(gòu)強(qiáng)化人工智能全球治理。2023年，聯(lián)合國(guó)成立全球人工智能監(jiān)管咨詢委員會(huì)，該委員會(huì)包括科技行業(yè)領(lǐng)袖、政府代表和學(xué)者，以及知名科技企業(yè)的高管，旨在處理全球人工智能監(jiān)管事宜。
中國(guó)、巴西、俄羅斯、印度和南非則同意成立“人工智能研究小組”。歐洲委員會(huì)一直在制定一項(xiàng)具有法律約束力的人工智能與人權(quán)國(guó)際公約，并于2024年3月敲定《人工智能、人權(quán)、民主和法治框架公約》最終草案，這是第一個(gè)國(guó)際人工智能條約。
英國(guó)率先成立英國(guó)人工智能安全研究所，旨在促進(jìn)全球?qū)ο冗M(jìn)人工智能的了解。2024年5月，在人工智能首爾峰會(huì)上，美國(guó)、英國(guó)、加拿大、日本、韓國(guó)等10個(gè)國(guó)家以及歐盟共同簽署《首爾聲明》，呼吁加強(qiáng)國(guó)際人工智能治理合作以及治理框架之間的互操作性，倡導(dǎo)以風(fēng)險(xiǎn)為基礎(chǔ)的政策和治理框架，支持啟動(dòng)首個(gè)國(guó)際人工智能安全研究所網(wǎng)絡(luò)，促使國(guó)家間形成對(duì)人工智能安全的共同理解，并在研究、標(biāo)準(zhǔn)和測(cè)試方面進(jìn)行協(xié)調(diào)。
新的合作模式如何形成至關(guān)重要。以哪一方案作為未來(lái)共同監(jiān)管架構(gòu)模板成為焦點(diǎn)。大國(guó)博弈背景下，率先形成人工智能治理范本，可獲得人工智能監(jiān)管主導(dǎo)權(quán)。2023年以來(lái)，以聯(lián)合國(guó)、歐盟、美國(guó)、英國(guó)以及中國(guó)的相關(guān)政策或策略性行動(dòng)為標(biāo)志，各國(guó)政府和國(guó)際組織在人工智能全球治理領(lǐng)域的參與程度和戰(zhàn)略部署明顯提升，試圖影響全球范圍內(nèi)人工智能技術(shù)標(biāo)準(zhǔn)、應(yīng)用規(guī)范、治理準(zhǔn)則。
各方均在主動(dòng)發(fā)力，擴(kuò)大自身治理模式的影響。美國(guó)在全球人工智能安全峰會(huì)前，推動(dòng)七國(guó)集團(tuán)取得一致立場(chǎng)，并重返聯(lián)合國(guó)教科文組織參與人工智能規(guī)則建設(shè)。歐盟《人工智能法案》將給全球人工智能立法格局帶來(lái)重大影響，為人工智能定下監(jiān)管基調(diào)，在治理規(guī)制方面幫助歐盟另辟蹊徑，在全球人工智能領(lǐng)域進(jìn)行更深層次的布局。
創(chuàng)新政府對(duì)人工智能的安全監(jiān)管形式
多層級(jí)、多部門聯(lián)手治理。在頂層設(shè)計(jì)的指導(dǎo)下，美國(guó)參議院、眾議院和國(guó)會(huì)研究處、國(guó)會(huì)國(guó)家人工智能研究資源工作組等部門圍繞人工智能應(yīng)用可能帶來(lái)的安全風(fēng)險(xiǎn)開(kāi)展研究和布局，聯(lián)邦政府下獨(dú)立行政機(jī)構(gòu)美國(guó)聯(lián)邦貿(mào)易委員會(huì)、美國(guó)證券交易委員會(huì)、美國(guó)平等就業(yè)機(jī)會(huì)委員會(huì)、美國(guó)聯(lián)邦通信委員會(huì)積極探索人工智能監(jiān)管新模式，國(guó)務(wù)院、財(cái)政部、國(guó)防部、國(guó)土安全部、司法部、教育部、商務(wù)部、能源部等部門及其下屬機(jī)構(gòu)圍繞自身負(fù)責(zé)領(lǐng)域研究出臺(tái)促進(jìn)人工智能負(fù)責(zé)任應(yīng)用的相關(guān)文件。此外，特別成立了美國(guó)人工智能安全研究所、國(guó)防部人工智能安全中心、國(guó)防部生成式人工智能工作組等機(jī)構(gòu)，圍繞人工智能安全開(kāi)展專門研究及突破。
設(shè)立“首席人工智能官”。美國(guó)總統(tǒng)行政令提出，要大力推進(jìn)聯(lián)邦政府使用人工智能，要求美國(guó)管理和預(yù)算辦公室建立聯(lián)邦政府人工智能使用指南，各職能政府部門設(shè)首席人工智能官，并提升聯(lián)邦政府內(nèi)人工智能人才密度。該制度既延續(xù)了以往美國(guó)在管理領(lǐng)域設(shè)立“首席官”的監(jiān)管范式，又創(chuàng)新了政府對(duì)人工智能領(lǐng)域的監(jiān)管形式。當(dāng)前，美國(guó)聯(lián)邦機(jī)構(gòu)正密集任命首席人工智能官，提升政府的“含AI量”。縱覽已推出的首席人工智能官，任命形式各有不同，其具體職責(zé)主要圍繞“協(xié)同協(xié)調(diào)、技術(shù)創(chuàng)新、風(fēng)險(xiǎn)管理”三個(gè)方面展開(kāi)。
設(shè)置人工智能監(jiān)管沙盒。監(jiān)管沙盒是由監(jiān)管機(jī)構(gòu)提供的一種實(shí)驗(yàn)平臺(tái)，是探索人工智能可控發(fā)展的創(chuàng)新手段，通過(guò)設(shè)立限定性條件，以真實(shí)用戶為對(duì)象進(jìn)行深度測(cè)試，降低監(jiān)管不確定性。監(jiān)管沙盒既有利于企業(yè)技術(shù)創(chuàng)新實(shí)踐應(yīng)用，也有利于更早地發(fā)現(xiàn)前沿技術(shù)引發(fā)的合規(guī)風(fēng)險(xiǎn)。歐盟《人工智能法案》明確了建立人工智能監(jiān)管沙盒的相關(guān)要求，目前歐洲已有多個(gè)國(guó)家在積極推進(jìn)人工智能監(jiān)管沙盒試點(diǎn)。2023年11月，西班牙建立第一個(gè)歐盟人工智能監(jiān)管沙盒。2024中關(guān)村論壇發(fā)布中國(guó)首例人工智能領(lǐng)域監(jiān)管沙盒，首批入盒模型企業(yè)包括中科聞歌、拓爾思、靈犀云等。
成立人工智能驗(yàn)證基金會(huì)。新加坡2023年成立了人工智能驗(yàn)證基金會(huì)，發(fā)揮聯(lián)系政府、企業(yè)和學(xué)術(shù)專家的平臺(tái)作用。該基金會(huì)與IBM、微軟和谷歌等企業(yè)合作開(kāi)發(fā)人工智能測(cè)試工具，合作制定人工智能國(guó)際標(biāo)準(zhǔn)。
推進(jìn)產(chǎn)業(yè)一線企業(yè)開(kāi)展負(fù)責(zé)任的研究與創(chuàng)新
歐盟嚴(yán)格禁止銷售和使用對(duì)人們安全、生計(jì)構(gòu)成明顯威脅的人工智能技術(shù)，違規(guī)公司可能被處以其全球年?duì)I業(yè)額的7%或4000萬(wàn)歐元的高額罰款。美國(guó)總統(tǒng)行政令推動(dòng)美國(guó)生成式人工智能科技企業(yè)踐行自愿承諾的監(jiān)管路徑，谷歌、Meta、微軟等15家人工智能頭部科技企業(yè)隨即在關(guān)于推動(dòng)人工智能技術(shù)的安全、可靠和可信的發(fā)展方面進(jìn)行承諾。在首爾人工智能峰會(huì)上，亞馬遜、微軟、谷歌、中國(guó)的智譜AI等全球領(lǐng)先的科技企業(yè)就人工智能安全作出“前沿人工智能安全承諾”，將努力確保其最先進(jìn)的人工智能模型安全性，并實(shí)施負(fù)責(zé)任的治理。
人工智能倫理委員會(huì)機(jī)制不僅是企業(yè)自律的重要體現(xiàn)，也是落實(shí)人工智能倫理治理的重要制度保障。全球多家頭部企業(yè)探索人工智能倫理委員會(huì)的建設(shè)落地。微軟負(fù)責(zé)任人工智能辦公室、人工智能倫理委員會(huì)分別負(fù)責(zé)制定內(nèi)部的人工智能倫理準(zhǔn)則、審查敏感應(yīng)用案例，對(duì)特定人工智能倫理問(wèn)題進(jìn)行研究、主動(dòng)制定內(nèi)部政策。谷歌技術(shù)發(fā)布前置倫理審查中心，監(jiān)管人工智能與新興技術(shù)倫理準(zhǔn)則。DeepMind倫理與社會(huì)團(tuán)隊(duì)的獨(dú)立顧問(wèn)小組包含多名不同背景與學(xué)科的外國(guó)專家，針對(duì)人工智能倫理問(wèn)題提供反饋與指導(dǎo)。京東探索研究院，華為可信理論、技術(shù)與工程實(shí)驗(yàn)室都關(guān)注可信人工智能研究。2024年5月28日，“開(kāi)放人工智能”新成立安全委員會(huì)，就其項(xiàng)目和運(yùn)營(yíng)的“關(guān)鍵安全決策”提供建議。
（作者：李輝，系北京市習(xí)近平新時(shí)代中國(guó)特色社會(huì)主義思想研究中心特約研究員，北京市科學(xué)技術(shù)研究院研究員）
