人工智能、特別是生成式人工智能服務(wù)在近年來的迅速發(fā)展，不僅給全球社會(huì)帶來了改變和新的增長(zhǎng)機(jī)遇，也給技術(shù)監(jiān)管、社會(huì)治理和人權(quán)保護(hù)帶來了相當(dāng)程度上的挑戰(zhàn)。盡管國(guó)際人權(quán)法暫時(shí)沒有專門用以應(yīng)對(duì)人工智能影響的條約，但是國(guó)際社會(huì)和各國(guó)政府都普遍認(rèn)為人工智能可能給人權(quán)的實(shí)踐帶來諸多挑戰(zhàn)，這包括隱私、健康、教育、工作、言論自由和平等權(quán)的方方面面。近年來，來自公司、民間社會(huì)和各國(guó)政府的人工智能道德原則激增。中國(guó)在合理監(jiān)管人工智能、發(fā)展負(fù)責(zé)任人工智能、促進(jìn)人權(quán)保護(hù)方面走在了世界人工智能治理的前列，中國(guó)的先行經(jīng)驗(yàn)對(duì)于人工智能在人類社會(huì)的安全、平等和可控發(fā)展提供了寶貴范例和治理模版。
1.積極高效的人工智能立法
我國(guó)通過推出一系列法規(guī)，在人工智能的監(jiān)管和負(fù)責(zé)任方面領(lǐng)先于世界其他國(guó)家和地區(qū)。2023年，人工智能立法進(jìn)入快車道，《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》于2023年1月生效，重點(diǎn)關(guān)注算法生成內(nèi)容和中國(guó)境內(nèi)的互聯(lián)網(wǎng)新信息服務(wù)。《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》于2023年3月生效，對(duì)包括生成式、合成式算法在內(nèi)的算法推薦技術(shù)進(jìn)行了系統(tǒng)的規(guī)定?！渡墒饺斯ぶ悄芊?wù)管理暫行辦法》于2023年8月生效，對(duì)在中國(guó)境內(nèi)開發(fā)并使用生成式人工智能技術(shù)的各個(gè)主體進(jìn)行更廣泛和全面的監(jiān)管。這三個(gè)法規(guī)在內(nèi)容、算法和產(chǎn)品方面，分別對(duì)人工智能從研發(fā)、運(yùn)行到用戶使用的各個(gè)環(huán)節(jié)進(jìn)行了有效規(guī)定，在整體上確立了發(fā)展與安全、促進(jìn)創(chuàng)新和依法治理并重的策略，并且在監(jiān)管層面特別注重人工智能的社會(huì)影響。
另外，在研究倫理方面，2023年12月開始試行的《科技倫理審查辦法》也給人工智能的進(jìn)一步發(fā)展提供了規(guī)范基礎(chǔ)和制度保障。與此同時(shí)，我國(guó)在數(shù)據(jù)保護(hù)、網(wǎng)絡(luò)安全、不正當(dāng)競(jìng)爭(zhēng)以及電子商務(wù)方面的現(xiàn)有法律，同樣可以繼續(xù)適用于人工智能的治理。通過一系列人工智能法規(guī)的先行經(jīng)驗(yàn)，我國(guó)人工智能行業(yè)在一開始就特別注重透明度、準(zhǔn)確度和可靠性，并且為技術(shù)尊重社會(huì)公德和倫理道德的發(fā)展、個(gè)人權(quán)利的創(chuàng)新和最大程度減少基于民族、信仰、國(guó)別、地域、性別、年齡、職業(yè)、健康等歧視提供了保障。
2.全面系統(tǒng)的人工智能負(fù)責(zé)任發(fā)展機(jī)制
隨著人工智能技術(shù)的迅速發(fā)展，特別是以ChatGPT、文心一言為代表的生成式人工智能應(yīng)用的快速出現(xiàn)，與人工智能相關(guān)的糾紛逐漸顯化，人工智能對(duì)肖像權(quán)、名譽(yù)權(quán)、榮譽(yù)權(quán)、隱私權(quán)和個(gè)人信息權(quán)益的方方面面造成了挑戰(zhàn)。具體到人權(quán)領(lǐng)域，人工智能也具備制造大規(guī)模、系統(tǒng)的算法歧視，權(quán)利侵害和人權(quán)損害的可能性，并且已經(jīng)造成了復(fù)雜的法律問題。中國(guó)通過立法和實(shí)踐構(gòu)造出一套全面系統(tǒng)的人工智能負(fù)責(zé)任機(jī)制，這將極大促進(jìn)人工智能歸責(zé)和可信發(fā)展。
2.1技術(shù)的豐富性
盡管生成式人工智能是人工智能研究和治理的重點(diǎn)，但是我國(guó)的人工智能法規(guī)充分關(guān)注了人工智能應(yīng)用的豐富可能性。從目前的技術(shù)監(jiān)管上，法規(guī)討論的主要分為四類：
第一，“算法推薦技術(shù)”，這包括極大影響用戶、消費(fèi)者和普通民眾信息獲取的個(gè)性化推送算法、檢索和過濾算法（如搜索引擎的自動(dòng)識(shí)別）、分類與選擇算法（如社交媒體的熱搜）、生成與合成算法（如AIGC服務(wù)）以及調(diào)度與決策算法（如外賣平臺(tái)騎手的公平調(diào)度）。
第二，“深度合成技術(shù)”，我國(guó)的法規(guī)從各種信息收集、處理和再生成的全過程，對(duì)利用深度學(xué)習(xí)、虛擬現(xiàn)實(shí)等合成類算法生成文本、語音、非語音（如音樂）、圖像和視頻、三維重構(gòu)、數(shù)字仿真等信息的技術(shù)，進(jìn)行全面和有效的規(guī)定。
第三，“生成式人工智能”，相關(guān)法規(guī)按照“有能力生成文本、圖片、聲音、視頻等內(nèi)容的模型和相關(guān)技術(shù)”的定義，從應(yīng)用的結(jié)果端給迅速發(fā)展中的人工智能最寬泛的規(guī)定。這有效應(yīng)對(duì)了人工智能技術(shù)對(duì)權(quán)利和人權(quán)侵害的潛在風(fēng)險(xiǎn)。
第四，“具有倫理風(fēng)險(xiǎn)的科技活動(dòng)”，我國(guó)最新的《科技倫理審查辦法》針對(duì)“具有輿論社會(huì)動(dòng)員能力和社會(huì)意識(shí)引導(dǎo)能力的算法模型”、“面向存在安全、人身健康風(fēng)險(xiǎn)等場(chǎng)景的具有高度自主能力的自動(dòng)化決策系統(tǒng)”兩類研究，首次以清單形式規(guī)定需要開展倫理審查，這回應(yīng)了社會(huì)公眾對(duì)于人工智能的潛在擔(dān)憂，同時(shí)也預(yù)見性地規(guī)范了人工智能的透明和可控。
2.2主體的全面性
在主體方面，我國(guó)立法在促進(jìn)人工智能行業(yè)快速發(fā)展和創(chuàng)新的同時(shí)，也明確了歸責(zé)的主體，這對(duì)規(guī)范人工智能侵害人權(quán)時(shí)的責(zé)任人提供了有效進(jìn)路。在算法推薦技術(shù)方面，主要的責(zé)任主體是服務(wù)提供者；在深度合成技術(shù)方面，服務(wù)提供者、技術(shù)支持者、使用者以及任何涉及應(yīng)用深度合成技術(shù)的其他實(shí)體，比如網(wǎng)絡(luò)平臺(tái)都可能是最終的責(zé)任人；生成式人工智能則更加關(guān)注服務(wù)提供者；而倫理審查則關(guān)注研究者，首次提出任何從事相關(guān)科研活動(dòng)的高校、科研機(jī)構(gòu)、醫(yī)療和衛(wèi)生機(jī)構(gòu)以及企業(yè)都具有倫理審查義務(wù)。通過全面的歸責(zé)，人工智能的開發(fā)、應(yīng)用、商業(yè)化、日常使用的全過程，都有相應(yīng)的義務(wù)承擔(dān)者，對(duì)可能出現(xiàn)的權(quán)利沖突進(jìn)行了有效的厘清。
2.3義務(wù)的系統(tǒng)性
在具體義務(wù)方面，我國(guó)立法特別重視人工智能技術(shù)發(fā)展的情景性，并將人工智能義務(wù)主體的責(zé)任延伸至人工智能開發(fā)和應(yīng)用的全過程，這極大地保障了社會(huì)公眾利益、個(gè)人權(quán)利和人權(quán)標(biāo)準(zhǔn)與技術(shù)的和諧治理與共融發(fā)展。
在推出新的人工智能產(chǎn)品、服務(wù)或應(yīng)用程序前，主要的義務(wù)包括算法的備案、安全評(píng)估、應(yīng)用程序分發(fā)平臺(tái)的程序性審查、以及從事某些研發(fā)活動(dòng)的開發(fā)者的倫理審查。在生成式人工智能方面，我國(guó)的法規(guī)也特別強(qiáng)調(diào)訓(xùn)練數(shù)據(jù)、數(shù)據(jù)標(biāo)注過程對(duì)于個(gè)人信息等權(quán)利的尊重，并且要求開發(fā)者采取有效措施提高訓(xùn)練數(shù)據(jù)質(zhì)量，增強(qiáng)訓(xùn)練數(shù)據(jù)的真實(shí)性、準(zhǔn)確性、客觀性、多樣性。
在人工智能產(chǎn)品、服務(wù)或應(yīng)用程序的日常運(yùn)營(yíng)期間，主要的義務(wù)包括積極和禁止性義務(wù)兩類：前者包括遵守法律法規(guī)，尊重社會(huì)公德和倫理，遵守商業(yè)道德和職業(yè)道德，遵循公正公平、公開透明、科學(xué)合理和誠(chéng)實(shí)信用的原則等；而后者包括不得利用算法推薦服務(wù)進(jìn)行虛假注冊(cè)賬戶、非法交易賬戶、虛假點(diǎn)贊、轉(zhuǎn)發(fā)和評(píng)論、非法屏蔽信息、過度推薦、操縱榜單等各種近年來社會(huì)關(guān)注的爭(zhēng)議行為，其根本目的在于規(guī)制網(wǎng)絡(luò)輿論操縱等對(duì)社會(huì)公益、個(gè)人權(quán)利的挑戰(zhàn)。其他的禁止性規(guī)定也包括對(duì)不正當(dāng)競(jìng)爭(zhēng)等的規(guī)制等。
最后，在人工智能的使用方面，我國(guó)法規(guī)也特別關(guān)注了對(duì)于用戶、消費(fèi)者中未成年、老年人和勞動(dòng)者群體權(quán)益的保護(hù)。例如，就算法服務(wù)的提供，用戶不被差別待遇的權(quán)利在實(shí)務(wù)界和學(xué)術(shù)界廣泛討論后被納入規(guī)制；對(duì)于未成年人，義務(wù)人不得設(shè)置誘導(dǎo)用戶沉迷、并且應(yīng)當(dāng)采取有效措施防范未成年人用戶過度依賴或者沉迷生成式人工智能服務(wù)；特別關(guān)注向老年人提供服務(wù)的義務(wù)人，強(qiáng)調(diào)其應(yīng)當(dāng)保障老年人依法享有的權(quán)益，充分考慮老年人出行、就醫(yī)、消費(fèi)、辦事等需求；而面對(duì)平臺(tái)經(jīng)濟(jì)和各種用工的新業(yè)態(tài)，我國(guó)也通過人工智能治理充分保障勞動(dòng)者權(quán)利，強(qiáng)調(diào)向勞動(dòng)者提供工作調(diào)度服務(wù)的，應(yīng)當(dāng)保護(hù)勞動(dòng)者取得勞動(dòng)報(bào)酬、休息休假等合法權(quán)益。
3.人工智能與人權(quán)沖突
盡管人工智能技術(shù)帶來了巨大的便利和效率，但同時(shí)也引發(fā)了一系列人權(quán)方面的擔(dān)憂：人工智能的決策過程往往缺乏透明度，特別是極速發(fā)展的生成式人工智能已經(jīng)造成了現(xiàn)實(shí)的風(fēng)險(xiǎn)，尤其是在涉及個(gè)人隱私和數(shù)據(jù)保護(hù)方面；人工智能的廣泛應(yīng)用也已經(jīng)在相當(dāng)程度上加劇了社會(huì)不平等，強(qiáng)化了歧視，形成了某些大規(guī)模的系統(tǒng)侵害。國(guó)際社會(huì)和各國(guó)政府普遍認(rèn)為，對(duì)于人權(quán)的關(guān)注不僅不會(huì)阻礙創(chuàng)新，也為監(jiān)管人工智能提供了一個(gè)可信框架。
面對(duì)人工智能和人權(quán)之間復(fù)雜而微妙的關(guān)系，中國(guó)的立法已經(jīng)形成了世界范圍內(nèi)最系統(tǒng)的先行經(jīng)驗(yàn)，通過有效規(guī)范人工智能的全面過程，中國(guó)的人工智能治理充分保障社會(huì)利用人工智能帶來的益處、擴(kuò)大正向效益、促進(jìn)創(chuàng)新發(fā)展，同時(shí)，又通過合理的政策和法律手段，實(shí)現(xiàn)技術(shù)進(jìn)步與人權(quán)保護(hù)的平衡，不斷確保人工智能技術(shù)為社會(huì)的可持續(xù)發(fā)展服務(wù)。
?。ㄗ髡撸河诩t運(yùn)，斯坦福大學(xué)法律與科技中心研究員）
京公網(wǎng)安備 11010102003980號(hào)