20日，由中國人權(quán)研究會和意大利羅馬大學(xué)法學(xué)院共同主辦的“2023·中歐人權(quán)研討會”在意大利羅馬舉辦。本屆研討會以"現(xiàn)代化與人權(quán)文明多樣性"為主題，下設(shè)"文明交流互鑒與現(xiàn)代人權(quán)理念的發(fā)展""現(xiàn)代化與人的自由全面發(fā)展""現(xiàn)代化進(jìn)程中的可持續(xù)發(fā)展 數(shù)字時代的人權(quán)文明演進(jìn)"3個分議題。
上海交通大學(xué)凱原法學(xué)院教授鄭戈在“分議題二：現(xiàn)代化與人的自由全面發(fā)展”上作題為《從人機(jī)關(guān)系的角度思考數(shù)字時代的人權(quán)文明演進(jìn)》的發(fā)言。以下為通過速記稿內(nèi)容整理的發(fā)言摘要：
眾所周知，我們已經(jīng)進(jìn)入了數(shù)字化時代，以人工智能為典型代表的數(shù)字科技已經(jīng)成為這個時代的通用技術(shù)，改變著我們的生活方式、工作方式和社會關(guān)系形成方式，與傳統(tǒng)的技術(shù)相比，人工智能技術(shù)的特點就在于它能夠?qū)W習(xí)，能夠通過對海量人類行為數(shù)據(jù)的學(xué)習(xí)來實現(xiàn)自適應(yīng)和自演進(jìn)，并根據(jù)它的設(shè)計者的目的，無論是商業(yè)目的、還是政治目的，來預(yù)測和影響人類的行為。因此，數(shù)字科技不再是一種被動的工具，它是一種活的展現(xiàn)出智能的工具。人在使用這種工具的時候也將被這種工具影響和改變，因此作為人權(quán)之基石的一個核心概念就是人的尊嚴(yán)，人是目的、不是手段，這樣一個康德主義的基本命題在數(shù)字化時代受到了新的挑戰(zhàn)，也正是因為這樣，所以說我們需要在數(shù)字科技所營造的社會生活背景中來重新思考人權(quán)這個概念。
數(shù)字時代的人權(quán)我們應(yīng)當(dāng)確保在人機(jī)交互的總體環(huán)境中保障人的尊嚴(yán)和自主性，集中體現(xiàn)在人在回路這個原則上，所謂的人在回路是指在機(jī)器學(xué)習(xí)、自動駕駛、自動化武器以及自動化決策等人工智能應(yīng)用場景中要求人類的介入，也就是說即使從技術(shù)上講，機(jī)器已經(jīng)能夠自動化的完成所有的感知、決策和執(zhí)行過程，從人本主義的角度出發(fā)仍然需要人作為機(jī)器決策的最后的把關(guān)者。盡管不一定明確使用人在回路這個術(shù)語，但要求有人來監(jiān)管和介入人工智能的自動化決策，是體現(xiàn)在世界各國相關(guān)立法中的普遍原則，以至于有學(xué)者提出了人在回路前這一概念，認(rèn)為它是數(shù)字社會中人的基本權(quán)利之一。
這已經(jīng)不是一種學(xué)者的觀點表達(dá)，實際上體現(xiàn)在世界各國的眾多的法律當(dāng)中，比如說中國體現(xiàn)人在回路原則的法律規(guī)則因循的傳統(tǒng)的讓人來負(fù)責(zé)的思路，比如《網(wǎng)絡(luò)安全法》第21條，要求網(wǎng)絡(luò)運(yùn)營者確定網(wǎng)絡(luò)安全負(fù)責(zé)人?！秱€人信息保護(hù)法》第52條，則要求處理個人信息相關(guān)的機(jī)構(gòu)，只要他達(dá)到了國家網(wǎng)信部門規(guī)定的數(shù)量，他就需要指定明確的個人來作為個人信息保護(hù)負(fù)責(zé)人。中國的《關(guān)鍵信息基礎(chǔ)設(shè)施安全保護(hù)條例》第14條，要求關(guān)鍵信息基礎(chǔ)設(shè)施運(yùn)營者設(shè)置專門的安全管理機(jī)構(gòu)，就不只是要求有一個人來負(fù)責(zé)了，需要有一群人、一個專門的機(jī)構(gòu)來負(fù)責(zé)這件事情，該機(jī)構(gòu)的負(fù)責(zé)人則關(guān)鍵崗位人要經(jīng)過安全背景審查方可上崗?！毒W(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》第9條，要求網(wǎng)絡(luò)信息內(nèi)容服務(wù)平臺，設(shè)立網(wǎng)絡(luò)信息內(nèi)容生態(tài)負(fù)責(zé)人，配比與業(yè)務(wù)范圍和服務(wù)規(guī)模相適應(yīng)的專業(yè)人員，加強(qiáng)培訓(xùn)考核，提升從業(yè)人員素質(zhì)?！痘ヂ?lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》第7條，要求算法推薦服務(wù)提供者落實算法安全主體責(zé)任。以上這樣一些規(guī)定是體現(xiàn)了中國法律當(dāng)中對人在回路原則的落實。
這些指定專人來負(fù)責(zé)的規(guī)則其實是為了確保在自動化決策過程中對人的尊嚴(yán)和主體性的尊重，這一目的也明顯體現(xiàn)在《個人信息保護(hù)法》第24條當(dāng)中，該條規(guī)定，通過自動化決策方式向個人進(jìn)行信息推送、商業(yè)營銷，應(yīng)當(dāng)同時提供不針對其個人特征的選項，或者向個人提供便捷的拒絕方式。這樣一些有針對性的規(guī)定其實就是針對在算法支撐的社交平臺上，當(dāng)個人來使用算法的時候其實在被算法影響，算法所推薦的內(nèi)容其實也在影響個人的決策，因此它賦予個人以自主權(quán)，你可以拒絕算法推薦。
像這樣一些法律規(guī)定其實保護(hù)的仍然是傳統(tǒng)的人權(quán)，特別是人的尊嚴(yán)和自主性這樣一些人權(quán)當(dāng)中的核心內(nèi)容，但是它充分考慮到了數(shù)字科技給我們?nèi)伺c人之間的關(guān)系和社會生活帶來的新的變化，因此對這些傳統(tǒng)人權(quán)進(jìn)行了數(shù)字環(huán)境當(dāng)中的以特定方式來對之加以保護(hù)。因此數(shù)字環(huán)境當(dāng)中人權(quán)文明的演進(jìn)不一定體現(xiàn)在新的人權(quán)的創(chuàng)設(shè)上，比如說我前面提到的人在回路權(quán)，可以被理解為一種新的人權(quán)，但是按照維廉·奧康的說法“若無必要，勿增實體”，我們可以把它引用到法律領(lǐng)域就是“若無必要，勿增權(quán)利”，因為在數(shù)字化的環(huán)境當(dāng)中，其實我們沒有必要通過增加新型的權(quán)利，而是需要找到新的方法來保障原有的世界公認(rèn)的那些權(quán)利，這個才是我們需要尋找的答案，而不是通過創(chuàng)設(shè)新的權(quán)利來實現(xiàn)這一目的。
我在這里所講的人在回路原則其實就是這樣一個非常好的例子，我們?yōu)榱舜_保在人機(jī)交互的總體環(huán)境當(dāng)中人仍然能夠享有尊嚴(yán)和自由性，一種方法可能是創(chuàng)設(shè)新的權(quán)利，比如說人在回路權(quán)，但是創(chuàng)設(shè)這種權(quán)利本身并不能夠解決人權(quán)保障的機(jī)制問題，因此它是沒有必要的。我們?nèi)匀灰匀说淖饑?yán)作為需要保護(hù)的權(quán)利，而去尋找在人機(jī)交互的環(huán)境當(dāng)中如何保障人的尊嚴(yán)的方法，這是發(fā)展數(shù)字時代人權(quán)文明的一種更有效的方法。這是我總體的觀點。
一種以人為本的數(shù)字時代的人權(quán)保障系統(tǒng)其實是一個復(fù)雜系統(tǒng)，但是這個復(fù)雜系統(tǒng)不一定需要我們通過增添新的權(quán)利、新的權(quán)利名稱和新的權(quán)利類型來使它變得更加復(fù)雜，而是需要圍繞著經(jīng)過時間考驗的由一系列國際人權(quán)條約所承認(rèn)的那些普適人權(quán)，比如說人的生命權(quán)、人的自由，包括言論自由、政治自由、公民自由等等，我們圍繞著這些經(jīng)過時間檢驗的得到世界公認(rèn)的人權(quán)來尋找在人機(jī)交互的數(shù)字生態(tài)環(huán)境當(dāng)中對他們加以保護(hù)的有效方法和機(jī)制，這個是我們發(fā)展數(shù)字時代人權(quán)文明的著力點。
京公網(wǎng)安備 11010102003980號