內(nèi)容提要：據(jù)預(yù)測(cè)，2050年自主武器系統(tǒng)便有可能代替人類成為戰(zhàn)場(chǎng)上的主力。自主武器系統(tǒng)的發(fā)展存在人權(quán)和人道主義風(fēng)險(xiǎn)，并引發(fā)了國(guó)際法如何規(guī)范新技術(shù)的問(wèn)題。從國(guó)際人權(quán)法和國(guó)際人道法兩個(gè)不同維度來(lái)看，自主武器系統(tǒng)在侵犯性、濫殺性、殘酷性、失控性幾方面構(gòu)成對(duì)人權(quán)與人道的嚴(yán)峻挑戰(zhàn)。在我國(guó)人權(quán)保障得到空前重視的背景下，應(yīng)當(dāng)明確在自主武器系統(tǒng)領(lǐng)域的現(xiàn)有制度規(guī)范與基本立場(chǎng)，對(duì)自主武器系統(tǒng)的風(fēng)險(xiǎn)作出前瞻性思考并提出對(duì)策，以預(yù)防人權(quán)與人道主義侵害，促進(jìn)這一涉及人類前途與命運(yùn)的問(wèn)題提前得到較好解決，實(shí)現(xiàn)人人共享人權(quán)的美好目標(biāo)。
關(guān)鍵詞：自主武器系統(tǒng) 國(guó)際人道法 國(guó)際人權(quán)法 人道主義
一、問(wèn)題的提出
自主武器系統(tǒng)(Autonomous Weapon System)是指任何擁有自主決策功能的武器系統(tǒng)，其包括除自主武器之外的一系列輔助要素單元，例如傳感器、決策單元和彈藥等。根據(jù)定義可知其為可實(shí)現(xiàn)在沒(méi)有人類干預(yù)的情形下搜索、打擊目標(biāo)以及最終實(shí)施擊打等全過(guò)程的武器系統(tǒng)。由于人工智能技術(shù)不斷被應(yīng)用到軍事方面，與軍事武器相結(jié)合，其對(duì)現(xiàn)行人權(quán)與人道法的相關(guān)原則與規(guī)定提出嚴(yán)峻挑戰(zhàn)，因此部分人權(quán)倡導(dǎo)者對(duì)于濫傷性智能武器使用的合法性提出質(zhì)疑。雖然合法性問(wèn)題已經(jīng)被《特定常規(guī)武器公約》(Convention on Certain Conventional Weapons，簡(jiǎn)稱CCW)締約國(guó)所關(guān)注，并激烈討論近十年，但現(xiàn)行國(guó)際人道法的完善問(wèn)題一直被作為國(guó)際社會(huì)的焦點(diǎn)。可與此同時(shí)，缺乏人類決斷和審查的自主武器系統(tǒng)，也形成了侵害人權(quán)的威脅。
迄今為止，所有涉及戰(zhàn)爭(zhēng)的法律所制約的對(duì)象最終都?xì)w結(jié)于兩類：人和武器。但自主武器系統(tǒng)與現(xiàn)今傳統(tǒng)意義上的人和武器有著本質(zhì)的區(qū)別，它既非真正意義上的人，又非沒(méi)有頭腦的武器，它將人的思維判斷能力和武器的殺傷力高度整合，甚至具備了能夠自主決定是否殺人、何時(shí)殺人與如何殺人的能力。如果不為未來(lái)的自主武器系統(tǒng)制定人權(quán)準(zhǔn)則和人道主義保護(hù)規(guī)則，那么人們將會(huì)面臨人權(quán)與人道主義的可怕災(zāi)難。為保護(hù)人類最根本的訴求，即生命權(quán)等基本人權(quán)，并保證戰(zhàn)爭(zhēng)狀態(tài)下交戰(zhàn)方、中立方和平民的合法權(quán)益，預(yù)防其破壞國(guó)際人道法的體系，應(yīng)及早制定限制自主武器系統(tǒng)的人權(quán)和人道主義保護(hù)規(guī)則，并爭(zhēng)取國(guó)際社會(huì)的廣泛認(rèn)同，加強(qiáng)交流與合作，共同促進(jìn)這一涉及人類前途與命運(yùn)的問(wèn)題提前得到妥善解決。
目前，法學(xué)界關(guān)于自主武器系統(tǒng)的討論，主要集中于國(guó)際法中的國(guó)際人道法，但類似對(duì)原則的沖突也隱含在國(guó)際人權(quán)法中，后者始終保障全人類的某些人權(quán)，無(wú)論其國(guó)籍或當(dāng)?shù)胤蔀楹?。雖然自主武器在人權(quán)領(lǐng)域的研究尚處于初級(jí)階段，但少數(shù)國(guó)外學(xué)者已有了相關(guān)思考。彼得·阿薩羅認(rèn)為，有關(guān)生命和正當(dāng)程序的人權(quán)以及克減上述人權(quán)的限制條件，意味著一系列與自動(dòng)化和自主技術(shù)相關(guān)的具體義務(wù)?？死锼雇蟹?middot;海恩認(rèn)為在考慮人權(quán)背景中可能通過(guò)自主武器平臺(tái)使用武力時(shí)，不應(yīng)僅限于致命武力，而是應(yīng)考慮包括致命武力和致命性較低武力在內(nèi)的所有武力使用形式。詹姆斯·道斯使用了“推理性人權(quán)”一詞，從人權(quán)的角度出發(fā)，基于對(duì)自主武器系統(tǒng)的擔(dān)憂擴(kuò)展到全面預(yù)測(cè)通用人工智能將會(huì)引發(fā)的關(guān)注。相比之下，國(guó)內(nèi)學(xué)者少有從人權(quán)角度出發(fā)考慮自主武器系統(tǒng)的挑戰(zhàn)及法律應(yīng)對(duì)。徐爽從無(wú)人機(jī)作為武器在使用中給人權(quán)帶來(lái)的挑戰(zhàn)為切入點(diǎn)，考察了人權(quán)受到的沖擊和侵害等。雖然根據(jù)自主武器系統(tǒng)的定義，遠(yuǎn)程遙控的無(wú)人機(jī)不屬于自主武器系統(tǒng)，但徐爽依然從新興技術(shù)對(duì)人權(quán)保障帶來(lái)負(fù)面影響層面進(jìn)行了有益探討。本文試圖在已有研究的基礎(chǔ)上，從國(guó)際人權(quán)法和國(guó)際人道法兩個(gè)維度出發(fā)，考察自主武器系統(tǒng)對(duì)人權(quán)和人道法帶來(lái)了哪些挑戰(zhàn)，并基于兩個(gè)維度就如何應(yīng)對(duì)新興技術(shù)的影響進(jìn)行探索。
二、自主武器系統(tǒng)中人權(quán)與人道的關(guān)系
國(guó)際人道法和國(guó)際人權(quán)法是兩個(gè)不同的學(xué)科，但其相互關(guān)系一直是引起大量關(guān)注的法律焦點(diǎn)問(wèn)題，特別是因?yàn)樗鼘?duì)軍事行動(dòng)的重要影響。盡管角度不同，但兩者都致力于保護(hù)個(gè)人的生命、健康和尊嚴(yán)。在武裝沖突期間，國(guó)際人道法保護(hù)某些類別的人不受交戰(zhàn)方蓄意攻擊。然而，國(guó)際人權(quán)法對(duì)使用致命武力所規(guī)定的標(biāo)準(zhǔn)比戰(zhàn)爭(zhēng)法更為嚴(yán)格。交戰(zhàn)各方必須保證在武裝沖突條件下不被“任意”剝奪生命，武裝部隊(duì)和有組織武裝團(tuán)體必須考慮其使用自主武器系統(tǒng)是否符合國(guó)際人權(quán)法的要求。
(一)國(guó)際人權(quán)法與國(guó)際人道法的相互關(guān)系
國(guó)際人權(quán)法(International Human Rights law)，一般是指促進(jìn)和保證人的基本權(quán)利和自由得到普遍尊重和實(shí)現(xiàn)的國(guó)際法原則、規(guī)則和規(guī)章、制度等；國(guó)際人道法(International Humanitarian Law)，則主要是指在戰(zhàn)爭(zhēng)或武裝沖突期間保護(hù)傷、病員、平民等戰(zhàn)爭(zhēng)受難者的國(guó)際法原則、規(guī)則和規(guī)章、制度等。關(guān)于兩者的關(guān)系，存在兩種主流觀點(diǎn)，一種認(rèn)為廣義的國(guó)際人道法包括人權(quán)法，人權(quán)法僅代表一般人道法的一個(gè)較高的發(fā)展階段。另一種則認(rèn)為人道法是派生于戰(zhàn)爭(zhēng)法的法律，且人權(quán)法作為構(gòu)成和平法重要部分的法律，優(yōu)先于國(guó)際人道法。但是從這兩者發(fā)展的過(guò)程來(lái)看，國(guó)際人道法與國(guó)際人權(quán)法之間相輔相成、交叉適用，并且這種聯(lián)系和作用還在發(fā)展。
根據(jù)國(guó)際法院的說(shuō)法，國(guó)際人道法是專門(mén)設(shè)計(jì)來(lái)規(guī)范敵對(duì)行為的法律，而國(guó)際人權(quán)法發(fā)揮一般法的作用。國(guó)際法院在1996年《關(guān)于以核武器相威脅或使用核武器是否合法的咨詢意見(jiàn)》中首次論述了武裝沖突局勢(shì)中適用人權(quán)法的問(wèn)題并且提出《公民權(quán)利和政治權(quán)利國(guó)際公約》所提供的保護(hù)在戰(zhàn)時(shí)并不停止，而且原則上不得任意剝奪人的生命權(quán)也適用于敵對(duì)行動(dòng)?？梢?jiàn)雖然國(guó)際人道法和國(guó)際人權(quán)法屬于不同的法律體系，但它們所保護(hù)的原則和利益相似。然而實(shí)踐中，雖然人權(quán)法既適用于平時(shí)也適用于武裝沖突時(shí)期，但是在武裝沖突期間，通過(guò)國(guó)內(nèi)或國(guó)際人權(quán)機(jī)構(gòu)對(duì)人權(quán)進(jìn)行保護(hù)的手段非常有限。國(guó)際人權(quán)法在國(guó)際人權(quán)條約機(jī)構(gòu)和聯(lián)合國(guó)的監(jiān)督下由締約國(guó)實(shí)施，這些機(jī)構(gòu)的決定具有權(quán)威性但缺乏法律約束力，而國(guó)際人道法的實(shí)施，在嚴(yán)重違反戰(zhàn)爭(zhēng)法的情況下，可以由國(guó)際刑事法庭對(duì)違反人道法、犯有戰(zhàn)爭(zhēng)罪的人進(jìn)行懲罰。綜上，國(guó)際人權(quán)法存在武裝沖突中的適用且與國(guó)際人道法存在相互關(guān)系，其為自主武器系統(tǒng)的發(fā)展和使用塑造這種關(guān)系提供了前期基礎(chǔ)。
(二)國(guó)際人權(quán)法、國(guó)際人道法與自主武器系統(tǒng)的關(guān)系
自主武器系統(tǒng)的發(fā)展已經(jīng)引發(fā)了國(guó)際法如何規(guī)范這種新技術(shù)的問(wèn)題。簡(jiǎn)述其發(fā)展趨勢(shì)，目前的軍事機(jī)器人的技術(shù)和軍事標(biāo)準(zhǔn)都是以“人為干預(yù)”為前提，即人類仍然是最終的軍事決策者。但現(xiàn)如今，世界各地的主要軍隊(duì)正聲勢(shì)浩大地投資相關(guān)研究，發(fā)展和部署自主武器系統(tǒng)。傳統(tǒng)軍事強(qiáng)國(guó)在自主武器系統(tǒng)上已經(jīng)競(jìng)相掀起研發(fā)、應(yīng)用自主武器系統(tǒng)的軍備競(jìng)賽。目前以色列的閉環(huán)邊界防御系統(tǒng)就是借助人工智能進(jìn)行監(jiān)視，該系統(tǒng)無(wú)須人類操控，便可自行操控攻擊對(duì)象與攻擊時(shí)間。此外，由于自主武器系統(tǒng)缺少明確的國(guó)際規(guī)則和有效監(jiān)管，僅停留在《特定常規(guī)武器公約》會(huì)議的研討中，且逐步進(jìn)入了非國(guó)際行為體的視野，勢(shì)必加重國(guó)際安全的潛在威脅。在此基礎(chǔ)上考慮國(guó)際人權(quán)法和國(guó)際人道法的適用，應(yīng)明確武裝沖突中使用自主武器系統(tǒng)同時(shí)受到兩者的管轄，且前者在兩個(gè)法律體系直接沖突的情況下優(yōu)于后者。一方面，武裝沖突中的某些情況可能只符合國(guó)際人道法的事項(xiàng)，另一些可能只涉及國(guó)際人權(quán)法，還有一些則可能涉及國(guó)際法的兩個(gè)交叉領(lǐng)域。另一方面，在武裝沖突中，國(guó)際人權(quán)法和國(guó)際人道法的義務(wù)可以同時(shí)存在，不僅是因?yàn)閲?guó)際法院的咨詢意見(jiàn)支持這一觀點(diǎn)，還因?yàn)閲?guó)際人權(quán)法和國(guó)際人道法有一個(gè)共同的目的，即最大限度地保護(hù)個(gè)人。
具體來(lái)說(shuō)，國(guó)際人權(quán)法可能在三種情況下適用于自主武器系統(tǒng)：一是武裝沖突中，人權(quán)法在武裝沖突中使用武力問(wèn)題上與國(guó)際人道法互補(bǔ)，其重點(diǎn)始終是使沖突雙方在武裝沖突中都能保有生命權(quán)和尊嚴(yán)權(quán)等人權(quán)，盡管還會(huì)涉及自由權(quán)和人身安全權(quán)、免受非人道待遇權(quán)、獲得公正審判權(quán)等。二是反恐和其他不構(gòu)成武裝沖突處境下的行動(dòng)。在未達(dá)到武裝沖突標(biāo)桿的處境中，對(duì)自主武器系統(tǒng)的使用要求應(yīng)僅由人權(quán)法進(jìn)行監(jiān)管，而非適用國(guó)際人道法。三是在國(guó)內(nèi)執(zhí)法中，如果技術(shù)成熟和普遍之后，國(guó)家執(zhí)法官員也可能在某個(gè)時(shí)間決定使用致命或致命性較低武器的自主武器系統(tǒng)。在這種情況下，使用武力需要人權(quán)法管轄。
就國(guó)際人道法適用于自主武器系統(tǒng)問(wèn)題，該法作為維護(hù)國(guó)際和平、尊重人道的重要保障，其確定的區(qū)分原則、比例原則等均已得到國(guó)際社會(huì)的認(rèn)可，因此在國(guó)際人道法的基礎(chǔ)上，自主武器只有滿足其主要原則才可能被允許應(yīng)用。當(dāng)前自主武器的研發(fā)與使用極有可能與現(xiàn)行國(guó)際人道法產(chǎn)生沖突，而國(guó)際上對(duì)此問(wèn)題的討論主要集中在三方面：一是其是否滿足區(qū)分原則，即區(qū)分平民與軍事目標(biāo)；二是其是否滿足比例原則，即相比其與其軍事利益，最大限度限制其為平民帶來(lái)的附帶傷亡；三是是否滿足“馬爾頓斯條款”(Martens Clause)，即遵守“人道原則”與“公眾良心”。
三、自主武器系統(tǒng)對(duì)人權(quán)與人道的挑戰(zhàn)
自主武器與人工智能技術(shù)發(fā)展迅猛，給國(guó)際社會(huì)的和平以及平穩(wěn)發(fā)展帶來(lái)了巨大的挑戰(zhàn)。雖然自主武器系統(tǒng)存在技術(shù)優(yōu)勢(shì)，各國(guó)通過(guò)提升自主攻擊目標(biāo)的精度和有效性即可掌握戰(zhàn)場(chǎng)上的主動(dòng)，但素有“機(jī)器人殺手”之稱的完全自主武器系統(tǒng)，很難保證其不會(huì)侵犯生命權(quán)、尊嚴(yán)權(quán)等人權(quán)以至違反國(guó)際人權(quán)法。關(guān)于對(duì)人道的挑戰(zhàn)，由于只有滿足國(guó)際人道法主要原則才可能被允許應(yīng)用，所以極有可能與現(xiàn)行國(guó)際人道法產(chǎn)生沖突。人類的戰(zhàn)爭(zhēng)既昂貴又血腥，用機(jī)器人取代大量的地面作戰(zhàn)車輛和其他武器，看似既可以節(jié)省開(kāi)支，又能夠避免讓傷亡問(wèn)題影響政治決策。但當(dāng)自主武器系統(tǒng)能夠自行決定是否攻擊人的時(shí)候，作戰(zhàn)方式就與傳統(tǒng)作戰(zhàn)形式不再相同，其也完全可能像人們對(duì)待機(jī)器一樣對(duì)人類的生死存亡漠然置之，歸納起來(lái)，其很可能同時(shí)具有侵犯性、濫殺性、殘酷性、失控性等幾個(gè)特征，具體分析這些特征對(duì)人權(quán)與人道的挑戰(zhàn)更印證出自主武器系統(tǒng)存在明顯的反人類特征和巨大人道主義風(fēng)險(xiǎn)，倘若自主武器系統(tǒng)被恐怖主義組織所控制，無(wú)辜百姓的生命安全將會(huì)遭受更大的威脅。
(一)侵犯性的挑戰(zhàn)
自主武器系統(tǒng)侵犯性的挑戰(zhàn)主要體現(xiàn)在國(guó)際人權(quán)法中，因?yàn)閷?duì)人使用武力的決定是由程序作出而不是人作出的行為，從本質(zhì)上侵犯了尊嚴(yán)權(quán)。在人與機(jī)器的關(guān)系中，所有機(jī)器都由人類制造，并為其生存和發(fā)展服務(wù)。即使機(jī)器發(fā)展到極為高級(jí)的自主智能階段，能夠認(rèn)知、思考，會(huì)自我生成指令，甚至自我修復(fù)、自行繁衍，它與人類的關(guān)系歸根結(jié)底還是依附和被依附的關(guān)系。如果按照自主武器系統(tǒng)中的算法，讓人類處于一個(gè)被無(wú)人性的機(jī)器決定的位置，那將意味著死亡會(huì)被簡(jiǎn)單地視為一種目標(biāo)，人類將不再具有完整且獨(dú)立的地位。換而言之，在自主武器系統(tǒng)使用中，“人”實(shí)際上被簡(jiǎn)化為數(shù)字0和1，而不再是有內(nèi)在尊嚴(yán)的人。
《世界人權(quán)宣言》規(guī)定：“人人生而自由，在尊嚴(yán)和權(quán)利上一律平等。”《公民權(quán)利和政治權(quán)利國(guó)際公約》提到：“按照聯(lián)合國(guó)憲章所宣布的原則，對(duì)人類家庭所有成員的固有尊嚴(yán)及其平等的和不移的權(quán)利的承認(rèn)，乃是世界自由、正義與和平的基礎(chǔ)，確認(rèn)這些權(quán)利是源于人身的固有尊嚴(yán)。”雖然公約中沒(méi)有將尊嚴(yán)權(quán)列為一項(xiàng)實(shí)質(zhì)性權(quán)利，但其與其他權(quán)利交織在一起保護(hù)，人類尊嚴(yán)是國(guó)際人權(quán)法重要目標(biāo)。尊嚴(yán)概念的基礎(chǔ)是強(qiáng)調(diào)每個(gè)人的價(jià)值是無(wú)限的，康德的尊嚴(yán)觀念賦予每個(gè)人以獨(dú)立的、獨(dú)特的、不可替代的價(jià)值，而侮辱人的行為就是無(wú)端地降低這種價(jià)值。每個(gè)人都有一個(gè)不能被侵犯的內(nèi)在核心，即使這種侵犯對(duì)公共利益有益，因?yàn)檫@意味著他們被用作工具。但一個(gè)沒(méi)有人性的機(jī)器無(wú)法理解對(duì)人類使用武力的意義，也無(wú)法公正地對(duì)待這一決定的嚴(yán)重性。.計(jì)算機(jī)代碼尚不能準(zhǔn)確地描述人類生活的復(fù)雜性和豐富性，以及日常關(guān)于生活的決定，所以機(jī)器人更不能預(yù)先設(shè)定程序，以適當(dāng)?shù)姆绞綄?duì)真實(shí)生活和真實(shí)的人所提供的無(wú)窮無(wú)盡的情景作出反應(yīng)。此外，程序預(yù)設(shè)還存在另一個(gè)問(wèn)題，即由算法決定自主武器系統(tǒng)何時(shí)被允許釋放武力，必然導(dǎo)致其建立在假設(shè)的基礎(chǔ)上。換而言之，規(guī)則制定者和程序設(shè)計(jì)人員僅基于設(shè)想的理論可能性，而非在真實(shí)而緊迫的情況下提前作出了致命性決策。但在抽象的處境下又很難提前預(yù)想每一個(gè)深遠(yuǎn)又準(zhǔn)確的決定。所以，脫離人類控制的完全自主武器系統(tǒng)侵犯了那些被使用武力的人的尊嚴(yán)權(quán)。如果計(jì)算機(jī)的操作處于仍然受人類控制的低層次，此時(shí)機(jī)器仍然是人類手中的工具，人們用它來(lái)增強(qiáng)自己的自主權(quán)，尊嚴(yán)權(quán)可能不會(huì)受到威脅。因?yàn)槭褂梦淞Φ臎Q定不是由完全自主武器系統(tǒng)作出的，而是由人作出的，則是以考慮人權(quán)的方式對(duì)待被攻擊的人。然而，使用武力的決定被自主的武器所接管，并且它們不再是人類手中的工具，則構(gòu)成了對(duì)國(guó)際人權(quán)法的嚴(yán)重挑戰(zhàn)。
(二)濫殺性的挑戰(zhàn)
自主武器系統(tǒng)濫殺性的挑戰(zhàn)主要體現(xiàn)在國(guó)際人道法中，雖然殺的行為導(dǎo)致受害者失去生命，但國(guó)際法學(xué)上，武器本身并不因?yàn)槠渲旅赃€是非致命性而受到禁止。濫殺側(cè)重于指不分條件、場(chǎng)合和對(duì)象，自動(dòng)執(zhí)行殺傷任務(wù)，這明顯違背了國(guó)際人道法中的區(qū)分原則。在《關(guān)于以核武器相威脅或使用核武器是否合法的咨詢意見(jiàn)》(1996年)中，國(guó)際法院把區(qū)分原則視為國(guó)際人道法的“首要原則”。作為具有自主攻擊能力的新型武器，且其可能造成與生物病毒類似的濫殺濫傷擴(kuò)散，自主武器系統(tǒng)應(yīng)該被視為符合區(qū)分原則的武器。
《日內(nèi)瓦公約第一附加議定書(shū)》第48、51、52條均對(duì)區(qū)分原則作出規(guī)定，明確應(yīng)該對(duì)平民與戰(zhàn)斗員加以區(qū)分，因此無(wú)論是有意還是失誤對(duì)平民造成傷害均屬于違反國(guó)際人道法的行為。針對(duì)區(qū)分原則，不同學(xué)者對(duì)其持不同建議，信任自主武器分析與識(shí)別能力的學(xué)者認(rèn)為其可以更好地區(qū)分平民與戰(zhàn)斗員，降低對(duì)平民的傷害，其他部分學(xué)者則認(rèn)為戰(zhàn)場(chǎng)與人相較于編寫(xiě)的程序要更為復(fù)雜，自主武器無(wú)法處理這種復(fù)雜情景，此外其也面臨一系列倫理道德問(wèn)題。對(duì)人而言，人的主要作戰(zhàn)對(duì)手就是人，因此法律要求的區(qū)分也相對(duì)“簡(jiǎn)單”即區(qū)分?jǐn)撤杰娛履繕?biāo)和平民居民、民用物體。但對(duì)于自主武器系統(tǒng)，除要進(jìn)行軍事目標(biāo)與平民目標(biāo)這一同人類士兵相一致的區(qū)分外，還要增加一層更為關(guān)鍵的區(qū)分，即應(yīng)區(qū)分對(duì)方的屬性與意圖，比如其是參與敵對(duì)行動(dòng)的平民或是進(jìn)行武裝自衛(wèi)的平民以及其是否屬于具有投降意圖的戰(zhàn)斗員等，對(duì)于自主武器系統(tǒng)可否正確進(jìn)行更深層次的區(qū)分，部分學(xué)者對(duì)其持懷疑態(tài)度。例如，當(dāng)自主武器系統(tǒng)面對(duì)已經(jīng)投降的敵方人員，由于其指令要求，機(jī)器士兵難以做到“刀下留人”的人權(quán)保護(hù)規(guī)則程序，難以立即停止攻擊、不殺害放棄抵抗的人，也難以給予傷者、病者、醫(yī)護(hù)與救援人員等應(yīng)受特別保護(hù)群體以尊重與保護(hù)。戰(zhàn)場(chǎng)環(huán)境遠(yuǎn)比自主武器預(yù)設(shè)程序復(fù)雜多變，當(dāng)今武裝沖突中最為典型的沖突場(chǎng)景是“非對(duì)稱戰(zhàn)爭(zhēng)”和“城市戰(zhàn)爭(zhēng)”環(huán)境，因此通過(guò)算法進(jìn)行精準(zhǔn)區(qū)分軍民且同時(shí)不對(duì)平民出現(xiàn)附帶傷亡，人工智能在此方面可能還未合格。
(三)殘酷性的挑戰(zhàn)
自主武器系統(tǒng)殘酷性的挑戰(zhàn)同時(shí)體現(xiàn)在國(guó)際人權(quán)法與國(guó)際人道法中，由于其對(duì)人使用武力的行為不能被人類干預(yù)，回避了人類生理與情感弱點(diǎn)的自主武器系統(tǒng)便具有了殘酷無(wú)情的特質(zhì)。自主武器系統(tǒng)殘酷性對(duì)國(guó)際人權(quán)法的挑戰(zhàn)包括但不限于對(duì)生命權(quán)、尊嚴(yán)權(quán)的挑戰(zhàn)。無(wú)論是人類還是機(jī)器控制武力，都會(huì)有針對(duì)錯(cuò)誤的人或過(guò)度使用武力的情況，但是當(dāng)自主武器系統(tǒng)出錯(cuò)時(shí)，會(huì)對(duì)人權(quán)造成難以逆轉(zhuǎn)的危害。
殘酷性的挑戰(zhàn)可以通過(guò)國(guó)際人道法中的馬爾頓斯條款更清晰地闡釋。作為國(guó)際人道法的重要原則之一，馬爾頓斯條款是俄羅斯國(guó)際法學(xué)家馬爾頓斯在1899年第一次海牙和平會(huì)議上提出的，且在《陸戰(zhàn)法規(guī)和慣例公約》序言中就已得到確認(rèn)。該條款認(rèn)為武器系統(tǒng)應(yīng)符合國(guó)際習(xí)慣、人道原則與公眾良心的要求，具體而言，馬爾頓斯條款規(guī)定：“凡遇有本條文中未規(guī)定之事項(xiàng)，則有種種國(guó)際法之原則，從文明人民之慣例上，從人道之原則上，自良心之要求上，發(fā)生事變之兩交戰(zhàn)國(guó)與其人民之間，應(yīng)在此原則之保護(hù)與支配下。”其填補(bǔ)了國(guó)際法沒(méi)有規(guī)定的情形，使得國(guó)際人道法的應(yīng)用不受其明文公約的限制。伴隨自主武器系統(tǒng)自主性的不斷提升與人工智能技術(shù)的不斷發(fā)展，在未來(lái)極有可能將擊打目標(biāo)的決策交由自主武器系統(tǒng)，即機(jī)器會(huì)掌控人類的生殺大權(quán)。目前國(guó)際人道法并未禁止自主武器系統(tǒng)，且僅有在該系統(tǒng)觸犯戰(zhàn)爭(zhēng)罪或人道罪后其才會(huì)被懲處，從國(guó)際人道法精神分析，自主武器系統(tǒng)缺乏合格戰(zhàn)斗人員所需的同理心和道德品質(zhì)，可能會(huì)為人類帶來(lái)未知的危險(xiǎn)與威脅。
(四)失控性的挑戰(zhàn)
自主武器系統(tǒng)失控性的挑戰(zhàn)同時(shí)體現(xiàn)在國(guó)際人權(quán)法和國(guó)際人道法中，失控性主要源于武器系統(tǒng)的“自主性”，完全自主武器系統(tǒng)不同于半自主武器系統(tǒng)、有監(jiān)督的自主武器系統(tǒng)、將人置于其OODA循環(huán)之外，其可執(zhí)行更高層次的指令與任務(wù)，可以獨(dú)立于人的操作而自主選擇目標(biāo)并決定是否進(jìn)行打擊。這不僅會(huì)導(dǎo)致違背國(guó)際人道法中的比例原則，也會(huì)構(gòu)成對(duì)生命權(quán)的侵犯。
一方面，戰(zhàn)爭(zhēng)法規(guī)定為防止戰(zhàn)爭(zhēng)造成過(guò)度的平民生命傷亡和財(cái)產(chǎn)損害，作戰(zhàn)手段和方法的使用應(yīng)與預(yù)期的、具體的、直接的軍事利益成比例，禁止過(guò)度的攻擊和不必要的傷害。《日內(nèi)瓦公約第一附加議定書(shū)》第51條第5款第2項(xiàng)以及第57條第2款第1項(xiàng)也均對(duì)國(guó)際人道法中的比例要求作出規(guī)定。目前自主武器的技術(shù)遠(yuǎn)低于長(zhǎng)期訓(xùn)練的軍人，還無(wú)法達(dá)到人類獨(dú)有的判斷力，因此對(duì)于其是否符合比例原則還存有爭(zhēng)議。在比例原則下，自主武器系統(tǒng)需要對(duì)各種要素進(jìn)行評(píng)估量化，并與預(yù)期軍事利益進(jìn)行對(duì)比作出選擇，因此相較于區(qū)分原則，其技術(shù)要求更高，如何衡量生命的價(jià)值也會(huì)是其技術(shù)上的難題之一。此外由于機(jī)器人與人在個(gè)體能力上的巨大差異，機(jī)器士兵與人的對(duì)抗應(yīng)當(dāng)存在某種意義上的不平等，即在作戰(zhàn)方法和手段的使用上，應(yīng)當(dāng)盡力避免造成人的傷亡。如果機(jī)器士兵使用泰瑟槍、麻醉彈或纖維網(wǎng)等就能解除敵方人員的武裝，那么發(fā)射自動(dòng)尋的靈巧炸彈、激光束或電磁炮彈從肉體上消滅人類就是非法行為。如果指令程序要求徹底消滅特定的人，那么擁有“一槍制敵”能力的機(jī)器士兵采取將人折磨致死的方法顯然不能被法律所認(rèn)可。比例原則的核心是評(píng)估軍事必要性，確保預(yù)期實(shí)現(xiàn)的軍事利益不應(yīng)顯著超出造成的附帶損害，因此人道保護(hù)與軍事必要性之間的衡量與取舍是價(jià)值判斷，不是僅僅通過(guò)分析就能作出的決定，這恰恰是自主武器難以完成的任務(wù)，此外其可能還需在多個(gè)軍事目標(biāo)選其一時(shí)做到最小化平民附帶損害，而該項(xiàng)技術(shù)需要自主武器具備道德價(jià)值判斷能力。
另一方面，可以從問(wèn)責(zé)制度的維度去思考自主武器系統(tǒng)對(duì)生命權(quán)的挑戰(zhàn)，當(dāng)然這同樣適用于相關(guān)權(quán)利?！妒澜缛藱?quán)宣言》明確規(guī)定：“人人有權(quán)享有生命、自由和人身安全。”雖然《世界人權(quán)宣言》不具備國(guó)際法約束力，卻是世界人權(quán)準(zhǔn)則的綱領(lǐng)性文件?！豆駲?quán)利和政治權(quán)利國(guó)際公約》規(guī)定：“人人有固有的生命權(quán)。這個(gè)權(quán)利應(yīng)受法律保護(hù)，不得任意剝奪任何人的生命”，這也是國(guó)家必須承擔(dān)的尊重和保障生命權(quán)的義務(wù)。生命權(quán)有兩個(gè)組成部分，一是防止任意損害生命，二是發(fā)生這種情況時(shí)應(yīng)負(fù)責(zé)任。如果侵害者造成生命損失，哪怕是包括未盡應(yīng)有的努力加以防止，即構(gòu)成對(duì)生命權(quán)的侵犯。這意味著對(duì)于非法的死亡缺乏問(wèn)責(zé)制，也構(gòu)成侵犯生命權(quán)。如果人力對(duì)武力釋放控制不足，使用自主武器系統(tǒng)可能會(huì)造成問(wèn)責(zé)真空，因?yàn)閱?wèn)責(zé)是以控制為前提的。因此，在人權(quán)法背景下自主武器系統(tǒng)存在嚴(yán)重挑戰(zhàn)，因?yàn)槿绻麤](méi)有有意義的人類控制，機(jī)器人可能不具備按照人權(quán)法的要求使用武力或保護(hù)生命和身體安全的技術(shù)能力。即使國(guó)家或公司等非個(gè)人的機(jī)構(gòu)可能會(huì)被追究責(zé)任，且不得不支付賠償或改變其做法，但由于機(jī)器自主性的增強(qiáng)，人類在決策中扮演了次要的角色。因?yàn)樗麄內(nèi)狈刂?，將很難追究到他們個(gè)人的責(zé)任。首先，優(yōu)秀的算法工程師也難以預(yù)測(cè)其復(fù)雜的決策，如果沒(méi)有目標(biāo)決策的透明度，那么確定錯(cuò)誤攻擊在哪發(fā)生、如何發(fā)生，以及如何防止類似錯(cuò)誤再次發(fā)生，將是一項(xiàng)極其困難的任務(wù)。其次，自主武器系統(tǒng)作為人工智能系統(tǒng)無(wú)法全面把握設(shè)計(jì)者指令的真正含義或者缺乏某種意義的算法描述。再次，當(dāng)機(jī)器進(jìn)化時(shí)，即與環(huán)境交互過(guò)程中，通過(guò)自主學(xué)習(xí)，實(shí)現(xiàn)功能擴(kuò)展和能力進(jìn)化且超出人的預(yù)測(cè)時(shí)，責(zé)任歸于指揮官、技術(shù)人員、生產(chǎn)者還是機(jī)器本身更是難以判別。最后，《公民權(quán)利和政治權(quán)利國(guó)際公約》規(guī)定：“人人有權(quán)享有人身自由和安全。”這意味著與生命權(quán)相似，人身自由和安全等權(quán)利也可能因?yàn)槲茨艽_定問(wèn)責(zé)制而受到侵犯。
四、應(yīng)對(duì)自主武器系統(tǒng)挑戰(zhàn)的中國(guó)視角
紅十字國(guó)際委員會(huì)和《特定常規(guī)武器公約》締約國(guó)曾就自主武器系統(tǒng)相關(guān)問(wèn)題召開(kāi)一系列會(huì)議，并達(dá)成部分基本共識(shí)，希望可以對(duì)自主武器系統(tǒng)的自主性程度進(jìn)行規(guī)定。隨著中國(guó)國(guó)際地位與綜合國(guó)力的不斷提升，中國(guó)現(xiàn)有制度規(guī)范與基本立場(chǎng)已逐步確立，在此基礎(chǔ)上中國(guó)理當(dāng)積極思考應(yīng)對(duì)策略，推進(jìn)國(guó)際立法研究、完善法律審查等，降低此類武器給國(guó)際社會(huì)和平以及平民安全帶來(lái)的威脅。而且，隨著中國(guó)在國(guó)際社會(huì)話語(yǔ)權(quán)的逐漸加重，中國(guó)進(jìn)行的規(guī)范嘗試更有可能吸引國(guó)際社會(huì)的目光，對(duì)實(shí)現(xiàn)自主武器系統(tǒng)在遵循國(guó)際人權(quán)法和國(guó)際人道法的基礎(chǔ)上穩(wěn)定發(fā)展產(chǎn)生積極影響。
(一)中國(guó)現(xiàn)有制度規(guī)范與基本立場(chǎng)
2017年7月，國(guó)務(wù)院公開(kāi)發(fā)布《新一代人工智能發(fā)展規(guī)劃》，明確人工智能發(fā)展的不確定性帶來(lái)新挑戰(zhàn)，不僅可能沖擊法律與社會(huì)倫理，也會(huì)挑戰(zhàn)國(guó)際關(guān)系準(zhǔn)則，并就此首次提出“初步建立人工智能法律法規(guī)、倫理規(guī)范和政策體系，形成人工智能安全評(píng)估和管控能力”的戰(zhàn)略目標(biāo)。2019年6月與2021年9月，科技部先后發(fā)布《新一代人工智能治理原則——發(fā)展負(fù)責(zé)任的人工智能》《新一代人工智能倫理規(guī)范》等文件，前者強(qiáng)調(diào)了和諧友好、公平公正、包容共享、尊重隱私、安全可控、共擔(dān)責(zé)任、開(kāi)放協(xié)作、敏捷治理等八條治理原則，后者在提出增進(jìn)人類福祉、促進(jìn)公平公正、保護(hù)隱私安全、確?？煽乜尚?、強(qiáng)化責(zé)任擔(dān)當(dāng)、提升倫理素養(yǎng)等六項(xiàng)基本倫理要求的基礎(chǔ)上，明確了人工智能管理、研發(fā)、供應(yīng)、使用等特定活動(dòng)的18項(xiàng)具體倫理要求，制度上更加明確、具體、規(guī)范。2021年12月，外交部公布中國(guó)首次就規(guī)范人工智能軍事應(yīng)用問(wèn)題提出的倡議，即中國(guó)向聯(lián)合國(guó)《特定常規(guī)武器公約》第六次審議大會(huì)提交的《中國(guó)關(guān)于規(guī)范人工智能軍事應(yīng)用的立場(chǎng)文件》，其主張各國(guó)應(yīng)確保新武器及其作戰(zhàn)手段符合國(guó)際人道法和其他適用的國(guó)際法，不能利用人工智能技術(shù)優(yōu)勢(shì)危害他國(guó)主權(quán)和領(lǐng)土安全，應(yīng)建立普遍參與的國(guó)際機(jī)制，推動(dòng)形成具有廣泛共識(shí)的人工智能治理框架和標(biāo)準(zhǔn)規(guī)范。2022年9月，外交部發(fā)布《中國(guó)出席第77屆聯(lián)合國(guó)大會(huì)立場(chǎng)文件》，再次強(qiáng)調(diào)關(guān)于人工智能安全治理尤其是人工智能軍事應(yīng)用的規(guī)范，應(yīng)堅(jiān)持多邊主義、開(kāi)放包容原則，通過(guò)對(duì)話與合作，推動(dòng)形成具有廣泛共識(shí)的人工智能治理框架和標(biāo)準(zhǔn)規(guī)范。
除了國(guó)內(nèi)公開(kāi)發(fā)布的政策與立場(chǎng)，中國(guó)同時(shí)參與2014年由《特定常規(guī)武器條約》締約國(guó)召開(kāi)討論致命性自主武器系統(tǒng)的法律、道義、技術(shù)和軍事應(yīng)用方面問(wèn)題的年度會(huì)議以及2017年基于前者由非正式的“專家會(huì)議”升級(jí)為正式的政府專家組(Group of Government Experts，簡(jiǎn)稱GGE)會(huì)議，積極對(duì)外表達(dá)中國(guó)立場(chǎng)。以最近一次政府間專家組會(huì)議為例，2022年7月，中方提交《中國(guó)關(guān)于“致命性自主武器系統(tǒng)”問(wèn)題的工作文件》，重申了2021年12月的立場(chǎng)文件，討論了致命性自主武器的定義和范圍、“可接受的”與“不可接受的”自主武器系統(tǒng)的區(qū)分，并“從維護(hù)人類共同安全和尊嚴(yán)出發(fā)，有效管控人工智能引發(fā)的安全、法律、倫理、人道主義等風(fēng)險(xiǎn)”的人權(quán)和人道視角出發(fā)提出規(guī)范人工智能軍事應(yīng)用。以最近一次《特定常規(guī)武器公約》締約國(guó)會(huì)議為例，2022年11月，中方提交《中國(guó)關(guān)于加強(qiáng)人工智能倫理治理的立場(chǎng)文件》，再次重申了2021年12月的立場(chǎng)文件，并從人工智能治理應(yīng)堅(jiān)持倫理先行、加強(qiáng)自我約束、提倡負(fù)責(zé)任使用、鼓勵(lì)國(guó)際合作四方面提出主張，積極倡導(dǎo)“以人為本”“智能向善”原則，主張?jiān)鲞M(jìn)各國(guó)理解互信，確保人工智能技術(shù)發(fā)展安全、可靠、可控，在人工智能領(lǐng)域推動(dòng)構(gòu)建人類命運(yùn)共同體。
(二)自主武器系統(tǒng)挑戰(zhàn)的中國(guó)應(yīng)對(duì)
當(dāng)前各國(guó)政府根據(jù)《特定常規(guī)武器公約》達(dá)成部分基本共識(shí)。根據(jù)近幾年的政府專家組會(huì)議報(bào)告，已逐步確立一些指導(dǎo)原則，主要包括：(1)確保在《特定常規(guī)武器公約》框架內(nèi)開(kāi)發(fā)、部署和使用任何新武器系統(tǒng)，必須確定每種情況下國(guó)際法是否禁止該武器使用；(2)應(yīng)在《特定常規(guī)武器公約》的目標(biāo)和宗旨范圍內(nèi)，力求致命自主武器系統(tǒng)在軍事必要性和人道主義之間取得平衡；(3)國(guó)際人道法及其原則適用于致命自主武器系統(tǒng)的開(kāi)發(fā)和使用，包括攻擊中的區(qū)分原則、比例原則等；(4)在《特定常規(guī)武器公約》范圍內(nèi)討論和采取的任何政策措施不應(yīng)將自主武器系統(tǒng)領(lǐng)域新興技術(shù)擬人化，也不應(yīng)妨礙智能自主技術(shù)在和平利用方面取得進(jìn)展；(5)國(guó)際人道法的義務(wù)屬于國(guó)家、武裝沖突各方以及個(gè)人而非機(jī)器，在武器系統(tǒng)整個(gè)生命周期中保留對(duì)使用系統(tǒng)作出決定的人員責(zé)任；(5)人機(jī)交互應(yīng)在武器生命周期的各階段實(shí)施，以確保國(guó)際法在致命自主武器系統(tǒng)領(lǐng)域適用，其中人類的判斷至關(guān)重要；(6)在涉及《特定常規(guī)武器公約》和其他國(guó)際條約未涵蓋的自主武器系統(tǒng)領(lǐng)域新興技術(shù)的情況下，平民和戰(zhàn)斗員應(yīng)始終受到習(xí)慣國(guó)際法原則的保護(hù)，從人道主義和公眾良知的要求出發(fā)；(7)國(guó)家層面對(duì)新武器、新作戰(zhàn)手段和方法的開(kāi)發(fā)、獲取、使用進(jìn)行法律審查是一項(xiàng)有效方法，各國(guó)可以自由決定法律審查的方式等。
然而即使存在一定共識(shí)，在自主武器系統(tǒng)領(lǐng)域涉及具體的國(guó)際法問(wèn)題上仍留有空白，例如對(duì)于自主武器系統(tǒng)的法律地位、對(duì)于自主武器的規(guī)制等，締約國(guó)各方仍爭(zhēng)議不斷，尤其是相關(guān)公約與法律規(guī)則的制定等進(jìn)展緩慢。分析我國(guó)現(xiàn)有制度規(guī)則，同樣由于技術(shù)發(fā)展的迅捷性和法律的滯后性，缺少該領(lǐng)域的成文法與法律實(shí)踐。而且相關(guān)共識(shí)表明，根據(jù)《日內(nèi)瓦公約第一附加議定書(shū)》締約方的法律義務(wù)，各國(guó)政府在對(duì)武器進(jìn)行法律審查時(shí)，必須密切關(guān)注自主武器系統(tǒng)領(lǐng)域新興技術(shù)的特殊性。綜上，為應(yīng)對(duì)該領(lǐng)域的挑戰(zhàn)，參與自主武器系統(tǒng)法律規(guī)則構(gòu)建思考刻不容緩，此外我國(guó)可以從立法研究、審查問(wèn)責(zé)等方面考慮自主武器系統(tǒng)的未來(lái)發(fā)展。
一是積極參與國(guó)際立法構(gòu)建，促進(jìn)多邊合作。在自主武器系統(tǒng)領(lǐng)域，我國(guó)應(yīng)與相關(guān)國(guó)際組織和有關(guān)國(guó)家開(kāi)展交流、對(duì)話，在相對(duì)平和的社會(huì)狀態(tài)下，積極推動(dòng)國(guó)際立法構(gòu)建，例如在聯(lián)合國(guó)《特定常規(guī)武器公約》機(jī)制下達(dá)成有關(guān)自主武器系統(tǒng)的議定書(shū)。當(dāng)自主武器系統(tǒng)用于戰(zhàn)爭(zhēng)時(shí)，需要像任何其他領(lǐng)域的活動(dòng)一樣，受法律管轄，因?yàn)榛谝?guī)則的國(guó)際秩序分外重要。此外，當(dāng)代國(guó)際法治環(huán)境下，應(yīng)對(duì)自主武器系統(tǒng)對(duì)國(guó)際人權(quán)法和國(guó)際人道法的挑戰(zhàn)，應(yīng)秉持《聯(lián)合國(guó)憲章》精神，在堅(jiān)持尊重國(guó)際主權(quán)，尊重各國(guó)平等參與自主武器系統(tǒng)治理等權(quán)利的基礎(chǔ)上，協(xié)調(diào)各國(guó)達(dá)成應(yīng)對(duì)自主武器系統(tǒng)帶來(lái)挑戰(zhàn)的理念認(rèn)同、制度協(xié)同、行動(dòng)共同。善于運(yùn)用“非武力”而非“武力”，采取多邊參與、多方參與等多種方式建立完善全球自主武器系統(tǒng)治理體系。
二是完善法律審查問(wèn)責(zé)機(jī)制。很多對(duì)自主武器系統(tǒng)的擔(dān)憂是基于罪行的歸責(zé)問(wèn)題。從國(guó)際刑事審判實(shí)踐來(lái)看，被告人主觀上的犯罪意圖是必不可少的構(gòu)成要件。有學(xué)者認(rèn)為，在國(guó)際法上，追究戰(zhàn)爭(zhēng)罪犯的國(guó)際責(zé)任本來(lái)就是一個(gè)復(fù)雜的問(wèn)題。而在自主武器系統(tǒng)中，除了會(huì)繼續(xù)像傳統(tǒng)武裝沖突那樣，涉及戰(zhàn)斗員及其上級(jí)指揮官的責(zé)任，還將會(huì)涉及自主武器的設(shè)計(jì)者、生產(chǎn)商和銷售商的責(zé)任。當(dāng)然，取得、列裝并部署自主武器系統(tǒng)的國(guó)家，也應(yīng)當(dāng)承擔(dān)相應(yīng)的法律責(zé)任。
在國(guó)內(nèi)層面，根據(jù)《日內(nèi)瓦公約第一附加議定書(shū)》第36條的規(guī)定，一個(gè)國(guó)家具有自主審查新武器、作戰(zhàn)手段或方法的義務(wù)，以確定是否符合國(guó)際規(guī)定。我國(guó)可據(jù)此構(gòu)建具有中國(guó)特色的武器審查模式與問(wèn)責(zé)機(jī)制，如由國(guó)務(wù)院和中央軍事委員會(huì)聯(lián)合制定《中華人民共和國(guó)武器法律審查條例》。隨著自主武器系統(tǒng)技術(shù)的發(fā)展，其所造成的破壞會(huì)更加嚴(yán)重，更需要法律對(duì)其形成約束。根據(jù)我國(guó)實(shí)踐過(guò)程中的規(guī)制經(jīng)驗(yàn)不斷規(guī)范我國(guó)在自主武器系統(tǒng)的研發(fā)與使用，既體現(xiàn)我國(guó)對(duì)于法律的尊重，也突顯我國(guó)在國(guó)際社會(huì)上的大國(guó)風(fēng)范。
在國(guó)際層面，根據(jù)中立技術(shù)原則，應(yīng)用國(guó)際人權(quán)法和國(guó)際人道法可以被理解為采用一種特定的戰(zhàn)略框架來(lái)管理新興的軍事技術(shù)，即可直接通過(guò)確定具體實(shí)施或使用這項(xiàng)技術(shù)是否會(huì)與國(guó)際人權(quán)法和國(guó)際人道法的基本原則相沖突來(lái)對(duì)其進(jìn)行管制。自主武器系統(tǒng)的研制有助于提高一國(guó)政治經(jīng)濟(jì)地位，制衡競(jìng)爭(zhēng)對(duì)手，形成國(guó)防優(yōu)勢(shì)，但各國(guó)對(duì)于該技術(shù)的研發(fā)均處于保密狀態(tài)，難以形成自主審查機(jī)制，因此需要獨(dú)立第三方對(duì)其進(jìn)行監(jiān)管控制。各國(guó)需主動(dòng)向該機(jī)構(gòu)定期匯報(bào)其自主武器系統(tǒng)核心程序的研發(fā)進(jìn)程與重大突破，該機(jī)構(gòu)也可對(duì)其進(jìn)行臨時(shí)抽檢。
(三)自主武器系統(tǒng)挑戰(zhàn)法律應(yīng)對(duì)的思考啟示
在自主武器系統(tǒng)領(lǐng)域，我國(guó)也應(yīng)認(rèn)真對(duì)待與合理應(yīng)用國(guó)際人權(quán)法和國(guó)際人道法，這不僅是一種低成本的明智選擇，而且有助于國(guó)家確立和強(qiáng)化其合法性，減輕其在發(fā)展進(jìn)程中遇到的阻力，拓展其在國(guó)際社會(huì)的認(rèn)可與支持度。現(xiàn)有自主武器系統(tǒng)已經(jīng)配備高速傳感系統(tǒng)，且可同時(shí)響應(yīng)多個(gè)輸入端的信號(hào)，對(duì)戰(zhàn)場(chǎng)進(jìn)行全面的實(shí)時(shí)分析監(jiān)控，消除“戰(zhàn)爭(zhēng)迷霧”。其自主性更是不同于自動(dòng)性，后者只能按照固定程序執(zhí)行重復(fù)操作與低級(jí)任務(wù)，但前者可執(zhí)行更高層次的指令與任務(wù)，使其可以獨(dú)立于人的操作而自主選擇目標(biāo)并決定是否進(jìn)行打擊。自主武器系統(tǒng)作為人工智能時(shí)代的產(chǎn)物，需保證中國(guó)在軍工行業(yè)快速發(fā)展的同時(shí)，不與“呵護(hù)人的生命、價(jià)值、尊嚴(yán)，實(shí)現(xiàn)人人享有人權(quán)，是人類社會(huì)的共同追求”的價(jià)值理念相背離。在這種現(xiàn)實(shí)挑戰(zhàn)下，我國(guó)應(yīng)將國(guó)際人權(quán)法和國(guó)際人道法作為思考的出發(fā)點(diǎn)，繼續(xù)多維度思考應(yīng)對(duì)措施，實(shí)現(xiàn)“預(yù)防性”保障人權(quán)和消除人道災(zāi)難的目的。
一是從國(guó)際人道法出發(fā)考慮有意義的人類控制。雖然有觀點(diǎn)認(rèn)為鼓勵(lì)自主武器系統(tǒng)的技術(shù)創(chuàng)新可以顯著降低對(duì)平民的附帶傷害，甚至對(duì)禁止自主武器系統(tǒng)的立法持反對(duì)意見(jiàn)，但大部分國(guó)家、學(xué)者都已就“有意義的人類控制”達(dá)成共識(shí)。“有意義的人類控制”(Meaningful Human Control)是2014年5月在日內(nèi)瓦舉辦的聯(lián)合國(guó)特定常規(guī)武器公約會(huì)議中針對(duì)自主武器系統(tǒng)所形成的新規(guī)范，可拆分為兩項(xiàng)要素“人類控制”與“有意義的”。首先，“人類控制”明確表明自主武器系統(tǒng)控制目標(biāo)和作出擊打決定的是其操作者，其符合基本的人道主義思想；其次，“有意義的”指由人類衡量各方面因素最終作出擊打決定，可以符合國(guó)際人道法相關(guān)法規(guī)。英國(guó)學(xué)者威廉·布斯比博士肯定了預(yù)防措施的重要性，并提出可以限制軍事行動(dòng)要素借以控制攻擊對(duì)象與附帶傷害。人類與自主武器系統(tǒng)的交互界面也可以為實(shí)現(xiàn)“有意義的人類控制”提供引導(dǎo)，例如直接生成可采取的有意義的行動(dòng)或執(zhí)行任務(wù)的實(shí)時(shí)成功率等。因此，應(yīng)明確界定“有意義的人類控制”的具體方式，并思考將“有意義的人類控制”融入相關(guān)法律，作為自主武器系統(tǒng)研制與使用中所必須遵守的法律規(guī)范。正如日內(nèi)瓦四公約共同第1條所規(guī)定的那樣，國(guó)家不僅自己要尊重國(guó)際人道法，而且要保證其他締約國(guó)尊重國(guó)際人道法。必須保留決定使用自主武器系統(tǒng)的人的責(zé)任，因?yàn)樨?zé)任不能轉(zhuǎn)移給機(jī)器，且應(yīng)該在武器系統(tǒng)的整個(gè)生命周期中加以考慮。事實(shí)上，禁止不受人類控制的武器不會(huì)對(duì)技術(shù)發(fā)展產(chǎn)生反作用。相反，需要充分利用技術(shù)進(jìn)步，推進(jìn)人道主義保護(hù)以及維護(hù)國(guó)際和平與安全的國(guó)際法。
二是從國(guó)際人權(quán)法出發(fā)考慮創(chuàng)設(shè)依附的人權(quán)底線。早在2012年人權(quán)觀察組織就已發(fā)表報(bào)告，表示各國(guó)需采取預(yù)防措施并抵制武裝沖突過(guò)程中完全自主武器系統(tǒng)的研發(fā)與使用。因此為消除人類最終被機(jī)器滅亡的一切可能，保證生命權(quán)、尊嚴(yán)權(quán)等基本人權(quán)，絕不能賦予機(jī)器人自主殺人的權(quán)力。如同適用于人的戰(zhàn)爭(zhēng)法則，我們要把“人類至上”作為適用于機(jī)器士兵法律的立法精神和作戰(zhàn)守則的核心要素，這也是自主武器系統(tǒng)使用中人權(quán)保障首要原則。對(duì)自主武器系統(tǒng)而言，指令模塊永不消失、永不刪改的“依附于人”的程序源代碼，可以考慮作為人類創(chuàng)設(shè)的人權(quán)底線，任何機(jī)器人不具有依附程序，都將失去存在的法律依據(jù)。此外，從武器審查的角度看，國(guó)際社會(huì)禁止使用不分皂白的武器，也禁止使用會(huì)引起過(guò)分傷害或不必要痛苦的武器。因此中國(guó)更應(yīng)在自主武器系統(tǒng)的程序設(shè)計(jì)上體現(xiàn)出人類對(duì)于其的絕對(duì)控制，為自主武器創(chuàng)設(shè)依托的人權(quán)底線，反對(duì)脫離控制的自主武器系統(tǒng)的研發(fā)與使用。
五、結(jié)語(yǔ)
人工智能技術(shù)的不斷成熟使得與之結(jié)合的軍事武器隨之迅猛發(fā)展，自主武器系統(tǒng)就是其代表產(chǎn)物之一，自主武器系統(tǒng)作為將人的思維判斷能力和武器的殺傷力高度整合的新型武器，對(duì)人權(quán)、人道與國(guó)際社會(huì)的和平穩(wěn)定構(gòu)成了包括但不限于侵犯性、濫殺性、殘酷性、失控性等挑戰(zhàn)。具體分析這些對(duì)人權(quán)與人道的挑戰(zhàn)印證出自主武器系統(tǒng)存在明顯的人權(quán)侵犯和人道主義風(fēng)險(xiǎn)。
2022年2月25日，習(xí)近平總書(shū)記在主持中共中央政治局第三十七次集體學(xué)習(xí)時(shí)發(fā)表重要講話，強(qiáng)調(diào)：“呵護(hù)人的生命、價(jià)值、尊嚴(yán)，實(shí)現(xiàn)人人享有人權(quán)，是人類社會(huì)的共同追求。”應(yīng)對(duì)各國(guó)競(jìng)相掀起研發(fā)應(yīng)用自主武器系統(tǒng)的軍備競(jìng)賽趨勢(shì)，以及人工智能技術(shù)與軍事武器結(jié)合后給現(xiàn)行國(guó)際人權(quán)法與國(guó)際人道法的相關(guān)原則與規(guī)定帶來(lái)的嚴(yán)峻挑戰(zhàn)，我國(guó)需要提前研究部署，積極參與國(guó)際立法構(gòu)建、促進(jìn)多邊合作，完善法律審查問(wèn)責(zé)機(jī)制，并從國(guó)際人權(quán)法和國(guó)際人道法出發(fā)多維度思考應(yīng)對(duì)策略，以預(yù)防人權(quán)與人道主義侵害，促進(jìn)這一涉及人類前途與命運(yùn)的問(wèn)題提前得到較好解決。
（王韻涵，吉林大學(xué)法學(xué)院博士研究生。）
Abstract：According to predictions，by 2050，autonomous weapon systems may potentially replace humans as the main force on the battlefield.The development of autonomous weapon systems poses risks to human rights and humanitarian concerns and raises questions about how international law should regulate new technologies.From the perspectives of international human rights law and international humanitarian law，autonomous weapon systems present serious challenges in terms of invasiveness，indiscriminate killing，cruelty，and loss of control，which impact human rights and humanitarian principles.Against the backdrop of increased attention to the protection of human rights in China，it is necessary to clarify the existing regulatory framework and fundamental stance regarding autonomous weapon systems and proactively consider and propose countermeasures to address the risks associated with such systems.This will help prevent human rights and humanitarian violations and advance the timely resolution of this issue，which affects the future and destiny of humanity，ultimately achieving the noble goal of universal enjoyment of human rights.
Keywords：Autonomous Weapon Systems；International Humanitarian Law；International Human Rights Law；Humanitarian
(責(zé)任編輯 郭 銳)
關(guān)鍵詞：自主武器系統(tǒng) 國(guó)際人道法 國(guó)際人權(quán)法 人道主義
一、問(wèn)題的提出
自主武器系統(tǒng)(Autonomous Weapon System)是指任何擁有自主決策功能的武器系統(tǒng)，其包括除自主武器之外的一系列輔助要素單元，例如傳感器、決策單元和彈藥等。根據(jù)定義可知其為可實(shí)現(xiàn)在沒(méi)有人類干預(yù)的情形下搜索、打擊目標(biāo)以及最終實(shí)施擊打等全過(guò)程的武器系統(tǒng)。由于人工智能技術(shù)不斷被應(yīng)用到軍事方面，與軍事武器相結(jié)合，其對(duì)現(xiàn)行人權(quán)與人道法的相關(guān)原則與規(guī)定提出嚴(yán)峻挑戰(zhàn)，因此部分人權(quán)倡導(dǎo)者對(duì)于濫傷性智能武器使用的合法性提出質(zhì)疑。雖然合法性問(wèn)題已經(jīng)被《特定常規(guī)武器公約》(Convention on Certain Conventional Weapons，簡(jiǎn)稱CCW)締約國(guó)所關(guān)注，并激烈討論近十年，但現(xiàn)行國(guó)際人道法的完善問(wèn)題一直被作為國(guó)際社會(huì)的焦點(diǎn)。可與此同時(shí)，缺乏人類決斷和審查的自主武器系統(tǒng)，也形成了侵害人權(quán)的威脅。
迄今為止，所有涉及戰(zhàn)爭(zhēng)的法律所制約的對(duì)象最終都?xì)w結(jié)于兩類：人和武器。但自主武器系統(tǒng)與現(xiàn)今傳統(tǒng)意義上的人和武器有著本質(zhì)的區(qū)別，它既非真正意義上的人，又非沒(méi)有頭腦的武器，它將人的思維判斷能力和武器的殺傷力高度整合，甚至具備了能夠自主決定是否殺人、何時(shí)殺人與如何殺人的能力。如果不為未來(lái)的自主武器系統(tǒng)制定人權(quán)準(zhǔn)則和人道主義保護(hù)規(guī)則，那么人們將會(huì)面臨人權(quán)與人道主義的可怕災(zāi)難。為保護(hù)人類最根本的訴求，即生命權(quán)等基本人權(quán)，并保證戰(zhàn)爭(zhēng)狀態(tài)下交戰(zhàn)方、中立方和平民的合法權(quán)益，預(yù)防其破壞國(guó)際人道法的體系，應(yīng)及早制定限制自主武器系統(tǒng)的人權(quán)和人道主義保護(hù)規(guī)則，并爭(zhēng)取國(guó)際社會(huì)的廣泛認(rèn)同，加強(qiáng)交流與合作，共同促進(jìn)這一涉及人類前途與命運(yùn)的問(wèn)題提前得到妥善解決。
目前，法學(xué)界關(guān)于自主武器系統(tǒng)的討論，主要集中于國(guó)際法中的國(guó)際人道法，但類似對(duì)原則的沖突也隱含在國(guó)際人權(quán)法中，后者始終保障全人類的某些人權(quán)，無(wú)論其國(guó)籍或當(dāng)?shù)胤蔀楹?。雖然自主武器在人權(quán)領(lǐng)域的研究尚處于初級(jí)階段，但少數(shù)國(guó)外學(xué)者已有了相關(guān)思考。彼得·阿薩羅認(rèn)為，有關(guān)生命和正當(dāng)程序的人權(quán)以及克減上述人權(quán)的限制條件，意味著一系列與自動(dòng)化和自主技術(shù)相關(guān)的具體義務(wù)?？死锼雇蟹?middot;海恩認(rèn)為在考慮人權(quán)背景中可能通過(guò)自主武器平臺(tái)使用武力時(shí)，不應(yīng)僅限于致命武力，而是應(yīng)考慮包括致命武力和致命性較低武力在內(nèi)的所有武力使用形式。詹姆斯·道斯使用了“推理性人權(quán)”一詞，從人權(quán)的角度出發(fā)，基于對(duì)自主武器系統(tǒng)的擔(dān)憂擴(kuò)展到全面預(yù)測(cè)通用人工智能將會(huì)引發(fā)的關(guān)注。相比之下，國(guó)內(nèi)學(xué)者少有從人權(quán)角度出發(fā)考慮自主武器系統(tǒng)的挑戰(zhàn)及法律應(yīng)對(duì)。徐爽從無(wú)人機(jī)作為武器在使用中給人權(quán)帶來(lái)的挑戰(zhàn)為切入點(diǎn)，考察了人權(quán)受到的沖擊和侵害等。雖然根據(jù)自主武器系統(tǒng)的定義，遠(yuǎn)程遙控的無(wú)人機(jī)不屬于自主武器系統(tǒng)，但徐爽依然從新興技術(shù)對(duì)人權(quán)保障帶來(lái)負(fù)面影響層面進(jìn)行了有益探討。本文試圖在已有研究的基礎(chǔ)上，從國(guó)際人權(quán)法和國(guó)際人道法兩個(gè)維度出發(fā)，考察自主武器系統(tǒng)對(duì)人權(quán)和人道法帶來(lái)了哪些挑戰(zhàn)，并基于兩個(gè)維度就如何應(yīng)對(duì)新興技術(shù)的影響進(jìn)行探索。
二、自主武器系統(tǒng)中人權(quán)與人道的關(guān)系
國(guó)際人道法和國(guó)際人權(quán)法是兩個(gè)不同的學(xué)科，但其相互關(guān)系一直是引起大量關(guān)注的法律焦點(diǎn)問(wèn)題，特別是因?yàn)樗鼘?duì)軍事行動(dòng)的重要影響。盡管角度不同，但兩者都致力于保護(hù)個(gè)人的生命、健康和尊嚴(yán)。在武裝沖突期間，國(guó)際人道法保護(hù)某些類別的人不受交戰(zhàn)方蓄意攻擊。然而，國(guó)際人權(quán)法對(duì)使用致命武力所規(guī)定的標(biāo)準(zhǔn)比戰(zhàn)爭(zhēng)法更為嚴(yán)格。交戰(zhàn)各方必須保證在武裝沖突條件下不被“任意”剝奪生命，武裝部隊(duì)和有組織武裝團(tuán)體必須考慮其使用自主武器系統(tǒng)是否符合國(guó)際人權(quán)法的要求。
(一)國(guó)際人權(quán)法與國(guó)際人道法的相互關(guān)系
國(guó)際人權(quán)法(International Human Rights law)，一般是指促進(jìn)和保證人的基本權(quán)利和自由得到普遍尊重和實(shí)現(xiàn)的國(guó)際法原則、規(guī)則和規(guī)章、制度等；國(guó)際人道法(International Humanitarian Law)，則主要是指在戰(zhàn)爭(zhēng)或武裝沖突期間保護(hù)傷、病員、平民等戰(zhàn)爭(zhēng)受難者的國(guó)際法原則、規(guī)則和規(guī)章、制度等。關(guān)于兩者的關(guān)系，存在兩種主流觀點(diǎn)，一種認(rèn)為廣義的國(guó)際人道法包括人權(quán)法，人權(quán)法僅代表一般人道法的一個(gè)較高的發(fā)展階段。另一種則認(rèn)為人道法是派生于戰(zhàn)爭(zhēng)法的法律，且人權(quán)法作為構(gòu)成和平法重要部分的法律，優(yōu)先于國(guó)際人道法。但是從這兩者發(fā)展的過(guò)程來(lái)看，國(guó)際人道法與國(guó)際人權(quán)法之間相輔相成、交叉適用，并且這種聯(lián)系和作用還在發(fā)展。
根據(jù)國(guó)際法院的說(shuō)法，國(guó)際人道法是專門(mén)設(shè)計(jì)來(lái)規(guī)范敵對(duì)行為的法律，而國(guó)際人權(quán)法發(fā)揮一般法的作用。國(guó)際法院在1996年《關(guān)于以核武器相威脅或使用核武器是否合法的咨詢意見(jiàn)》中首次論述了武裝沖突局勢(shì)中適用人權(quán)法的問(wèn)題并且提出《公民權(quán)利和政治權(quán)利國(guó)際公約》所提供的保護(hù)在戰(zhàn)時(shí)并不停止，而且原則上不得任意剝奪人的生命權(quán)也適用于敵對(duì)行動(dòng)?？梢?jiàn)雖然國(guó)際人道法和國(guó)際人權(quán)法屬于不同的法律體系，但它們所保護(hù)的原則和利益相似。然而實(shí)踐中，雖然人權(quán)法既適用于平時(shí)也適用于武裝沖突時(shí)期，但是在武裝沖突期間，通過(guò)國(guó)內(nèi)或國(guó)際人權(quán)機(jī)構(gòu)對(duì)人權(quán)進(jìn)行保護(hù)的手段非常有限。國(guó)際人權(quán)法在國(guó)際人權(quán)條約機(jī)構(gòu)和聯(lián)合國(guó)的監(jiān)督下由締約國(guó)實(shí)施，這些機(jī)構(gòu)的決定具有權(quán)威性但缺乏法律約束力，而國(guó)際人道法的實(shí)施，在嚴(yán)重違反戰(zhàn)爭(zhēng)法的情況下，可以由國(guó)際刑事法庭對(duì)違反人道法、犯有戰(zhàn)爭(zhēng)罪的人進(jìn)行懲罰。綜上，國(guó)際人權(quán)法存在武裝沖突中的適用且與國(guó)際人道法存在相互關(guān)系，其為自主武器系統(tǒng)的發(fā)展和使用塑造這種關(guān)系提供了前期基礎(chǔ)。
(二)國(guó)際人權(quán)法、國(guó)際人道法與自主武器系統(tǒng)的關(guān)系
自主武器系統(tǒng)的發(fā)展已經(jīng)引發(fā)了國(guó)際法如何規(guī)范這種新技術(shù)的問(wèn)題。簡(jiǎn)述其發(fā)展趨勢(shì)，目前的軍事機(jī)器人的技術(shù)和軍事標(biāo)準(zhǔn)都是以“人為干預(yù)”為前提，即人類仍然是最終的軍事決策者。但現(xiàn)如今，世界各地的主要軍隊(duì)正聲勢(shì)浩大地投資相關(guān)研究，發(fā)展和部署自主武器系統(tǒng)。傳統(tǒng)軍事強(qiáng)國(guó)在自主武器系統(tǒng)上已經(jīng)競(jìng)相掀起研發(fā)、應(yīng)用自主武器系統(tǒng)的軍備競(jìng)賽。目前以色列的閉環(huán)邊界防御系統(tǒng)就是借助人工智能進(jìn)行監(jiān)視，該系統(tǒng)無(wú)須人類操控，便可自行操控攻擊對(duì)象與攻擊時(shí)間。此外，由于自主武器系統(tǒng)缺少明確的國(guó)際規(guī)則和有效監(jiān)管，僅停留在《特定常規(guī)武器公約》會(huì)議的研討中，且逐步進(jìn)入了非國(guó)際行為體的視野，勢(shì)必加重國(guó)際安全的潛在威脅。在此基礎(chǔ)上考慮國(guó)際人權(quán)法和國(guó)際人道法的適用，應(yīng)明確武裝沖突中使用自主武器系統(tǒng)同時(shí)受到兩者的管轄，且前者在兩個(gè)法律體系直接沖突的情況下優(yōu)于后者。一方面，武裝沖突中的某些情況可能只符合國(guó)際人道法的事項(xiàng)，另一些可能只涉及國(guó)際人權(quán)法，還有一些則可能涉及國(guó)際法的兩個(gè)交叉領(lǐng)域。另一方面，在武裝沖突中，國(guó)際人權(quán)法和國(guó)際人道法的義務(wù)可以同時(shí)存在，不僅是因?yàn)閲?guó)際法院的咨詢意見(jiàn)支持這一觀點(diǎn)，還因?yàn)閲?guó)際人權(quán)法和國(guó)際人道法有一個(gè)共同的目的，即最大限度地保護(hù)個(gè)人。
具體來(lái)說(shuō)，國(guó)際人權(quán)法可能在三種情況下適用于自主武器系統(tǒng)：一是武裝沖突中，人權(quán)法在武裝沖突中使用武力問(wèn)題上與國(guó)際人道法互補(bǔ)，其重點(diǎn)始終是使沖突雙方在武裝沖突中都能保有生命權(quán)和尊嚴(yán)權(quán)等人權(quán)，盡管還會(huì)涉及自由權(quán)和人身安全權(quán)、免受非人道待遇權(quán)、獲得公正審判權(quán)等。二是反恐和其他不構(gòu)成武裝沖突處境下的行動(dòng)。在未達(dá)到武裝沖突標(biāo)桿的處境中，對(duì)自主武器系統(tǒng)的使用要求應(yīng)僅由人權(quán)法進(jìn)行監(jiān)管，而非適用國(guó)際人道法。三是在國(guó)內(nèi)執(zhí)法中，如果技術(shù)成熟和普遍之后，國(guó)家執(zhí)法官員也可能在某個(gè)時(shí)間決定使用致命或致命性較低武器的自主武器系統(tǒng)。在這種情況下，使用武力需要人權(quán)法管轄。
就國(guó)際人道法適用于自主武器系統(tǒng)問(wèn)題，該法作為維護(hù)國(guó)際和平、尊重人道的重要保障，其確定的區(qū)分原則、比例原則等均已得到國(guó)際社會(huì)的認(rèn)可，因此在國(guó)際人道法的基礎(chǔ)上，自主武器只有滿足其主要原則才可能被允許應(yīng)用。當(dāng)前自主武器的研發(fā)與使用極有可能與現(xiàn)行國(guó)際人道法產(chǎn)生沖突，而國(guó)際上對(duì)此問(wèn)題的討論主要集中在三方面：一是其是否滿足區(qū)分原則，即區(qū)分平民與軍事目標(biāo)；二是其是否滿足比例原則，即相比其與其軍事利益，最大限度限制其為平民帶來(lái)的附帶傷亡；三是是否滿足“馬爾頓斯條款”(Martens Clause)，即遵守“人道原則”與“公眾良心”。
三、自主武器系統(tǒng)對(duì)人權(quán)與人道的挑戰(zhàn)
自主武器與人工智能技術(shù)發(fā)展迅猛，給國(guó)際社會(huì)的和平以及平穩(wěn)發(fā)展帶來(lái)了巨大的挑戰(zhàn)。雖然自主武器系統(tǒng)存在技術(shù)優(yōu)勢(shì)，各國(guó)通過(guò)提升自主攻擊目標(biāo)的精度和有效性即可掌握戰(zhàn)場(chǎng)上的主動(dòng)，但素有“機(jī)器人殺手”之稱的完全自主武器系統(tǒng)，很難保證其不會(huì)侵犯生命權(quán)、尊嚴(yán)權(quán)等人權(quán)以至違反國(guó)際人權(quán)法。關(guān)于對(duì)人道的挑戰(zhàn)，由于只有滿足國(guó)際人道法主要原則才可能被允許應(yīng)用，所以極有可能與現(xiàn)行國(guó)際人道法產(chǎn)生沖突。人類的戰(zhàn)爭(zhēng)既昂貴又血腥，用機(jī)器人取代大量的地面作戰(zhàn)車輛和其他武器，看似既可以節(jié)省開(kāi)支，又能夠避免讓傷亡問(wèn)題影響政治決策。但當(dāng)自主武器系統(tǒng)能夠自行決定是否攻擊人的時(shí)候，作戰(zhàn)方式就與傳統(tǒng)作戰(zhàn)形式不再相同，其也完全可能像人們對(duì)待機(jī)器一樣對(duì)人類的生死存亡漠然置之，歸納起來(lái)，其很可能同時(shí)具有侵犯性、濫殺性、殘酷性、失控性等幾個(gè)特征，具體分析這些特征對(duì)人權(quán)與人道的挑戰(zhàn)更印證出自主武器系統(tǒng)存在明顯的反人類特征和巨大人道主義風(fēng)險(xiǎn)，倘若自主武器系統(tǒng)被恐怖主義組織所控制，無(wú)辜百姓的生命安全將會(huì)遭受更大的威脅。
(一)侵犯性的挑戰(zhàn)
自主武器系統(tǒng)侵犯性的挑戰(zhàn)主要體現(xiàn)在國(guó)際人權(quán)法中，因?yàn)閷?duì)人使用武力的決定是由程序作出而不是人作出的行為，從本質(zhì)上侵犯了尊嚴(yán)權(quán)。在人與機(jī)器的關(guān)系中，所有機(jī)器都由人類制造，并為其生存和發(fā)展服務(wù)。即使機(jī)器發(fā)展到極為高級(jí)的自主智能階段，能夠認(rèn)知、思考，會(huì)自我生成指令，甚至自我修復(fù)、自行繁衍，它與人類的關(guān)系歸根結(jié)底還是依附和被依附的關(guān)系。如果按照自主武器系統(tǒng)中的算法，讓人類處于一個(gè)被無(wú)人性的機(jī)器決定的位置，那將意味著死亡會(huì)被簡(jiǎn)單地視為一種目標(biāo)，人類將不再具有完整且獨(dú)立的地位。換而言之，在自主武器系統(tǒng)使用中，“人”實(shí)際上被簡(jiǎn)化為數(shù)字0和1，而不再是有內(nèi)在尊嚴(yán)的人。
《世界人權(quán)宣言》規(guī)定：“人人生而自由，在尊嚴(yán)和權(quán)利上一律平等。”《公民權(quán)利和政治權(quán)利國(guó)際公約》提到：“按照聯(lián)合國(guó)憲章所宣布的原則，對(duì)人類家庭所有成員的固有尊嚴(yán)及其平等的和不移的權(quán)利的承認(rèn)，乃是世界自由、正義與和平的基礎(chǔ)，確認(rèn)這些權(quán)利是源于人身的固有尊嚴(yán)。”雖然公約中沒(méi)有將尊嚴(yán)權(quán)列為一項(xiàng)實(shí)質(zhì)性權(quán)利，但其與其他權(quán)利交織在一起保護(hù)，人類尊嚴(yán)是國(guó)際人權(quán)法重要目標(biāo)。尊嚴(yán)概念的基礎(chǔ)是強(qiáng)調(diào)每個(gè)人的價(jià)值是無(wú)限的，康德的尊嚴(yán)觀念賦予每個(gè)人以獨(dú)立的、獨(dú)特的、不可替代的價(jià)值，而侮辱人的行為就是無(wú)端地降低這種價(jià)值。每個(gè)人都有一個(gè)不能被侵犯的內(nèi)在核心，即使這種侵犯對(duì)公共利益有益，因?yàn)檫@意味著他們被用作工具。但一個(gè)沒(méi)有人性的機(jī)器無(wú)法理解對(duì)人類使用武力的意義，也無(wú)法公正地對(duì)待這一決定的嚴(yán)重性。.計(jì)算機(jī)代碼尚不能準(zhǔn)確地描述人類生活的復(fù)雜性和豐富性，以及日常關(guān)于生活的決定，所以機(jī)器人更不能預(yù)先設(shè)定程序，以適當(dāng)?shù)姆绞綄?duì)真實(shí)生活和真實(shí)的人所提供的無(wú)窮無(wú)盡的情景作出反應(yīng)。此外，程序預(yù)設(shè)還存在另一個(gè)問(wèn)題，即由算法決定自主武器系統(tǒng)何時(shí)被允許釋放武力，必然導(dǎo)致其建立在假設(shè)的基礎(chǔ)上。換而言之，規(guī)則制定者和程序設(shè)計(jì)人員僅基于設(shè)想的理論可能性，而非在真實(shí)而緊迫的情況下提前作出了致命性決策。但在抽象的處境下又很難提前預(yù)想每一個(gè)深遠(yuǎn)又準(zhǔn)確的決定。所以，脫離人類控制的完全自主武器系統(tǒng)侵犯了那些被使用武力的人的尊嚴(yán)權(quán)。如果計(jì)算機(jī)的操作處于仍然受人類控制的低層次，此時(shí)機(jī)器仍然是人類手中的工具，人們用它來(lái)增強(qiáng)自己的自主權(quán)，尊嚴(yán)權(quán)可能不會(huì)受到威脅。因?yàn)槭褂梦淞Φ臎Q定不是由完全自主武器系統(tǒng)作出的，而是由人作出的，則是以考慮人權(quán)的方式對(duì)待被攻擊的人。然而，使用武力的決定被自主的武器所接管，并且它們不再是人類手中的工具，則構(gòu)成了對(duì)國(guó)際人權(quán)法的嚴(yán)重挑戰(zhàn)。
(二)濫殺性的挑戰(zhàn)
自主武器系統(tǒng)濫殺性的挑戰(zhàn)主要體現(xiàn)在國(guó)際人道法中，雖然殺的行為導(dǎo)致受害者失去生命，但國(guó)際法學(xué)上，武器本身并不因?yàn)槠渲旅赃€是非致命性而受到禁止。濫殺側(cè)重于指不分條件、場(chǎng)合和對(duì)象，自動(dòng)執(zhí)行殺傷任務(wù)，這明顯違背了國(guó)際人道法中的區(qū)分原則。在《關(guān)于以核武器相威脅或使用核武器是否合法的咨詢意見(jiàn)》(1996年)中，國(guó)際法院把區(qū)分原則視為國(guó)際人道法的“首要原則”。作為具有自主攻擊能力的新型武器，且其可能造成與生物病毒類似的濫殺濫傷擴(kuò)散，自主武器系統(tǒng)應(yīng)該被視為符合區(qū)分原則的武器。
《日內(nèi)瓦公約第一附加議定書(shū)》第48、51、52條均對(duì)區(qū)分原則作出規(guī)定，明確應(yīng)該對(duì)平民與戰(zhàn)斗員加以區(qū)分，因此無(wú)論是有意還是失誤對(duì)平民造成傷害均屬于違反國(guó)際人道法的行為。針對(duì)區(qū)分原則，不同學(xué)者對(duì)其持不同建議，信任自主武器分析與識(shí)別能力的學(xué)者認(rèn)為其可以更好地區(qū)分平民與戰(zhàn)斗員，降低對(duì)平民的傷害，其他部分學(xué)者則認(rèn)為戰(zhàn)場(chǎng)與人相較于編寫(xiě)的程序要更為復(fù)雜，自主武器無(wú)法處理這種復(fù)雜情景，此外其也面臨一系列倫理道德問(wèn)題。對(duì)人而言，人的主要作戰(zhàn)對(duì)手就是人，因此法律要求的區(qū)分也相對(duì)“簡(jiǎn)單”即區(qū)分?jǐn)撤杰娛履繕?biāo)和平民居民、民用物體。但對(duì)于自主武器系統(tǒng)，除要進(jìn)行軍事目標(biāo)與平民目標(biāo)這一同人類士兵相一致的區(qū)分外，還要增加一層更為關(guān)鍵的區(qū)分，即應(yīng)區(qū)分對(duì)方的屬性與意圖，比如其是參與敵對(duì)行動(dòng)的平民或是進(jìn)行武裝自衛(wèi)的平民以及其是否屬于具有投降意圖的戰(zhàn)斗員等，對(duì)于自主武器系統(tǒng)可否正確進(jìn)行更深層次的區(qū)分，部分學(xué)者對(duì)其持懷疑態(tài)度。例如，當(dāng)自主武器系統(tǒng)面對(duì)已經(jīng)投降的敵方人員，由于其指令要求，機(jī)器士兵難以做到“刀下留人”的人權(quán)保護(hù)規(guī)則程序，難以立即停止攻擊、不殺害放棄抵抗的人，也難以給予傷者、病者、醫(yī)護(hù)與救援人員等應(yīng)受特別保護(hù)群體以尊重與保護(hù)。戰(zhàn)場(chǎng)環(huán)境遠(yuǎn)比自主武器預(yù)設(shè)程序復(fù)雜多變，當(dāng)今武裝沖突中最為典型的沖突場(chǎng)景是“非對(duì)稱戰(zhàn)爭(zhēng)”和“城市戰(zhàn)爭(zhēng)”環(huán)境，因此通過(guò)算法進(jìn)行精準(zhǔn)區(qū)分軍民且同時(shí)不對(duì)平民出現(xiàn)附帶傷亡，人工智能在此方面可能還未合格。
(三)殘酷性的挑戰(zhàn)
自主武器系統(tǒng)殘酷性的挑戰(zhàn)同時(shí)體現(xiàn)在國(guó)際人權(quán)法與國(guó)際人道法中，由于其對(duì)人使用武力的行為不能被人類干預(yù)，回避了人類生理與情感弱點(diǎn)的自主武器系統(tǒng)便具有了殘酷無(wú)情的特質(zhì)。自主武器系統(tǒng)殘酷性對(duì)國(guó)際人權(quán)法的挑戰(zhàn)包括但不限于對(duì)生命權(quán)、尊嚴(yán)權(quán)的挑戰(zhàn)。無(wú)論是人類還是機(jī)器控制武力，都會(huì)有針對(duì)錯(cuò)誤的人或過(guò)度使用武力的情況，但是當(dāng)自主武器系統(tǒng)出錯(cuò)時(shí)，會(huì)對(duì)人權(quán)造成難以逆轉(zhuǎn)的危害。
殘酷性的挑戰(zhàn)可以通過(guò)國(guó)際人道法中的馬爾頓斯條款更清晰地闡釋。作為國(guó)際人道法的重要原則之一，馬爾頓斯條款是俄羅斯國(guó)際法學(xué)家馬爾頓斯在1899年第一次海牙和平會(huì)議上提出的，且在《陸戰(zhàn)法規(guī)和慣例公約》序言中就已得到確認(rèn)。該條款認(rèn)為武器系統(tǒng)應(yīng)符合國(guó)際習(xí)慣、人道原則與公眾良心的要求，具體而言，馬爾頓斯條款規(guī)定：“凡遇有本條文中未規(guī)定之事項(xiàng)，則有種種國(guó)際法之原則，從文明人民之慣例上，從人道之原則上，自良心之要求上，發(fā)生事變之兩交戰(zhàn)國(guó)與其人民之間，應(yīng)在此原則之保護(hù)與支配下。”其填補(bǔ)了國(guó)際法沒(méi)有規(guī)定的情形，使得國(guó)際人道法的應(yīng)用不受其明文公約的限制。伴隨自主武器系統(tǒng)自主性的不斷提升與人工智能技術(shù)的不斷發(fā)展，在未來(lái)極有可能將擊打目標(biāo)的決策交由自主武器系統(tǒng)，即機(jī)器會(huì)掌控人類的生殺大權(quán)。目前國(guó)際人道法并未禁止自主武器系統(tǒng)，且僅有在該系統(tǒng)觸犯戰(zhàn)爭(zhēng)罪或人道罪后其才會(huì)被懲處，從國(guó)際人道法精神分析，自主武器系統(tǒng)缺乏合格戰(zhàn)斗人員所需的同理心和道德品質(zhì)，可能會(huì)為人類帶來(lái)未知的危險(xiǎn)與威脅。
(四)失控性的挑戰(zhàn)
自主武器系統(tǒng)失控性的挑戰(zhàn)同時(shí)體現(xiàn)在國(guó)際人權(quán)法和國(guó)際人道法中，失控性主要源于武器系統(tǒng)的“自主性”，完全自主武器系統(tǒng)不同于半自主武器系統(tǒng)、有監(jiān)督的自主武器系統(tǒng)、將人置于其OODA循環(huán)之外，其可執(zhí)行更高層次的指令與任務(wù)，可以獨(dú)立于人的操作而自主選擇目標(biāo)并決定是否進(jìn)行打擊。這不僅會(huì)導(dǎo)致違背國(guó)際人道法中的比例原則，也會(huì)構(gòu)成對(duì)生命權(quán)的侵犯。
一方面，戰(zhàn)爭(zhēng)法規(guī)定為防止戰(zhàn)爭(zhēng)造成過(guò)度的平民生命傷亡和財(cái)產(chǎn)損害，作戰(zhàn)手段和方法的使用應(yīng)與預(yù)期的、具體的、直接的軍事利益成比例，禁止過(guò)度的攻擊和不必要的傷害。《日內(nèi)瓦公約第一附加議定書(shū)》第51條第5款第2項(xiàng)以及第57條第2款第1項(xiàng)也均對(duì)國(guó)際人道法中的比例要求作出規(guī)定。目前自主武器的技術(shù)遠(yuǎn)低于長(zhǎng)期訓(xùn)練的軍人，還無(wú)法達(dá)到人類獨(dú)有的判斷力，因此對(duì)于其是否符合比例原則還存有爭(zhēng)議。在比例原則下，自主武器系統(tǒng)需要對(duì)各種要素進(jìn)行評(píng)估量化，并與預(yù)期軍事利益進(jìn)行對(duì)比作出選擇，因此相較于區(qū)分原則，其技術(shù)要求更高，如何衡量生命的價(jià)值也會(huì)是其技術(shù)上的難題之一。此外由于機(jī)器人與人在個(gè)體能力上的巨大差異，機(jī)器士兵與人的對(duì)抗應(yīng)當(dāng)存在某種意義上的不平等，即在作戰(zhàn)方法和手段的使用上，應(yīng)當(dāng)盡力避免造成人的傷亡。如果機(jī)器士兵使用泰瑟槍、麻醉彈或纖維網(wǎng)等就能解除敵方人員的武裝，那么發(fā)射自動(dòng)尋的靈巧炸彈、激光束或電磁炮彈從肉體上消滅人類就是非法行為。如果指令程序要求徹底消滅特定的人，那么擁有“一槍制敵”能力的機(jī)器士兵采取將人折磨致死的方法顯然不能被法律所認(rèn)可。比例原則的核心是評(píng)估軍事必要性，確保預(yù)期實(shí)現(xiàn)的軍事利益不應(yīng)顯著超出造成的附帶損害，因此人道保護(hù)與軍事必要性之間的衡量與取舍是價(jià)值判斷，不是僅僅通過(guò)分析就能作出的決定，這恰恰是自主武器難以完成的任務(wù)，此外其可能還需在多個(gè)軍事目標(biāo)選其一時(shí)做到最小化平民附帶損害，而該項(xiàng)技術(shù)需要自主武器具備道德價(jià)值判斷能力。
另一方面，可以從問(wèn)責(zé)制度的維度去思考自主武器系統(tǒng)對(duì)生命權(quán)的挑戰(zhàn)，當(dāng)然這同樣適用于相關(guān)權(quán)利?！妒澜缛藱?quán)宣言》明確規(guī)定：“人人有權(quán)享有生命、自由和人身安全。”雖然《世界人權(quán)宣言》不具備國(guó)際法約束力，卻是世界人權(quán)準(zhǔn)則的綱領(lǐng)性文件?！豆駲?quán)利和政治權(quán)利國(guó)際公約》規(guī)定：“人人有固有的生命權(quán)。這個(gè)權(quán)利應(yīng)受法律保護(hù)，不得任意剝奪任何人的生命”，這也是國(guó)家必須承擔(dān)的尊重和保障生命權(quán)的義務(wù)。生命權(quán)有兩個(gè)組成部分，一是防止任意損害生命，二是發(fā)生這種情況時(shí)應(yīng)負(fù)責(zé)任。如果侵害者造成生命損失，哪怕是包括未盡應(yīng)有的努力加以防止，即構(gòu)成對(duì)生命權(quán)的侵犯。這意味著對(duì)于非法的死亡缺乏問(wèn)責(zé)制，也構(gòu)成侵犯生命權(quán)。如果人力對(duì)武力釋放控制不足，使用自主武器系統(tǒng)可能會(huì)造成問(wèn)責(zé)真空，因?yàn)閱?wèn)責(zé)是以控制為前提的。因此，在人權(quán)法背景下自主武器系統(tǒng)存在嚴(yán)重挑戰(zhàn)，因?yàn)槿绻麤](méi)有有意義的人類控制，機(jī)器人可能不具備按照人權(quán)法的要求使用武力或保護(hù)生命和身體安全的技術(shù)能力。即使國(guó)家或公司等非個(gè)人的機(jī)構(gòu)可能會(huì)被追究責(zé)任，且不得不支付賠償或改變其做法，但由于機(jī)器自主性的增強(qiáng)，人類在決策中扮演了次要的角色。因?yàn)樗麄內(nèi)狈刂?，將很難追究到他們個(gè)人的責(zé)任。首先，優(yōu)秀的算法工程師也難以預(yù)測(cè)其復(fù)雜的決策，如果沒(méi)有目標(biāo)決策的透明度，那么確定錯(cuò)誤攻擊在哪發(fā)生、如何發(fā)生，以及如何防止類似錯(cuò)誤再次發(fā)生，將是一項(xiàng)極其困難的任務(wù)。其次，自主武器系統(tǒng)作為人工智能系統(tǒng)無(wú)法全面把握設(shè)計(jì)者指令的真正含義或者缺乏某種意義的算法描述。再次，當(dāng)機(jī)器進(jìn)化時(shí)，即與環(huán)境交互過(guò)程中，通過(guò)自主學(xué)習(xí)，實(shí)現(xiàn)功能擴(kuò)展和能力進(jìn)化且超出人的預(yù)測(cè)時(shí)，責(zé)任歸于指揮官、技術(shù)人員、生產(chǎn)者還是機(jī)器本身更是難以判別。最后，《公民權(quán)利和政治權(quán)利國(guó)際公約》規(guī)定：“人人有權(quán)享有人身自由和安全。”這意味著與生命權(quán)相似，人身自由和安全等權(quán)利也可能因?yàn)槲茨艽_定問(wèn)責(zé)制而受到侵犯。
四、應(yīng)對(duì)自主武器系統(tǒng)挑戰(zhàn)的中國(guó)視角
紅十字國(guó)際委員會(huì)和《特定常規(guī)武器公約》締約國(guó)曾就自主武器系統(tǒng)相關(guān)問(wèn)題召開(kāi)一系列會(huì)議，并達(dá)成部分基本共識(shí)，希望可以對(duì)自主武器系統(tǒng)的自主性程度進(jìn)行規(guī)定。隨著中國(guó)國(guó)際地位與綜合國(guó)力的不斷提升，中國(guó)現(xiàn)有制度規(guī)范與基本立場(chǎng)已逐步確立，在此基礎(chǔ)上中國(guó)理當(dāng)積極思考應(yīng)對(duì)策略，推進(jìn)國(guó)際立法研究、完善法律審查等，降低此類武器給國(guó)際社會(huì)和平以及平民安全帶來(lái)的威脅。而且，隨著中國(guó)在國(guó)際社會(huì)話語(yǔ)權(quán)的逐漸加重，中國(guó)進(jìn)行的規(guī)范嘗試更有可能吸引國(guó)際社會(huì)的目光，對(duì)實(shí)現(xiàn)自主武器系統(tǒng)在遵循國(guó)際人權(quán)法和國(guó)際人道法的基礎(chǔ)上穩(wěn)定發(fā)展產(chǎn)生積極影響。
(一)中國(guó)現(xiàn)有制度規(guī)范與基本立場(chǎng)
2017年7月，國(guó)務(wù)院公開(kāi)發(fā)布《新一代人工智能發(fā)展規(guī)劃》，明確人工智能發(fā)展的不確定性帶來(lái)新挑戰(zhàn)，不僅可能沖擊法律與社會(huì)倫理，也會(huì)挑戰(zhàn)國(guó)際關(guān)系準(zhǔn)則，并就此首次提出“初步建立人工智能法律法規(guī)、倫理規(guī)范和政策體系，形成人工智能安全評(píng)估和管控能力”的戰(zhàn)略目標(biāo)。2019年6月與2021年9月，科技部先后發(fā)布《新一代人工智能治理原則——發(fā)展負(fù)責(zé)任的人工智能》《新一代人工智能倫理規(guī)范》等文件，前者強(qiáng)調(diào)了和諧友好、公平公正、包容共享、尊重隱私、安全可控、共擔(dān)責(zé)任、開(kāi)放協(xié)作、敏捷治理等八條治理原則，后者在提出增進(jìn)人類福祉、促進(jìn)公平公正、保護(hù)隱私安全、確?？煽乜尚?、強(qiáng)化責(zé)任擔(dān)當(dāng)、提升倫理素養(yǎng)等六項(xiàng)基本倫理要求的基礎(chǔ)上，明確了人工智能管理、研發(fā)、供應(yīng)、使用等特定活動(dòng)的18項(xiàng)具體倫理要求，制度上更加明確、具體、規(guī)范。2021年12月，外交部公布中國(guó)首次就規(guī)范人工智能軍事應(yīng)用問(wèn)題提出的倡議，即中國(guó)向聯(lián)合國(guó)《特定常規(guī)武器公約》第六次審議大會(huì)提交的《中國(guó)關(guān)于規(guī)范人工智能軍事應(yīng)用的立場(chǎng)文件》，其主張各國(guó)應(yīng)確保新武器及其作戰(zhàn)手段符合國(guó)際人道法和其他適用的國(guó)際法，不能利用人工智能技術(shù)優(yōu)勢(shì)危害他國(guó)主權(quán)和領(lǐng)土安全，應(yīng)建立普遍參與的國(guó)際機(jī)制，推動(dòng)形成具有廣泛共識(shí)的人工智能治理框架和標(biāo)準(zhǔn)規(guī)范。2022年9月，外交部發(fā)布《中國(guó)出席第77屆聯(lián)合國(guó)大會(huì)立場(chǎng)文件》，再次強(qiáng)調(diào)關(guān)于人工智能安全治理尤其是人工智能軍事應(yīng)用的規(guī)范，應(yīng)堅(jiān)持多邊主義、開(kāi)放包容原則，通過(guò)對(duì)話與合作，推動(dòng)形成具有廣泛共識(shí)的人工智能治理框架和標(biāo)準(zhǔn)規(guī)范。
除了國(guó)內(nèi)公開(kāi)發(fā)布的政策與立場(chǎng)，中國(guó)同時(shí)參與2014年由《特定常規(guī)武器條約》締約國(guó)召開(kāi)討論致命性自主武器系統(tǒng)的法律、道義、技術(shù)和軍事應(yīng)用方面問(wèn)題的年度會(huì)議以及2017年基于前者由非正式的“專家會(huì)議”升級(jí)為正式的政府專家組(Group of Government Experts，簡(jiǎn)稱GGE)會(huì)議，積極對(duì)外表達(dá)中國(guó)立場(chǎng)。以最近一次政府間專家組會(huì)議為例，2022年7月，中方提交《中國(guó)關(guān)于“致命性自主武器系統(tǒng)”問(wèn)題的工作文件》，重申了2021年12月的立場(chǎng)文件，討論了致命性自主武器的定義和范圍、“可接受的”與“不可接受的”自主武器系統(tǒng)的區(qū)分，并“從維護(hù)人類共同安全和尊嚴(yán)出發(fā)，有效管控人工智能引發(fā)的安全、法律、倫理、人道主義等風(fēng)險(xiǎn)”的人權(quán)和人道視角出發(fā)提出規(guī)范人工智能軍事應(yīng)用。以最近一次《特定常規(guī)武器公約》締約國(guó)會(huì)議為例，2022年11月，中方提交《中國(guó)關(guān)于加強(qiáng)人工智能倫理治理的立場(chǎng)文件》，再次重申了2021年12月的立場(chǎng)文件，并從人工智能治理應(yīng)堅(jiān)持倫理先行、加強(qiáng)自我約束、提倡負(fù)責(zé)任使用、鼓勵(lì)國(guó)際合作四方面提出主張，積極倡導(dǎo)“以人為本”“智能向善”原則，主張?jiān)鲞M(jìn)各國(guó)理解互信，確保人工智能技術(shù)發(fā)展安全、可靠、可控，在人工智能領(lǐng)域推動(dòng)構(gòu)建人類命運(yùn)共同體。
(二)自主武器系統(tǒng)挑戰(zhàn)的中國(guó)應(yīng)對(duì)
當(dāng)前各國(guó)政府根據(jù)《特定常規(guī)武器公約》達(dá)成部分基本共識(shí)。根據(jù)近幾年的政府專家組會(huì)議報(bào)告，已逐步確立一些指導(dǎo)原則，主要包括：(1)確保在《特定常規(guī)武器公約》框架內(nèi)開(kāi)發(fā)、部署和使用任何新武器系統(tǒng)，必須確定每種情況下國(guó)際法是否禁止該武器使用；(2)應(yīng)在《特定常規(guī)武器公約》的目標(biāo)和宗旨范圍內(nèi)，力求致命自主武器系統(tǒng)在軍事必要性和人道主義之間取得平衡；(3)國(guó)際人道法及其原則適用于致命自主武器系統(tǒng)的開(kāi)發(fā)和使用，包括攻擊中的區(qū)分原則、比例原則等；(4)在《特定常規(guī)武器公約》范圍內(nèi)討論和采取的任何政策措施不應(yīng)將自主武器系統(tǒng)領(lǐng)域新興技術(shù)擬人化，也不應(yīng)妨礙智能自主技術(shù)在和平利用方面取得進(jìn)展；(5)國(guó)際人道法的義務(wù)屬于國(guó)家、武裝沖突各方以及個(gè)人而非機(jī)器，在武器系統(tǒng)整個(gè)生命周期中保留對(duì)使用系統(tǒng)作出決定的人員責(zé)任；(5)人機(jī)交互應(yīng)在武器生命周期的各階段實(shí)施，以確保國(guó)際法在致命自主武器系統(tǒng)領(lǐng)域適用，其中人類的判斷至關(guān)重要；(6)在涉及《特定常規(guī)武器公約》和其他國(guó)際條約未涵蓋的自主武器系統(tǒng)領(lǐng)域新興技術(shù)的情況下，平民和戰(zhàn)斗員應(yīng)始終受到習(xí)慣國(guó)際法原則的保護(hù)，從人道主義和公眾良知的要求出發(fā)；(7)國(guó)家層面對(duì)新武器、新作戰(zhàn)手段和方法的開(kāi)發(fā)、獲取、使用進(jìn)行法律審查是一項(xiàng)有效方法，各國(guó)可以自由決定法律審查的方式等。
然而即使存在一定共識(shí)，在自主武器系統(tǒng)領(lǐng)域涉及具體的國(guó)際法問(wèn)題上仍留有空白，例如對(duì)于自主武器系統(tǒng)的法律地位、對(duì)于自主武器的規(guī)制等，締約國(guó)各方仍爭(zhēng)議不斷，尤其是相關(guān)公約與法律規(guī)則的制定等進(jìn)展緩慢。分析我國(guó)現(xiàn)有制度規(guī)則，同樣由于技術(shù)發(fā)展的迅捷性和法律的滯后性，缺少該領(lǐng)域的成文法與法律實(shí)踐。而且相關(guān)共識(shí)表明，根據(jù)《日內(nèi)瓦公約第一附加議定書(shū)》締約方的法律義務(wù)，各國(guó)政府在對(duì)武器進(jìn)行法律審查時(shí)，必須密切關(guān)注自主武器系統(tǒng)領(lǐng)域新興技術(shù)的特殊性。綜上，為應(yīng)對(duì)該領(lǐng)域的挑戰(zhàn)，參與自主武器系統(tǒng)法律規(guī)則構(gòu)建思考刻不容緩，此外我國(guó)可以從立法研究、審查問(wèn)責(zé)等方面考慮自主武器系統(tǒng)的未來(lái)發(fā)展。
一是積極參與國(guó)際立法構(gòu)建，促進(jìn)多邊合作。在自主武器系統(tǒng)領(lǐng)域，我國(guó)應(yīng)與相關(guān)國(guó)際組織和有關(guān)國(guó)家開(kāi)展交流、對(duì)話，在相對(duì)平和的社會(huì)狀態(tài)下，積極推動(dòng)國(guó)際立法構(gòu)建，例如在聯(lián)合國(guó)《特定常規(guī)武器公約》機(jī)制下達(dá)成有關(guān)自主武器系統(tǒng)的議定書(shū)。當(dāng)自主武器系統(tǒng)用于戰(zhàn)爭(zhēng)時(shí)，需要像任何其他領(lǐng)域的活動(dòng)一樣，受法律管轄，因?yàn)榛谝?guī)則的國(guó)際秩序分外重要。此外，當(dāng)代國(guó)際法治環(huán)境下，應(yīng)對(duì)自主武器系統(tǒng)對(duì)國(guó)際人權(quán)法和國(guó)際人道法的挑戰(zhàn)，應(yīng)秉持《聯(lián)合國(guó)憲章》精神，在堅(jiān)持尊重國(guó)際主權(quán)，尊重各國(guó)平等參與自主武器系統(tǒng)治理等權(quán)利的基礎(chǔ)上，協(xié)調(diào)各國(guó)達(dá)成應(yīng)對(duì)自主武器系統(tǒng)帶來(lái)挑戰(zhàn)的理念認(rèn)同、制度協(xié)同、行動(dòng)共同。善于運(yùn)用“非武力”而非“武力”，采取多邊參與、多方參與等多種方式建立完善全球自主武器系統(tǒng)治理體系。
二是完善法律審查問(wèn)責(zé)機(jī)制。很多對(duì)自主武器系統(tǒng)的擔(dān)憂是基于罪行的歸責(zé)問(wèn)題。從國(guó)際刑事審判實(shí)踐來(lái)看，被告人主觀上的犯罪意圖是必不可少的構(gòu)成要件。有學(xué)者認(rèn)為，在國(guó)際法上，追究戰(zhàn)爭(zhēng)罪犯的國(guó)際責(zé)任本來(lái)就是一個(gè)復(fù)雜的問(wèn)題。而在自主武器系統(tǒng)中，除了會(huì)繼續(xù)像傳統(tǒng)武裝沖突那樣，涉及戰(zhàn)斗員及其上級(jí)指揮官的責(zé)任，還將會(huì)涉及自主武器的設(shè)計(jì)者、生產(chǎn)商和銷售商的責(zé)任。當(dāng)然，取得、列裝并部署自主武器系統(tǒng)的國(guó)家，也應(yīng)當(dāng)承擔(dān)相應(yīng)的法律責(zé)任。
在國(guó)內(nèi)層面，根據(jù)《日內(nèi)瓦公約第一附加議定書(shū)》第36條的規(guī)定，一個(gè)國(guó)家具有自主審查新武器、作戰(zhàn)手段或方法的義務(wù)，以確定是否符合國(guó)際規(guī)定。我國(guó)可據(jù)此構(gòu)建具有中國(guó)特色的武器審查模式與問(wèn)責(zé)機(jī)制，如由國(guó)務(wù)院和中央軍事委員會(huì)聯(lián)合制定《中華人民共和國(guó)武器法律審查條例》。隨著自主武器系統(tǒng)技術(shù)的發(fā)展，其所造成的破壞會(huì)更加嚴(yán)重，更需要法律對(duì)其形成約束。根據(jù)我國(guó)實(shí)踐過(guò)程中的規(guī)制經(jīng)驗(yàn)不斷規(guī)范我國(guó)在自主武器系統(tǒng)的研發(fā)與使用，既體現(xiàn)我國(guó)對(duì)于法律的尊重，也突顯我國(guó)在國(guó)際社會(huì)上的大國(guó)風(fēng)范。
在國(guó)際層面，根據(jù)中立技術(shù)原則，應(yīng)用國(guó)際人權(quán)法和國(guó)際人道法可以被理解為采用一種特定的戰(zhàn)略框架來(lái)管理新興的軍事技術(shù)，即可直接通過(guò)確定具體實(shí)施或使用這項(xiàng)技術(shù)是否會(huì)與國(guó)際人權(quán)法和國(guó)際人道法的基本原則相沖突來(lái)對(duì)其進(jìn)行管制。自主武器系統(tǒng)的研制有助于提高一國(guó)政治經(jīng)濟(jì)地位，制衡競(jìng)爭(zhēng)對(duì)手，形成國(guó)防優(yōu)勢(shì)，但各國(guó)對(duì)于該技術(shù)的研發(fā)均處于保密狀態(tài)，難以形成自主審查機(jī)制，因此需要獨(dú)立第三方對(duì)其進(jìn)行監(jiān)管控制。各國(guó)需主動(dòng)向該機(jī)構(gòu)定期匯報(bào)其自主武器系統(tǒng)核心程序的研發(fā)進(jìn)程與重大突破，該機(jī)構(gòu)也可對(duì)其進(jìn)行臨時(shí)抽檢。
(三)自主武器系統(tǒng)挑戰(zhàn)法律應(yīng)對(duì)的思考啟示
在自主武器系統(tǒng)領(lǐng)域，我國(guó)也應(yīng)認(rèn)真對(duì)待與合理應(yīng)用國(guó)際人權(quán)法和國(guó)際人道法，這不僅是一種低成本的明智選擇，而且有助于國(guó)家確立和強(qiáng)化其合法性，減輕其在發(fā)展進(jìn)程中遇到的阻力，拓展其在國(guó)際社會(huì)的認(rèn)可與支持度。現(xiàn)有自主武器系統(tǒng)已經(jīng)配備高速傳感系統(tǒng)，且可同時(shí)響應(yīng)多個(gè)輸入端的信號(hào)，對(duì)戰(zhàn)場(chǎng)進(jìn)行全面的實(shí)時(shí)分析監(jiān)控，消除“戰(zhàn)爭(zhēng)迷霧”。其自主性更是不同于自動(dòng)性，后者只能按照固定程序執(zhí)行重復(fù)操作與低級(jí)任務(wù)，但前者可執(zhí)行更高層次的指令與任務(wù)，使其可以獨(dú)立于人的操作而自主選擇目標(biāo)并決定是否進(jìn)行打擊。自主武器系統(tǒng)作為人工智能時(shí)代的產(chǎn)物，需保證中國(guó)在軍工行業(yè)快速發(fā)展的同時(shí)，不與“呵護(hù)人的生命、價(jià)值、尊嚴(yán)，實(shí)現(xiàn)人人享有人權(quán)，是人類社會(huì)的共同追求”的價(jià)值理念相背離。在這種現(xiàn)實(shí)挑戰(zhàn)下，我國(guó)應(yīng)將國(guó)際人權(quán)法和國(guó)際人道法作為思考的出發(fā)點(diǎn)，繼續(xù)多維度思考應(yīng)對(duì)措施，實(shí)現(xiàn)“預(yù)防性”保障人權(quán)和消除人道災(zāi)難的目的。
一是從國(guó)際人道法出發(fā)考慮有意義的人類控制。雖然有觀點(diǎn)認(rèn)為鼓勵(lì)自主武器系統(tǒng)的技術(shù)創(chuàng)新可以顯著降低對(duì)平民的附帶傷害，甚至對(duì)禁止自主武器系統(tǒng)的立法持反對(duì)意見(jiàn)，但大部分國(guó)家、學(xué)者都已就“有意義的人類控制”達(dá)成共識(shí)。“有意義的人類控制”(Meaningful Human Control)是2014年5月在日內(nèi)瓦舉辦的聯(lián)合國(guó)特定常規(guī)武器公約會(huì)議中針對(duì)自主武器系統(tǒng)所形成的新規(guī)范，可拆分為兩項(xiàng)要素“人類控制”與“有意義的”。首先，“人類控制”明確表明自主武器系統(tǒng)控制目標(biāo)和作出擊打決定的是其操作者，其符合基本的人道主義思想；其次，“有意義的”指由人類衡量各方面因素最終作出擊打決定，可以符合國(guó)際人道法相關(guān)法規(guī)。英國(guó)學(xué)者威廉·布斯比博士肯定了預(yù)防措施的重要性，并提出可以限制軍事行動(dòng)要素借以控制攻擊對(duì)象與附帶傷害。人類與自主武器系統(tǒng)的交互界面也可以為實(shí)現(xiàn)“有意義的人類控制”提供引導(dǎo)，例如直接生成可采取的有意義的行動(dòng)或執(zhí)行任務(wù)的實(shí)時(shí)成功率等。因此，應(yīng)明確界定“有意義的人類控制”的具體方式，并思考將“有意義的人類控制”融入相關(guān)法律，作為自主武器系統(tǒng)研制與使用中所必須遵守的法律規(guī)范。正如日內(nèi)瓦四公約共同第1條所規(guī)定的那樣，國(guó)家不僅自己要尊重國(guó)際人道法，而且要保證其他締約國(guó)尊重國(guó)際人道法。必須保留決定使用自主武器系統(tǒng)的人的責(zé)任，因?yàn)樨?zé)任不能轉(zhuǎn)移給機(jī)器，且應(yīng)該在武器系統(tǒng)的整個(gè)生命周期中加以考慮。事實(shí)上，禁止不受人類控制的武器不會(huì)對(duì)技術(shù)發(fā)展產(chǎn)生反作用。相反，需要充分利用技術(shù)進(jìn)步，推進(jìn)人道主義保護(hù)以及維護(hù)國(guó)際和平與安全的國(guó)際法。
二是從國(guó)際人權(quán)法出發(fā)考慮創(chuàng)設(shè)依附的人權(quán)底線。早在2012年人權(quán)觀察組織就已發(fā)表報(bào)告，表示各國(guó)需采取預(yù)防措施并抵制武裝沖突過(guò)程中完全自主武器系統(tǒng)的研發(fā)與使用。因此為消除人類最終被機(jī)器滅亡的一切可能，保證生命權(quán)、尊嚴(yán)權(quán)等基本人權(quán)，絕不能賦予機(jī)器人自主殺人的權(quán)力。如同適用于人的戰(zhàn)爭(zhēng)法則，我們要把“人類至上”作為適用于機(jī)器士兵法律的立法精神和作戰(zhàn)守則的核心要素，這也是自主武器系統(tǒng)使用中人權(quán)保障首要原則。對(duì)自主武器系統(tǒng)而言，指令模塊永不消失、永不刪改的“依附于人”的程序源代碼，可以考慮作為人類創(chuàng)設(shè)的人權(quán)底線，任何機(jī)器人不具有依附程序，都將失去存在的法律依據(jù)。此外，從武器審查的角度看，國(guó)際社會(huì)禁止使用不分皂白的武器，也禁止使用會(huì)引起過(guò)分傷害或不必要痛苦的武器。因此中國(guó)更應(yīng)在自主武器系統(tǒng)的程序設(shè)計(jì)上體現(xiàn)出人類對(duì)于其的絕對(duì)控制，為自主武器創(chuàng)設(shè)依托的人權(quán)底線，反對(duì)脫離控制的自主武器系統(tǒng)的研發(fā)與使用。
五、結(jié)語(yǔ)
人工智能技術(shù)的不斷成熟使得與之結(jié)合的軍事武器隨之迅猛發(fā)展，自主武器系統(tǒng)就是其代表產(chǎn)物之一，自主武器系統(tǒng)作為將人的思維判斷能力和武器的殺傷力高度整合的新型武器，對(duì)人權(quán)、人道與國(guó)際社會(huì)的和平穩(wěn)定構(gòu)成了包括但不限于侵犯性、濫殺性、殘酷性、失控性等挑戰(zhàn)。具體分析這些對(duì)人權(quán)與人道的挑戰(zhàn)印證出自主武器系統(tǒng)存在明顯的人權(quán)侵犯和人道主義風(fēng)險(xiǎn)。
2022年2月25日，習(xí)近平總書(shū)記在主持中共中央政治局第三十七次集體學(xué)習(xí)時(shí)發(fā)表重要講話，強(qiáng)調(diào)：“呵護(hù)人的生命、價(jià)值、尊嚴(yán)，實(shí)現(xiàn)人人享有人權(quán)，是人類社會(huì)的共同追求。”應(yīng)對(duì)各國(guó)競(jìng)相掀起研發(fā)應(yīng)用自主武器系統(tǒng)的軍備競(jìng)賽趨勢(shì)，以及人工智能技術(shù)與軍事武器結(jié)合后給現(xiàn)行國(guó)際人權(quán)法與國(guó)際人道法的相關(guān)原則與規(guī)定帶來(lái)的嚴(yán)峻挑戰(zhàn)，我國(guó)需要提前研究部署，積極參與國(guó)際立法構(gòu)建、促進(jìn)多邊合作，完善法律審查問(wèn)責(zé)機(jī)制，并從國(guó)際人權(quán)法和國(guó)際人道法出發(fā)多維度思考應(yīng)對(duì)策略，以預(yù)防人權(quán)與人道主義侵害，促進(jìn)這一涉及人類前途與命運(yùn)的問(wèn)題提前得到較好解決。
（王韻涵，吉林大學(xué)法學(xué)院博士研究生。）
Abstract：According to predictions，by 2050，autonomous weapon systems may potentially replace humans as the main force on the battlefield.The development of autonomous weapon systems poses risks to human rights and humanitarian concerns and raises questions about how international law should regulate new technologies.From the perspectives of international human rights law and international humanitarian law，autonomous weapon systems present serious challenges in terms of invasiveness，indiscriminate killing，cruelty，and loss of control，which impact human rights and humanitarian principles.Against the backdrop of increased attention to the protection of human rights in China，it is necessary to clarify the existing regulatory framework and fundamental stance regarding autonomous weapon systems and proactively consider and propose countermeasures to address the risks associated with such systems.This will help prevent human rights and humanitarian violations and advance the timely resolution of this issue，which affects the future and destiny of humanity，ultimately achieving the noble goal of universal enjoyment of human rights.
Keywords：Autonomous Weapon Systems；International Humanitarian Law；International Human Rights Law；Humanitarian
(責(zé)任編輯 郭 銳)
京公網(wǎng)安備 11010102003980號(hào)