關(guān)注智能化武器裝備運(yùn)用風(fēng)險(xiǎn)

■羅兆成

當(dāng)前，世界主要國家都在大力推進(jìn)軍事智能化建設(shè)，智能化武器裝備已逐漸覆蓋到各個(gè)作戰(zhàn)域。然而，新技術(shù)在極大提升戰(zhàn)斗力的同時(shí)，也可能會(huì)帶來極大的風(fēng)險(xiǎn)。為此，我們應(yīng)當(dāng)前瞻預(yù)見智能化武器裝備在戰(zhàn)場(chǎng)上的運(yùn)用風(fēng)險(xiǎn)，從而未雨綢繆，有效規(guī)避。

智能化武器裝備的迅速發(fā)展，使得裝備使用的物化技術(shù)所存在的風(fēng)險(xiǎn)明顯加大。首先，智能化武器裝備的抗干擾能力弱，其作戰(zhàn)運(yùn)用存在失控風(fēng)險(xiǎn)。當(dāng)前階段，各國使用的智能化武器裝備往往需要后方人員指揮控制，極度依賴通信鏈路，一旦受到干擾，其作戰(zhàn)效能就難以發(fā)揮甚至被對(duì)方所利用。近年伊朗利用干擾技術(shù)成功捕獲美軍無人機(jī)便是典型案例。此外，智能化武器裝備賴以發(fā)展的人工智能技術(shù)其可靠性仍然存疑。在某些特定領(lǐng)域人工智能技術(shù)表現(xiàn)了其遠(yuǎn)超人類的“智能”，但其可靠性、可解釋性仍然受到質(zhì)疑。由于智能算法使用的訓(xùn)練數(shù)據(jù)存在偶然、甚至人為的數(shù)據(jù)偏差，使得該技術(shù)在運(yùn)用時(shí)較為容易出現(xiàn)“偏見”。目前各國在智能化武器裝備運(yùn)用前都會(huì)對(duì)其進(jìn)行反復(fù)的模擬測(cè)試甚至實(shí)戰(zhàn)檢驗(yàn)，但在理論上仍然沒有一種可靠的測(cè)試方法，可以確保其一旦在復(fù)雜戰(zhàn)場(chǎng)環(huán)境中運(yùn)行不會(huì)出現(xiàn)故障。2019年11月，《紐約時(shí)報(bào)》就報(bào)道了一起美軍在阿富汗的誤炸事件，由于其空襲行動(dòng)依據(jù)某個(gè)基于技術(shù)手段的單一源頭信息，在實(shí)施打擊之前美軍也未進(jìn)行重新核查，因而錯(cuò)誤地將一場(chǎng)婚禮慶典當(dāng)作空襲目標(biāo)，導(dǎo)致數(shù)十名平民傷亡。

智能化武器裝備大規(guī)模運(yùn)用可能引發(fā)軍備競(jìng)賽，導(dǎo)致不安全的人工智能系統(tǒng)存在被部署的風(fēng)險(xiǎn)?？梢灶A(yù)見，智能化武器裝備將是未來智能化戰(zhàn)爭(zhēng)的物質(zhì)基礎(chǔ)和必備手段。為獲得優(yōu)于競(jìng)爭(zhēng)對(duì)手的軍事優(yōu)勢(shì)，世界主要軍事大國紛紛加大智能化武器裝備的研究投入與裝備數(shù)量，這種競(jìng)相發(fā)展智能化武器裝備的做法使得各國陷入軍備競(jìng)賽的可能性不斷上升。隨著智能化武器裝備參與實(shí)戰(zhàn)的比例不斷升高，在武裝沖突的危急情況下，以目前的技術(shù)而言，區(qū)分平民與作戰(zhàn)人員的算法仍然難以保證其可靠性。對(duì)于各國而言，即使競(jìng)爭(zhēng)對(duì)手實(shí)際上并沒有實(shí)現(xiàn)人工智能技術(shù)的重大突破，但由于對(duì)技術(shù)落后的猜測(cè)和擔(dān)憂，會(huì)促使各國急于部署并不完善且不可靠的人工智能系統(tǒng)以便爭(zhēng)奪制勝優(yōu)勢(shì)，這可能會(huì)對(duì)所有參與其中的人與國家造成災(zāi)難性的后果。

智能化武器裝備運(yùn)用影響國際戰(zhàn)略平衡，增加軍事沖突爆發(fā)的風(fēng)險(xiǎn)。智能化武器裝備運(yùn)用增加了“打響第一槍”的風(fēng)險(xiǎn)。隨著未來戰(zhàn)場(chǎng)智能化武器裝備的部署與運(yùn)用的增多，其自主能力將進(jìn)一步得到加強(qiáng)，其攻擊的速度與強(qiáng)度將是難以預(yù)料的。發(fā)生爭(zhēng)端的雙方很大程度上會(huì)將智能化武器裝備部署到最前沿，其對(duì)敵方行動(dòng)的任何錯(cuò)誤判斷都可能導(dǎo)致沖突升級(jí)。一旦交火開始，由于擔(dān)心己方部隊(duì)遭受對(duì)手的打擊，極有可能會(huì)促使一方實(shí)施先發(fā)制人的攻擊。

智能化武器裝備運(yùn)用增加了危機(jī)失控的風(fēng)險(xiǎn)。大量智能化武器裝備運(yùn)用于作戰(zhàn)，軍事行動(dòng)的速度可能超過政治決策的速度，決策者危機(jī)管控的能力可能被削弱。隨著作戰(zhàn)時(shí)間壓縮、作戰(zhàn)節(jié)奏加快，戰(zhàn)場(chǎng)態(tài)勢(shì)變化的時(shí)域切分更加精細(xì)，時(shí)隙越來越短、顆粒度越來越小，各方交換信息與評(píng)估選擇的時(shí)間將被大大壓縮。目前，智能化武器裝備主要運(yùn)用于常規(guī)作戰(zhàn)，但對(duì)于在該領(lǐng)域處于弱勢(shì)的一方，可能會(huì)認(rèn)為其改變了軍事平衡，極有可能促使弱勢(shì)一方采用常規(guī)戰(zhàn)爭(zhēng)以外的手段進(jìn)行應(yīng)對(duì)。

智能化武器裝備運(yùn)用導(dǎo)致的軍事文化、道德倫理和法律風(fēng)險(xiǎn)。目前，不同國家、民族和軍隊(duì)對(duì)使用智能化武器裝備的認(rèn)可程度不同。例如，斯蒂芬·霍金就認(rèn)為“人工智能可能導(dǎo)致人類毀滅”。2018年，美國谷歌公司多名員工聯(lián)合抵制參與軍用人工智能研發(fā)，最終導(dǎo)致谷歌公司退出相關(guān)計(jì)劃。即便如此，2019年美國仍然制定了軍用人工智能倫理準(zhǔn)則，為其發(fā)展智能化武器裝備掃清障礙。

未來戰(zhàn)爭(zhēng)，智能化武器裝備一旦大規(guī)模運(yùn)用于作戰(zhàn)，不同國家、民族之間的隔閡和爭(zhēng)端有可能會(huì)越來越大，由于智能化武器裝備使參戰(zhàn)人員越來越遠(yuǎn)離戰(zhàn)場(chǎng)，人們對(duì)于殺戮的排斥心理會(huì)隨著距離的增加而逐漸變?nèi)?，?jǐn)慎決策和正當(dāng)防衛(wèi)的心理被逐步移除或降低，殺戮將不再是完全出于自?；蛱囟ㄕ文康?，而是越來越取決于智能化武器裝備在作戰(zhàn)環(huán)境中運(yùn)用的邏輯規(guī)則。另外，由于智能技術(shù)是一種典型的軍民兩用技術(shù)，技術(shù)擴(kuò)散較難控制，容易被恐怖主義或非法武裝利用。敘利亞戰(zhàn)爭(zhēng)中，恐怖組織就曾改裝民用無人機(jī)，將其投入實(shí)戰(zhàn)實(shí)施空襲?？傊?，智能化武器裝備的諸多優(yōu)勢(shì)，使其發(fā)動(dòng)襲擊的門檻空前降低，極易導(dǎo)致暴力沖突頻發(fā)，與戰(zhàn)爭(zhēng)倫理諸原則相悖，并有可能打破國際戰(zhàn)爭(zhēng)法的基本交戰(zhàn)規(guī)則。