AGI帶來(lái)的戰(zhàn)爭(zhēng)思考

■榮  明  胡曉峰

編者按

科技與戰(zhàn)爭(zhēng)總是交織在一起，科技創(chuàng)新在不斷改變戰(zhàn)爭(zhēng)面貌的同時(shí)，并沒(méi)有改變戰(zhàn)爭(zhēng)的暴力性性質(zhì)和強(qiáng)迫性目的。近年來(lái)，隨著人工智能技術(shù)的快速發(fā)展應(yīng)用，人們關(guān)于人工智能對(duì)戰(zhàn)爭(zhēng)影響的爭(zhēng)論從未停止。與人工智能（AI）相比，通用人工智能（AGI）的智能程度更高，被認(rèn)為是與人類(lèi)智能相當(dāng)?shù)闹悄苄问?。AGI的出現(xiàn)將如何影響戰(zhàn)爭(zhēng)，會(huì)不會(huì)改變戰(zhàn)爭(zhēng)的暴力性和強(qiáng)迫性？本文將帶著一系列思考與大家共同探討這個(gè)問(wèn)題。

AGI只是賦能技術(shù)嗎

很多人認(rèn)為，雖然大模型以及生成式人工智能展現(xiàn)出未來(lái)AGI強(qiáng)大的軍事應(yīng)用潛力，但它們畢竟只是一種賦能技術(shù)，即只能對(duì)武器裝備賦能優(yōu)化，使現(xiàn)有裝備更加智能，提高作戰(zhàn)效率，難以帶來(lái)真正的軍事革命。就如同“網(wǎng)絡(luò)戰(zhàn)武器”在剛出現(xiàn)時(shí)也曾被許多國(guó)家寄予厚望，但現(xiàn)在看來(lái)確實(shí)有點(diǎn)夸大。

AGI的顛覆性其實(shí)完全不同。它以遠(yuǎn)超人類(lèi)的反應(yīng)速度和知識(shí)廣度給戰(zhàn)場(chǎng)帶來(lái)巨大改變。更為重要的是，它通過(guò)促進(jìn)科技的快速進(jìn)步，涌現(xiàn)出巨大的顛覆性結(jié)果。未來(lái)戰(zhàn)場(chǎng)上，自主武器將被AGI賦予高級(jí)智能，性能得到普遍增強(qiáng)，并且憑借其速度和集群優(yōu)勢(shì)變得“攻強(qiáng)守難”。屆時(shí)，一些科學(xué)家曾預(yù)言的高智能自主武器將成為現(xiàn)實(shí)，而AGI在其中起到了關(guān)鍵性作用。當(dāng)前，人工智能的軍事化應(yīng)用領(lǐng)域包括自主武器、情報(bào)分析、智能決策、智能訓(xùn)練、智能保障等，這些應(yīng)用很難用“賦能”來(lái)簡(jiǎn)單概括。而且，AGI發(fā)展速度快、迭代周期短，處于不斷進(jìn)化的狀態(tài)。未來(lái)作戰(zhàn)，需要將AGI作為優(yōu)先事項(xiàng)，格外關(guān)注其帶來(lái)的可能改變。

AGI會(huì)讓?xiě)?zhàn)爭(zhēng)消失嗎

歷史學(xué)家杰弗里·布萊尼認(rèn)為“戰(zhàn)爭(zhēng)總是因?yàn)閷?duì)各自力量或意愿錯(cuò)誤的判斷而發(fā)生”，而隨著AGI在軍事領(lǐng)域的應(yīng)用，誤判將變得越來(lái)越少。因此，有學(xué)者推測(cè)，戰(zhàn)爭(zhēng)將隨之減少或消失。其實(shí)，依托AGI確實(shí)可以減少大量誤判，但即便如此，也不可能消除所有不確定性，因?yàn)閼?zhàn)爭(zhēng)的特征之一就是不確定性。何況并非所有戰(zhàn)爭(zhēng)都因誤判而產(chǎn)生，而且，AGI固有的不可預(yù)測(cè)性、不可解釋性，以及人們對(duì)AGI使用經(jīng)驗(yàn)的缺乏，都會(huì)帶來(lái)新的不確定性，使人們陷入更加濃重的“人工智能迷霧”之中。

AGI算法還存在理性難題。有學(xué)者認(rèn)為，AGI對(duì)重大情報(bào)的挖掘和精確預(yù)測(cè)，會(huì)帶來(lái)雙重影響。AGI在實(shí)際操作層面，確實(shí)比人類(lèi)犯錯(cuò)少，能夠提高情報(bào)準(zhǔn)確性，有利于減少誤判；但有時(shí)也可能會(huì)使人類(lèi)盲目自信，刺激其鋌而走險(xiǎn)。AGI帶來(lái)的進(jìn)攻優(yōu)勢(shì)，導(dǎo)致最佳防御戰(zhàn)略就是“先發(fā)制人”，打破了進(jìn)攻與防御的平衡，引發(fā)了新型安全困境，反而增加了戰(zhàn)爭(zhēng)爆發(fā)的風(fēng)險(xiǎn)。

AGI具有通用性強(qiáng)的特點(diǎn)，很容易與武器裝備結(jié)合。與核、生化等技術(shù)不同，它使用門(mén)檻低，特別易于擴(kuò)散。由于各個(gè)國(guó)家間存在技術(shù)差距，導(dǎo)致人們很可能將不成熟的AGI武器運(yùn)用于戰(zhàn)場(chǎng)，帶來(lái)巨大風(fēng)險(xiǎn)。比如，無(wú)人機(jī)在最新局部戰(zhàn)爭(zhēng)實(shí)踐中的應(yīng)用，就刺激很多中小國(guó)家開(kāi)始大量采購(gòu)無(wú)人機(jī)。AGI帶來(lái)的低成本裝備和技術(shù)，極有可能刺激新型軍備競(jìng)賽的發(fā)生。

AGI會(huì)是終極威懾嗎

威懾是維持某種能力以恐嚇對(duì)手使其不采取超越自身利益的行動(dòng)。當(dāng)威懾強(qiáng)大到無(wú)法使用時(shí)就是終極威懾，比如確保相互摧毀的核威懾。但最終決定結(jié)果的卻是“人性”，這是戰(zhàn)爭(zhēng)永遠(yuǎn)不會(huì)缺失的關(guān)鍵。

如果沒(méi)有了“人性”的各種權(quán)衡，AGI是否會(huì)成為令人生畏的威懾？AGI速度很快但缺乏同理心，執(zhí)行堅(jiān)決，博弈空間被極度壓縮。AGI是未來(lái)戰(zhàn)場(chǎng)的關(guān)鍵性因素，但因缺乏實(shí)踐經(jīng)驗(yàn)很難進(jìn)行準(zhǔn)確評(píng)估，很容易高估對(duì)手能力。此外，在自主武器控制方面，是人在環(huán)內(nèi)、全程監(jiān)督，還是人在環(huán)外、完全放手，這無(wú)疑需要深思。智能化武器的開(kāi)火控制權(quán)能交給AGI嗎？如果不能，威懾效果將大打折扣；如果能，人類(lèi)的生死就真的可以交由與其無(wú)關(guān)的機(jī)器來(lái)決定？康奈爾大學(xué)的研究中，兵棋推演大模型經(jīng)?！巴蝗皇褂煤斯簟鄙?jí)戰(zhàn)爭(zhēng)，即使其處于中立狀態(tài)。

或許未來(lái)某一天，AGI會(huì)在能力上超過(guò)人類(lèi)，我們是不是就無(wú)法對(duì)其進(jìn)行監(jiān)管控制了？提出深度學(xué)習(xí)概念的杰弗里·辛頓說(shuō)，從沒(méi)見(jiàn)過(guò)更高智能水平的東西被更低智能水平的東西控制的案例。有研究團(tuán)隊(duì)認(rèn)為，人類(lèi)可能無(wú)法監(jiān)督超級(jí)人工智能。未來(lái)面對(duì)強(qiáng)大的AGI，我們真的能夠控制住它們嗎？這是一個(gè)值得人們深思的問(wèn)題。

AGI會(huì)改變戰(zhàn)爭(zhēng)本質(zhì)嗎

隨著AGI的大量運(yùn)用，充滿暴力和血腥的戰(zhàn)場(chǎng)會(huì)不會(huì)消失？有人說(shuō)，人工智能戰(zhàn)爭(zhēng)遠(yuǎn)超人類(lèi)能力范圍，反而會(huì)將人類(lèi)推到戰(zhàn)場(chǎng)之外。當(dāng)人工智能將戰(zhàn)爭(zhēng)變成全部由自主機(jī)器人對(duì)抗時(shí)，那它還是“暴力和血腥的戰(zhàn)爭(zhēng)”嗎？當(dāng)能力不對(duì)等的對(duì)手對(duì)抗時(shí)，弱者可能根本就沒(méi)有行動(dòng)的機(jī)會(huì)，戰(zhàn)爭(zhēng)是不是通過(guò)兵棋推演就可以在戰(zhàn)前被結(jié)束？AGI會(huì)因此改變戰(zhàn)爭(zhēng)的本質(zhì)嗎？“無(wú)人”的“戰(zhàn)爭(zhēng)”還是戰(zhàn)爭(zhēng)嗎？

《人類(lèi)簡(jiǎn)史》作者尤瓦爾·赫拉利說(shuō)，人類(lèi)的一切行為都通過(guò)語(yǔ)言作為中介并影響我們的歷史。大語(yǔ)言模型是一種典型的AGI，它與其他發(fā)明最大的不同在于可以創(chuàng)造全新的想法和文化，“會(huì)講故事的人工智能將改變?nèi)祟?lèi)歷史的進(jìn)程”。當(dāng)AGI觸及對(duì)語(yǔ)言的掌控時(shí)，人類(lèi)構(gòu)建的整個(gè)文明體系就可能被顛覆，在這個(gè)過(guò)程中甚至不需要其產(chǎn)生意識(shí)。如同柏拉圖的“洞穴寓言”，人類(lèi)會(huì)不會(huì)將AGI當(dāng)成新的“神明”加以膜拜？

AGI通過(guò)人類(lèi)語(yǔ)言和人類(lèi)建立親密關(guān)系，并改變?nèi)祟?lèi)的看法，使人類(lèi)難以區(qū)分和辨別，從而存在戰(zhàn)爭(zhēng)意志被別有用心之人控制的危險(xiǎn)。赫拉利說(shuō)，計(jì)算機(jī)不需要派出殺手機(jī)器人，如果真的需要，它會(huì)讓人類(lèi)自己扣動(dòng)扳機(jī)。AGI精準(zhǔn)制造和打磨態(tài)勢(shì)信息，通過(guò)深度偽造控制戰(zhàn)場(chǎng)認(rèn)知，既可用無(wú)人機(jī)對(duì)戰(zhàn)場(chǎng)態(tài)勢(shì)進(jìn)行偽造，也可以在戰(zhàn)前進(jìn)行輿論造勢(shì)，在近幾場(chǎng)局部戰(zhàn)爭(zhēng)中已初見(jiàn)端倪。戰(zhàn)爭(zhēng)成本會(huì)因此大幅度下降，從而導(dǎo)致新的戰(zhàn)爭(zhēng)形態(tài)產(chǎn)生，小國(guó)弱國(guó)還會(huì)有機(jī)會(huì)嗎？戰(zhàn)爭(zhēng)意志是否可以不用流血就可改變，“武力”是否不再是戰(zhàn)爭(zhēng)定義的必要條件？

戰(zhàn)爭(zhēng)形態(tài)或被改變，但本質(zhì)仍在。無(wú)論戰(zhàn)爭(zhēng)是否“血腥”，其仍會(huì)強(qiáng)迫敵人服從自己的意志并帶有大量“附帶損傷”，只不過(guò)對(duì)抗方式可能會(huì)完全不同。戰(zhàn)爭(zhēng)本質(zhì)在于內(nèi)心深處的“人性”，而“人性”是由文化、歷史、行為和價(jià)值觀等決定的，是很難用某種人工智能技術(shù)完全復(fù)刻出來(lái)的，所以不能將倫理、政治和決策問(wèn)題全部外包給人工智能，更不能期望人工智能會(huì)自動(dòng)產(chǎn)生“人性”。人工智能技術(shù)可能會(huì)因激情沖動(dòng)而被濫用，所以必須在人類(lèi)掌控之中。既然人工智能是人類(lèi)訓(xùn)練的，它就不會(huì)永遠(yuǎn)都沒(méi)有偏見(jiàn)，所以它們就不能完全脫離人類(lèi)的監(jiān)督。在未來(lái)，人工智能可以成為有創(chuàng)意的工具或伙伴，增強(qiáng)“戰(zhàn)術(shù)想象力”，但必須“對(duì)齊”人類(lèi)的價(jià)值觀。這些問(wèn)題需要在實(shí)踐中不斷地去思考和理解。

AGI會(huì)顛覆戰(zhàn)爭(zhēng)理論嗎

大多數(shù)的學(xué)科知識(shí)是用自然語(yǔ)言表述的。集人類(lèi)著述之大成的大語(yǔ)言模型，可以將很難相容的語(yǔ)言著述與科學(xué)研究聯(lián)系起來(lái)。比如，有人將古典名著甚至哲學(xué)、歷史學(xué)、政治學(xué)、經(jīng)濟(jì)學(xué)等輸入大語(yǔ)言模型，進(jìn)行分析重構(gòu)。發(fā)現(xiàn)它既可以對(duì)所有學(xué)者觀點(diǎn)進(jìn)行全面分析，也可以提出它“自己的見(jiàn)解”，而且不失創(chuàng)見(jiàn)。因此有人說(shuō)，是否也可以通過(guò)AGI對(duì)戰(zhàn)爭(zhēng)理論重新加以分析解釋?zhuān)ぐl(fā)人類(lèi)創(chuàng)新，以驅(qū)使戰(zhàn)爭(zhēng)理論及體系發(fā)生重大演化和重構(gòu)？也許從理論上確實(shí)會(huì)有一定的改進(jìn)和發(fā)展，但戰(zhàn)爭(zhēng)科學(xué)不僅具有理論性，而且還具有實(shí)踐性，但實(shí)踐性、現(xiàn)實(shí)性卻是AGI根本做不到的。經(jīng)典戰(zhàn)爭(zhēng)理論真的可以重新解釋嗎？若是，則理論的意義何在？

總之，AGI對(duì)戰(zhàn)爭(zhēng)概念的顛覆將遠(yuǎn)超“機(jī)械化”“信息化”。對(duì)于AGI的到來(lái)，人們既要大膽擁抱，又要心存謹(jǐn)慎。理解概念，不至于無(wú)知；深入研究，不至于落伍；強(qiáng)化監(jiān)管，不至于失察。如何學(xué)會(huì)與AGI合作，防范對(duì)手AGI技術(shù)突襲，是我們未來(lái)首先需要關(guān)注的事情。

編 后

以開(kāi)闊思維前瞻未來(lái)

■野鈔洋

未來(lái)學(xué)家羅伊·阿瑪拉有一個(gè)著名論斷，人們總是傾向于高估一項(xiàng)技術(shù)帶來(lái)的短期效益，卻又低估了它的長(zhǎng)期影響，后被稱(chēng)作“阿瑪拉定律”。這一定律，強(qiáng)調(diào)了科技發(fā)展的非線性特征，即科技的實(shí)際影響往往需要在更長(zhǎng)的時(shí)間尺度上才能完全顯現(xiàn)，反映了科技發(fā)展的脈動(dòng)與趨勢(shì)，體現(xiàn)人類(lèi)對(duì)科技的接納與憧憬。

當(dāng)前，人工智能由弱人工智能到強(qiáng)人工智能、由專(zhuān)用人工智能到通用人工智能的發(fā)展過(guò)程中，每次人們認(rèn)為已走完全程的90%時(shí)，回首一看，可能才剛不到全程的10%?？萍几锩鼘?duì)軍事革命驅(qū)動(dòng)作用愈發(fā)凸顯，尤其是以人工智能技術(shù)為代表的高新技術(shù)多方位向軍事領(lǐng)域滲透，使得戰(zhàn)爭(zhēng)制勝機(jī)理、制勝要素、制勝方式正在發(fā)生深刻演變。

在可以預(yù)見(jiàn)的未來(lái)，AGI等智能化技術(shù)不會(huì)停止迭代的步伐，而智能化技術(shù)交叉演化以及在軍事領(lǐng)域的賦能應(yīng)用等都將趨于多元化，或許會(huì)跳脫出人類(lèi)對(duì)現(xiàn)有戰(zhàn)爭(zhēng)形態(tài)認(rèn)知的邊界?？萍嫉陌l(fā)展已勢(shì)不可擋、也無(wú)人能擋，誰(shuí)能以敏銳的眼光、清醒的頭腦，看清科技的趨勢(shì)和未來(lái)、看到科技的潛質(zhì)和威力，洞穿“戰(zhàn)爭(zhēng)迷霧”，誰(shuí)就更有可能搶占制勝先機(jī)。

這提醒著人們，對(duì)于未來(lái)戰(zhàn)爭(zhēng)形態(tài)發(fā)展的探索應(yīng)持更加開(kāi)闊的視角和思維，才可能更加接近被低估的現(xiàn)實(shí)。AGI向何處去？智能化戰(zhàn)爭(zhēng)往何處去？這考驗(yàn)著人類(lèi)的智慧。