【精選書摘】人工智慧對民用與軍用科技的影響

THE MERIT TIMES

文／亨利．季辛吉、艾力克．施密特、丹尼爾．哈騰洛赫，譯／葉妍伶 2023-04-09

字級

收藏文章

0
支持請+1

21觀看次

圖／聯經出版提供

文／亨利．季辛吉、艾力克．施密特、丹尼爾．哈騰洛赫，譯／葉妍伶

過去軍用和民用的界線有三種特質：科技差異、集中控制、效果範圍。僅限軍用或僅限民用的科技通常有完全不同的應用方式。集中控制指的是政府容易管理，不會輕易散播逃離政府的控制。最後，效果範圍則是指這項科技潛在的摧毀力。

綜觀歷史，許多技術都是軍民兩用的，有些可以容易地廣為散播，有些有強大的毀滅力。不過，在這之前，還沒有任何一項技術同時具備軍民兩用、容易散播且破壞力強大這三種特質。鐵道可以運送商品到市集，也可以載士兵上戰場，但是沒有破壞力；核子科技可兩用，也有強大的破壞力，但是需要複雜的基礎建設，所以政府要掌控還算相對容易；獵槍可以廣為散播，也屬於軍民兩用，但是殺傷力有限，持槍者不至於在戰略層次造成毀滅性的結果。

快速發動數位攻擊

人工智慧則打破了先例。人工智慧顯然具備了軍民兩用的特質，也可以輕易散播，因為本質上，人工智慧就是幾行程式碼。大部分是演算法（有少數例外），只要在電腦或小網路上就可以運行，這表示政府很難透過控制基礎建設來操控這項科技。

最後，人工智慧的應用可以發揮強大的破壞力。這種罕見的集合，再加上牽涉到廣大民眾，遂在戰略挑戰上帶來了新的複雜度。

由人工智慧運作的武器可能會讓敵手以超凡的速度發動數位攻擊，戲劇性地提高人類突破數位罩門的能力。因此，一個國家可能根本沒有時間去評估對手來襲的訊號，必須迅速反擊或承受失能的風險。如果這個國家有方法，就會選擇在當下同時回應，在對手全面攻擊之前，建立人工智慧運作的系統來掃描攻擊，並且讓人工智慧系統有能力反擊。對手呢，若根據回報發現對方有這樣的系統，可以在無預警的情況下行動，迅速增建和計畫，可能會發展出平行的科技或不同的演算法。除非費心發展出共同的限制觀念，人類必然不可能三思而後行，就算知道要採取睿智的行動，在這當下，想要先行動的衝動一定會讓人不智（正如20世紀初期所示），或人類根本來不及參與這樣的決策。

閃電崩盤導致災難

在證券市場裡，所謂的計量金融公司發現人工智慧演算法可以看出股市的模式，用最快的速度下單，就算是最厲害的交易員也追不上。因此這樣的公司把部分證券的交易控制權，委由演算法進行。在許多例子中，這些演算法系統的獲利程度遠大過人類的能力。不過，演算法有時候會誤算，離譜的程度也遠超過人類犯下最大的錯誤。

在金融世界裡，這樣的錯誤會重挫投資組合，但不會致命；但是在戰略領域裡，像「閃電崩盤」這樣的演算法失誤，就會導致災難。數位領域裡的戰略國防如果需要戰術攻擊，其中一方的計算或行動若出錯，可能會意外觸發升高衝突的模式。就算想要把這些新能力整合到已經定義好的策略觀念或國際均衡裡，也不容易，因為這麼做所需要的傑出科技實力和專業能力，早就不掌握在政府手中了。政府承包商和個人投資戶、創業家、新創公司、私人研究實驗室等許多行為者和機構，都參與了塑造科技的過程，而這些科技具有戰略意涵。不是每個人都認為自己的任務和聯邦政府所定義的國家目標相符。產業、學界和政府相互教育的過程可以橋接鴻溝，確保大家都在共同的概念架構下理解人工智慧在戰略意涵的主要原則。過去很少世代要面對這麼複雜的戰略與科技挑戰，對於戰略的本質或進行討論所需要的語彙也沒什麼共識。

核武時代還沒有化解的挑戰，是人類開發出一項科技，而戰略專家找不到可用的作戰準則。人工智慧時代的困境則大不相同，很多人都可以取得、熟練並運用這項技術。相互戰略約束的成就，或甚至對約束的定義有共識，在概念上和實務上都會比以前更加困難。

為了管理核子武器，花了半世紀時間，成效還很零零落落。可是評估核武平衡的挑戰相比之下就很直截了當，彈頭可以數，爆炸力也已知。相反地，人工智慧的能力還未定，因為人工智慧一直在變化。人工智慧和核武不一樣，它很難追蹤，一旦經過訓練就可以輕易複製，而且大多在許多小機器上便可運作。要偵測到人工智慧的存在，或確認人工智慧不存在，兩者都很困難，以現代科技來說，不可能辦得到。在這個年代裡，嚇阻比較可能來自複雜程度人工智慧的攻擊可以有不同的方向，人工智慧的反應速度很快。

要管理人工智慧，戰略專家一定要考慮，怎麼把人工智慧整合到國際關係中負責任的模式裡。在部署武器之前，戰略專家一定要明白使用後的反覆效果，衝突升高的可能和降低衝突的方式。負責任的戰略搭配有節制的原則很重要。政策制定者應該注意軍備、防衛科技與戰略，進行軍備控制，而不是把新科技當作是隨著時間會愈來愈不同，且在功能上相對抗的步驟。一定要寫好準則，並且在運用武器之前就先做好決策。

（本文摘自聯經出版《AI世代與我們的未來：人工智慧如何改變生活，甚至是世界？》一書）

本書作者亨利．季辛吉（Henry A. Kissinger）曾任美國第56任國務卿、總統國家安全事務助理。艾力克．施密特（Eric Schmidt）是科技人、創業家與慈善家。丹尼爾．哈騰洛赫（Daniel Huttenlocher）則是麻省理工學院蘇世民計算學院的首任院長，當代3位跨領域的世界領導者提出，關於人工智慧最重要的議題是人類監督與適時干預的能力，並探討人工智慧的使用倫理是什麼？在龐大的益處背後潛伏著哪些危機，而我們又該如何面對日新月異的人工智慧？

《人間福報》是一份多元化的報紙，強調內容溫馨、健康、益智、環保，不八卦、不加料、不阿諛，希冀藉由優質的內涵，體貼大眾身心靈的需要，是一份承擔社會責任的報紙。

- 支持福報，做別人生命中的貴人 -

前往支持

加人間福報LINE好友

0
支持請+1

上一篇文章

【大師開講】從衣食住行談禪宗的生活

下一篇文章

【書頁微光】《戲如妳：陳淑芳的孤味人生》苦樂相倚的人生路

你可能也喜歡

Favorite

閱讀