矽幕 (GPT-4o 生成)
AI 可能造成最嚴重的危險，有些並不在於某一個社會的內部反應，而在於許多社會互動形成的動態，例如導致新的軍備競賽、新的戰爭、新的帝國擴張。
威脅人類文明的，不只是核彈或病毒這些實體或生物性的大規模毀滅性武器。人類文明也可能被社會性的大規模毀滅性武器摧毀，例如用虛構故事用來破壞人類的社會連結。某個國家或許就能研發 AI來放出大量的假新聞、假貨幣、假人類，而讓許多國家的人民再也無法相信任何事或任何人。
要談論新的電腦政治，絕不能只是談個別社會該如何應對 AI，我們必須考慮 AI會怎樣影響全球不同社會之間的關係。
矽幕將改變國際局勢
電腦網路對目前的國際體系構成兩大挑戰。第一個挑戰是: 由於電腦網路讓資訊與權力更容易集中於單一中央樞紐，人類可能進入一個新的帝國時代。第二個挑戰是: 一道新的矽幕可能讓人類分裂，分屬於敵對的數位帝國。
要是人類分裂成諸多無法理解彼此的敵對陣營，想再避免毀滅性戰爭、或防止災難性氣候變遷，機會只能說是微乎其微。
技術革命影響深遠
工業革命與現代帝國主義有緊密的連結。那麼，AI 會不會帶出類似的情形呢?
AI 橫空出世的第一個轉捩點
就像史上所有重大的歷史革命，AI的興起也是循序漸進，分成許多階段，有些階段就成了公認的轉捩點。
威脅人類文明的，不只是核彈或病毒這些實體或生物性的大規模毀滅性武器。人類文明也可能被社會性的大規模毀滅性武器摧毀，例如用虛構故事用來破壞人類的社會連結。某個國家或許就能研發 AI來放出大量的假新聞、假貨幣、假人類，而讓許多國家的人民再也無法相信任何事或任何人。
要談論新的電腦政治，絕不能只是談個別社會該如何應對 AI，我們必須考慮 AI會怎樣影響全球不同社會之間的關係。
矽幕將改變國際局勢
電腦網路對目前的國際體系構成兩大挑戰。第一個挑戰是: 由於電腦網路讓資訊與權力更容易集中於單一中央樞紐，人類可能進入一個新的帝國時代。第二個挑戰是: 一道新的矽幕可能讓人類分裂，分屬於敵對的數位帝國。
要是人類分裂成諸多無法理解彼此的敵對陣營，想再避免毀滅性戰爭、或防止災難性氣候變遷，機會只能說是微乎其微。
技術革命影響深遠
工業革命與現代帝國主義有緊密的連結。那麼，AI 會不會帶出類似的情形呢?
AI 橫空出世的第一個轉捩點
就像史上所有重大的歷史革命，AI的興起也是循序漸進，分成許多階段，有些階段就成了公認的轉捩點。
第一個發生在 2012年 9月 30日。一個名為Alex net 的卷積神經網路贏得了Image net 大規模視覺辨識挑戰賽，正確率大幅躍升到 85%，讓當時只能算是小眾的 AI專家社群大感震撼。時至2015年，一套微軟演算法的正確率來到 96%，超越了人類辨識貓咪圖像的能力。
AI 橫空出世的第二個轉捩點
AI發展的第二個頓悟時刻，是發生在 2016年 3月中旬。這項事件就是谷歌的阿法狗 (AlphaGo) 擊敗了世界圍棋冠軍李世乭。根據AI相關的傳說，正是在 2016年 3月，中國政府意識到 AI時代正在降臨。
資料殖民主義
如果一個國家得要完全依賴各種數位基礎建設、以及 AI系統，而國家對它們又無法有效控制，這種情況可能會導致一個新型的資料殖民主義，也就是透過控制資料，來統治遙遠的殖民地。而控制了 AI與資料，也能讓這些新的帝國控制人民的注意力。
數位帝國崛起
社會信用體系的普及，也可能是一種資料殖民主義的表現。
在新的帝國資料經濟中，是從全世界蒐集原始資料，流向帝國樞紐，在那裡研發最先進的技術，產生無與倫比的演算法，有很強大的能力，然後再把演算法出口回到資料殖民地，加以運用及撈錢。
資訊就不一樣了，不像原物料、土地、油田或紡織廠，數位資料與演算法和工業力量不同，能夠集中到單一樞紐中心。只要一個國家擁有質量兼具的工程師，就能寫出讓整個世界運作的演算法，並掌握所有重要的金鑰。
富者越富，貧者越貧
AI 與自動化對於較貧困的發展中國家，特別會是一場挑戰。在 AI推動的經濟中，數位領先國家能夠囊括大部分收益，再用這些財富進行勞工的再培訓，進而獲取更高利潤。與此同時，落後國家的非技術性勞工，價值將會下降，而且這些國家又缺乏再培訓勞動力的資源，於是變得更加落後。
從網到繭
現在的世界，逐漸被矽幕分隔形成不同的數位圈。矽幕由程式碼組成，出現在世界上每一臺智慧型手機、電腦與伺服器之中。智慧型手機上的程式碼決定了你活在矽幕的哪一側、被哪些演算法控制你的生活、被誰控制你的注意力，以及你的資訊會流向何方。
由於數位程式碼會影響人類的行為，而人類的行為又會反過來塑造數位程式碼，於是矽幕的兩側就這樣走上完全不同的路徑，不僅在科技上愈來愈不同，在文化價值觀、社會規範與政治結構的差異也愈來愈大。人類經過許多世代的趨同，或許也到了趨異的關鍵時點。
可能來臨的文化轉變與衝突
人類社會分裂成一個又一個的資訊繭，不但會造成經濟對抗與國際緊張，還會發展出各種截然不同的文化、意識形態以及身份認同。
所謂的人類，定義到底是物質的身體、非物質的心靈，又或者是一種心靈困在身體裡? 到了二十一世紀，電腦網路可能會讓心身問題變的更嚴重，引發各種重大的個人衝突、意識形態衝突、以及政治衝突。
肉身與靈魂的神學爭論
許多最早的基督教派，受到猶太思想的影響，相信《舊約》的觀念，也就是「人類是肉身的存在」，身體對於人類的身份極為關鍵，假定人類只能以肉身的形式存在。
到了西元四世紀，在希臘、摩尼教與波斯的影響下，有些基督徒已經開始相信一種二元的說法，覺得人類是有一個良善、非物質的靈魂，被困在由邪惡物質組成的身體裡。
也有其他基督徒的觀點完全相反，覺得肉身根本不重要，唯一重要的只有信仰。路德告訴他的追隨者，要當個好基督徒，唯一需要的就是對基督有絕對的信心。
全球的身心分離
我們的肉體與網路上的身份與化身 (avatar) 之間，是什麼關係? 實體世界與網路空間又是什麼關係?
社會如果從生物肉體的角度出發來理解身份，會比較在意實際基礎建設，以及能夠維持我們肉體的生態系，至於網路世界則是實體世界的附屬。這種社會的目標，是要創造出一個理想的物質與生物王國，也就是地上的神之國。相較之下。社會如果比較不在意生物肉體，而是更重視網路身份，就可能比較想在網路空間創造一個沉浸式的神之國，同時比較不在意實體事物的命運。
從程式碼戰爭到熱戰
網路戰與核戰有著本質上的不同: 第一，網路武器能做到的遠比核彈更多，而且這一切都能做的悄無聲息，不會宣告攻擊，也不會出現明顯軌跡，有時候連是否發生了攻擊以及誰發動了攻擊，都很難得知。
第二項關鍵差異在於可預測性較低。軍備競賽最危險的一種局面，正是有某方面覺得自己手中擁有某種優勢、但正在流失。
全球連結
不同於民粹主義的觀點，全球主義並不代表就要建立全球帝國，放棄對國家的忠誠，或是開放邊界接受無限制的移民。其實全球合作代表的是兩件沒那麼激進的事: 第一，遵守某些全球規則。這些規則並不是要否認每個國家的獨特性、以及各國人民對該對國家的忠誠，而只是在規範國家之間的關係。第二，有時候有必要將全人類的長期利益置於少數人的短期利益之上。雖然各國顯然還是會繼續研發新的技術，但偶爾也該同意對於某些危險技術的研發與部署，應當加以限制；這點除了是出於利他主義，也是一種自我保護。
真正的叢林法則: 合作
雖然人類過去也曾共同管制核武與生化武器等等危險的技術，但是AI的管制會需要前所未有的信任與自律，原因有二: 第一，想掩飾非法的 AI實驗室要比掩飾非法的核反應爐容易多了。第二，比起核彈。AI有更多的軍民兩用用途。
現實主義者，其實是選擇性的只看了部分的歷史現實。甚至叢林法則本身，就是個錯誤的神話。真實的叢林，充滿了無數動物、植物、真菌甚至細菌表現出來的合作、共生與利他現象。
戰爭不再符合國家利益
人類長期歷史最清楚的規律，並不是衝突持續不斷，而是合作的規模持續擴大。
現實主義者應該注意，國家並不是建構人類現實的基本單位，反而是人類辛苦建立起信任與合作之後，才製造出來的產物。
人類持續從物資經濟走向知識經濟，也讓戰爭的潛在獲利愈來愈低。
在二戰過後的數十年間，多數政府不再認為侵略戰爭是一種有益於增進本國利益的工具，多數國家也不再幻想征服並摧毀鄰國。
由於大多數人不再活在擔心外敵入侵的恐懼之中，政府就能將更多資金投入福利、教育與健康照護。在二十一世紀初期，全球平均健康照護支出約占政府預算的10%，大約為國防預算的1.4倍。
錯誤的歷史觀禍害無窮
戰爭逐漸減少，並不是因為什麼神聖的奇蹟，或是自然律徹底轉變了，而是因為人類改變了自己的法律、神話與制度，並且做出更好的決定。
遺憾的是，既然這種變化源自人類的選擇，也就代表趨勢有可能逆轉。技術、經濟與文化持續的改變，到了 2020年代初，竟有更多領導者再次夢想著軍事的榮耀，武裝衝突升溫了，軍事預算也開始上升。
人類的選擇
歷史讓我們學到的一大重點，就是許多我們以為是自然而永恆的事物，其實都是人為且多變的。所以在我們了解了衝突絕非必然之後，絕不能因此自滿，反而要知道這是讓我們每個人都背負了重大的責任，需要做出正確的選擇。
沒有留言:
張貼留言