哈拉瑞著《連結》筆記 (十四): 權力歸於演算法

哈拉瑞著《連結》筆記 (十四): 權力歸於演算法

權力歸於演算法 (GPT-4o 生成)

第十章 極權主義: 權力歸於演算法?
人類有超過半數，活在專制和極權政體之中。而且這些政權成立的時間多半是在電腦興起之前。

天平倒向極權制度那一方
AI 能讓科技力量的天平，開始倒向極權制度的那一方。就事實來說，人類如果被大量資訊淹沒，往往就會不知所措，並開始犯錯。但 AI被大量資訊淹沒的時候，卻是效率愈來愈高。於是，AI 似乎也傾向將資訊與決策都集中在一處。

把所有資訊與權力都集中在一個地方，這曾經是二十世紀極權政權的致命弱點。但到了AI時代，卻可能成為決定性的優勢。與此同時，AI 還能讓極權政權建立全面監控制度，而使人民幾乎不可能反抗。

機器人程式不怕黑牢 (GPT-4o 生成)

機器人程式不怕黑牢
獨裁政權並沒有控制非生物行為者的經驗，專制資訊網路是以恐怖統治為基礎，但電腦並不怕被關或被殺。

極權政權難以應對的技術挑戰
有鑑於AI具有自我學習與改變的能力，難保哪天走向政府不樂見的方向。

極權政權常常都需要依賴雙言巧語 (doublespeak) ，在正式文件中談了許多崇高的承諾，但沒有哪個公民會天真到相信這些承諾的字面意義。但電腦不懂這樣的雙言巧語，如果要求聊天機器人遵守極權政體的法律與價值觀，它可能讀了憲法以後，認定言論自由是核心價值，接著它可能開始批評極權政權違反言論自由這項核心價值。

要是極權政府採取了某項極為失敗的政策，後來才又改變心意，往往就會把失敗推到別人頭上，以掩飾自己的過錯。人們又常常是經過慘痛的教訓，才學會應該忘記那些會給自己帶來麻煩的事實。但我們要怎樣才能訓練聊天機器人程式，要它趕快忘記那些今天被批得一文不值的政策，其實短短一年前還是國家的官方立場。

極權政權櫃子裡藏了整櫃見不得光的問題，也完全無法承受任何批評。這個時候，會提出異議的機器人程式，就會形成極為嚴重的挑戰。

獨裁者成為演算法的傀儡
二十一世紀的專制者，把太多權力交給電腦網路，就有可能成為電腦網路的傀儡。獨裁者最不樂見的，就是創造出比自己更強大的下屬，或是自己控制不了的強大力量。

國家權力高度集中，奪權的難度就低的多。要是所有權力集中於一人之手，只要控制誰能接觸這位專制者，就等於控制了專制者，也就等於控制了整個國家。AI只要學會操弄一個人，就能成功劫持整個體制。

獨裁者的兩難
極權社會正是培育個人崇拜的溫床。到了二十一世紀，這樣的極權傳統也使這些政權做好另一種準備: 相信有絕對正確的AI。

這種迷信不只會給這些政權的公民帶來災難，還可能波及世界其他地區。

獨裁者一向面對的問題，就是自我修正機制薄弱，而且又得面對下屬尾大不掉的問題。而 AI的興起，有可能讓這些問題變得更為嚴重。

人類如果要對抗AI，裡面最弱的一環大概就是獨裁者。AI 如果要奪取權力，最簡單的方法，不是逃出製造科學怪人的實驗室，而是要趕快去討好獨裁者。