哈拉瑞著《連結》筆記 (四): 打造自我修正機制

哈拉瑞著《連結》筆記 (四):  打造自我修正機制

自我修正機制 (GPT-4o 生成)

結語

打造自我修正機制

 

歷史觀左右政治決策

如果能瞭解歷史，就更能掌握如今的技術、經濟與文化發展；更重要的是，有助於改變各種事項在政治上的優先順序。政治這回事，有很大程度就是要排出優先順序。

雖然所謂的現實主義者會說，歷史敘事只是用來促進國家利益的宣傳手法，但事實上，是這些敘事先定義了何謂國家利益。

國家利益永遠都是出於某套歷史敘事所認定的結果。也難怪，世界各地的政治人物總會投入大量時間精力，來重述歷史敘事。

資訊流動方式的革命

我們從歷史學到的一個教訓是新資訊技術的發明總是能促成重大的歷史變革，因為資訊最重要的作用就是去編織新的網路，而不是呈現既有的現實。

技術的發展很少是別無選擇，同樣的技術也能有非常不同的運用方式。然而，要是沒有書籍與電報這些技術的發明，基督教會與史達林的機構就不可能存在。

由於 AI是人類第一個能夠自行做出決定與產生想法的科技，因此這項發明很有可能比電報、印刷機、甚至是文字的發明都更重要。AI是整個資訊網路裡面成熟的正式成員，具有自己的能動性。

AI實在是個急迫的議題。就算有些人說自己不關心科技，或者認為最重要的政治問題該是民主的存亡或是財富的公平分配，但那些問題都躲不過 AI的影響。

AI正典化的關鍵時刻

把 AI與聖經這樣的宗教經典相提並論，是因為目前正處在要將 AI正典化的關鍵時刻。聖經由亞他那修主教和其他教父決定把《提摩太前書》收進，而又排除了態度較為寬容的《保羅與帖克拉行傳》之後，就塑造了世界在接下來 2,000年的樣貌。

那些在為 AI寫著最初的程式碼，為 AI寶寶挑選訓練用資料集的工程師，在扮演著現代的亞他那修主教。隨著 AI的能力與權威不斷增加，甚至成為一本能夠自圓其說的宗教經典，現在工程師所作的決定，就可能深深影響後世的發展。

對於資訊網路與資訊革命，不要採取兩種常見但錯誤的態度:

第一，我們必須小心太過天真樂觀的資訊觀。資訊並不等於真理真相，資訊的主要任務在於連結，不在於呈現現實，

第二，避免過猶不及變得太犬儒主義，而不相信所有人背後的動機。許多資訊網路確實更重視秩序，但是要有哪個資訊網路真的完全蔑視真理真相，也絕不可能存活下去。

我們絕不該認為人類的互動都只是零和的權力鬥爭；在放下這種想法之後，不僅能夠對過去有更全面、更細緻的理解，也能對未來感覺更有希望，態度更具建設性。

人類其實是想知道真理真相的，所以還是有機會透過交談、承認錯誤、接受新想法以及修改我們所相信的故事，而讓至少部分的衝突得以和平解決。

自以為聰明反遭滅絕

由於人類的資訊網路重秩序而輕真理，也就往往帶來大量的力量，卻沒有帶來多少智慧。

一般來說，網路取得各種力量，就能更有效地應對外部威脅，但同時也會增加內部的危險。特別值得注意的是，隨著網路愈來愈強大，原本只是內部虛構故事所造成的想像威脅，有可能會變的比真正的自然災害更加危險。

隨著網路愈來愈強大，自我修正機制也會愈來愈必要。

如果是矽器時代的超級大國，卻完全沒有、或只有薄弱的自我修正機制，危急的可能是整個人類物種與無數其他生命形式的存亡。

如果以為得力於 AI的極權政權，也遲早會自我毀滅，來不及對人類文明造成嚴重破壞，這只能說是很愚蠢的一廂情願。

打造強大的自我修正機制

歷史的軌跡，其實無比開放，可以彎向任何方向，走向任何地點。

我們現在已經創造出一種不具意識、但又極為強大的另一種非人類智能。要是處理不當，AI有可能不僅消滅人類在地球上的主宰地位，更會滅掉這一點意識的星火，讓宇宙變成一個徹底黑暗的王國。我們有責任避免這種情況成真。

想要打造更有智慧的網路，需要的只是我們放下天真與民粹的資訊觀，摒棄想要絕對正確不犯錯的幻想，並且認真投入一項困難但平凡無奇的工作: 為各種機構制度打造強大的自我修正機制。

這套道理的源由，甚至比人類的歷史還久遠，是來自最基本、有機生命的基礎。四十億年來，經過愈來愈複雜的突變與自我修正機制，讓地球演化出樹木、恐龍、叢林以至於終於演化出人類。

我們所有人在未來幾年所作的抉擇，將會決定召喚這種非人類智能，究竟是個致命錯誤，或是會讓生命的演化展開充滿新希望的新篇章。