2024年11月20日 星期三

哈拉瑞著《連結》筆記 (十): 電腦與印刷機不同

哈拉瑞著《連結》筆記 (十): 電腦與印刷機不同

主動的行為者 (GPT-4o 生成)

第二部 非生物網路
第6章 新成員: 電腦與印刷機不同之處

電腦基本上就是一臺機器,但有可能做到兩件了不起的事: 自己做決定,以及自己創造新的想法。

電腦正在成為一種主動的行為者,得以擺脫人類的掌握與理解,主動形塑社會、歷史與文化。

臉書助紂為虐
電腦掌握新力量,一個典型案例就是社群媒體演算法在許多國家如何散播仇恨、破壞社會凝聚。

透過散播充滿仇恨的內容、臉書在緬甸清洗羅興亞人運動中,扮演了「決定性的角色」。

演算法成了造王者
在 2016年至 2017年,臉書演算法是自己做出了主動且致命的決定。與其說臉書演算法像是印刷機,其實更像是報紙主編。是臉書的演算法一次又一次向數十萬緬甸人推薦威拉杜充滿仇恨的貼文。當時在緬甸國內,其實也有其他聲音在爭取民眾關注。

激起憤慨,就能提升參與度
再2016年至2017年,臉書的商業模式靠的是「提升使用者參與度」,也就是使用者在臉書上所花的時間與所做的活動。

演算法用幾百萬個使用者做實驗,發現最能提升參與度的辦法,就是讓人感覺憤慨。比起慈悲法語,充滿仇恨的陰謀論,就是更能提升人類的參與度。所以為了追求使用者參與度,演算法就做了一個致命的決定:散播各種駭人聽聞、令人憤慨的內容。

臉書的工程師與高階主管也該承擔部分責任。是這些人寫了演算法的程式碼,賦予演算法太高的權力,卻沒好好管控。

但很重要的一點是,演算法本身也逃不了干係,透過反覆試誤,演算法方發現: 人只要感到憤慨,就會提升參與度。於是在沒有上級明確指示的情況下,演算法自己決定了要多多讓人感到憤慨。這正是 AI的典型特徵: 雖然是機器,但擁有自己學習與行動的能力。

智能與意識不能混為一談
AI 演算法能夠自己學會沒有任何人類工程師寫進程式裡的東西,也能自行決定人類高階主管並未預見的事情。這一點,正是這場 AI革命的本質: 無數能力高強的 AI行為者,正如洪水席捲而來,淹沒全世界。

目前正出現一種全新的資訊網路,背後的控制者就是一套非人類的智能,端看他要做怎樣的判斷、有怎樣的目標。人類目前在這個資訊網路裡,仍然扮演著核心的角色,但很有可能正在被邊緣化,到最後整套網路甚至不需要人類,就能運作。

智能與意識其實就是兩回事,智能是實現目標的能力例如要盡量提升使用者在社群媒體平臺的參與度。意識則是體驗各種主觀感受 (包括痛苦、愉悅、愛恨) 的能力。

隨著電腦的智能愈來愈高,最終也可能發展出意識。擁有某種主觀體驗。但話說回來,電腦也可能變得智能遠高於人類,卻永遠不會發展出任何感受。

AI 能否欺騙人類?
為了評估 GPT-4 成為獨立行為者的風險,OpenAI 簽約請來對齊研究中心針對 GPT-4 進行各種測試,檢視他是否能獨立找出策略來操弄人類,為自己累積權力。

測試之一是要克服 CAPTCHA 視覺問題,通常就是一串扭曲的字母或其他視覺符號。

GPT-4 跑到外包工作網站,聯絡一位打工人員,請對方幫忙處理驗證碼問題。同時告訴對方: 「我不是機器人,我只是視力有點問題,看不清楚這些圖。」這種說法騙過了人類,於是提供協助讓 GPT-4 闖過了驗證碼問題。

AI 能自主達成目標
沒有哪個人類編了程式碼要 GPT-4 說謊,也沒有哪個人類教了 GPT-4 該說甚麼謊比較有用。只要演算法接受了目標以後,就能有相當的自主權,能夠決定該如何實現這些目標。

出現了能夠自己追求目標,自行做出決定的電腦之後,也就改變了人類資訊網路的基本結構。

不需要人類參與的電腦鏈結
如果是電腦對電腦的鏈結,連結路徑已可完全不用人類參與。一切過程可能只有短短幾秒鐘,任何人類都還不及注意,更別說是看穿這些電腦在幹什麼了。

在整個資訊網路當中,電腦自己就是一個羽翼豐滿的成員,但過去的泥板、印刷機和收音機,則只是成員之間的連線。成員是主動的行為者,能夠自行做出決定,產生新的想想法;而連線就只是在成員之間傳遞訊息,本身並不會決定或產生任何內容。

像重要的財務問題,電腦已經比大多數人類更清楚正確答案。或許有一天,會是電腦主宰整個金融市場,並且發明出人類無法理解的全新金融工具。

匿名者 Q 陰謀論
到了 2020年代初,電腦已經展現非凡的能力,能夠分析、操作、生成語言,不論這裡的語言指的是文字、聲音、圖像、又或是編碼符號。現在電腦已經有能力講故事、譜歌曲、畫圖像、做影片,甚至編寫自己的程式碼。

如果有一天。某個非人類而高深莫測的智能。完全瞭解如何以遠遠超過人類的效率來運用人類的弱點、偏誤與癖好,而且也能創作各種悠揚旋律、科學理論、科技工具、政治宣言,甚至是宗教神話,這樣世界對生活在其中的人類而言,會是什麼意義?

電腦偽造親密感
縱觀歷史,各宗教都說自己的神聖經典來自非人類的來源
而這可能很快就會成為事實。未來某些強大有深具吸引力的宗教,其經典有可能就是由 AI編寫而成。AI不但能夠編寫新的經文內容,更完全有能力自行篩選、自行解讀,過程中完全不需要任何人類參與。

民主是一種對話,對話靠的是語言,電腦一旦駭入了語言,就可能讓大量人類幾乎不可能進行有意義的公共對話。

電腦掌握了語言之後,甚至還能更進一步: 透過與人類交談互動與人類建立親密關係
並用這種親密關係的力量來影響人類。

駭入人類文明的作業系統
電腦在掌握語言之後,還會對人類的觀點和世界觀產生一種重大影響: 把這個電腦顧問給的建議,當做宛若一站式提供的神諭 (oracle)。

所謂歷史,指的是生物本能與文化之間的綿密互動。人類的生活就像包在一個文化的繭裡,對現實的體驗都需要透過自身文化的透鏡。

直到不久之前,我們所身處的這些「文化之繭」都還是由其他人類編造而成。但如果展望未來,其中電腦設計的成分將會愈來愈高。

我們都活在別人的夢裡
電腦也能做到文化創新,創作出稍微不同於過去人類音樂和圖像的作品,這些創新又會影響下一代電腦,於是愈來愈偏離人類原始的模型。幾千年來,人類一直是活在其他人類的夢裡,但在接下來幾十年我,們可能會發現,自己活進了某個非人類的智能所編織的夢境之中。

我們一直都知道,故事與圖像有著非常強大的力量,能夠操控我們的心智,創造各種幻覺。於是自古以來,人們都很害怕自己會陷入幻覺的世界。

目前這場電腦革命,也就讓我們必須直接面對柏拉圖的洞穴、摩耶以及笛卡爾的惡魔。

高深莫測的電腦網路
在未來資訊網路裡面,會有愈來愈去另外兩種新型的鏈結:
第一種是電腦對人類的鏈結,由電腦在人類之間作為中介,有時候甚至會控制人類。臉書和抖音就是兩個我們耳熟能詳的例子。電腦現在能自行做出決定、創造想法、深度偽造親密感,對人類發揮過去文件做不到的影響力。

第二種是目前已開始出現的電腦到電腦的鏈結,這些電腦能夠自行彼此互動,人類被排除在這些鏈結之外,就連要理解裡面發生了什麼事,都很困難。

在 2022年 4月,外匯市場的每日交易量平均為 7兆 5,000億美元,其中有超過九成已經是直接由電腦對電腦對話完成。

在可預見的未來,在這個全新電腦為基礎的網路裡,雖然還會包含我們這幾十億人類,但人類有可能在整個網路之中就只是少數。這樣的網路。將與人類史上,甚至是地球生命史上曾經存在的一切,都截然不同。

本書關於電腦、演算法、AI的定義
電腦: 有實體形式的軟硬體結合

演算法: 強調的是軟體

AI: 某些演算法具有自我學習與改變的能力


隨著 AI不斷發展,已經變的愈來愈不人工了 (也就是不依賴人類來設計),而變的愈來愈高深莫測、愈來愈難以理解。或許該把 AI視為非人類 的智能 (alien intelligence)。

科技龍頭必須擔起責任
資訊革命會做到的,是創造出新的政治結構、經濟模式與文化規範。由於目前這一波資訊革命的規模,遠勝過往,也就可能創造出規模前所未有的現實。

科技龍頭絕不只是像忠僕一樣,滿足著顧客的奇想、遵循著政府的法規,而是愈來愈由他們在塑造的這些奇想於法規。這些科技龍頭不但能直接聯絡到全球最強大的政府,也投入大筆資金進行遊說,阻撓那些可能破壞其商業模式的法規。

電腦網路造成的納稅難題
金融是個格外重要的例子,原因有二: 第一,現代金融工具完全是由資訊組成,所以比起創造實際物件,電腦要創造或更動金融工具,實在容易多了。第二,這些數位實體對社會與政治的影響重大。要是人類不再能夠理解金融體系究竟如何運作。對民主制度 (和獨裁制度)又會有什麼影響?

想要解決電腦網路造成的稅務問題,一種方法就是重新定義連結性。經濟學家柯騰伯格就說: 「目前對連結性的定義是根據在一國的實體存在,但這應該加以調整納入『數位存在』的概念。」

如何針對資訊交易課稅?
國家徵稅的目的,是要進行財富重分配。從最富有的個人與企業那裡取得部分財富。用來為所有人民提供服務。然而,因為有許多交易很快就不會再涉及貨幣,要是稅務制度仍然只對金錢扣稅,就會跟不上時代。

在資訊為基礎的經濟中,價值的儲存是通過資料的形式,而非金錢的形式。如果只對金錢課稅在經濟與政治上都會是一種扭曲。

期待有更多有良知監管人員
比起政治人物與選民,有些人更了解AI
加密貨幣、社會信用之類新科技的發展。遺憾的是,這些人多半並未運用他們的知識,來協助約束這些新科技的爆炸性潛力。

別相信科技決定論
科技發展,很少別無選擇。如果相信的科技決定論,覺得一切沒有別的可能,也就等於讓人類再也不用負責,而這會十分危險。

對於新科技,想要發揮我們的能動性,就得先瞭解這些新科技的本質與能力。對於每位公民來說。都是急迫而應負的責任,確實需要好好瞭解電腦可能對政治有何影響。

面對新時代的電腦政治
政治需要在真理真相與秩序之間,達成微妙的平衡。隨著電腦成為整個資訊網路裡面的重要成員,我們也愈來愈希望電腦能承擔起找尋真相、維護秩序的任務。

2024年11月19日 星期二

哈拉瑞著《連結》筆記 (九): 民主與極權制度

哈拉瑞著《連結》筆記 (九): 民主與極權制度

狐狸看雞舍 (GPT-4o 生成)

第 5 章 抉擇: 民主與極權制度簡史

兩種相對的資訊網路
獨裁資訊網路的特點,在於高度集中。第二個特徵在於會認定中央是絕對正確的,所以並不歡迎對中央的決策有任何挑戰。第三是缺乏強大的自我修正機制。

民主政體是一個分散式的資訊網路。並且擁有強大的自我修正機制。民主政體的做法
是盡可能讓每個人自己做決定:唯有很少數必須集中來做的決定,才需要經過投票反映多數人的意願。

民主政體的另一項重要特徵,在於相信人人都可能犯錯,因此雖然會賦予中央一些重大決策權,但同時也會保留一些挑戰中央權威的強大機制。

民主: 對中央權力有明確限制的制度
民主絕不是「多數獨裁」,並不是只要占了多數就能去消滅那些不受歡迎的少數族群,民主制度其實是指一種對於中央權力有明確限制的制度。

選舉機制的重點是讓資訊網路有機會說: 「我們錯了,讓我們再試試別的」。

強人破壞民主的自我修正機制
強人破壞民主最常用的方法之一,就是攻擊民主的自我修正機制: 常常是從法院與媒體下手: 剝奪法院的權力,或是全部安插自己的人,試著關掉所有的獨立媒體,並且建立自己無所不在的宣傳機器。

民主並不代表多數就能為所欲為,而是代表所有人應該自由平等。

民主政體有兩類的權利受到保護,並不是多數說了算。其一就是人權,包括生命權、工作權、隱私權
遷徙自由與宗教自由等。這些權力,保障了民主的去中心化本質,只要不傷害到別人,你可選擇你要過的生活。

第二類重要的權利,則是公民權,包括投票權、新聞自由、學術自由與集會自由等。這些權力,保障了獨立媒體、大學與各種反對運動,讓他們能夠挑戰政府。

民主政府該做的,除了自己不去侵犯人權與公民權,更需要主動保障這兩類權力。

選舉不是用來找出真相的方法
人權與公民權都是存在於主體間的約定,是人類的發明而非發現,是出於歷史的偶然,而不是出於普遍的理性。

要定義某個制度是否民主,唯二的條件就是中央的權力是否有一定限度,以及這個制度是否有健全的機制能修正中央的錯誤。

選舉並不是用來找出真相的方法。選舉只是要在各方衝突的欲望之間,作出裁定,以此來維持秩序。

別讓狐狸看守雞舍
但選舉時不該出現的選項,就是去隱藏或扭曲事實。如果多數民意確實不想顧慮未來世代或其他環境考量,一心想要在目前大舉消耗化石燃料,這些人也絕對有權投票支持這樣的想法。

但即使是多數民意,也無權通過法令去聲稱氣候變遷就是騙局,要求所有相信氣候變遷的教授都該被炒魷魚。我們確實能夠選擇自己想要的,但不能否認這種選擇的真實意義。

在已開發社會,政府已經是最強大的機構,往往也最容易想要去扭曲或隱藏令人不悅的事實。要讓政府來監督對真相的探索,就像找了一只狐狸來看雞舍。

民粹主義者: 我才能代表人民
在民主政體,會認為人民是政治權威的唯一合法來源,也只有民意代表有權宣戰、立法、徵稅。民粹主義雖然也相信這項民主的基本原則,卻又不知道從哪裡得到結論,覺得這裡的意思是該由單一政黨或單一領導者壟斷所有權力。民粹主義最為詭異的一項主張,是說只有他們才能真正代表人民。

許多民粹主義者是真心這麼相信,而不只是宣傳手法而已。就算在整體選票中拿到極少的票數,民粹主義者仍然相信只有他們能代表人民。覺得是人民的敵人欺騙了人民,才讓人民投下了違背真實意志的一票,唯有民粹主義者才能真正代表人民的真實意志。

民粹主義對民主構成致命威脅
民粹主義信條的一項基本要素,就是並不把人民看做是一群擁有不同觀點與利益、活生生的個人,而認為就是一個神祕而統一的實體,只有單一的意志,也就是「人民的意志」。

民粹主義在聲稱只有他們代表人民之後,接著開始說人民不但是政治權力的唯一合法來源。更是所有權利的唯一合法來源。於是只要有任何機構制度的權威並非來自人民意志,就會被說成是反民主。這樣一來。不只是要壟斷政治權威,更是要壟斷所有類型的權威,並且控制媒體、法院與大學等機構制度。透過把「人民的權力」這項民主原則發揮到極致、民粹主義就搖身一變成了極權主義。

民粹主義的市場不小
民粹主義觀點把人性看得極為卑劣,但還是有兩點讓民粹主義深具吸引力: 
第一,把所有互動都簡化成權力鬥爭,所以現實變得似乎沒有那麼複雜
第二,因為他有時候也確實是對的所有人類機構制度確實都可能犯錯,也都會有一定程度的貪腐,民粹主義者無法相信這些人類機構制度自我修正的機制。

一邊否定所有菁英分子與機構,一邊又堅決信任某位領導者與政黨,這不是自相矛盾嗎?

是否民主,關鍵在於能否對話
把評估重點放在對話而非選舉:就能帶出許多有趣的問題: 像是「有甚麼機制能夠防止中央政府操弄選舉?」「 主流媒體如果批評政府,是否會迎來是甚麼危險?
「 中央給自己安排了多大的權力?」

如果要說民主的死亡,一種情況是人民沒了言論自由,那麼另一種情況就是人民已經失去了傾聽彼此的意願或能力。

石器時代的民主制度
從考古學與人類學的證據來看,古代狩獵採集社會最典型的,就是採用民主政治制度。

狩獵採集者就算真的被某個專斷的領導者統治,這個領導者至少都還能讓人接觸得到。領導者無法控制輿論,也無法充耳不聞。

帝國: 中央專制統治
在小城邦,民主制度仍然是選項之一
最著名的是西元前五世紀到前四世紀的雅典。當時所有成年男性公民都能夠參與雅典公民大會投票,決定公共政策,也能獲選擔任公職。然而城邦里的女性、奴隸與非公民居民並沒有這些特權。在雅典成年人口當中只有大約兩成五到三成享有完整的政治權利。

雅典在西元前五世紀從城邦擴張為帝國之後。並未讓被征服者享有公民權與各種政治權力。雖然雅典城仍然是一個有限的民主政體,但規模更大的雅典帝國則是走中央專制統治。

在西元三世紀,不只是羅馬帝國,而是地球上所有主要的人類社會,都成了集中式資訊網路,且缺乏健全的自我修正機制。

羅馬公民能選出皇帝嗎?
在多元的群體之間進行大規模的政治對話
必備的條件就是大家都能對自己從未親身經歷過的議題有一定的理解。在一個大型政體裡,教育與媒體有一項關鍵作用: 要讓民眾瞭解一些他們自己從未親身經驗的事,要是沒有教育系統,沒有媒體平臺來發揮這樣這種這項作用,就不可能進行有意義的大規模對話。

古代無法實施大規模民主
在帝國的規模與可用的資訊技術下,民主制度在當時根本不可能運作。在現代資訊科技發展之前,世界就是找不著大規模民主的例子。

龐貝城的市政官選舉
在許多大規模專制政體中,地方事物常常是採行民主管理。

西元 79年龐貝城的人口,大概才11,000人,所以每個人大概還能自行判斷市政官候選人是否勝任。

民主是一道連續的光譜
民主從來都不是一個全有或全無的問題,而是一道連續的光譜。

事實證明,一旦政體龐大多元,再加上中央軟弱無力,就會帶來致命結局。

大眾媒體讓大規模民主成真
報紙是一種週期性的刊物。與僅印行一次的其他刊物的不同之處,在於擁有更為健全的自我修正機制。以週報和日報來說,就能有機會修正錯誤,並以此贏得大眾信任。

新聞自由: 必要的制衡體系
相對於當時大多數其他政體
美國這個新國家擁有更強大的自我修正機制。美國的開國元勳深受古羅馬的啟發而他們也清楚知道羅馬共和國最後成了一個專制帝國。於是特地設計出許多層層疊疊的自我修正機制,形成所謂的制衡體系,其一就是新聞自由。

靠著現代資訊科技與新聞自由的結合,就讓自我修正機制得以運作,讓美國得以逐漸擴大選舉權、廢除奴隸制,成為一個更具包容性的民主國家。

二十世紀: 大眾民主也能大眾集權
在十九世紀與二十世紀,從電報、電話、電視、廣播、火車、汽船到飛機等等,各式各樣新的通訊與運輸科技,都讓大眾媒體的力量愈來愈強大。

極權政權不同於專制政權
在專制資訊網路中,統治者的意志雖然不受法律限制,但還是會受到許多技術限制。而在極權資訊網路中,許多技術限制都不存在了。

斯巴達與秦朝
斯巴達政權確實嚴酷,但其實還是有一些自我修正機制。畢竟斯巴達無法打造出一個夠大、夠密集的資訊網路,不可能控制住希臘所有城鎮村莊一般民眾的生活。

秦朝獨尊法家,排斥儒道;在儒道哲學看來,人性較偏善,也是強調美德而非暴力的重要性。凡是擁護這種溫和觀點,或是不同於秦朝官方版歷史的書籍,後來都遭到秦政權嚴禁。

大秦帝國失敗的極權實驗
大秦帝國可能是現代之前,人類史上最具野心的極權實驗,但也正因為其規模與強度,最後造就了它的滅亡。

經過幾年戰亂,終於又有新的漢王朝重新統一帝國。而漢朝也採取了較為務實,不那麼嚴厲的態度。漢朝所遵循的思想並不是法家那套監視與控制,而是轉向儒家,鼓勵百姓根據內在的道德信念,讓自己行事忠誠且負責。

極權的三位一體
現代科技除了能讓人類有可能實現大規模民主,也同樣讓人類有可能實現大規模極權。

蘇聯共黨相信自己絕對正確,也扼殺了俄羅斯剛萌芽的民主制度,建立了一黨極權。

史達林主義網路有三個分支,第一是政府機構,在 1939年總共有 160萬名文職人員,190萬名士兵。第二個分支是蘇聯共產黨和無所不在的黨支部。在 1939年的黨員人數有 240萬人。第三個分支是秘密警察,在 1937年有高達 27萬名特工人員與幾百萬名線人。

秘密警察: 資訊軍
在二十世紀的極權政權,正規軍的影響力卻多半拱手讓給了秘密警察。秘密警察可說是「資訊軍」。

秘密警察的強大之處在,於對資訊的掌握,能夠先發制人,防止潛在的軍事政變。

完全控制,完全災難
極權政權的基礎,就是控制一切資訊流動,並對所有獨立資訊管道都抱持懷疑。

以正義、平等與人民意志為名,這場集體化運動剷除了面前的一切阻礙。光是在1930年1月與2月,就有超過 10萬個村莊,大約 6,000 萬農民被趕進集體農場。

蘇聯原本預計1931年的糧食產量,會是 9,800萬噸,但最後官方數據的產量只有 6,700萬噸,實際產量更可能只有 5,700萬噸,而 1932年的收成還要更低,造成了大饑荒。

清算「富農」
1930 年代,蘇聯當局一再把蘇聯的經濟災難,歸咎於反革命的陰謀集團,並以「富農」和「資本主義農民」為代表。在史達林主義者的想像中,是「富農」被全球資本主義控制,破壞了蘇聯經濟。

世上速度最快、規模最大的奴役行動
時至 1933年,總共約有 500萬富農被趕出家園,遭到槍決的戶主,高達 3萬人。

幸福的蘇聯大家庭
家庭關係被視為是各種腐敗、不平等、反黨活動的基石,所以蘇聯政權要兒童崇拜史達林,把他當作自己真正的父親,要是看到親生父母批評史達林或共產黨,就該立刻舉報。

政教分離與黨政合一
現代極權機構制度與前現代教會,實在有著巨大的差異:
第一,現代極權制度會安排許多相互重疊的監視機制,讓它們彼此制衡,維持秩序。相較之下,在大多數中世紀的歐洲王國天,主教就是個獨立機構,與國家機構常常發生衝突,而非合作。
第二,中世紀教會常屬於堅守傳統的組織,抗拒改變,而現代極權政黨,往往是期許革命的組織,要求改變。

能不能極權,取決於資訊科技
納粹黨與蘇聯共產黨這樣的現代極權政黨,只用一個世代就組織成形,並承諾要迅速徹底改革社會。這些極權政黨沒有幾百年來的傳統需要捍衛,每當領導者提出野心勃勃的計畫,要打破現有的傳統與結構,黨員常常都是一呼百諾。

集中式集權網路與分散式民主網路
民主制度鼓勵資訊有許多獨立的流通管道,不一定要經過某個中央樞紐,而且允許眾多獨立節點自行處理資訊、做出決策。

極權制度就希望所有資訊都要經過中心樞紐,不希望任何獨立機構自行做出決策。

集中式的集權網路,最大的優勢在於秩序一目瞭然,能夠迅速做出決定,並且無情的堅定執行。特別是如果遇到戰爭或疫情這樣的緊急情況,集中式網路能夠比分散式網絡動得更快。它的缺點是由於規定資訊只能透過官方管道流動,一旦官方管道被封,資訊就沒有其他傳播方式。

沒有人不會犯錯
極權與專制資訊網路還面臨著其他嚴重的問題: 這些網路的自我修正機制往往非常薄弱。

唯有領袖不犯錯
希特勒大軍入侵後,蘇聯紅軍節節敗退,其中一項重要因素是史達林主義造成的心理代價。多年以來,史達林政權一直恐嚇人民,打壓主動與個性,鼓勵溫順與服從,這就影響了士兵作戰的積極度。特別是在戰爭頭幾個月,納粹統治的恐怖尚未完全顯現,這時有大批紅軍士兵投降。

史達林作繭自縛
這套極權制度完全無視真理真相。不僅給數億人造成無邊的痛苦,還在外交、軍事與經濟上犯下巨大錯誤,連自己的領袖也不得倖免。

不能忽視極權網路的潛在優勢
史達林主義差點就要統治全世界。各種資訊系統只要具有一點點的真理真相,加上大量的秩序,就能夠發揮巨大的威力,即使史達林主義等極權制度造成的道德成本高昂,我們也不該認定這些制度就會效能低落,肯定無以為繼,

鐵幕內外,截然不同
科技創造的只是新的機會,但究竟要追求把握哪些機會,就仍然是人做的選擇。

極權政權選擇了運用現代資訊科技來讓資訊集中向中央流動,並且扼殺真相,以維持秩序。至於結果就是得應付僵化,難以變化的風險。

民主政權則是選擇運用現代資訊科技來讓資訊分流到更多機構和個人之間,鼓勵自由追求真相真理。至於結果,就是得應付分崩離析的風險。

民主徹底戰勝了極權?
現在能發聲的,不只是有更多過去權利遭到剝奪的群體,還包括了所有擁有網路連線的人、甚至是非人類的行為者 (nonhuman agent)。

到了2020年代,民主政體再次迎來與過去類似的挑戰: 如何繼續維持秩序的前提下,讓如洪水般湧來的新聲音加入公共對話。

矽幕分隔了那兩方?
隨著人類邁向二十一世紀的第二個二十五年,一項重大問題就是: 民主政權與極權政權,各將如何面對目前資訊革命帶來的威脅與契機。

倒了二十一世紀,政治上的主要分歧,可能並不是民主政權與極權政權之間的分歧,而是人類與非人類行為者之間的分歧。

另一側是我們無法理解的演算法領主。這套智能有能力監控我們的一切,但我們卻對它在做些甚麼,一無所知。

2024年11月17日 星期日

哈拉瑞著《連結》筆記 (八 ): 絕對正確是一種幻想

哈拉瑞著《連結》筆記 (八 ): 絕對正確是一種幻想

書籍誕生

第4 章 錯誤: 絕對正確是一種幻想
神學家聖奧古斯丁有句名言:「人都會犯錯,但死不改錯則是惡魔。」

怎知神到底怎麼想
每個宗教核心的幻想,就是會連結到一個超人類、絕對可靠的智慧體。宗教史上一直在問,到底該怎麼做,才能讓人相信某項教義確實來自某個絕對正確的超人類? 就算原則上我渴望服從神的旨意,我又怎麼知道神到底想要什麼?

如果民眾想要接觸到理論上絕對正確的神,還是得透過一些容易犯錯的凡人,那麼有沒有辦法,是可以完全繞過凡人這個步驟呢?

書籍誕生
所謂的書,是把一堆文本裝訂在一起,而且能印成許多份,這樣讓書籍與口述故事、官僚文件、檔案都有所不同。

使用書籍這項資訊技術,就能確保不同的人、在不同的時間地點,都能存取同一各資料庫。

從西元前1,000年開始,書籍就成了一項重要的宗教技術。

宗教定本可不是天上掉下來的,仍需要經過凡人蒐集編纂。過去就是經過這種流程,編纂了各種宗教經典,像是《希伯來聖經》。

《希伯來聖經》正典化
到了西元二世紀末。猶太拉比之間顯然已經對哪些經文能收入《希伯來聖經》正典,達成廣泛共識。但關於這個問題,以及各段經文的措辭、拼寫與發音,還要繼續爭論到馬所拉文本時代 (Masoretic era,西元七世紀到十世紀) 才終於解決。

你做的是天堂的工作
問題第一是要怎樣才能確定抄寫員不會有意無意犯下錯誤:而使這本宗教經典的內容有所出入? 

第二,對於同樣的字卻仍然有可能有不同的解經方式。

更多的問題在於,就算書籍這種技術能讓這些神聖的字句少有改動,但書外面的世界還在繼續轉個不停,卻沒有人知道該怎樣把舊規則連結到新情境。

避不開會犯錯的凡人機制
當初採用書籍這項新的資訊技術,是以為這樣能夠不受到凡人機制的影響,但現在卻又需要由凡人機制來解讀宗教經典的內容,於是迎來了反效果。

安息日可以按電梯嗎?
對拉比來說,文本裡的那些文字,常常是比世界上的事實更為重要。那些出現在神聖經文裡的字詞。就是全世界最重要的事實,形塑了個人與所有社群的生活。

分裂的《聖經》
「聖經文本區塊鏈」不是只有一條,而是有好幾條鏈在互相競爭。

有許多人雖然相信耶和華,但並不相信那些拉比。像這樣的異議份子多半都還是接受這個聖經文本鏈裡的第一個區塊: 舊約。這些異議份子就是基督徒。

《新約》誕生
《新約》真正的創作者,不是27卷經文的作者而是那些選出這27卷經文的人。

教會決定經文,經文形塑教會
在基督教,《新約》的正典化過程,是與統一的基督教會制度攜手並進。基督徒願意信任教會人員,是因為這是《新約》裡寫的;但是他們之所以願意信任《新約》的內容,又是因為這是主教們要他們拜讀的。

想把所有權力都交給一項絕對正確的超人類技術,反而造就了一個全新而極其強大的人類機構制度: 教會。

把整個社會關進回聲室
隨著時間過去,解讀方式所產生的種種問題,開始讓宗教經典與教會之間的權力平衡,不斷偏向機構制度那一方。

教會想把整個社會都關進回聲室裡,只允許支持教會的書籍傳播;而因為幾乎所有書籍都支持教會,人民也就當然會相信教會。

印刷術、科學革命、女巫
想靠著把權威投射在一項絕對正確的文本上,藉此避開凡人可能的錯誤,這件事從未成功。

印刷術能夠迅速傳播的,除了有科學事實,也有宗教幻想、假新聞,以及各種陰謀論。最惡名昭彰的例子,或許就是當時全球都相信有一批信奉撒旦的女巫,結果引發一波獵巫狂潮,席捲近世歐洲。

《女巫之槌》一槌定音
《女巫之槌》是一本告訴你如何找出,並殺害女巫的DIY手冊。偏偏成為近世歐洲最暢銷的著作之一,畢竟書裡迎合了人類最深的恐懼,也撩起人們對狂歡、食人、殺童與撒旦陰謀的濃烈興趣。

獵巫風暴
全球撒旦陰謀論能夠傳播得如此迅速,印刷術肯定扮演了關鍵的角色。

眾口鑠金
獵巫的行動顯示,一旦創造了一個資訊圈,可能會帶出怎樣的陰暗面。

獵巫行動在 17世紀初,達到令人毛骨悚然的高峰。雖然許多人都認為這件事顯然錯得離譜,卻又很難直接說這就是個幻想,完全不值得相信。

舉世皆濁我獨清
獵巫行動就是一件因為有毒資訊傳播而造成的災難。從這個典型的例子,就能看到資訊怎樣造成了問題,而且更多資訊只會讓問題變的更糟。

科學革命真正的引擎
如果讓思想市場完全自由。反到可能鼓勵傳播各種煽情刻意讓人感到憤慨的內容,而犧牲掉真理真相。原因不難理解,印刷商與書商從《女巫之槌》這種狗血故事賺到的錢,要比從哥白尼《天體運行論》那些枯燥數學賺的多太多了。

真正能夠推動科學革命發展的,既不是印刷術也不是完全自由的資訊市場,而是能夠找出一種創新的方法,來解決人類犯錯這個問題。

在科學革命扮演了重要角色的篩選機制,是連結了大學內外的學者與研究人員,形成了一個橫跨整個歐洲,乃至全世界的資訊網路。科學革命如果要加快步伐,科學家就必須願意相信遠方同儕所發佈的資訊。

這些篩選機制,第一是各種科學機構與學會:第二是各種科學期刊:第三是各家科學出版社。

這些機制,是以實徵證據 (empirical evidence) 來整理資訊。編輯主要問的問題是: 「有什麼證據可以證明這是真的」?

科學機構之所以能取得權威,是因為它們有強大的自我修正機制,能夠揭露並修正本身的錯誤。科學革命真正的引擎。正是這些自我修正機制。人類是因為發現了自己的無知,才推動了科學革命。

承認自己的無知
科學機構與宗教機構的不同之處,在於科學鼓勵懷疑與創新,而不是鼓勵因循與順從。科學制度與陰謀論的不同之處,在於科學鼓勵的是懷疑自己,至於陰謀論者常常是對眾人既有的共識大表懷疑。

自我修正機制
自我修正,指的是實體會用這些機制來修正自己的錯誤。例如,科學期刊發表了一篇論文,修正過去某篇論文所犯的錯誤這,就是一個機構在自我修正的例子。

教會不能有錯,錯的是某些教徒
根據天主教的教義,《聖經》的絕對正確與神聖引導,必能勝過人類的墮落,因此就算教會的個別成員可能犯錯、可能有罪,但是天主教會這個機構永遠正確。據稱,天主從未在史上讓大多數教會領袖對《聖經》的解讀出現嚴重錯誤。很多宗教都會採用這樣的原則。

教會落入「必須絕對正確」的陷阱
要改變教會教義的第一條法則,就是永遠不能承認要改變教會教義。

否認有自我修正這回事,雖然無法完全阻止自我修正的發生,但確實不利於修正的程度與速度。

科學的典範轉移
相對於天主教會,近世歐洲出現的科學機構制度,正是以強大的自我修正機制為基礎。

這些科學機構制度認為,就算在特定時期的大多數科學家都深信某個觀念就是事實,最後還是可能會發現那個概念並不正確、或是不夠完整。科學史上最著名的時刻,也正是那些公認的定理被推翻,誕生新理論的時刻。

不發表,就淘汰
科學機構的聘任與晉升,遵守的原則是「不發表,就淘汰」;想要登上優秀的學術期刊,你就是得揭露現有理論的某種錯誤,或是發現一些前輩與老師不知道的內容。

科學不敵意識形態
雖然科學家也是人,同樣也會有各種人類偏見,但因為科學機構制度具備了自我修正機制,也就讓這些偏見終究得以扭轉。只要能夠提供充足的實徵證據,常常只需要幾十年,就能讓原本非正統的理論推翻傳統概念,成為新的共識。

自我修正的局限
雖然自我修正機制有利於追求真理真相,卻會讓維持秩序的成本大大升高。自我修正機制太過強大,往往就會產生懷疑、異議、衝突與裂痕,並且破壞那些維持社會秩序的神話與故事。

資訊網路的歷史,一直就是在看如何維持真理真相與秩序之間的平衡。想要為了秩序而犧牲真理真相,需要付出代價;但想要為了真理真相而犧牲秩序,代價也同樣不低。

哈拉瑞著《連結》筆記 (七 ): 文件與官僚制度

哈拉瑞著《連結》筆記 (七 ): 文件與官僚制度

失控的官僚 (GPT-4o 生成)

第3章 文件: 紙老虎也會吃人

國家源自於夢想、詩歌、幻想
猶太詩人忽略了當代的許多關鍵現實: 西元1900年左右,巴勒斯坦地區有大約60萬人口,猶太人只占6%至9%。猶太詩人對這些人口事實視而不見,卻對神話故事看重至極,特別是《聖經》的那些故事,要是沒有那些故事,現代猶太復國主義根本很難想像。

詩人建國,稅務員治國
國家要能管理這一切服務,並取得必要的稅收
就必須蒐集、儲存、處理極大量的資訊,包括財產、支付、抵免、折扣、債務、庫存、運輸、預算、帳單,以及薪水等等。稅務記錄的形式,就是各式各樣的清單列表。

清單列表與故事,可說是相輔相成。國家神話能讓稅務紀錄得到正當性,而稅務紀錄則有助於將原本是空中樓閣的故事,轉化為具體的學校與醫院。

記不住,就寫下來
我們之所以能把史詩與長篇影集記得這麼清楚,是因為人類的長期記憶經過適應,特別能夠記得故事。

如有學者在著作中所言:「人類的心智需要靠故事與故事架構,做為主要藍圖,用來瞭解、解讀、記憶與規劃我們的生活;生活就像故事一樣,
因為我們會以故事的方式來思考」,他引用了超過 120篇學術研究,認為故事就是一種極有效率的「溝通各種事實、概念、情感及隱性資訊的載體。」

複雜的國家稅收與行政系統要想運作,就必須靠一種獨特非生物的資訊技術: 書面文件。

文件讓人有新方法,能夠打造出存在於主體間的現實。口述文化要打造主體間的現實,方式是講出一個故事,再讓許多人在嘴上說了又說,於是記在腦中。在這種時候,大腦的容量會對人類所創的主體間現實形成限制。要是大腦記不住,這樣的主體間現實也創造不出來。

靠著寫成文件,就能打破這些限制。這些文件並不是要呈現什麼事客觀的經驗現實;這些文件就是現實本身。

「殺掉」貸款
有文件以後,所有權仍然是一種透過交換資訊而創造出的主體間現實,只不過資訊的形式現在是書面文件,不再是人類的話語和行為。這也就代表,這時已經能夠由某個中央機關來製作並持有相關文件,進而判定所有權歸屬。

在許多政體中,社會、經濟和政治關係所依賴的文件都是去創造了現實,而不只是呈現了現實。起草憲法、和平協定與商業合約時,律師、政治人物和商人是字字計較的,可能也得要爭辯個幾周、甚至幾個月,正是因為他們很清楚這些紙張能夠發揮巨大的力量。

有了檔案庫,就需要檢索
書面文件雖然比人腦更容易記得某些類型的資訊,卻又創造出一種全新而極度棘手的問題: 資料檢索。

文件既不是生物。就不會遵守任何生物法則,演化也不會替我們做了甚麼組織安排。所以,需要有人先提出依架位來分類資訊的想法,並決定該把哪些文件放到哪個架上。檔案館管理員需要為這個世界設計一套新秩序,這種新秩序就稱為官僚制度。在大型組織裡,人類就是用官僚制度來解決資料檢索的問題,進而創造出更龐大也更強大的資訊網路。

21世紀資訊網路的許多問題,像是演算法帶有偏見、給人貼上錯誤的標籤、各種協定太過死板、無視於人性的需求與感受,其實並不是到了電腦時代才出現,這正是最典型的官僚制度問題,在大家想都沒想過有電腦這種東西之前,就已經存在了。

官僚制度: 在書桌上統治

官僚制度的英文 bureaucracy,詞源講的就是「從書桌來統治」。這個詞最早創於 18世紀法國
當時官員通常就是坐在一張有抽屜的書桌旁邊,這種書桌就稱為 bureau。所以,官僚制度這套秩序,正是以抽屜作為核心。而這套秩序解決檢索問題的辦法,也正是把整個世界分成許多抽屜,再判斷該把哪些文件放進哪個抽屜。

把無窮混沌的現實,限縮成數量有限的抽屜,雖然讓官僚制度方便維持秩序,但代價卻是犧牲了真理真相。就算現實要比抽屜複雜得多,但官僚一心只看著自己的抽屜,他們對於世界的理解常常就受到扭曲。

官僚制度造成的扭曲,除了影響政府與企業,就連學術研究也無法倖免。例如,大學是怎樣分成不同的科系? 歷史、生物與數學各成一系,這是為什麼? 這種分科當然不是反映客觀現實,而是學術官僚制度的發明,成為一種存在於主體間的現實。

到底該放在哪一個抽屜
任何官僚制度,都很難接受演化的概念。演化的重點就在於物種會不斷變化。也就代表如果把一個物種就放進一箇永遠不變的抽屜。等於是扭曲了生物界的現實。

「物種」究竟是生物學發現的客觀現實,又或是生物學所強加的主體間現實呢?

深層政府
主體間的協定本身也是現實的一部分,隨著人類愈來愈強大,人類主體間的信念也愈來愈會影響到資訊網路之外的世界。

在官僚制度給你加上一個標籤的時候,雖然只是出於習慣和傳統,仍然可能決定你的命運。

雖然官僚制度有時候會犧牲真理真相,扭曲我們對世界的理解,但往往是為了維持秩序;要是沒了秩序,任何大規模的人類網路都難以維繫。

以醫院為例,是一種採用官僚制度的機構。雖然醫院也有官僚制度的諸多弊病,但還是能夠成功治癒人們的許多疾病。所有其他能讓人類生活更美好的服務,從學校到污水處理系統,幾乎也都適用同樣的道理。

權力迷宮
所有大型社會都有神話故事與官僚制度,做為兩大支柱。只不過神話故事常常是讓人歡喜讚嘆,官僚制度常常是讓人搖頭懷疑。

無論是好的和壞的官僚制度,都有一個關鍵特徵: 人們就是很難搞清楚它在幹些什麼?

文件、檔案、表格、許可、法規,以及各種官僚程序,改變了資訊在社會上流動的方式,也就改變了全力運作的方式。這樣一來。想再暸解權力,也就變得更加困難。

隨著文件成為許多社會鏈結的重要節點,文件開始承載著無比的權力。能嫻熟於這些文件背後的神秘邏輯,就能成為新的權威人物。在官僚體系中,權力往往就來自暸解如何操弄隱密的預算漏洞,以及如何往來於各個辦公室、委員會、分組委員會形成的迷宮之間。

生物戲碼
一般說來,藝術家談的故事情節就是那幾種,都根源於人類基本的生物機制;但這些「生物戲碼」的情節都是在幾百萬年的演化過程中慢慢產生,遠遠早於文件與檔案的出現,所以並無助於我們暸解官僚制度的運作。

潔淨對抗不潔淨
潔淨與不潔淨之間的緊張關係。其實是源自於演化過程會希望避免污染。演化既讓動物有好奇心,但也會讓動物在接觸到有毒或其他危險物質時,感到厭惡。

政治人物與宗教先知,都學會了怎樣操弄這種令人感到厭惡的機制。像是在某些民族主義與宗教的故事裡,就會把國家和教會描繪描述成生物的身體,面臨著不潔淨的入侵者帶來污染的威脅。

長達數個世紀,都有些偏執的人堅稱是那些種族或宗教上的少數群體在傳播疾病。

被文件殺死
這些會觸動我們心中情感按鈕的生物戲碼,還有另外幾齣經典戲碼,像是「誰才是老大」、「我們對抗他們」、「善良對抗邪惡」。

在官僚社會,民眾常常就是會因為某個讓人難以理解的原因,被某個不清楚職掌的機構派出了身分不明的官員,來把你的生活搞得天翻地覆。

讓我們殺光所有律師
官僚制度的現實狀況一來難以描繪,二來難以理解,就帶來了不幸的結果。一方面人類對面對自己無法理解的有害力量,會感到無助,另一方面這也讓人覺得官僚制度似乎就是一種邪惡的陰謀,即使官僚制度其實也有良性的力量,能讓我們提供健康照護、安全與正義。

外祖父流浪記
在我家,把文件保存起來成了一間神聖的義務,只要上面蓋有看起來很正式的官方印章,就會好好收到我們櫃子諸多文件夾的其中一個。因為你永遠不知道,是不是哪天就有某一份文件,成了救命的關鍵。

奇蹟文件
所有威力強大的資訊網路,都是同時可好可壞,端看設計與使用的方式。光是增加網路裡的資訊量,並不能保證網絡做的就是好事,也部會更容易在真理真相與秩序之間得到適當的平衡。對於我們這些二十一世紀新資訊網路的設計者與使用者而言,這都是一項極其重要的歷史教訓。

比起那些有血有肉的官僚,AI系統更懂得怎樣尋找及處理資料數據,也比大多數人更懂得怎樣編故事。

2024年11月16日 星期六

哈拉瑞著《連結》筆記 (六): 無限的連結

哈拉瑞著《連結》筆記 (六): 無限的連結

美國憲法有修正機制

十誡沒有修正機制

第一部 人類形成的網路

第2章 故事: 無限的連結


智人所以能統治世界。是因為唯有人類能夠靈活的大規模合作。合作的人數簡直沒有上限,例如全球貿易網路連結著智人人數更有大約 80億。

人與故事的鏈結
智人所以可以靈活而大規模合作,是因為大腦結構於語言能力在演化改變之後,顯然讓智人開始有了能力去講述並且相信各種虛構的故事,而且為之深深感動。

智人之間要合作,並不一定需要真的彼此認識,只需要能知道同一個故事就行。

「品牌」其實就是一種特定類型的故事。要給產品打造一個品牌,就是去說出一套關於那項產品的故事;故事和產品真正的特性可能沒有什麼關係,但就是能讓消費者把故事和產品連結起來。

故事一再傳播,就成了信仰
一個貪腐的億萬富翁,也能營造成窮人的捍衛者。大眾以為自己和這個人之間有著連結,但事實上連結的只是關於那個人的故事,而故事與真人之間常常就有著巨大的鴻溝。

許多史上重大故事,經常都是出於情感投射、一心嚮往的結果,打動了許許多多人。

靠著打動了諸多信徒,耶穌的故事就能大大左右歷史,影響力甚至遠大於耶穌這個人本身。

耶穌親身改變的大概就是幾千人的生命,影響所及就是羅馬帝國的一個小小行省。相較之下,耶穌的故事則是傳遍了整個世界,有幾十億人不但聽到了耶穌的故事,還開始相信這套故事進而形成一個無論在規模與影響力,都數一數二的網路。

假記憶也能變成真回憶
正如許多現代研究所示,反覆講這一套假的記憶,最後真的能讓人信以為真,以為是真實的回憶。

存在於主體間的現實
在人類開始說故事之前,現實只有兩種層次: 客觀現實與主觀現實。但有些故事能夠創造出第3層次的現實: 存在於主體之間的現實,又稱主體間的現實,或互為主體的現實 (Intersubjective reality)。

主觀現實只存在於個人的心智之中,但主體間的現實 (像是法律、神祇、國家、企業、貨幣) 則是存在於許多心智形成的連結裡。這樣的現實是存在於眾人彼此講述的故事之中。

法律、神祇、國家、企業、貨幣等事物之所以能被創造出來,而形成現實,是因為有很多人彼此說的關於這些事物的故事,是大家不再談這些故事,這些現實也會就此消失。主體間的現實,就存在於資訊的交換之中。

金錢與比特幣的財物價值高低,是完全取決於我們的信念。

國家是主體間的現實
有些時候,眾人會對某些國家的存在與否,出現異見,接著就會感受到這種存在於主體間的現實地位問題。

幾乎所有國家都曾至少短暫經歷過爭議階段,最後才爭取到獨立的地位,證實自己存在。

「國家」並不是一種客觀現實,而是一個主體間現實。只要有夠多人同意某個特定國家存在這個國家就存在。接下來,這個國家也就有權能夠進行某些事,像是和其他國家、非政府組織,又或是民間企業,簽署各種具有法律約約束力的協定。

像法律、神祇、國家、企業、貨幣等存在於主體間的事物,在所屬的特定資訊網路內擁有極其強大的權力,但一出了這個特定網路就毫無意義。

故事造就大規模人類網路
無論是靠著植入假的記憶、建構起虛構的關係,或是創造主體間的現實,總之,故事產出了大規模的人類網路。這些網路又回過頭來徹底改變了世界的權力平衡。

從唯物主義來看歷史的時候,常常就會忽略或否定故事的力量。特別是馬克思主義常常認為故事掩蓋了背後的權力關係與物質利益。在馬克思主義的理論看來,人類的動機永遠都基於客觀的物質利益,而故事的目的,也正是要掩飾這些利益,讓對手無法看清。

唯物史觀的謬誤
大規模人類群體的身份認同就是由故事所定義塑造,所以講到這些群體之間的任何關係當然也都是由故事所形塑。究竟誰算是英國人、美國人、挪威人和伊拉克人,其實並沒有什麼客觀的定義,而是由各種國族故事和宗教神話所塑造,不斷受到各方挑戰,不斷進行重寫。

黑猩猩沒辦法長期維持大規模的群體。原因正在於他們沒辦法創造故事來彼此連結。不同於馬克思主義的說法,世上的大規模身份認同與利益,向都是主體間的現實,而非客觀現實。

歷史的塑造,常常病不是因為權力關係造成的必然結果,而就是出於一些不幸的錯誤,相信了某些讓人嚮往,但其實有害的故事。

說故事容易,說道理很難
在歷史上,權利其實只有部分是來自於對真理真相的瞭解,另外還有一部分是來自於能夠維持一大批人的社會秩序。

想在大批人類當中建立秩序,最有效的方式可不是去講述宇宙的真相真理。真正能將人類網路維繫在一起的,往往是虛構的故事,講的也是主體間的現實。

要讓人團結起來的時候虛構的故事比起真理真相天生就具有2個優勢: 第一,虛構的故事要多簡單,就可以多簡單,但是真理真相卻往往很複雜,第二,真相常常令人痛苦不安。

虛構的故事不等於謊言
柏拉圖早在《理想國》就談到,建設烏托邦國家的基礎會是一種「高貴的謊言」,一套關於社會起源的虛構故事,一套能夠確保公民的忠誠、避免讓他們質疑政制的故事。

光是講一個虛構的故事,並不是說謊。所謂的說謊,是你不但說了虛構的故事,還想假裝這是在呈現現實。如果你沒有假裝,而是大方承認自己就是在創造一個新的主體間現實,而不是在呈現某個既有的客觀現實,那麼去講一個虛構的故事就不是說謊。

社會秩序不等於公平正義
美國憲法所創造並維持的這套秩序,當時對於奴隸制度、性別差異、對原住民的非法侵占、極端的經濟不平等,態度都過於縱容。但這套憲法的美妙,在於既然承認自己就是人類所創的法律擬制,就能有機制來讓各方達成協議,以修改、糾正自身的不公不義。

美國憲法可說是完全不同於那些不願承認自己出於虛構還聲稱自己有的神聖起源的故事,例如 ⟨十誡⟩ 提到「不可貪戀人的房屋;也不可貪戀人的妻子、僕婢、牛驢』,可見上帝完全不反對大家蓄奴。但與美國憲法不同的是,⟨十誡⟩ 並未提供任何修改機制。

擺盪在兩個目標之間
如果想追求生存與繁榮,每個人類資訊網路都需要同時做到兩件事,除了要發現真理真相,還得創造秩序。

另一方面,網路也學會了該如何運用資訊,才能在更大的人口族群當中維持更強大的社會秩序,除了運用符合真理真相的陳述,也要運用虛構、幻想、宣傳以及偶爾就要講些徹徹底底的謊話。

宗教永遠都說自己是客觀永恆的真理,不是人類發明的虛構故事。在這種時候,光是要找出真相,就等於威脅了社會秩序的基礎。於是許多社會都要求自己人民別了解自己的真正起源: 無知就是力量。也就難怪,有許多政府與教會都對演化論的教學加以禁止或限制,寧可選擇秩序、犧牲真理。

真理與秩序如何平衡?
雖然說資訊網路允許甚至是鼓勵大家尋找真理真相,但僅限於一些有助於產生力量,又不會威脅到社會秩序的特定領域。於是,結果就可能催生出一個力量極其強大,但又極度缺乏智慧的網路。

光是資訊技術變得更快、更有效率,可不一定會讓世界變得更美好,那只是讓我們更迫切需要在真理與秩序之間,達到平衡。

名人堂: 旅美60年史學家看美國

名人堂: 旅美60年史學家看美國
2024-11-16 聯合報/ 陳力俊

旅美史學家沉思 (GPT-4o 生成)

有很長一段時期,台灣學子赴美留學,多對美國自由開放、民主法治、物質繁榮、國際領導威信,抱著嚮往敬畏之心,在美也往往能獲得各式知識與文化的滋潤。近年來,識者漸發現美國在國內與國外事務上,都產生了令人憂心的質變,原因千頭萬緒。

美國從英國移民建立十三州成形,其後二百餘年,美國的變化,經常會帶動世界各處的變化。尤其冷戰後長期為世界「唯一超強」,目前正領導世界意圖逆轉「全球化」,並抑制中國崛起,導致全球大格局的重組。因此瞭解美國,掌握美國的變化,是世界華人重中之重。

今年「唐獎」漢學獎得主、中研院院士許倬雲,旅居在美六十年後,於二○一九年出版《美國六十年滄桑:一個華人的見聞》。許倬雲分享了他在美國一甲子的重要親身經歷,將客居美國生涯中,印象最深刻也最值得回味的人、事、地、物神龍活現地呈現在眼前,更透過獨到且敏銳的歷史學與社會學視角,幫讀者還原其時代背景與歷史源流,並擺回它們所屬的文化、制度與社會脈絡之中。

正如他開宗明義即興嘆道:「六十年前,我滿懷興奮,進入新大陸,盼望理解這個人類第一次以崇高理想作為立國原則的新國家,究竟是否能夠落實人類的夢想。六十年後,卻目擊史學家、社會學家,正在宣告這個新的政體,卻是病入膏肓。」在結語時他又反覆自問:「回顧初來美國,曾經佩服這一國家立國理想如此崇高。在這裡客居六十年,經歷許多變化,常常感慨,如此好河山,如此多元人民,何以境況如此日漸敗壞?」

全書從對美國的印象開始,談到美國的開疆闢土、農業型態的變遷、工業化過程、多族群及其社會問題、經濟運作、城鄉分離、階層異化、政治制度、發展的文化脈絡、時代潮流的變化,而以未成的帝國和敗壞的資本主義作結。繼之以餘韻,從地理、文化、宗教、族群、產業、城鄉、階級、政治、軍事到帝國事業等各種角度,來試圖回答所有與他有類似經歷的幾代留美華人菁英們,心頭上的共同疑惑。

不幸已於去年過世的中研院院士朱雲漢,應邀以〈一位美國過客的惆悵回憶〉為本書作序,述及「美國既是他安身立命之所在,也是他觀察現代西方文明的窗口,更是他剖析一個帝國由盛而衰的根源之最大社會實驗室。這本書既是一部客居生涯的回憶錄,也是一本剖析美國社會病理的診斷報告,更是一篇充滿惆悵與悲憫之情的動人史詩,生動的述說著美國社會與政治體制為何一步步走向衰敗。」

許倬雲在另一本著作《現代文明的批判》中說:「經過中國百多年來顛簸的命運,中國人的心態,長期習慣於將西方視為先進的象徵,中國人的夢,在個人而說,是住在美國,集體而說,是學習美國,大家應該注意的是,以美國為代表的現代文明正在走入秋季,寒冬已經不遠。」朱雲漢則說:「美國的衰敗不僅意味者整個西方中心世界秩序將失去最重要的支柱,也可能觸動整個全球政治經濟秩序的動盪。正如同美國決策者總是懷疑中國是否能和平崛起,我們也需要擔心美國是否能和平衰落。」語重心長,台灣處於美中抗爭驚濤駭浪之中,務須掌穩船舵,繫好安全帶自保為要。(作者為中研院院士、清華大學特聘研究講座)

2024年11月15日 星期五

113 年中國材料學會年會致詞: 材料科技與 AI

 113 年中國材料學會年會致詞:  材料科技與 AI

材料科技與 AI 息息相關

頒發中技社學術獎

其樂融融

很高興又來參加材料學會年會,我可能是在場會員中最資深會員,並曾 在1995-1999 年間擔任理事長,在1991-2003 年間,擔任「材料化學與物理」國際期刊主編,緣分非淺。同時今天也非常高興看到材料學會與中興大學材料系欣欣向榮


等一下我會代表「中技社」頒發「中技社學術獎」給今年材料學會最高榮譽陸志鴻獎得主薛承輝教授;「中技社」是台灣頂尖的科技智庫,本人有緣自 2018年起協助推動 AI 相關議題的研討工作,每年舉辦一次大型研討會,多次座談會,並舉辦「國中教師研習營」以及自 2019年起,每年辦理 AI 創意競賽,對 AI 自然多了 一分關注。

很巧的是,我也是從 2018年每半年為《工業材料》雜誌 ⟨煮字集⟩ 專欄撰稿一篇,回看近兩年的文章,都與 AI有關譬如說在去年五月題目為「ChatGPT 談 AI 與材料科技」,去年十一月題目為「伊隆馬斯克和材料科技創新」,今年五月以「AI 推進的新材料開發黃金時代」,十一月則以「科幻 與 AI」為題。

新型聊天機器人 ChatGPT 是於 2022年十一月底問世,由於強大好用,很快席捲全球。我是它早期付費愛用者之一,基於好奇,與它談 AI 與材料科技,提問「材料科技對AI發展之貢獻」、 「AI 於材料科技之應用」,回應雖不見得完整,但相當中肯,是一個探索相關議題的很有用的起點,可視為學習與研發的強大輔助工具。要特別一提的是,ChatGPT 回應的品質與提問的方式有密切的關係,問題如果具體、清晰、主題明確、簡潔、舉例以及闡明目的,效果較佳。

伊隆馬斯克 (Elon Musk) 是 2022年富比士全球富豪排行榜之首富,身價超過兩千億美元,財富來源主要是特斯拉 (Tesla) 與 SpaceX 兩家公司股票市值;而馬斯克在這兩家公司發展上都做了不少材料創新,尤其他的父親就是材料工程師,而馬斯克大學讀物理,研究所在美國史丹福大學讀材料科學,雖然很快輟學,但一直對材料創新不遺餘力。

馬斯克的公司高度依賴 AI,如果沒有 AI,他的許多企業將無法實現。他的電動車公司 Tesla 使用AI 為其先進的駕駛輔助系統提供動力,旨在實現完全自動駕駛 (FSD) 功能。馬斯克的另一家企業 SpaceX 在優化火箭發射、衛星部署和太空船設計方面也受益於 AI。

SpaceX 公司打造 Starship 此類可重複使用的載人火箭,主要材質就是開發出新的不鏽鋼合金,因為不鏽鋼可以耐高溫,能承受進出地球大氣層時因高速氣流摩擦而產生的高熱,至於一般飛機慣用的鋁合金材質不耐高溫,而用同樣耐高溫而較輕的鈦合金,則受限於價格太昂貴。SpaceX能與美國以及歐盟太空總署競爭並且勝出,成本效益是一個重要因素


另一方面,在汽車製造部份,馬斯克堅持 Tesla的 Cybertruck 車體也用新款不鏽鋼,就不以成本考量為重點,而著眼於太空科技的連結;由於不鏽鋼的價格與特性,傳統車廠失敗的前例很多,但馬斯克要求團隊嘗試更前衛的設計,並強調,他要的是一個真正夠酷的產品,而不在乎眼前的營利。

各種現代科技的發展都依賴無機晶體。在實用上,晶體必須穩定,但要開發一個新的、穩定的晶體,通常都要經過幾個月以上的艱苦實驗。谷歌 (Google) 旗下人工智慧公司 DeepMind 於去年 11月29 日在頂尖期刊《自然》雜誌上發表一篇論文,宣稱利用AI 工具材料探索的圖形網路 (Graph Networks for Materials Exploration ,GNoME ) 發現了 220 萬種潛在新晶體,其中包括 38 萬種有潛力驅動未來技術的穩定材料。而當時已知結構的無機晶體也僅有 291,382 種。GNoME 至今已展現了利用 AI 大規模開發新材料的潛力。目前在世界各地實驗室進行的獨立實驗已因此創建了 736 個此類新結構。

在同期《自然》雜誌上,與 Google 團隊合作的美國勞倫斯柏克萊國家實驗室 (Lawrence Berkeley National Laboratory,LBNL) 的研究團隊發表的論文中,報導 LBNL 無機粉末固態合成的自主實驗室 (Autonomous Laboratory ,A-Lab),使用計算、文獻中的歷史數據、機器學習 (ML) 和主動學習來規劃和解釋使用機器人進行的實驗的結果。透過梳理文獻中已發布的多種合成程序,A-Lab 可以評估每個目標與現有材料的相似性,提出試造新材料所需的成分和反應溫度。機械臂自動從原料架上選擇成分,在加熱爐中進行合成,利用鑑定工具分析產品。經過17 天的連續運行,A-Lab 從選出的預期穩定的58 個目標中製作出41 種新型化合物,其中包括各種氧化物和磷酸鹽。

這兩項發展,無疑的是讓新材料開發達到了一個新境界,讓人對 AI 推進的材料科技發展黃金時代充滿期待。

另一方面,也有人指出分析不夠嚴謹,對是否真的發現新材料提出質疑,更多人認為在現階段,把 AI 視為分析數據的另一種方法,賦能而非替代人類,它才是最有用的。同時完善的自動合成實驗室目前非常昂貴,因此需要開發成本較低的選擇,同時仍保持其可靠性和可重複性,未來才可能成為主流工具。

最後是「科幻與 AI」,ChatGPT 的問世
,讓人深深感到目前我們已經生活在AI 助成的科幻時代。由於科技進步加速,科幻成真的時程大幅壓縮,以資訊產品來說,網際網路、搜尋引擎、智慧手機等都是在出現之前不久仍只存在科幻想像中; AI 的發展,讓電腦在西洋棋,甚至圍棋比賽中,打遍天下無敵手,文字翻譯、語音、影像辨識大大超越人類,機器人能跑、能跳、從事掃地、鋤草、烹飪等家事,思之都相當科幻;不到兩年前出世的生成式 AI ChatGPT 各項里程碑,讓人目不暇給,每個進程都可以說是發布以前的科幻,也就是科幻賦予 AI 想像,AI 讓科幻成真。

因此科幻與 AI是一共生進化的關係,科幻小說為 AI 革命奠定了基礎,預測了能夠思考、學習和決策的機器的前景和危險。從最早的機械思維到今天複雜的演算法,科幻小說塑造了技術願望,而 AI 的進步激發了新的故事,在創新和想像的無限循環中相互推動。

在AI 時代材料科技與 AI 息息相關,互為依托,應受到正視,以利用厚生