矽幕升起 (GPT-4o 生成)
人類把自己這個物種命名為智人，有智慧的人類。但我們究竟配不配得上這個稱號，實在還有待商榷。
過去10萬年間，我們智人確實積累了無比的能力。但有能力並不等於有智慧。經過10萬年的發現、發明與征服，人類已經把自己推進一場生存危機。由於濫用各種能力，人類已然來到生態崩潰邊緣，而人類非但沒有團結起來，應對這些存亡挑戰，還讓國際緊張情勢不斷升溫，全球合作更加困難，各國大量儲備末日武器，新的世界大戰似乎確實可能發生
要是我們智人真的那麼聰明、有智慧，為什麼這麼愛走上自我毀滅的道路?
兩則警示寓言
綜關歷史，許多文化傳統都提到人類本性上就有些致命缺陷，會讓人想要追求自己根本不知道如何處理的力量。
人類最早開始「創造出強大的事物，卻帶來意外的後果」，可不是蒸汽機和AI這類發明，而是宗教。各家的先知與神學家召喚出強大的神靈，本該給人間帶來歡笑慈愛，但有時留下的卻是一片血海。
人類的困境在於資訊網路
從某些寓言得出的結論，就僅是: 因為個人心理出了問題，於是使人濫用權力。但這樣的分析，實在太過粗糙，忽略了人類整體的力量從來就不是個人想要就能得到的結果。人類的力量，總是得自於大批人類之間的合作。
雖然人類能夠建立大型合作網路，以此取得巨大的力量，但這些網路的建構方式就注定了這些力量的運用，常常並不聰明。所以，人類遇上的問題，其實是個網路問題。
講得更明確一點，這是個資訊問題。資訊是讓網路得以維持的黏著劑。數萬年來智人正是靠著發明與傳播各種虛構的故事、幻想以及大量的錯覺，從而打造並維繫了諸多大型網路。
雖然就個人而言，通常會了解的是關於自己於世界的真理真相。但大型網絡卻會使用各種虛構故事與幻想，來束縛群眾、創造秩序。舉例來說，我們過去就是這樣走向了納粹主義與史達林主義。兩者都形成了格外強大的網路，並由格外令人迷惑的想法加以支撐維繫。正如英國小說家歐威爾的名言所述: 無知就是力量。
到了21世紀，過去希特勒和史達林沒做到的，很可能會有一些新的極權主義政權接手完成，創造出一個全知全能的網路，甚至能夠阻止後代去嘗試揭露其中的虛構與謊言。我們不該以為，既然這些網路的基礎都只是一些虛構妄想，就注定會失敗崩潰。想要避免這些網路終獲成功，我們人民自己可得付出相當的心力。
天真的資訊觀
這種天真的觀點認為，大型網路能夠比個人蒐集與處理到更多的資訊，就更能了解醫學、物理學、經濟學等諸多領域，於是這樣的網路不但力量強大，還無比明智。
有些時候資訊並非導向真理真相，反而是導向錯誤。像是資訊不完整、分析有錯誤。又或是有人刻意散布不實資訊，都可能讓人誤入歧途，甚至連專家也可能對某些問題的真正成因產生誤判。
就算我們都能準確分析資訊、找出重要事實，也無法保證我們因此得到力量之後，能夠有智慧好好加以運用。一般說到智慧，大概會認為就是能「做出正確的決定」，但所謂「正確」僅是一種價值判斷，不同的個人、文化和意識形態，就會有不同的想法。
資訊越多越好?
天真的資訊觀，其核心原則就是認為資訊本質上是一件好事，我們擁有越多資訊越好。只要有足夠的資訊、足夠的時間，就一定能找出各種事件的真理真相。屆時不但能讓人類的力量得以提升，就連智慧也能成長，進而更能好好運用那些力量。
從這種天真的資訊觀點，就會覺得當然應該發展更強大的資訊科技，而這種觀點也成為當前這個電腦與網路時代，半官方的意識形態。
一場越來越靠近的全球戰爭?
人類坐擁大批資料，卻還是在不斷向大氣排放溫室氣體、污染河海、砍伐森林、破壞棲地，讓無數物種滅絕，甚至還危及了自己這個物種的生態基礎。人類也生產著越來越強大的大規模毀滅性武器，從熱核彈到末日病毒無所不包。人類領導者的手中，並不是沒有關於這些危險的資訊，但他們非但沒去合作試著解決，反而是讓大家越來越靠近一場全球戰爭。
目前，由許多企業與政府爭先恐後研發的人類史上最強大的資訊技術: AI。一些跑在前面的企業家相信AI最後能夠解決人類所有的問題。他們很清楚這項技術潛藏著危險，也提出了詳盡的分析，但相信這些危險都能得到減輕及解決。
鐵幕落下，矽幕升起
其他人就沒那麼相信了。除了哲學家與社會科學家，有許多重要的AI專家與企業家都警告大眾: AI可能會摧毀人類的文明。
天真的資訊觀，其核心原則就是認為資訊本質上是一件好事，我們擁有越多資訊越好。只要有足夠的資訊、足夠的時間，就一定能找出各種事件的真理真相。屆時不但能讓人類的力量得以提升，就連智慧也能成長，進而更能好好運用那些力量。
從這種天真的資訊觀點，就會覺得當然應該發展更強大的資訊科技，而這種觀點也成為當前這個電腦與網路時代，半官方的意識形態。
一場越來越靠近的全球戰爭?
人類坐擁大批資料，卻還是在不斷向大氣排放溫室氣體、污染河海、砍伐森林、破壞棲地，讓無數物種滅絕，甚至還危及了自己這個物種的生態基礎。人類也生產著越來越強大的大規模毀滅性武器，從熱核彈到末日病毒無所不包。人類領導者的手中，並不是沒有關於這些危險的資訊，但他們非但沒去合作試著解決，反而是讓大家越來越靠近一場全球戰爭。
目前，由許多企業與政府爭先恐後研發的人類史上最強大的資訊技術: AI。一些跑在前面的企業家相信AI最後能夠解決人類所有的問題。他們很清楚這項技術潛藏著危險，也提出了詳盡的分析，但相信這些危險都能得到減輕及解決。
鐵幕落下，矽幕升起
其他人就沒那麼相信了。除了哲學家與社會科學家，有許多重要的AI專家與企業家都警告大眾: AI可能會摧毀人類的文明。
許多專家警告，AI崛起可能使人類文明崩潰，甚至是人類物種滅絕。一項2023年的研究調查了2,778名AI研究者，結果也顯示有超過三分之一認為，先進的AI有至少10%的機率會造成等同於人類滅絕一樣可怕的結果。2023年，包括中國、美國與英國在內，有將近三十個國家政府簽署了關於 AI的《布萊切利宣言》，其中就承認：「從這些AI模型最重要的功能，可能有意或無意地造成嚴重、甚至災難性的傷害。」
專家真正要警告的，是另外兩種情況:
第一，AI的力量可能會大幅加劇人類既有的衝突矛盾，讓人類內鬥不已。21世紀的矽幕，也可能區隔出不同的敵對勢力，帶出一場新的全球衝突。而這場AI軍備競賽將會製造出更具破壞性的武器。於是即使只是個小小的火花，也可能引發災難性的大火，
第二，矽幕所分隔的，或許不是彼此敵對的人類，而是一邊為所有人類，另一邊則是我們新的AI領主。
AI是史上第一種能夠自行做決策，創造新想法的科技。接下去幾十年，AI甚至可能創造出新的生命形式。方式可能是去編寫遺傳密碼，也可能是發明某種非生物的程式碼，而為非生物實體賦予生命。
就算是在目前，這場AI革命還在萌芽階段，電腦已經在做出各種影響人類的決定了；要不要核准某人的貸款、要不要雇用某人來工作、要不要把某人送進監牢。而這種趨勢只會愈演愈烈、愈來愈快，讓我們愈來愈難掌握和了解自己的生活。
專家真正要警告的，是另外兩種情況:
第一，AI的力量可能會大幅加劇人類既有的衝突矛盾，讓人類內鬥不已。21世紀的矽幕，也可能區隔出不同的敵對勢力，帶出一場新的全球衝突。而這場AI軍備競賽將會製造出更具破壞性的武器。於是即使只是個小小的火花，也可能引發災難性的大火，
第二，矽幕所分隔的，或許不是彼此敵對的人類，而是一邊為所有人類，另一邊則是我們新的AI領主。
AI是史上第一種能夠自行做決策，創造新想法的科技。接下去幾十年，AI甚至可能創造出新的生命形式。方式可能是去編寫遺傳密碼，也可能是發明某種非生物的程式碼，而為非生物實體賦予生命。
就算是在目前，這場AI革命還在萌芽階段，電腦已經在做出各種影響人類的決定了；要不要核准某人的貸款、要不要雇用某人來工作、要不要把某人送進監牢。而這種趨勢只會愈演愈烈、愈來愈快，讓我們愈來愈難掌握和了解自己的生活。
AI 不但可能改變人類這個物種的歷史，還可能改變所有生命形式的演化。
沒有留言:
張貼留言