「數位監理」: 心智操控【劍橋分析技術大公開】讀後 (七)
數位犯罪不會發生在某個地點，反而像汙染一樣到處都是。資料是完全可取代的無形之物，只是呈現資訊的一種方式而已，可以同時儲存在世界各地的伺服器中，即使你發現某些資料出現在某處，它也不完全屬於那裏。在這種機制下，即使真的發生駭客攻擊、竊取資料、恐嚇威脅、詐欺等情事，也很難釐清各方責任。【劍橋分析】就是這樣運作的，而我們既有的究責系統對此更無能為力。
科技業喜歡重複說：「法律跟不上科技發展」。但真要做的話，法律其實是跟得上科技發展的。例如在醫藥、建築、食品、能源等許多高科技領域的法規並沒有跟不上。
我們不應該放任科技公司「快速行動，打破成規」。沒有理由科技公司不需要經過任何審查就可以推出新的數位系統。我們不應讓科技龍頭隨便進行大規模人體實驗，然後才發現問題大得管不住。
規模是一個嚴重到讓人刻意視而不見的問題。當矽谷公司說它們的平台太大，也就是默認它們造出來的東西過大，不能讓它們自己管理。但這種發言同時也是在暗示，它們覺得從中獲利，比阻止系統傷害更重要。我們應問，如果這問題大到你們無法即時解決，為什麼社會還要讓你們在充分了解產品的副作用之前，繼續發布未經檢驗的產品呢?
我們必須制定規則，在網際網路溝通中增加一些阻礙，以保護新科技與新網路生態系統的安全。我們須要把強大的科技力量引導到使人類過得更好，建設性的事情上。讓網路生態系更安全，可能有用的第一步：
一、科技公司不能用「使用者條款」來推卸責任，
當數位世界與物理世界逐漸融合，某些網際網路的架構對我們生活的影響就越來越深。隱私是一種基本人權，但人們往往一看到繁複的「使用者條款」，就直接按下「同意」，放棄了這項權利，其實是「不知情就同意」
(consent-washing) 。在現實中，我們不會讓人「同意」走進那些電線故障或沒有逃生口的建築物，也不會讓設計出危樓的建築師在房子出事時，靠著牆上貼著的「使用者條款」來推卸責任，為什麼要允許程式設計師與軟體架構師做這種事?
加拿大與歐洲主打「用設計保障隱私」思維，依此拓展打造出整個網際網路的建築規範。除了保障隱私外，還得保障每一個使用者的完整性與能動性，這就是「用設計保障能動性」原則: 網際網路必須設法讓使用者作出更多選擇，而且必須禁用目前的黑暗式設計；不可以迷惑、欺騙、操弄使用者去同意某項功能或做出某類行為。如果某項設計會長期造成不成比例的負面影響，例如讓人上癮或造成心理問題，平台就不得使用這項設計。
二、程式設計師需要道德規範、法律制裁
社會所以特別尊重某些職業，如醫生、律師、護理師、教師、建築師、大部分是因為這些職業要求他們遵守道德規範以及與安全有關的法律。因此許多國家都會設立法定監理機構，強制要求這些職業遵守道德規範。
如今我們的生活已遍佈各種軟體、人工智慧、數位生態系；但目前打造日常生活家電與程式的人，卻不受任何法規或強制性規範的約束。有問題與危險的數位平台都是人類寫出來的，但產品出問題時，科技公司的程式設計師與資料科學家卻不需要承擔任何代價。如此即使有監理機構，也是事倍功半，因此我們必須要程式設計師為自己造出的東西負責。有了規範，設計師必須在公開發行產品或功能之前先思考可能造成哪些傷害，成為防止科技濫用的最佳防線。
三、網路龍頭的監理，必須比照一般公用事業
公用事業經營如能源、水。道路等基礎建設，往往是自然獨占，以增加效率，但供應商的權力也可能暴增，消費者別無選擇而被綁架。
網際網路有很多這種公司，谷歌的搜尋引擎市占率超過90%，臉書在成年人使用的社群媒體市占率超過70%。網際網路巨頭架構和實體的公共設施一樣已變成日常生活的一部分，一旦消失，商業與社會往往就無法正常運作，例如目前許多公司都必須用谷歌的搜索引擎來找員工。
「網際網路上的公共設施」是指那些因為規模大到在網際網路變成龍頭，而影響到公共利益的服務、程式或平台。在監理時，必須考慮它們在商業與社會中的特殊地位，要求這些機構以更高標準照顧使用者，用法定義務 (statuary
duty) 來規範，並根據其年收益來調整罰款額度，以防止其如現在這樣繼續無視法規。
目前「網際網路上的公共設施」都能夠不受控制的影響我們的公眾討論、社會凝聚力、心理健康，必需有機制讓它們對大眾負責。像 FB這樣的平台都會強調自己提供的是「免費」服務，但者種論點，預設了使用者為了使用該平台而交出個人資料的行為不算是把一種有價值的東西去換另一種有價值的東西，這顯然違反事實。應架設新的數位監理機構，擁有法定的制裁權力。這種機構必須要聘雇懂技術的權利保護官，代表人民主動檢查數位平台。同時用市場機制來進一步保護公眾的權益。例如要求這些「網際網路上的公共設施」為濫用資料造成的損害投保，讓它們在財務壓力下更用心守護資料。
沒有留言:
張貼留言