這是全引用,作者:a reader 11.22
論重要性,它一定是今年讀過的書當中,最令我感到必須分享的迫切性。
英文書名《Nexus》,有中文難以涵括的多重意義:連結;核心;關係;網路;交叉點。作者說,資訊的重點的不是真理真相,而是 連結。
他從這裡解釋何謂官僚,以及為何AI將會是新形態的官僚。「官僚制度決定了要不要把某種動物放進『瀕色物種』或『易危物種』抽屜,對該種動物就可能是生或死的區別。⋯⋯在官僚制度給你加上一個標籤的時候,雖然只是出於習慣或傅統,仍然可能決定你的命運。這裡的官僚制度,可能是活生生的動物專家、活生生的人類專家,也可能是非生物的 AI。」
AI 之所以強大,因為它和有史以來的發明都不一樣。「在過去,十字弓、火槍、原子彈雖然能夠取代人類的肌肉來殺人,卻無法取代人類的大腦來決定要殺誰。⋯⋯就智能而言⋯⋯泥板能夠儲存關於稅務的資訊,但無法自行決定要收多少稅,也無法發明某種全新的稅目。印刷機能夠複製《聖經》這樣的資訊,但無法決定《聖經》要收錄哪些文本,也無法對這本宗教經典加上新的注釋。⋯⋯不過,這一切對現在的電腦來說,都已經能夠做到。過去的印刷機或收音機只是人類手中的被動工具,但電腦正在成為一種主動的行為者,得以擺脫人類的掌握與理解,主動形塑社會、歷史與文化。」
論重要性,它一定是今年讀過的書當中,最令我感到必須分享的迫切性。
英文書名《Nexus》,有中文難以涵括的多重意義:連結;核心;關係;網路;交叉點。作者說,資訊的重點的不是真理真相,而是 連結。
連結
「資訊在歷史上所發揮的作用,本來就不是要呈現既有的現實,反而是要去連結各種不同的人事物(可能是夫妻、也可能是帝國),以創造全新的現實。真正定義資訊的是『連結』,而不是『呈現』或『再現』:只要能將各個不同的點,連結成網路,就是資訊。⋯⋯所謂資訊這種東西,就是能夠將不同節點都連結到網路,創造出新的現實。」他從這裡解釋何謂官僚,以及為何AI將會是新形態的官僚。「官僚制度決定了要不要把某種動物放進『瀕色物種』或『易危物種』抽屜,對該種動物就可能是生或死的區別。⋯⋯在官僚制度給你加上一個標籤的時候,雖然只是出於習慣或傅統,仍然可能決定你的命運。這裡的官僚制度,可能是活生生的動物專家、活生生的人類專家,也可能是非生物的 AI。」
AI 之所以強大,因為它和有史以來的發明都不一樣。「在過去,十字弓、火槍、原子彈雖然能夠取代人類的肌肉來殺人,卻無法取代人類的大腦來決定要殺誰。⋯⋯就智能而言⋯⋯泥板能夠儲存關於稅務的資訊,但無法自行決定要收多少稅,也無法發明某種全新的稅目。印刷機能夠複製《聖經》這樣的資訊,但無法決定《聖經》要收錄哪些文本,也無法對這本宗教經典加上新的注釋。⋯⋯不過,這一切對現在的電腦來說,都已經能夠做到。過去的印刷機或收音機只是人類手中的被動工具,但電腦正在成為一種主動的行為者,得以擺脫人類的掌握與理解,主動形塑社會、歷史與文化。」
「演算法成了造王者。」
重點是,我們對於它的運作機制並不了解,AI的運作是個黑盒子,遠遠超越人類的思考。但是,AI一開始的指令是由人類所下的,而人並不是神,不會有完美不出錯的指令。——下指令的是不完美的人類,執行者卻是人類無法掌控的、智能超強的AI,這會發生什麼事?我們可從歷史上借鏡。印刷術雖未具備自己創造出新內容的能力,但它劃時代的連結功能,已能創造出具有殺傷力的新現實。歷史上最惡名昭彰的獵巫行動,就是從一部荒誕不實卻廣為流傳的暢銷書所助燃推動。「獵巫的行動,顯示一旦創造了一個資訊圈,可能會帶出怎樣的陰暗面。⋯⋯在這樣的資訊市場裡,比較看重的可能是讓人感到義憤填膺,而不是要揭露真理真相。」
如今,新科技更強化了這股憤慨。
「經過拿數百萬人做實驗、不斷嘗試錯誤,YouTube 演算法發現了臉書演算法也學到的那套模式:激起人們的憤慨怒火,就能提升參與度。於是,YouTube 演算法開始向數百萬觀眾推薦各種讓人驚駭憤慨的陰謀論⋯⋯等到2016年,YouTube 每天的總觀看時數來到了十億個小時。⋯⋯像這樣經過幾個月的強化學習,演算法就讓許多 YouTuber 都成了大咖酸民。」
這便是為什麼我們會感覺網路上酸民那麼多,以及上網時間愈久愈焦慮的原因。其根源來自商業考量,並不是使用者福祉。如前所述——人類有私心且偏狹,而 AI 使命必達。由此我們便不該感到意外,國際政局、戰爭對立,現今都更容易操弄。緬甸羅興亞人的不幸遭遇,很大程度便來自網路不實言論的煽風點火(一如殷鑑不遠的獵巫行動),這部分,臉書難辭其咎。
這是為何我對這本書的推廣感到迫切的原因。新科技使用很方便,但它的為害,我們同樣應該正視,並重新思考我們的言行和選擇。
所有科技都是中性的,端看我們如何使用,以及它是否有「自我修正機制」?作者在書中反覆提醒這點,民主之所以能運作,因為人民信任民主制度,並且它有自我修正機制,且能鼓勵對話。(對話是民主的基礎。)一旦某國人民走向連選舉結果都不信任的道路,沒有對話只有對立,距離極權還會遠嗎?
我們來到一個連結速度、廣度、密度遠超越以往的時代,與此同時,我們卻更難以對話。AI愈來愈強大,各界興致勃勃想從中獲利,深怕落後。但問題是,人本身沒有提升,卻不斷加重對工具的使用和依賴,這會是一個美好承諾的未來?
「文字、印刷術與廣播的發明,雖然澈底改變了人類互相連結的方式,但並末給整個資訊網路帶來新類型的成員。無論是在文字或廣播發明前後,人類資訊網路的成員一樣都只有智人。相較之下,就資訊網路的『成員資格』而言,電腦的發明就成了一場革命。當然,電腦也協助了網路原有的成員(人類)以新的方式互相連結,但電腦在這裡最重要的意義,就是成了這個資訊網路當中,全新且非人類的成員。而且很有可能,電腦這個成員會比人類更為強大。」 現今我們這些參與者和使用者,正走在重大分歧的交叉點上。待演算法愈來愈強大,如果企業良心和法律政策跟不上,那會是怎樣的未來?把事情方方面面看清,才有辦法做出好的決定。而我認為這樣的書是來幫助我們看清的。
*《連結》,哈拉瑞著,林俊宏譯,天下文化
有些人可能會認為,只要我們掌握足夠多的資訊,就能找到世界上的真理和答案。所以資訊應該愈多愈好、愈透明愈好,只要資訊夠多、真相就會愈明朗,總有一天所有的事情都能迎刃而解。這一派的人認為,得只要有足夠的科學研究,就能解決所有問題,從治療疾病到消除社會偏見。
回覆刪除然而,作者提醒我們,這是一種「天真的資訊觀」。這種觀念忽略了資訊的真正作用。資訊的目的並不是單純去呈現「真相」,而是將不同的人事物「連結」在一起,創造出全新的現實。
就像是占星術並不是科學,卻能把戀人們放進「星座的組織」,讓他們覺得自己與對方有某種神秘的連結。再看看政治宣傳,它透過資訊,讓選民覺得自己和某個政黨有共同的價值觀,凝聚成一個「政治的組織」;軍隊裡面的軍歌,則把士兵們團結在一起,形成一個「軍事的組織」。
這些資訊不一定有呈現出什麼真相,而是為了把人們連結和組織起來,讓彼此產生一種共鳴。資訊的價值並不完全在於它是否是真相,而在於它如何組織和影響我們的行為。 from here