數字獨裁的世界不遠了?(REFRACT)

「數字獨裁殺到嚟,香港九龍新界無得避,要化身玉皇大帝打救蒼生……」但在科技下,只怕玉皇大帝也會原形畢露。早前,澳洲廣播公司(ABC)的報道指出,中國正在透過名為「社會信用」(Social Credit)的評級系統,全天候監控、評核中國人,並以在二○二○年前完全投入使用,成為一個有能力監控十三億人民的「數字獨裁」政權為目標。
社會信用系統隨即引起國際和港台兩地網民強烈反彈,大家都擔心《一九八四》的世界將會成真─現代的戰爭,未必經常有明刀明槍的軍事行動,主要戰埸其實是在電腦與電腦之間,而最重要的武器,當然就是資訊。
 
監控工具遍及各處
曾著有《人類大歷史》、《人類大命運》等作品的以色列暢銷書作家哈拉瑞(Yuval Noah Harari),近日推出的新書《二十一世紀的二十一堂課》,憑着驚人的銷量和口碑成為社會熱話。《二十一世紀的二十一堂課》深入淺出,是一部不容忽視的作品,亦是了解當代人類容身處世的必讀之書。
早於澳洲廣播公司刊出社會信用系統的報道前,哈拉瑞已經在《二十一世紀的二十一堂課》詳細討論過數字獨裁,包括無孔不入的演算法和監控系統。中國的社會信用系統,建基於全國設置得鋪天蓋地的兩億個閉路電視,但在未來,政府可以走得更遠、更徹底。按哈拉瑞的估算,到了二○五○年生物統計感測器(一種可配帶在身上的監測設備)和大數據演算法大概就能全面普及,到時候,醫療界便可以二十四小時準確掌握病人的健康狀況。理想來說,醫療科技將有極大進步,並可以讓人在疾病惡化前得到診斷和醫療;但同一時間,生物統計感測器也可以成為完美的監控工具。
在現今科技下,人類情緒可以被整理為多項數據,就算只知道你的心跳和血壓,也能判斷你是憤怒還是開心;假如連眼球移動、大腦活動也能監測的話,電腦可以無所不知。
佐治.奧威爾(George Orwell)筆下的反烏托邦小說《一九八四》中,就有稱為電幕的監控系統,讓思想警察得以監視黨員,以防有人密謀造反。但在小說的世界中,監控的就只有黨員而已,而在現實世界的今天,科技早已有能力監控所有人,而且還不用借助人手。我們日常生活常用的手機和手提電腦的前置鏡頭,以及用來收音的麥克風,都有可能被黑客入侵而被偷看、偷聽;假如有意監控的是政府,那就當然可以更簡單直接地徵用這些資料。這些收集得來的資訊,可以通過演算法整理出一個人的喜好、習慣,以及思想,甚至隨時比我們對自己的認知還來得準確。
哈拉瑞在書中提到,假如未來電腦的前置鏡頭能夠與每人手上的生物統計感測手環配合,那監控就可以做到更加準確。當你在看電影時,演算法能了解你會被什麼事情牽動情緒:看到強姦劇情,你會興奮還是憤怒?看到有人死了,是會覺得好笑還是哀傷?有時候,人是會因為道德價值而口不對心,甚至自己也不知道自己在說違心話,但在監控系統下,一切無所遁形。當你在看《明報月刊》的專欄時,監控系統也可以知道你的情緒變化:當你看到一篇比較毛澤東和李小龍成就的文章時,你會贊同還是反對?那一刻,監控者便能輕易了解你的立場。假如資訊只是掌握在資本家手中,最多只是運用那些資料來進一步勸你買東西罷了;但假如你是一個北韓人,而金正恩掌握了上述的技術,他便有可能實現完美的獨裁。
 
Apple Watch是生物統計感測器
你也許覺得生物統計感測器離現實很遠,但所謂的生物統計感測器其實早就出現,你手上的Apple Watch就是了。新一代的Apple Watch可以直接讀取用家的心電圖資訊,要收集更多資訊絕非難事(也有可能是收集了但沒有告訴你),而其他類似的智能可穿戴式設備如小米手環、Samsung Galaxy Watch,想要模仿Apple Watch也不是做不到(同樣地,有可能早就在收集數據,但沒有告訴你)。
你用手機或電腦上網的習慣,早已是演算法一覽無遺的資訊,因此才有能力精準地為用戶推銷不同的產品,而生物統計感測器更可以將監控程度再推前。當然,這裏並不是指Apple或小米有什麼企圖,而是指在技術和習慣上,全方位的監控是絕對可以做到的。無論是有黑客入侵了Apple或小米的資料庫,而將資料用在不法用途,又或是某一極權國家強行徵用演算法得來的數據來實行數字獨裁,後果都是不堪設想的。
哈拉瑞強調的是,一般科幻電影中描述的智能叛變,例如人工智能系統自行出現意識並反過來對付人類的情況暫時仍不會發生,但必須認真提防人工智能背後的人類。
其實,中國、俄羅斯等國一直研究改良監視系統,而民主國家如美國和以色列,也同樣在研發相近的技術。美國和以色列自然會聲稱他們是為了反恐,而後者更主張要特別提防巴勒斯坦。中國則強調,監視系統加上社會信用評級系統,是要「讓守信者處處受益、失信者寸步難行」─守信者以及其子女,將可能在生活上得到更多機會和好處,而失信者甚至可能連叫外賣和買火車票也做不到。
理論上,在一個完美運作的政府所掌握的監視系統下,沒有做虧心事的人是不用擔憂任何事情的,但理論畢竟只是理論,完美的系統,並不存在。
 
人工智能在進化 人類卻在退化
在科技的溺愛下,人類似乎變得日漸退化。習慣電腦輸入法的人會對執筆寫字生疏,大家也早已習慣事事Google查資料,而不是先信任自己的記憶。我們連辨認方向和找路的能力,也日漸消退:二○一二年,曾有三位日本遊客在澳洲旅遊時,連人帶車駛進了海。原來,是因為他們決定前往一個離岸小島,而GPS指示他們直接駛到海中─「GPS說我們可以開過去。」於是,他們便相信海中有路。類似事件,並不只一件。
面對不斷進化的人工智能,人類要持續進步才能逃離被馴養的未來。數碼龐克(Cyberpunk)世界所描述的「高等科技,低端生活」(High Tech, Low Life),在過去只是作家或電影人對未來的消極想像,但隨着科技發展,也許真的離我們不遠。
樂觀地想,政府有可能真的能夠善用技術來阻止罪案發生。面對數字獨裁的盛行,也會有人想盡辦法扺抗無孔不入的監控,甚至可以預視幫助人們避開監控的新興產業將會出現。而在一切未知之數下,最理想的應對方法,便是盡力學習與未來科技相關的知識,同一時間提防過度依賴科技,避免在人工智能不斷進化的情況下,自己卻不斷退化,在時代洪流中,找到一席位。
 
(REFRACT為Y世代網上文化雜誌。)

文章回應

回應