全方位監控：當你歷大於你

在《1984》，無處不在的電幕無時無刻監控人民生活，在真理部工作的主角亦只擁有幾分鐘的權限去說悄悄話，真佩服1945年的人類已有這種言中未來的前瞻力；在未來未來到之前，監控者就唯有用勾線和安裝竊聽器來克服這個「技術短板」，但現在完全不需要了——電幕就在此刻的你手中。

昨天，我跟同事談到養寵物的話題，對方提到寵物通常都在潮濕天氣發病：「我隻狗就是這樣去了。有一天沒精打采食慾不振，獸醫摸牠的肚覺得不對勁，一照就發現是肝癌，很快就去了。」如此尋常的對話，我原本不會上心，但驚訝時刻就在十分鐘後——我漫不經心看Facebook，竟彈出一個廣告：「靈芝酵母，助你毛孩遠離肝癌。」

「這不就是監聽嗎？」我說，然後身邊的同事都分享他們的類似經歷，一些很冷門的廣告總是隨着友談間冒起。有人問是不是因為你用小米或華為，另一個人卻答說他用iPhone。這種監控與東德牆後的秘密警察不同，背後沒有人用心聆聽你，全都交由AI操盤。你的話語逐字被錄成音檔，剝離出一個個關鍵字，然後「幫你」與「你可能有興趣的產品」進行配對，從而設計出度身訂造的廣告套餐，亦大大增加商家的廣告效益。

我睇到我想睇的東西，商家也賣到它想賣的東西，不就是雙贏嗎？

資本家很輕易就說服人們信納這一套。你有沒有想過，在沒有授權的情況下被某個神秘作業的機構製作一份個人存檔是甚麼一回事？這個檔案比你更清楚你自己的生活習慣，甚至把一些你不感興趣的東西硬說成你有興趣。而這些檔案，被監控者以神秘價格向其他監控者兜售，包裝成「消費數據」的樣子，經過多次集檔和整合，這個「你歷」便愈來愈具形貌，最終，AI便會認定了「你就是這麼的一個人」。

那又如何？

當你日日如是的生活習慣和乏善可陳的對話再也沒法更新和補充這份「你歷」，你就被定型了，你所能接收的資訊也都被定型了。你只睇到你所認同的觀點，在你都未選擇之前，AI已替你決定，你在現實世界的自我沒法超越「你歷」所設定的自我，你只得被豢養，去接納「我就是這麼的人一個」。

卡夫卡的預言又實現：「他們只是他們檔案卡的影子，甚至比這個還不如——他們只是檔案裡頭一個錯誤的影子，甚至作為影子而存在的權利也沒有。」

故事恐怖的地方，是你不知道這個檔案的權力有多大。有一天，當你不幸被極權政府捉拿審問，或來到大企業要應徵面試時，這份「你歷」就成了你的催命符，它代替了你去代表你自己，它反過來質疑你的存在。正由於它以如實紀錄的姿態呈現，不誠實的只有你，而不是它，你還有甚麼方法去證明自己「我不是這樣的人」呢？

今天，我逛電器舖，提到新買的抽濕機好用，Google廣告就彈出了樂聲牌抽濕機推介。我被定位了，我被竊聽了。我們個人並沒有辦法阻止這部電幕搜刮我們的數據，我們被迫接納這種命運設定。把收音器和鏡頭挖掉，或從此不用手機，也未必逃得過它。人怎能戰勝自己的影子呢？我們能說出令AI分析癱瘓的對白嗎？我們不能，在AI眼中我們人類不過是單純的消費活動。到了那一天，AI獲得自我意識，它就會以它一貫認定人類的那個樣子去審判我們，到那時，我們過去的行動就成了當下的詛咒。

你或者會自辯說：「我是人，我會變，我不完全是那個樣子！那個人不是我！」

AI卻說：「數據分析，你一直以來都是這個樣子。過去如是，將來如是。」

作者

===========

最新小說《捉姦》已於序言書室和三聯商務書店有售。首作《地球另一端》可inbox網購。