avatarVincent Chen-WS

Free AI web copilot to create summaries, insights and extended knowledge, download it at here

2288

Abstract

生產過程,也就是所謂的<b>「機器智慧」(machine intelligence)</b>,將資料自動製造成<b>「預測產品」</b>,對你當下、下一秒以及未來的行為進行預測。最後,這些預測產品會放在全新的市場上交易,而這種專門流通行為預測產品的市場,就是我所謂的<b>「行為未來市場」(behavioral futures markets)</b>。許多企業都迫不及待想在人類未來行為上下注,使提供此類商品交易的監控資本家得以迅速致富。</p><p id="fc8f"><b>行為數據</b>的範圍幾乎無所不包,包括人類行為的一點一滴,我們現在利用鍵盤、攝影機、GPS等介面操作電腦,系統可以捕捉的數據,仍屬初期階段,雖然項目已經很多。例如在網路上的任何點擊、關鍵字搜尋外,每一筆搜尋指令都會產生大量附帶數據,例如搜尋詞彙的樣式或數量,搜尋詞彙的構成、拼字、標點符號、停留時間、點擊模式以及地點,這個附帶附帶數據就是行為剩餘。</p><p id="b644"><b>深度行為經驗數據</b>捕捉的應用,尚未被我們深入了解。但大科技業者已經加足馬力,希望能自動及時深度捕捉,例如行為中的六大「基本情緒」,包括憤怒、恐懼、傷心、愉快、厭惡及驚訝等,需要深度捕捉的行為數據,隨著AR、AI、智慧製造/分析等技術的逐步成熟,透過情緒分析工具利用專門的軟體來掃描臉部、聲音、手勢、身體、大腦,利用「生物統計」及「深度」感測器,並搭配難以察覺的小型「隱匿」攝影機來捕捉這些資料。這種機器智慧綜合體是訓練來挑出最隱微、私密的行為,以便後續的抽取、轉換,不論是<b>無意間的眨眼或驚訝的張口結舌都能在轉瞬間捕捉下來</b>。結合感測器及軟體就能識別臉部;預估年齡、族裔、性別;分析視線方向及眨眼動作;追蹤獨特的臉部特徵點,解讀「微表情」、眼睛動作、情緒、心情、壓力、欺瞞、無聊、困惑、意圖等,轉瞬間完成這一切流程。最後再透過<b>「校準」(tuning)與「驅趕」(herding),及行為心理學家所說的「制約」來進行「行為修正」,以達到最後控制我們行為的終極目標。</b></p><h2 id="e779">三、本書架構分為四大部分</h2><p id="bb53">第一部: 監控資本主義之基礎</p><blockquote id="cdd1"><p>(1) 談到監控資本主義的基礎:其源頭與早期發展</p></blockquote><blockquote id="6f64"><p>(2) 介紹是在何種背景脈絡下,監控資本主義得以竄出頭並蓬勃成長。</p></blockquote><blockquote id="727e"><p>(3) 仔細檢視監控資本主義的形成,及其於谷歌的早期應用。</p></blockquote><p id="7889">第二部: 監控資本主義之演進</p><blockquote id="af57"><p>(1) 研究這種全新的現實商務應用。</p></blockquote><blockquote id="4b3f"><p>(2) 深度捕捉及轉換機制。</p></blockquote><blockquote id="9b62"><p>(3) 未來式權利遭受威脅。</p></blockquote><blockquote id="c673"><p>(4) 資本家為什麼能躲過公眾的審視?</p></blockquote><p id="32f1">第三部: 第三現代性中的機器控制力</p><blockquote id="3e20"><p>(1) 檢視機器控制力量的興起,及如何具體呈現在所謂的「大他者」(Big Other)之中。</p></blockquote><blockquote id="e1e0"><p>(2) 監控資本主義的第一步轉變,是從虛擬世界踏入真實世界(個人影響),第二步則是從真實世界邁入社會世界(群體、社會影響)。</p></blockquote><blockquote id="dd6a"><p>(3) 社群媒體可說是全球第一個人類蜂巢實驗。會對人類的帶來哪些深遠影響,人類還有尋求庇護的權利嗎?</p></blockquote><p id="1b8a">最後章節進行總結,指出監控資本主義的機器控制力量,是由「上至下的政變」,將民主逼向瓦解的險境。我們必須團結抵抗的力量,形成關鍵阻力,以打造我們未來所要的數位化家園。</p><p id="517f">底下依序將各章節主要概念敘述如下:</p><h2 id="7041">四、發現行為剩餘,導致監控資本主義的形成</h2><p id="a0dd">Google於1998年成立,任務為「匯整全球資訊,供大眾使用」。最初,Google實踐資訊資本主義的承諾,將此資本主義視為一股解放的民主力量,讓全球第二現代性的個人化個體歡欣鼓舞。但2000年網路泡沫化,Google為了生存,安撫心急投資者,從反感廣告業務,走向利用行為剩餘數據開發Adwords廣告業務之路,此期間Google人頓悟,發現源源不絕的附帶行為數據,能將搜尋引擎轉變為一個遞迴學習系統,持續改善搜尋結果、刺激產品創新,例如拼字檢查、翻譯以及語音辨識。正式開啟了監控資本主義的序幕。</p><h2 id="b032">監控資本主義發展運作的機制:</h2><blockquote id="8421"><p>1. <b>發展邏輯:</b> Google想出解決辦法,將自己與使用者的非市場互動轉換成剩餘原物料,並

Options

以此原物料來生產產品,與其真正的顧客進行市場交易,這裡所指的顧客就是廣告商。這些產品的銷售對象非為使用者的我們。<b>我們只是達成他人目的的手段。</b></p></blockquote><blockquote id="22b5"><p><b>2. 生產手段</b>: Google特有的科技與技術,被我統稱為「機器智慧」。他們的機器智慧不斷進步、演化,其複雜的運作過程容易使人望之生畏。Google的機器智慧能力以行為剩餘為能量來源。消耗愈多行為剩餘,他們生產的預測產品就愈準確。這是獨一無二的二十一世紀「生產手段」。</p></blockquote><blockquote id="a708"><p><b>3. 產品:</b> 經過機器智慧的加工處理後,行為剩餘變成預測產品,用以預測我們在當下、下一秒以及未來的感覺、思想以及行動。</p></blockquote><blockquote id="7bea"><p><b>4. 市場:</b> 預測產品賣到一個新的市場環境中,而唯一在此市場中流通的商品即為未來行為,監控資本主義的利潤,主要就是來自此類「行為未來市場」</p></blockquote><figure id="039e"><img src="https://cdn-images-1.readmedium.com/v2/resize:fit:800/1*T7CIAxZS29cbbsAbQ1fohw.png"><figcaption><b>Figure 2:</b> The Discovery of Behavioral Surplus</figcaption></figure><h2 id="c9a9">五、意外的歷史脈絡,導致監控資本主義的快速發展</h2><p id="c78b">作者不斷反覆探討這個關鍵問題:「他們怎麼躲得過檢視和質疑?」,並從三方面深入分析:</p><blockquote id="4a03"><p>1. 哪一種存在狀態,讓民眾產生對監控資本主義服務的需求,並讓此需求持續不滅。</p></blockquote><blockquote id="292f"><p>2. 我們必須清楚理解監控資本主義的基礎機制及其運動定律。(第二部探討)</p></blockquote><blockquote id="1ebe"><p>3. 哪些政治、文化方面的條件與策略,讓監控資本主義的勢力得以進一步擴張,使其免受致命的挑戰和質疑。</p></blockquote><p id="4840">監控資本主義不可能光靠單一要素來成就今日的榮景。其棲息地之所以如此繁盛,嶄新的突變種之所以得以扎根、茁壯,都是政治因素與監控資本家積極策略聯手促成,包含:</p><p id="00a3">(一)透過企業控制手法,以及主張有權在不受法律約束的空間行動,創辦人得以捍衛自己的行動「自由」;Google創辦人透過許多方式來鞏固自己的自由,其中一種方式是利用不尋常的企業管理手段,讓自己得以全權掌控公司。在監控資本主義的短暫歷史中,不受法律約束是關鍵成功要素。即使Google已是全球影響力最大的企業,史密特、布林以及佩吉,還是努力捍衛不受法律約束的自由權。Google等科技公司發展速度之快,國家機構根本無法理解,也完全跟不上;因此,任何嘗試要限制或干涉其發展的舉動,都是不明智而且愚蠢的;法律規範永遠是負面力量,只會限制創新與進步;不被法律約束的空間,對「科技創新」來說是必備背景脈絡。</p><p id="2018">(二)受到特定歷史情境的掩護,例如新自由主義典範的政策與法律定位,還有2001年9月恐攻後,政府對行為剩餘分析及預測手法的興趣與迫切需求;數十年來,保護數據的政府機構、隱私監察單位、公民權利團體以及其他單位,都試圖消弭監控所造成的負面社會影響,但恐攻事件發生後,情勢出現大逆轉,監控操作愈來愈不透明,侵略性也更加強大。公共與私人機構在資訊優勢層面的互賴性日漸顯著,這完全就是社會學家馬克斯.韋伯所說的「選擇性親和」(elective affinity)。共享意義、利益與互惠關係催生而成的相互吸引力,讓選擇性親和於焉而生。選擇性親和讓監控例外論得以延續,也打造出一片肥沃的棲息地,讓監控資本主義的突變種得以繁花盛開。</p><p id="c4d9">(三)在政治與文化領域刻意搭起防護網,保護監控資本主義王國,避免其操作受到嚴密的檢視與挑戰。Google為防預其商業營運模式之持續掠奪,遂搭起層層防護牆,包括:</p><blockquote id="8105"><p>1. Google將其獨一無二的能力包裝成極具競爭力之優勢,讓政黨選舉團隊趨之若鶩。</p></blockquote><blockquote id="5dfa"><p>2. 透過建立關係與積極的遊說活動,刻意讓公私部門的目標合而為一。</p></blockquote><blockquote id="14d4"><p>3. 2009至2016年,這段對Google來說無比關鍵的發展時間區段中,Google和歐巴馬政府之間的選擇性親和,讓雙方人馬在彼此陣營間流動。</p></blockquote><blockquote id="05ca"><p>4. Google刻意影響學術研究領域,導引文化溝通的大方向,進而影響政策建構、公眾意見以及政治認知。</p></blockquote><h1 id="53c2">待續 …</h1></article></body>

讀書心得 - 監控資本主義時代(1/3)

The Age of Surveillance Capitalism: The Fight for a Human Future at the New Frontier of Power

作者: 肖莎娜.祖博夫 Shoshana Zuboff

出版社:時報出版

出版日期:2020/07/28

哈佛大學商學院 網路心理學 教授肖莎娜.祖博夫提出「監控資本主義」原創概念與研究,指出人類在數位化時代面對的監控大挑戰,正處於一個急迫的關鍵時刻。在監控資本主義的籠罩下,人類不是顧客,甚至不是產品──而是原物料。「如果有什麼東西免費,那真正的商品其實是你,這句話已經過時了,你才不是商品,你是被捨棄的屍塊,真正的「商品」源於從你人生奪取的剩餘」。 許多人認為「我的隱私又沒有甚麼見不得人的,我又沒有違法,這些大數據交給跨國企業,我的生活也變得更方便了,有甚麼不好?」作者指出,真正的心理學真理是:如果你沒有什麼好藏的,你就什麼也不是。

本書作者文筆批判的用語,非常直接,譬如「這些公司將自主個體的道德完整性視為無物」、「聲稱自己有權利抽取人類經驗」、「是惡名昭彰的秘密公司」、「根本是宗教組織…數據神父…數位福音」、「如果我們的地圖上沒有你,你就等於不存在」、「如果系統裡沒有你的資料,你就不存在」等等。大致上了解全書片面的意思很容易,但不容易深入了解全書脈絡(有很多概念甚為零散,分散在很多章節,不易具體掌握),會讓一般人讀起來覺得有些困難。因此整理書中的重要「術語與概念介紹」於另文中

本書中作者一直提問的是,受操控的人類行為,將會喪失自主決定的權利,最終導致喪失人類尊嚴嗎? 這樣的數位化的未來,是異地還是故里?這樣的數位化的未來,真的能成為人類安居樂業的家園嗎?

一、監控資本家監控實例

1. 《精靈寶可夢GO》(Pokémon Go)手遊玩家,趕到特定餐廳、酒吧、速食連鎖店或商店消費。

2. 街景服務取景車被比喻成早期谷歌搜尋引擎中的網路爬蟲,悄悄地徵收網頁,將網頁列入索引,進行他們最原始的奪取行為。

3. 臉書「餵食演算法」的構想是「每隔一段時間就給你一點多巴胺刺激」,也就是「各式各樣的增強機制,以『讚』和留言的形式呈現,目標是讓使用者黏著蜂巢,追逐這些刺激,在走過之處留下一連串原料」。

4. 利用臉書(Facebook)上過剩的個人資訊,形塑你的行為模式,例如誘使你在週五下午五點四十五分購買痘痘藥膏;在你週日晨跑結束,腦內啡在腦中極速流竄時,使你點下「同意下單」的按鍵,購入一雙新的慢跑鞋;甚至,他們還能影響你下週投票時的選擇。

5. 「汽車監控系統」的例子: 如果有人付不出每月的車貸,「現在透過汽車監控系統,我們可以輕鬆下令禁止汽車發動,並使系統發出信號,顯示取回汽車的地點」。

6. 「保險業者可以直接監控保單持有人的行為,記錄他們開車的時間、地點、道路狀況、是否快速加速、是否高速或超速行駛、踩煞車的力道、轉彎的速度、是否打方向燈等等」,強制保單持有人的行為來達到「風險最小化」的「行為承保」目標。保險業者可以透過塑造行為來去除不確定性。概念是監控駕駛是否遵循保險業者所定下的行為規範,並根據監控結果不斷調整保險費率,將之調整到最合適的狀態。

二、何謂監控資本主義?

監控資本主義單方面宣稱,人類經驗是能轉化為行為數據的免費原物料。雖然部分資料用來改善產品或服務品質,但其他數據則被業主據為己有,並將其稱為「行為剩餘」(behavioral surplus)。他們將這些資料投入下階段的生產過程,也就是所謂的「機器智慧」(machine intelligence),將資料自動製造成「預測產品」,對你當下、下一秒以及未來的行為進行預測。最後,這些預測產品會放在全新的市場上交易,而這種專門流通行為預測產品的市場,就是我所謂的「行為未來市場」(behavioral futures markets)。許多企業都迫不及待想在人類未來行為上下注,使提供此類商品交易的監控資本家得以迅速致富。

行為數據的範圍幾乎無所不包,包括人類行為的一點一滴,我們現在利用鍵盤、攝影機、GPS等介面操作電腦,系統可以捕捉的數據,仍屬初期階段,雖然項目已經很多。例如在網路上的任何點擊、關鍵字搜尋外,每一筆搜尋指令都會產生大量附帶數據,例如搜尋詞彙的樣式或數量,搜尋詞彙的構成、拼字、標點符號、停留時間、點擊模式以及地點,這個附帶附帶數據就是行為剩餘。

深度行為經驗數據捕捉的應用,尚未被我們深入了解。但大科技業者已經加足馬力,希望能自動及時深度捕捉,例如行為中的六大「基本情緒」,包括憤怒、恐懼、傷心、愉快、厭惡及驚訝等,需要深度捕捉的行為數據,隨著AR、AI、智慧製造/分析等技術的逐步成熟,透過情緒分析工具利用專門的軟體來掃描臉部、聲音、手勢、身體、大腦,利用「生物統計」及「深度」感測器,並搭配難以察覺的小型「隱匿」攝影機來捕捉這些資料。這種機器智慧綜合體是訓練來挑出最隱微、私密的行為,以便後續的抽取、轉換,不論是無意間的眨眼或驚訝的張口結舌都能在轉瞬間捕捉下來。結合感測器及軟體就能識別臉部;預估年齡、族裔、性別;分析視線方向及眨眼動作;追蹤獨特的臉部特徵點,解讀「微表情」、眼睛動作、情緒、心情、壓力、欺瞞、無聊、困惑、意圖等,轉瞬間完成這一切流程。最後再透過「校準」(tuning)與「驅趕」(herding),及行為心理學家所說的「制約」來進行「行為修正」,以達到最後控制我們行為的終極目標。

三、本書架構分為四大部分

第一部: 監控資本主義之基礎

(1) 談到監控資本主義的基礎:其源頭與早期發展

(2) 介紹是在何種背景脈絡下,監控資本主義得以竄出頭並蓬勃成長。

(3) 仔細檢視監控資本主義的形成,及其於谷歌的早期應用。

第二部: 監控資本主義之演進

(1) 研究這種全新的現實商務應用。

(2) 深度捕捉及轉換機制。

(3) 未來式權利遭受威脅。

(4) 資本家為什麼能躲過公眾的審視?

第三部: 第三現代性中的機器控制力

(1) 檢視機器控制力量的興起,及如何具體呈現在所謂的「大他者」(Big Other)之中。

(2) 監控資本主義的第一步轉變,是從虛擬世界踏入真實世界(個人影響),第二步則是從真實世界邁入社會世界(群體、社會影響)。

(3) 社群媒體可說是全球第一個人類蜂巢實驗。會對人類的帶來哪些深遠影響,人類還有尋求庇護的權利嗎?

最後章節進行總結,指出監控資本主義的機器控制力量,是由「上至下的政變」,將民主逼向瓦解的險境。我們必須團結抵抗的力量,形成關鍵阻力,以打造我們未來所要的數位化家園。

底下依序將各章節主要概念敘述如下:

四、發現行為剩餘,導致監控資本主義的形成

Google於1998年成立,任務為「匯整全球資訊,供大眾使用」。最初,Google實踐資訊資本主義的承諾,將此資本主義視為一股解放的民主力量,讓全球第二現代性的個人化個體歡欣鼓舞。但2000年網路泡沫化,Google為了生存,安撫心急投資者,從反感廣告業務,走向利用行為剩餘數據開發Adwords廣告業務之路,此期間Google人頓悟,發現源源不絕的附帶行為數據,能將搜尋引擎轉變為一個遞迴學習系統,持續改善搜尋結果、刺激產品創新,例如拼字檢查、翻譯以及語音辨識。正式開啟了監控資本主義的序幕。

監控資本主義發展運作的機制:

1. 發展邏輯: Google想出解決辦法,將自己與使用者的非市場互動轉換成剩餘原物料,並以此原物料來生產產品,與其真正的顧客進行市場交易,這裡所指的顧客就是廣告商。這些產品的銷售對象非為使用者的我們。我們只是達成他人目的的手段。

2. 生產手段: Google特有的科技與技術,被我統稱為「機器智慧」。他們的機器智慧不斷進步、演化,其複雜的運作過程容易使人望之生畏。Google的機器智慧能力以行為剩餘為能量來源。消耗愈多行為剩餘,他們生產的預測產品就愈準確。這是獨一無二的二十一世紀「生產手段」。

3. 產品: 經過機器智慧的加工處理後,行為剩餘變成預測產品,用以預測我們在當下、下一秒以及未來的感覺、思想以及行動。

4. 市場: 預測產品賣到一個新的市場環境中,而唯一在此市場中流通的商品即為未來行為,監控資本主義的利潤,主要就是來自此類「行為未來市場」

Figure 2: The Discovery of Behavioral Surplus

五、意外的歷史脈絡,導致監控資本主義的快速發展

作者不斷反覆探討這個關鍵問題:「他們怎麼躲得過檢視和質疑?」,並從三方面深入分析:

1. 哪一種存在狀態,讓民眾產生對監控資本主義服務的需求,並讓此需求持續不滅。

2. 我們必須清楚理解監控資本主義的基礎機制及其運動定律。(第二部探討)

3. 哪些政治、文化方面的條件與策略,讓監控資本主義的勢力得以進一步擴張,使其免受致命的挑戰和質疑。

監控資本主義不可能光靠單一要素來成就今日的榮景。其棲息地之所以如此繁盛,嶄新的突變種之所以得以扎根、茁壯,都是政治因素與監控資本家積極策略聯手促成,包含:

(一)透過企業控制手法,以及主張有權在不受法律約束的空間行動,創辦人得以捍衛自己的行動「自由」;Google創辦人透過許多方式來鞏固自己的自由,其中一種方式是利用不尋常的企業管理手段,讓自己得以全權掌控公司。在監控資本主義的短暫歷史中,不受法律約束是關鍵成功要素。即使Google已是全球影響力最大的企業,史密特、布林以及佩吉,還是努力捍衛不受法律約束的自由權。Google等科技公司發展速度之快,國家機構根本無法理解,也完全跟不上;因此,任何嘗試要限制或干涉其發展的舉動,都是不明智而且愚蠢的;法律規範永遠是負面力量,只會限制創新與進步;不被法律約束的空間,對「科技創新」來說是必備背景脈絡。

(二)受到特定歷史情境的掩護,例如新自由主義典範的政策與法律定位,還有2001年9月恐攻後,政府對行為剩餘分析及預測手法的興趣與迫切需求;數十年來,保護數據的政府機構、隱私監察單位、公民權利團體以及其他單位,都試圖消弭監控所造成的負面社會影響,但恐攻事件發生後,情勢出現大逆轉,監控操作愈來愈不透明,侵略性也更加強大。公共與私人機構在資訊優勢層面的互賴性日漸顯著,這完全就是社會學家馬克斯.韋伯所說的「選擇性親和」(elective affinity)。共享意義、利益與互惠關係催生而成的相互吸引力,讓選擇性親和於焉而生。選擇性親和讓監控例外論得以延續,也打造出一片肥沃的棲息地,讓監控資本主義的突變種得以繁花盛開。

(三)在政治與文化領域刻意搭起防護網,保護監控資本主義王國,避免其操作受到嚴密的檢視與挑戰。Google為防預其商業營運模式之持續掠奪,遂搭起層層防護牆,包括:

1. Google將其獨一無二的能力包裝成極具競爭力之優勢,讓政黨選舉團隊趨之若鶩。

2. 透過建立關係與積極的遊說活動,刻意讓公私部門的目標合而為一。

3. 2009至2016年,這段對Google來說無比關鍵的發展時間區段中,Google和歐巴馬政府之間的選擇性親和,讓雙方人馬在彼此陣營間流動。

4. Google刻意影響學術研究領域,導引文化溝通的大方向,進而影響政策建構、公眾意見以及政治認知。

待續 …

Surveillance Capitalism
監控資本主義
行為剩餘
機器控制
烏托邦主義
Recommended from ReadMedium