1. 權力

1.1. AlphaGo Zero

• 1.1.1. 在沒有使用人工數據或進行游戲規則之外訓練的情況下，該算法僅在36小時內就學會了圍棋，成為世界上最頂尖的圍棋系統

• 1.1.2. AlphaGo Zero發現了需要人類多年練習的順序與策略類型

• 1.1.3. 從表面上看是一套人類的游戲，但被系統化后，看起來幾乎像一塊電路板

• 1.1.4. 將這一技術推廣到圍棋、象棋和日本將棋游戲中

• 1.1.5. 會產生在人類游戲中不常見的令人驚訝的走法，僅僅因為人類不會下那么多局圍棋

• 1.1.6. 并不是魔法，而僅是大規模的統計分析

• 1.1.7. 對于人工智能的投資者和傳播者來說，這一事實并不能證明其巨大成本的合理性

1.2. 這是人工智能更深層次的笛卡爾意識形態的一部分，在這種意識形態中，程序被想象成一種與身體、基礎設施和整個世界分離的思維

• 1.2.1. 這種二元論具有深遠的社會和政治影響

2. 沒有邊界的競賽

2.1. 自20世紀50年代以來，游戲一直是AI程序的首選測試場所，因為它們呈現出一個具有定義參數的封閉世界，而且獲勝條件很明確

2.2. 準確的預測在根本上是關于減少社會世界的復雜性，即在噪聲中找到信號，從混亂中建立秩序

2.3. 這種在認識論的層面上，將復雜的社會場景“扁平化”成清晰的“信號”?，用于進行預測的方法，成為當代機器學習的核心邏輯

• 2.3.1. AI系統被描述為超自然的，超越了已知的世界，但仍然是確定的，因為它們可以發現能用于日常生活的預測確定性的模式

• 2.3.2. 這本質上是一種神學觀點，認為人工智能是抽象的、可預測的、超人的東西

• 2.3.2.1. 它們是技術精湛的結果，脫離了任何社會、政治和環境背景

• 2.3.3. 此類系統過于復雜，難以監管

2.4. 深度學習系統中尤為常見的是，通過將更抽象的數據表征層疊在一起，拓展機器學習技術

• 2.4.1. 意味著深度學習系統通常是無法解釋的，即使對創建它們的工程師來說也是如此

• 2.4.2. 當一個龐大而昂貴的可進行模式識別計算的基礎設施被賦魅時，便可以結束任何的懷疑調查

2.5. 兩派主要的賦魅決定論觀點

• 2.5.1. 一派持科技烏托邦主義

• 2.5.1.1. 視人工智能為解決從氣候變化到刑事司法等所有問題的解決方案

• 2.5.1.2. 把所有的信仰都放在人工智能上，把它作為解決所有問題的方法

• 2.5.2. 一派是科技反烏托邦主義

• 2.5.2.1. 它害怕出現技術奇點，或者說“超級智能”?，或者是超越人類并最終主宰人類的機器智能

• 2.5.2.2. 把所有的恐懼都放在人工智能上，視其為最大的危險來源

• 2.5.3. 每一派都是另一派的鏡子

2.6. 無論人工智能被抽象為一個萬能工具，還是一個全能的霸主，結果都指向同樣的科技至上主義

• 2.6.1. 人工智能在社會的拯救或毀滅中被賦予中心地位，而現代人工智能的日常現實、失敗和危害卻被忽視

• 2.6.2. 兩種思路雖然看似相反，但都沒有解決有色人種社區、窮人群體以及南半球地區已經被行星計算系統所主導的問題

3. 人工智能的管道

3.1. 人工智能的內部游戲

• 3.1.1. 在人工智能產業的擴張過程中，從國防資金和聯邦研究機構，到公共事業和稅收減免，再到從所有使用搜索引擎或在網上發布圖片的人身上獲取的數據和無償勞動，有多少是得到政府補貼的

• 3.1.2. 人工智能是一個巨大的公共項目，它從如此多的公共資源中汲取了養分，卻被無情地私有化了

• 3.1.3. 受到相同權力結構的支持與推動，而這些權力結構是從地球、勞動和公眾中提取的價值的最大獲益者

• 3.1.4. 僅向我們展示了基礎設施，但并沒有揭示任何歷史、政治或社會影響

3.2. AlphaGo講述了抽象云計算的行業故事，卻閉口不談生產它所需的地球資源，這種敘事推動了一種范式，它崇拜技術創新，拒絕監管，永不披露真正的成本

4. 真實存在的AI

4.1. 需要在更廣泛的物質、社會、政治背景下，繪制人工智能地圖

4.2. 需要走出那些給出人工智能最受歡迎的、學術性闡釋的地方，即硅谷的大學實驗室和開放式辦公室，去看看其在全球的提取脈絡

4.3. 稀土礦物、水、煤炭和石油：科技部門正在開發地球，為行星計算的高能耗基礎設施提供燃料

• 4.3.1. 數據中心和消費者所用的智能設備，都高度依賴日趨耗竭的資源與來自沖突礦區的原材料

• 4.3.2. 在軟件方面，自然語言處理和計算機視覺模型的構建，需要巨大的能源消耗，而且更快、更高效的模型，助長了擴大人工智能碳足跡的“貪婪計算”方法的盛行

4.4. 對于這種環境損耗，科技行業從未完全承認或給予任何考慮，因為科技行業在擴大數據中心網絡的同時，也在幫助石油和天然氣行業剝離地球上剩余的化石燃料儲備

• 4.4.1. 以人工智能計算為代表，計算的真實成本并不透明，這反映了一種長期的商業模式的一部分，即從公共資源中提取價值，卻不為產出的真實成本買單

4.5. 勞動力代表了另一種形式的提取

• 4.5.1. 像谷歌這種高估值的公司，以更低的成本、更少的福利和沒有帶薪假期，建立了一個合同工隊伍，其數量遠遠超過了全職員工

4.6. 在科技行業的物流節點，我們發現人類完成了機器無法完成的任務

• 4.6.1. 現在，成千上萬的人從事著標記、糾正、評估或編輯人工智能系統的工作，而他們都在假裝自己是人工智能，以維持智能的假象

• 4.6.2. 人的手指、眼睛和膝蓋關節的復雜連接，比機器人更便宜、更容易獲得

• 4.6.3. 未來的工作看起來更像過去的泰勒式工廠，而其中的區別僅在于，工人犯錯時手環會振動，上廁所次數太多會受到懲罰

4.7. 在工作場所使用人工智能，尤其是情緒檢測的工具，使企業掌握了更多的控制權，從而進一步加劇了權力的不對稱

• 4.7.1. 工作場所使用人工智能，尤其是用來檢測和評估的工具，將更多的控制權交給了企業，同時掩蓋了它們使用的系統背后奇怪且往往是錯誤的假設，從而進一步扭曲了勞動力的權力關系

4.8. 人工智能系統利用不同市場之間的時間和工資差異，加速資本循環

• 4.8.1. 真正的成本隱藏在無盡的紙板箱、送貨卡車和“現在購買”按鈕之后

4.9. 在數據層，我們可以看到一種完全不同的提取哲學

• 4.9.1. 曾經僅是情報機構的職權范圍，而現在卻不僅常態化，而且道德化了，即不盡可能多地收集數據被認為是一種浪費

• 4.9.2. 一旦數據被提取并編入訓練集，我們就可以看到人工智能系統對世界進行分類的認知基礎

4.10. 人工智能中的數據集從來不只是為算法提供的原材料：它們本質上是政治干預

• 4.10.1. 收集數據、分類和標記，然后用它來訓練系統，這種做法本身就是一種形式的政治

• 4.10.2. 這帶來了一種被稱為“操作型圖像”(operational images)的轉變，即完全為機器創造的世界的表象

4.11. 人工智能開始嘗試將非系統化的東西系統化，將社會形式化，并將無限復雜和不斷變化的宇宙，轉換為機器可讀的、林奈氏分類系統那樣整齊的表格

• 4.11.1. 人工智能的許多成就，都依賴于將事物歸結為一組簡潔的標簽和形式，而這些標簽和形式依賴于創建代理的方式，即識別和命名一些特征，忽略或模糊無數其他特征

• 4.11.2. 數據集也是他們聲稱要測量的東西的代理

4.12. 由深刻的關系、背景和社會決定的身份，它們并非一成不變，而是會隨著時間和背景而發生變化

4.13. 人工智能系統由股東價值主導的公司開發與銷售，它們通過將這些系統賣給包括軍隊、執法部門、雇主、土地所有者等已然很強大的群體來獲利

• 4.13.1. 通過這種方式，人工智能系統正在加劇權力的不對稱。從被推薦的優步司機，到被追蹤的非法移民，再到被迫在家中安裝面部識別系統的公共住房租戶，這些以資本、治安和軍事化為邏輯的工具，強化了權力的中心

5. 為什么是人工智能？

5.1. 導航圖可以引發規模上的轉變：從我們眼前所見，到不同的觀點，一個連接不同空間的圖表

5.2. 服務于資本、軍隊和警察的工具，同樣也可被用來改變學校、醫院、城市與生態，假如它們真的是無須成本的中立計算器，那便應當被應用于任何地方

5.3. 需要從最大的意義上，展示人工智能是什么，并認清它所服務的權力結構

5.4. 由人工智能所激活的結構，強烈傾向于集中權力與信息，放大壓迫性的國家功能以及歧視性的設計

5.5. 科技行業應該進行反思

• 5.5.1. 迄今為止，業界的回應之一是簽署人工智能倫理聲明

• 5.5.1.1. 都不足以解決當前這種規模的問題

• 5.5.1.2. 往往缺失那些受到人工智能系統最大傷害的人的聲音

• 5.5.2. 倫理原則和聲明很少關注人工智能倫理如何實施，以及它們是否能有效地產生任何變化

• 5.5.3. 此類人工智能道德聲明，在很大程度上忽略了這些準則是如何編寫、在哪里編寫，以及由誰編寫的問題

• 5.5.3.1. 實際上，這些準則很少具有可執行性，也很少對更廣泛的公眾負責

5.6. 與醫學不同，人工智能沒有正式的專業治理結構或規范，該領域也沒有商定的定義和目標

• 5.6.1. 最重要的是，與醫學倫理不同，人工智能倫理沒有外部監督，或實施道德護欄的標準規程

5.7. 通過承諾遵守倫理，企業含蓄地宣稱，自己有權決定“負責任地”部署這些技術意味著什么，從而有權決定，合乎倫理的人工智能對世界其他地區意味著什么

• 5.7.1. 科技公司很少因他們的人工智能系統違反法律而受到經濟處罰，而當它們違反道德原則時，則不會面臨任何有實質意義的后果

• 5.7.2. 倫理學不是解決本書中提出的基本問題的正確框架

5.8. 人工智能本身是一個提取產業，那些在原則上將股東價值最大化作為首要指令的公司，宣稱可以讓人工智能變得更加“道德”?，其本身就存在著內在的矛盾

• 5.8.1. 雖然減少危害非常重要，但我們需要把目標定得更高

5.9. 現在應該關注的是權力，而不是倫理

• 5.9.1. 先從那些經受技術負面影響的人的聲音開始，代替往常對公司創始人、風險投資家和“技術遠見者”贊美的聲音

• 5.9.2. 通過關注工人、租戶、失業者，以及所有被人工智能系統剝奪權力以及受到傷害的人的生活經歷，我們可以看到權力的普遍運行

• 5.9.3. 當我們聽到“優化”時，我們應該想到這是否被用來進行移民驅逐

• 5.9.4. 當人們贊頌大規模“自動化”時，我們應該記住大氣中二氧化碳含量的上升，以及日益增長的對僅存公有物的圈占

5.10. 我們共同世界的結構發生了巨大變化，但很少有人注意到這些變化意味著什么

• 5.10.1. 對技術的判斷一直是基于狹隘的理由，關注的是新設備是否滿足特定需求，是否比之前的設備更高效，是否盈利，以及是否提供便利的服務

• 5.10.2. 選擇的廣泛意義才變得清晰，而這通常是一系列令人驚訝的“副作用”或“次級后果”

• 5.10.3. 在技術領域，我們不斷簽訂一系列社會契約，但這些契約的條款只有在簽訂后才會披露

5.11. 在強化隱私法，提供機器學習系統的公平性，或者其他提供次要保護的嘗試之外，還需要從根本上對人工智能的必然性提出挑戰

5.12. 不要僅因為人工智能可以使用，就去問它可以應用在哪里，重點應該是，為什么應該使用它

• 5.12.1. 首先要理解這些選擇的真正代價

• 5.12.2. 需要擺脫對技術主義解決方案的賦魅，擁抱休戚相關的多樣性與其創造世界的方式

• 5.12.3. 世上存在著超越價值提取的可持續的集體政治，存在著值得保留的公有物，存在著超越市場的世界，存在著超越量化的生命形式

• 5.12.4. 目標是，在我們所擁有的這個星球上，制定一條新的路線，遠離無休止的提取和殘酷的優化的邏輯

6. 太空

6.1. 隨著我們的進步，我們將不得不決定，我們是否想要一個停滯的文明，那么我們將不得不限制人口，不得不限制人均能源使用

• 6.1.1. 或者我們可以通過向太空遷移，解決這個問題

6.2. 最大的擔憂“并不是滅絕”?，而是停滯：?“我們將不得不停止增長，我認為這是一個非常糟糕的未來。?”

• 6.2.1. 貝佐斯

6.3. 太空奇觀的意識形態，與人工智能行業的意識形態，有著深刻的聯系

• 6.3.1. 科技公司帶來的巨大財富和權力，如今使一小部分人能夠追求自己的私人太空競賽

• 6.3.2. 它們依賴于對20世紀公共空間項目的知識與基礎設施的攫取，也依賴于政府資金和稅收激勵

• 6.3.3. 目標不是限制提取與增長，而是將其擴展到整個太陽系

• 6.3.4. 事實上，這些努力與其說是關于太空移民實際上可能出現的不確定性和不愉快的可能性，不如說是關于想象中的太空、無盡的增長和不朽

6.4. 《增長的極限》表明，走向可持續管理和資源再利用，是全球社會長期穩定的答案，而縮小富國和窮國之間的差距則是生存的關鍵

6.5. 太空殖民和前沿采礦，已然成為科技億萬富翁們普遍的企業幻想，這凸顯了一種從本質上令人不安的與地球的關系

• 6.5.1. 科技精英們的語言與殖民主義如出一轍，他們試圖取代地球上的人口，奪取土地進行礦產開采

6.6. 商業宇宙發射競爭力法

• 6.6.1. 首個放棄太空公有的立法，允許公司和個人擁有從小行星開采的任何材料

6.7. 太空已經成為帝國的終極野心，象征著逃離地球、身體和資本的極限

• 6.7.1. 太空殖民與其他的幻想非常契合，比如旨在延年益壽的節食、輸入青少年的血、將大腦上傳到“云端”?，以及為長生不老而服用維生素

• 6.7.2. 藍色起源的高光廣告就是這種黑暗烏托邦主義的一部分

• 6.7.3. 它是一種悄聲召喚，召喚我們超越所有生物、社會、倫理和生態的界限，成為超人

• 6.7.4. 深入其中，這些美麗新世界的愿景，似乎主要是由恐懼所驅動，包括對個人和集體死亡的恐懼，以及對時間所剩不多的恐懼

6.8. 馮·布勞恩

• 6.8.1. 第三帝國的首席火箭工程師

• 6.8.2. 他承認使用集中營的奴隸勞工來建造他的V-2火箭

• 6.8.2.1. 在建造火箭的營地中死亡的人，比在戰爭中被火箭殺死的人還要多

• 6.8.3. 被有些人視為戰犯