1. 斯諾登檔案

1.1. 斯諾登文件發(fā)布于2013年，讀起來很像當(dāng)下的人工智能營銷手冊(cè)

• 1.1.1. 包含的所有文件、演示文稿、內(nèi)部備忘錄、新聞通訊和技術(shù)手冊(cè)，都由美國國家安全局前承包商兼泄密者愛德華·斯諾登于2013年泄露給媒體

• 1.1.2. 閱讀檔案的過程極為震撼，其內(nèi)容涵蓋了諸如美國國家安全局、英國政府通訊總部等機(jī)構(gòu)超過10年的情報(bào)思考與溝通

• 1.1.3. 任何沒有高級(jí)許可的人絕不可能接觸到此類信息

• 1.1.4. 斯諾登收集的數(shù)據(jù)成為數(shù)據(jù)收集轉(zhuǎn)移時(shí)代的見證：政府從手機(jī)、瀏覽器、社交媒體平臺(tái)與電子郵件進(jìn)行數(shù)據(jù)收集

1.2. 斯諾登的檔案揭示了一個(gè)秘密開發(fā)的平行人工智能領(lǐng)域

• 1.2.1. 雖然和大眾人工智能的各種方法有諸多相似之處，但在覆蓋范圍、目標(biāo)和結(jié)果方面卻有顯著不同

• 1.2.2. 沒有了合理化提取和捕獲的說辭，美國國家安全局將每個(gè)軟件系統(tǒng)都描述為尚未被擁有、尚未被擊敗的東西

• 1.2.3. 除極少數(shù)被指定為受保護(hù)平臺(tái)的外，所有數(shù)據(jù)平臺(tái)均被一致對(duì)待

1.3. 從最早的時(shí)候起，軍事研究機(jī)構(gòu)就在積極塑造這個(gè)后來被稱為人工智能的新興領(lǐng)域

• 1.3.1. 人工智能領(lǐng)域一直處于軍事支持的強(qiáng)引領(lǐng)之下或被列為軍事優(yōu)先事項(xiàng)

• 1.3.2. 作為最不產(chǎn)生直接效用而又最具雄心的項(xiàng)目，人工智能異乎尋常地嚴(yán)重依賴ARPA的資金

1.4. 軍事領(lǐng)域的關(guān)注重點(diǎn)，如指揮控制、自動(dòng)化和監(jiān)視等，深刻影響了人工智能的發(fā)展

• 1.4.1. ARPA資助項(xiàng)目中使用的工具和方法，引領(lǐng)了包括計(jì)算機(jī)視覺、自動(dòng)翻譯、自動(dòng)駕駛汽車領(lǐng)域的研究

1.5. 人工智能的整體邏輯中，無論是明確的戰(zhàn)場導(dǎo)向（如目標(biāo)、資產(chǎn)與異常檢測）?，還是更微妙的高、中、低風(fēng)險(xiǎn)類別，均融入了特定類型的分類思維

1.6. 持續(xù)的情境感知和目標(biāo)定位的概念，推動(dòng)了隨后數(shù)十年的人工智能研究，也塑造了業(yè)界和學(xué)術(shù)界的認(rèn)識(shí)論框架

1.7. 從國家的角度來看，大數(shù)據(jù)和機(jī)器學(xué)習(xí)的轉(zhuǎn)向，不僅改變了信息提取的可能性，而且為如何追蹤與理解人們，提供了一個(gè)社會(huì)理論

• 1.7.1. 你能通過他們的元數(shù)據(jù)來了解他們

• 1.7.2. 他們給誰打了電話、去了哪些地方、讀了什么、出于什么原因使用了什么……而所有的時(shí)間和地點(diǎn)，均被用于識(shí)別與評(píng)估威脅，以及判定是否有罪

1.8. 遠(yuǎn)程收集與使用大量數(shù)據(jù)，成為深入了解社群與社區(qū)，以及對(duì)特定個(gè)體進(jìn)行風(fēng)險(xiǎn)評(píng)估的首選方式

1.9. 人工智能產(chǎn)業(yè)在挑戰(zhàn)與重塑國家傳統(tǒng)角色的同時(shí)，也被用于鞏固與擴(kuò)大傳統(tǒng)的地緣政治力量

1.10. 保存檔案的工作室對(duì)如何處理數(shù)據(jù)有很高的敏感性，對(duì)操作也分了多個(gè)安全級(jí)別

• 1.10.1. 協(xié)議要求文件只能在現(xiàn)場閱讀，不允許復(fù)制文件，所有的研究只能手寫下來

1.11. 斯諾登的泄密事件是一個(gè)分水嶺，它揭示了當(dāng)政府和商業(yè)部門作為一種混合形式合作時(shí)，信息提取文化能走多遠(yuǎn)，但網(wǎng)絡(luò)圖表和PPT剪輯藝術(shù)與之后發(fā)生的一切相比，可能顯得有些奇怪

1.12. 轉(zhuǎn)變帶來了在國家愿景層面的分歧，并導(dǎo)致了國家代理人與他們本應(yīng)服務(wù)的人民之間的權(quán)力嚴(yán)重失衡

2. “第三次抵消”戰(zhàn)略

2.1. ?“第一次抵消”是指在20世紀(jì)50年代，通過核武器和擴(kuò)大核威懾來獲取優(yōu)勢(shì)

2.2. “第二次抵消”是指在20世紀(jì)70年代和80年代通過隱蔽的物流與常規(guī)武器創(chuàng)新來獲取優(yōu)勢(shì)

2.3. “第三次抵消”?，據(jù)卡特的說法，應(yīng)該是指融合人工智能、計(jì)算戰(zhàn)爭和機(jī)器人，用以對(duì)抗該領(lǐng)域的強(qiáng)國

• 2.3.1. 戰(zhàn)略的實(shí)施依賴美國領(lǐng)先科技企業(yè)擁有的資源、專業(yè)技術(shù)和基礎(chǔ)設(shè)施

2.4. 利用人工智能和自主技術(shù)的所有進(jìn)步，實(shí)現(xiàn)性能的逐步提升，以強(qiáng)化傳統(tǒng)威懾

2.5. “棱鏡”(PRISM)

2.6. 必須讓硅谷相信，在不造成員工疏離與不加深公眾對(duì)技術(shù)公司不信任的背景下，與政府合作創(chuàng)建戰(zhàn)爭基礎(chǔ)設(shè)施是有價(jià)值的

3. 實(shí)施Maven計(jì)劃

3.1. Maven計(jì)劃所需的技術(shù)平臺(tái)和機(jī)器學(xué)習(xí)專業(yè)知識(shí)，主要集中在商業(yè)性科技行業(yè)

3.2. 從人工智能作為一種軍事技術(shù)的基本倫理，轉(zhuǎn)換到技術(shù)的精準(zhǔn)度與準(zhǔn)確性的行為，為谷歌和美國人工智能行業(yè)的其他公司，提供了一個(gè)舒適區(qū)

3.3. 自動(dòng)化戰(zhàn)爭的問題，遠(yuǎn)比技術(shù)準(zhǔn)確性的問題棘手

• 3.3.1. 改變法律以適應(yīng)工具，而非反過來

3.4. 國家與人工智能產(chǎn)業(yè)之間的流動(dòng)與交流，并非僅限于軍隊(duì)層面

• 3.4.1. 曾經(jīng)只限于情報(bào)機(jī)構(gòu)和國防部使用，從設(shè)計(jì)層面來說屬于違法的技術(shù)，現(xiàn)在已經(jīng)被諸如市政部門、執(zhí)法部門等市政機(jī)構(gòu)所用

3.5. 帕蘭提爾(Palantir)公司

• 3.5.1. 成立于2004年

• 3.5.2. 貝寶(PayPal)的創(chuàng)始人、億萬富翁彼得·蒂爾(Peter Thiel)是創(chuàng)始人之一

• 3.5.2.1. 彼得·蒂爾也是特朗普的顧問與財(cái)務(wù)支持者

• 3.5.2.2. 人工智能首先是一項(xiàng)軍事技術(shù)

• 3.5.3. 采用了與斯諾登文件中所展示的相同的方法，包括通過所有設(shè)備提取數(shù)據(jù)、滲透網(wǎng)絡(luò)，以跟蹤和評(píng)估人員和資產(chǎn)

• 3.5.4. 通過設(shè)計(jì)數(shù)據(jù)庫與管理軟件，推動(dòng)美國移民和海關(guān)執(zhí)法局（Immigration and Customs Enforcement，即ICE）的驅(qū)逐機(jī)制

• 3.5.5. 軟件先是梳理各種不同來源的數(shù)據(jù)，包括財(cái)務(wù)文件、機(jī)票預(yù)訂、手機(jī)記錄、社交媒體帖子，并搜尋那些人工分析師可能忽略的關(guān)聯(lián)

• 3.5.6. 帕蘭提爾開發(fā)了一款名為獵鷹(FALCON)的手機(jī)應(yīng)用程序，它的運(yùn)行就像一張大網(wǎng)，從多個(gè)執(zhí)法部門和公共數(shù)據(jù)庫中收集數(shù)據(jù)，包括人們的移民歷史、家庭關(guān)系、就業(yè)信息、學(xué)校信息等

• 3.5.7. 帕蘭提爾軟件的使用再現(xiàn)了不平等，使那些主要居住在貧民、黑人和拉丁裔社區(qū)的人，受到更多的監(jiān)視

• 3.5.8. 不僅加劇了不平等，而且在看似不會(huì)出錯(cuò)的技術(shù)提供的合理性掩飾下，加劇了過度監(jiān)管和監(jiān)控中的種族偏見問題

3.6. 從傳統(tǒng)監(jiān)控向大數(shù)據(jù)監(jiān)控的轉(zhuǎn)變，與執(zhí)法行動(dòng)向情報(bào)活動(dòng)的轉(zhuǎn)變密切相關(guān)

• 3.6.1. 執(zhí)法通常在犯罪事件發(fā)生后才介入

• 3.6.2. 情報(bào)活動(dòng)本質(zhì)上則是預(yù)測性的

• 3.6.2.1. 情報(bào)活動(dòng)涉及收集數(shù)據(jù)，識(shí)別可疑的模式、地點(diǎn)、活動(dòng)與個(gè)人，并根據(jù)情報(bào)進(jìn)行先發(fā)制人式的干預(yù)

3.7. 計(jì)分系統(tǒng)的目的是避免在警察執(zhí)法中存在法律上具有爭議性的偏見，但它隱藏了警務(wù)中有意和無意的偏見，并創(chuàng)造了一個(gè)自我延續(xù)的循環(huán)

3.8. 警察局的“國家安全局化”加劇了歷來存在的不平等，并從根本上改變和擴(kuò)大了警察工作的實(shí)踐

3.9. 警視公司(Vigilant Solutions)

• 3.9.1. 2005年建立

• 3.9.2. 得以運(yùn)行基于一個(gè)前提：將如果由政府操作，可能需要司法監(jiān)督的監(jiān)控工具，轉(zhuǎn)變?yōu)橐粋€(gè)憲法中隱私限制之外的、蓬勃發(fā)展的私營企業(yè)

• 3.9.3. 將公共服務(wù)私有化，模糊了私營承包商和國家機(jī)構(gòu)之間的關(guān)系，也造成了不受任何保護(hù)準(zhǔn)則約束的、不透明的數(shù)據(jù)收集形式

• 3.9.3.1. 數(shù)據(jù)可能源自當(dāng)?shù)鼐脚cICE的非正式協(xié)定，因此可能違反了州數(shù)據(jù)共享法

• 3.9.3.2. ICE自身的隱私政策，也限制其在學(xué)校、教堂和抗議活動(dòng)等敏感地點(diǎn)收集數(shù)據(jù)

• 3.9.3.3. ICE并沒有直接收集數(shù)據(jù)或維護(hù)數(shù)據(jù)庫，他們只是購買了對(duì)警視系統(tǒng)的訪問權(quán)限，而該系統(tǒng)的限制要少得多

3.10. 亞馬遜

• 3.10.1. 了構(gòu)建完整的公私監(jiān)控基礎(chǔ)設(shè)施，亞馬遜也在積極地向警察部門推銷其門鈴攝像頭系統(tǒng)，不僅向他們提供折扣，而且提供一個(gè)門戶網(wǎng)站，讓警察可以看到亞馬遜攝像頭在當(dāng)?shù)氐奈恢茫⒛茉跊]有搜查令的情況下，直接聯(lián)系房主，非正式地提出監(jiān)控錄像請(qǐng)求

3.11. 那些曾經(jīng)被擁有國家安全信件與禁言令的秘密法庭所控制的監(jiān)控能力，現(xiàn)在正在蘋果公司的應(yīng)用程序商店中為地方警察所用

3.12. 精準(zhǔn)廣告、精準(zhǔn)鎖定可疑的鄰居和精準(zhǔn)鎖定無人機(jī)，應(yīng)被視為一個(gè)相互關(guān)聯(lián)的權(quán)力系統(tǒng)

• 3.12.1. 我們不能孤立地看待某一種形式的精準(zhǔn)鎖定，它們與數(shù)據(jù)主權(quán)相關(guān)，這要求我們以不同的方式理解云時(shí)代的力量

3.13. 曾經(jīng)專屬情報(bào)機(jī)構(gòu)的觀察方式，現(xiàn)在已經(jīng)分散在許多社會(huì)系統(tǒng)中，而且通常由處在商業(yè)和軍事人工智能交叉領(lǐng)域的科技公司所驅(qū)動(dòng)

3.14. 國家在從軍事到市政領(lǐng)域使用的人工智能和算法系統(tǒng)，揭示了一種通過結(jié)合數(shù)據(jù)提取技術(shù)、精準(zhǔn)目標(biāo)邏輯和監(jiān)視手段，實(shí)施大規(guī)模基礎(chǔ)設(shè)施指揮與控制的秘密哲學(xué)

4. 評(píng)分

4.1. 精準(zhǔn)的軍事邏輯背后是特征的概念

4.2. ?“個(gè)性打擊”是指針對(duì)特定的個(gè)人

4.3. “特征打擊”則是指根據(jù)元數(shù)據(jù)簽名造成某人死亡，也就是說這些人身份未知，但數(shù)據(jù)顯示他們可能是恐怖分子

• 4.3.1. 特征打擊聽起來似乎準(zhǔn)確而又經(jīng)過授權(quán)，就好像“簽名”意味著真實(shí)的身份標(biāo)記一樣

• 4.3.2. 特征打擊的形式與精確度無關(guān)，而與相關(guān)性有關(guān)

• 4.3.3. 一旦在數(shù)據(jù)中發(fā)現(xiàn)了某種模式，并且達(dá)到了某個(gè)閾值，在缺乏任何明確證據(jù)支持的情況下，僅基于懷疑就可以采取行動(dòng)

4.4. 從最廣泛的意義上說，信用評(píng)分已經(jīng)成為軍事和商業(yè)特征結(jié)合的地方

4.5. 當(dāng)人工智能系統(tǒng)被應(yīng)用于國家福利部署時(shí)，技術(shù)主要用來對(duì)人們的欺詐或?yàn)E用行為進(jìn)行監(jiān)管與評(píng)估，而非用于改善社會(huì)公正問題

4.6. 算法系統(tǒng)設(shè)計(jì)的初衷，并不是為了向有需要的人提供最大程度的福利，也不是為了提升福利分配的效率

• 4.6.1. 設(shè)計(jì)重點(diǎn)是如何防范欺詐和犯罪，以及做出應(yīng)該懲罰哪些人、將哪些人從公共支持中剔除的決策，而非最大化提升福利獲取過程的便利、易懂程度

4.7. 評(píng)分和風(fēng)險(xiǎn)的主題，已經(jīng)深入滲透到美國國家官僚機(jī)構(gòu)的結(jié)構(gòu)中，而這些機(jī)構(gòu)所設(shè)想的自動(dòng)決策系統(tǒng)，又將這種邏輯引入對(duì)社區(qū)和個(gè)人的設(shè)想、評(píng)估、評(píng)分和服務(wù)中