1. 安全恐慌

1.1. 新能力總是伴隨著新風險

• 1.1.1. 不應盲目追求零風險

• 1.1.2. 應致力于理解現實環境中的風險，并有條不紊地努力管控和降低這些風險

• 1.1.2.1. 迭代部署便是實現這一目標的有效途徑

1.2. 有效的安全措施和全面的人類監督變得愈發重要

1.3. 悲觀主義者往往將安全與審慎、深思熟慮及專注等特質相聯系

1.4. 旨在限制發展速度的法規和干預政策，不僅可能阻礙我們創造出能夠提升全球福祉的突破性產品和服務，還可能延緩創新給安全帶來的積極影響

1.5. 快速發展也意味著更強的適應性，而更強的適應性則意味著更短的產品周期、更頻繁的迭代更新，以及更安全可靠的產品

1.6. 在互聯網軟件領域，即時分發特性與緊密的反饋循環機制，使得通過技術創新來實現安全往往比監管更有效

1.7. ChatGPT發布后，人們因緊迫感而呼吁監管并限制公眾訪問這些新資源

1.8. 科技行業成為文化變革和經濟增長的全球引擎，似乎只是計算能力的穩步驚人增長、自由市場的神奇力量、少數編碼天才以及監管缺位等幸運組合的偶然結果

• 1.8.1. 事實并非如此

• 1.8.2. 高科技在過去30年間成為美國最具活力行業的條件實際上是刻意設計的

1.9. 互聯網將更傾向于廣播形式，而非互動形式，法律和技術準入門檻可能使全球99.9%的人在網絡世界中僅限于作為購物者和新聞娛樂的受眾

2. 預防性原則

2.1. precautionary principle

2.2. 預防性原則認為新技術需要“自證清白”?

2.3. 與優先考慮新興事物、非傳統方法和創新自由不同，預防性原則的核心在立法上是相當保守的

2.4. 安全總比后悔好，三思而后行

2.5. 由于起源于環保領域，預防性原則在美國主要影響了環境和公共衛生領域

• 2.5.1. 預防性原則的影響也延伸至科技領域

2.6. 預防性思維對AI開發的多個方面也產生了影響，尤其在地方層面

2.7. 如今，人們對數據隱私、虛假信息以及其他技術驅動式問題的擔憂日益加劇，呼吁采取預防措施的聲量也越來越大

3. 無許可創新

3.1. permissionless innovation

3.2. 不同于自上而下的、試圖預先控制甚至禁止新技術的努力，主張為創新、實驗和適應性提供充足的空間，特別是在尚未出現明確危害或現有法規已經涵蓋這些危害的情況下

3.3. 每一個新的組件或功能的推出都像是一種“法律”或“規定”?，而公眾通過接受這些更新來表示認可

3.4. 如今，得益于互聯網的普及和參與度的提升，無許可創新的監管作用愈發強大

3.5. 在21世紀，倡導在新的科技領域無須官方預先批準即可自由進行公開實驗和反復嘗試，并非逃避審查和民主式監督，而是主動擁抱

• 3.5.1. 這種做法可以帶來更全面、更包容的反饋，縮短產品周期，加速產品改進，通常也會使產品更加安全可靠

3.6. 無許可創新機制仍在比以往任何時候都更加高效地運作

• 3.6.1. 不僅推動了我們在AI領域的進步，還加速了電動汽車、CRISPR基因編輯、電網級儲能與太陽能技術、加密貨幣、遠程醫療、3D打印、AR等技術的發展

• 3.6.2. 不僅提升了我們的日常生活品質，還使美國保持在應對氣候變化、醫療可及性等全球性挑戰的前沿

• 3.6.3. 并不意味著預防性原則在數字技術領域已不再適用

3.7. 關鍵在于，我們認為社會必須有時間更新和適應日益強大的AI技術，且受該技術影響的每個人都應在AI的進一步發展中有重要發言權

• 3.7.1. 迭代部署幫助我們更有效地將各利益相關者引入關于AI技術應用的對話中

• 3.7.2. 迭代部署通過引入具有明確親社會屬性的量化分配機制，進一步完善了這一范式

4. 更大的能動性，更高的容錯率

4.1. 汽車

• 4.1.1. 在整個20世紀，汽車成為數十億人日常生活中最強大的機器

• 4.1.2. 不僅是最強大的機器，還是人們持續數十年每天頻繁使用的工具

• 4.1.3. 街道曾被視為社交、娛樂和交通運輸的共享空間，但隨著各種車輛的出現和發展，街道的功能逐漸變得單一

• 4.1.3.1. 人們以迭代的方式制定和實施法規，以應對出現的具體風險和危害

• 4.1.4. 1914年，克利夫蘭市安裝了美國首個電動交通信號燈

• 4.1.5. 在技術仍在完善的情況下，駕駛汽車穿越偏遠地區的崎嶇道路意味著危險，甚至可能發生災難性的事故

• 4.1.6. 汽車行業早期推動燃油效率提升的并不是聯邦監管機構，而是那些尋找銷售亮點的經銷商

• 4.1.7. 早期的批評者將汽車稱為“魔鬼馬車”和“死亡之車”?，認為它們是富人的玩具，并給司機貼上“速度狂人”和“路霸”的標簽，稱他們患有“汽油狂暴癥”?

• 4.1.8. 為了有效緩解汽車帶來的危害，我們經歷了一個持續至今的過程，涉及正式法規的出臺、技術的革新、文化規范的演變以及優先事項的調整

• 4.1.9. 之所以選擇汽車，是因為汽車極大地提升了個體能動性，這是馬車、火車、自行車、蒸汽船和輕軌機車等交通工具無法比擬的

• 4.1.10. 汽車成為日益密集且不斷擴展的道路網絡中的新節點，使得數百萬人能夠以高度個性化的方式掙脫時空限制

4.2. 在21世紀，聯網的個人計算機和智能手機則扮演了與汽車相當的角色

• 4.2.1. 成為個人的移動機器，為我們提供了一種全新的方式，讓我們能夠在時間和空間中自由地表達自己

4.3. 在21世紀，當你可以居家辦公，各類配送服務會把一切都送上門，而且你可以通過社交軟件與友人暢聊

4.4. 在AI的新紀元，計算機與智能手機因融合了智能技術，已變身為更強大的助手，極大地提升了人的能動性，并擴大了人們對世界的影響力

• 4.4.1. 在汽車發展過程中采用的方法同樣適用于AI領域

• 4.4.2. 不應僅依賴監管者和行業專家在封閉、集中、非民主的環境下開發和完善AI，而應繼續堅持迭代部署，以更好地理解人們如何使用AI，觀察隨著使用規模的擴大而出現的問題，并進一步做出相應的調整

• 4.4.3. 如果大多數人認為AI能增強自己的能動性，拓展自己的生活選擇，就像過去一個半世紀汽車所激發的個體能動性那樣，那我們在追求這些更大回報的過程中，將會接受更高程度的風險

4.5. 更為完善的交通網絡為各類商品和服務創造了更廣闊的市場

• 4.5.1. 更廣闊的市場和更低的分銷成本又帶來了價格的下調，進而催生了更多樣化、規模更大的市場，涵蓋了教育、就業和生活用品等多個方面

4.6. 無許可創新促進了技術的突破、文化的廣泛采納與適應，以及安全水平的持續提升

• 4.6.1. 正式法規在這一過程中發揮了一定作用，但這些法規本身在很大程度上是以迭代方式部署的，而不是事先強加的