1. 技術浪潮

1.1. 俄烏衝突仍是一個里程碑式的事件，因為它凸顯了訓練相對不足的戰鬥力量如何利用消費市場上相對廉價的技術來進行快速組建和武裝

1.2. 當技術能夠帶來如此顯著的成本和戰術優勢時，它的擴散與廣泛採用無疑將成為必然趨勢

2. 固有特徵

2.1. 技術的高度非對稱性影響

• 2.1.1. 新技術會使得那些看似強大的勢力暴露出以前難以想象到的弱點和破綻

2.2. 技術發展迅猛，呈現出一種超級進化性，它們以驚人的速度迭代、改進，並不斷拓展至新的領域

2.3. 往往具有通用性，能夠服務於多種不同的目的

2.4. 與任何以往的技術相比，它們越來越展現出一定程度的自主性

3. 非對稱性

3.1. 權力大轉移

• 3.1.1. 新技術的出現總會產生新的威脅，帶來權力的重新分配，導致進入障礙被消除

• 3.1.2. 大炮的出現意味着一小隊力量便能摧毀城堡，消滅整支軍隊

• 3.1.3. 印刷機的出現意味着一個車間便能產出數千本小冊子，以中世紀手工抄書的修士們難以想象的便捷方式傳播思想

• 3.1.4. 蒸汽動力使單個工廠的生產力匹敵整個城鎮

• 3.1.5. 互聯網將技術的能力推向了新的高峯：一條推文或一張圖片可能在幾分鐘甚至幾秒鐘內傳遍全球

• 3.1.6. 一個算法便可能助力一家小型初創公司崛起，併成為全球性的巨型企業

3.2. 使用武器化無人機的不只有烏克蘭士兵，任何想要的人都可以做到

3.3. 將人工智能和技術自主性的進步、廉價高效的無人機，以及機器人技術和計算機視覺等領域的革新融合起來，將創造出強大、精準且可能難以被偵測的武器設備

3.4. 權力從傳統國家和軍隊轉向任何有能力且有意願部署這些技術設備的個體或組織

3.5. 技術的非對稱性影響正在呈現出全方位擴大的趨勢

• 3.5.1. 一個人工智能程序可能會獨立撰寫出與人類所有文本作品規模相匹敵的巨量文字

• 3.5.2. 筆記本電腦上運行的一個僅佔用2GB空間的圖像生成模型，可能足以整合開放網絡上的全部圖片資源，並以前所未有的創造力和精準度生成全新的圖片

• 3.5.3. 一次病原體實驗或許就能觸發全球大流行病

• 3.5.4. 一個小小的分子事件可能產生全球性的影響

• 3.5.5. 一台高效運轉的量子計算機可以讓全球的整個加密基礎設施形同虛設

3.6. 單個系統便有可能創造出巨大的福祉

3.7. 即便對稱的行動也未必能倖免於全球性的風險

3.8. 即將到來的技術浪潮的龐大規模和高度互聯性也帶來了新的系統性弱點，單一的故障點就可能觸發全球範圍內的連鎖反應

• 3.8.1. 技術的本地化程度越低，其蔓延速度就越快，遏制難度也就越大

3.9. 汽車是歷史上擴散速度最快、全球化程度最高的技術之一

3.10. 人工智能帶來的非對稱性風險，遠超劣質食品、飛機失事或產品缺陷等傳統風險範疇

• 3.10.1. 網絡規模的龐大，使得對潛在損害的遏制變得幾乎不可能

• 3.10.2. 相互交織的全球系統已成為遏制工作的夢魘

4. 超級進化性

4.1. 無盡加速

4.2. 安全標準雖然總是有點兒滯後，但最終還是能跟上汽車技術的發展

4.3. 在過去的40年裏，互聯網已成為歷史上成果最為豐碩的創新平台之一

4.4. 21世紀初，創新開始沿着阻力最小的路徑前行，主要聚焦於比特世界而非原子世界

4.5. 軟件的超級進化性正將其影響力擴展至各個行業領域

• 4.5.1. 在未來的40年裏，我們將看到原子世界的內容以空前的複雜性與保真度被轉化為比特信息

• 4.5.2. 比特世界的內容也將以前所未有的效率和便捷性被轉化為實體的原子內容

4.6. ​“真實世界”中的創新速度可能將與數字化的步伐並駕齊驅，展現出更為實時的特點，同時其面臨的阻力及對外部條件的依賴都將降低

4.7. 物質的配置或組合方式的重要性主要在於它們所藴含的信息

• 4.7.1. 法拉利汽車的價值並不在於其原始的物質材料，而在於其精妙的設計和構成中所包含的複雜信息

• 4.7.2. 隨着計算基礎的不斷增強，實現這種信息的利用和轉化將變得越發容易

4.8. 人工智能已在新材料和化合物的開發中發揮了重要作用

• 4.8.1. 通過與3D打印技術的結合，人工智能還能夠完成汽車的設計與製造

• 4.8.2. 由人工智能設計的某些汽車樣式與人類的常規設計迥然不同，前者更像是自然界中的一些獨特又高效的形態

• 4.8.3. 人工智能技術還能將汽車的線路與管道佈局巧妙地整合進底盤之中，從而實現空間利用的最優化

• 4.8.4. 對於某些結構過於複雜的零部件，傳統制造工具已無能為力，3D打印技術成了不可或缺的製造手段

4.9. 如今，模擬技術大大加速了疫苗的研發進程

• 4.9.1. 計算工具可以助力部分產品設計流程實現自動化，通過還原細胞“生物電路”將複雜功能直接編入細胞，從而讓細菌按需產出特定蛋白質等成果成為可能

• 4.9.2. 軟件框架（如Cello）幾乎已成為合成生物學設計的“開源語言”​

4.10. 量子技術的能力遠超最強大的經典計算機數百萬倍，將使這樣的過程在分子層面上實現

5. 通用性

5.1. 在近年原子領域創新停滯不前的背景下，醫療保健成了發展明顯放緩的領域之一，這打破了傳統認知

5.2. 自動化藥物研發是人工智能領域極具潛力的一個方向，也是醫療保健行業擺脱當前嚴峻形勢的出路

5.3. 人工智能勢必將顯著推動藥物發現領域的發展，但其研發成果很可能具有“雙重用途”​

5.4. 雙重用途技術是指那些既可民用，也可軍用的技術

• 5.4.1. 一戰時的合成氨技術為例，它原本被視為滿足全球糧食需求的重要手段，然而，該技術也為製造爆炸物提供了可能，併為化學武器的開發奠定了基礎

• 5.4.2. 用於客運飛機的精密複雜的電子系統，也可以用於製造精確導彈

• 5.4.3. GPS雖起源於軍事需求，但如今已融入我們的日常生活，服務於眾多民用目的

• 5.4.4. 一個深度學習系統可能是為了遊戲而設計的，也有可能用於操控整個轟炸機艦隊

• 5.4.5. 麥克風既可用於納粹集會，也可用於披頭士樂隊

5.5. 雙重用途技術既可以造福，也可能釀禍，既可能是實用工具，又可能是致命武器

5.6. 技術發展的一個趨勢，即通用性

• 5.6.1. 隨着時間的推移，技術正日益趨於通用化

5.7. 如果人工智能確實是新時代的“電力”​，那麼，它將如同電力一般，成為一種按需提供的實用工具，將深入並推動我們的日常生活以及社會和經濟的方方面面：一種滲透一切的通用技術

5.8. 起初，人工智能系統主要利用深度學習等通用技術來達成特定目標

5.9. 作為一種完全通用的技術，生命工程技術的潛在用途幾乎是無限的

5.10. 改造新技術以適應多種用途並非一個新鮮概念

6. 自主性及其他

6.1. 自主性並非技術固有的屬性

• 6.1.1. 將技術視為“只是個工具”​

6.2. 技術始終致力於擴大我們的能力範圍，但關鍵的一點是，做什麼仍然由人類來決定

6.3. 具備高度自主性的技術浪潮正將我們引入一個新的世界，在這裏，持續的人為干預和監督將變得越發不必要

6.4. GPT-4所展現出的這些能力都不是通過人為編程實現的，而是源於一個更廣泛的技術架構的涌現效應，其內容輸出已遠超系統設計師預先可以控制的範疇

6.5. 自主性的新形態有可能催生一系列新奇且難以預料的後果

• 6.5.1. 預測定製基因組的行為表現是極其困難的

• 6.5.2. 一旦研究人員對某個物種實施了生殖細胞基因改造，這些改變就有可能在生物體內存續數千年，遠遠超出我們的控制和預測範疇

• 6.5.2.1. 其影響或許會在物種中延續無數代

• 6.5.2.2. 這樣的變化未來會如何不斷演進、如何與其他變化產生交互，無疑是無法預測的，也超出了我們的掌控範圍

• 6.5.2.3. 合成生物體將開始擁有它們自己的生命

6.6. 量子計算等技術更是在突破我們對世界的認知邊界

6.7. 自主系統或許具備一定程度的可解釋性，然而即將到來的浪潮中的諸多技術正持續挑戰我們的認知邊界，這一現象值得我們深思

6.8. 在人工智能研究的最前沿，一些研究者想實現人工智能系統構建的全方位自動化，以期推動人工智能技術的“超級進化”​

7. 大猩猩問題

7.1. 儘管大猩猩在體能上超越任何人類，更為強壯與堅韌，但現實是它們處於瀕危狀態或被囚禁在動物園中，是它們受人類遏制

7.2. 人類雖肢體柔弱，但擁有強大的大腦，因此能夠實施遏制

7.3. 通過創造出比我們更聰明的實體，我們或許會使自己陷入一種類似於我們的“靈長類表親”的處境

7.4. 所謂的“智能爆炸”​，就是指人工智能擁有持續自我優化的能力，能夠以前所未有的速度和效率，循環往復地改進自己

7.5. 技術將徹底掌控自身的進化命運

• 7.5.1. 它將通過循環遞歸的自我完善而不斷壯大

• 7.5.2. 它的複雜程度將超越常規解釋的範疇

7.6. 在極端情況下，即將到來的技術浪潮或許將顛覆人類的地位，使我們不再穩坐食物鏈之巔

7.7. ​“技術人”有可能最終受到自身所創之物的威脅

• 7.7.1. 真正的問題並不在於技術浪潮是否會到來—浪潮將至