人工智慧與合成生物學承諾帶來非凡的收益,同時也使強大的能力變得更便宜、更快速且更難以控制。Mustafa Suleyman 與 Michael Bhaskar 共同撰文,將這種緊張關係定義為一場具有決定性的政治與制度考驗,而非科技公司可以獨自解決的問題。
入圍 —— 《金融時報》與施羅德年度最佳商業書;獲選為《經濟學人》、《金融時報》、《衛報》、《前景》雜誌及《週日時報》年度圖書。
Suleyman 和 Bhaskar 將人工智慧與合成生物學置於歷史模式中:強大的技術之所以傳播,是因為經濟、政治和戰略誘因獎勵了擴散。在即將到來的浪潮中,發生變化的是通用能力、快速進步、成本下降、自主性,以及小群體可能掌握非凡力量的可能性。隨之而來的「遏制問題」既威脅著災難性的失敗,也威脅著足以阻止失敗的威權主義反應。
本指南區分了推動技術能力向外擴展的經濟、戰略、科學和文化誘因,即使許多參與者已經意識到風險。
讀者可以追蹤作者的觀點,即社會傾向於迴避討論嚴重的負面情境,同時將這種診斷與特定技術的證據區分開來。
技術安全、審計、瓶頸、企業誘因、條約、公共能力和民主合法性,被視為相互作用的措施,而非單一的決定性解決方案。
當本書的層次被清晰區分時,它會變得最為實用。讀者可以追蹤歷史類比、技術描述、情境預測、制度診斷和政策提案,而不將它們視為同等形式的證據。最終的計畫 —— 安全工作、審計、瓶頸、企業責任、政府能力、聯盟、文化和公眾參與 —— 接著可以作為一個組合而非單一解決方案來進行評估。
人工智慧、生物技術、安全、公共政策和技術治理領域的讀者將發現一張強而有力的利害關係地圖。書中的情境值得審視,但也為討論為何創新政策與國家能力不再能分割,提供了一套詞彙。
版本說明:這是一份獨立的章節指南與摘要,並非原著圖書。它旨在提供評論與閱讀支持,最好與完整作品並用。