人工知能(AI)と合成生物学は、並外れた利益を約束する一方で、強力な能力をより安価に、より速く、そして封じ込めをより困難なものにしています。ムスタファ・スレイマンは、マイケル・バスカーとの共著において、この緊張をテクノロジー企業が単独で解決できる問題ではなく、政治的・制度的な決定的な試練として位置づけています。
フィナンシャル・タイムズ&シュローダー・ビジネス・ブック・オブ・ザ・イヤー最終候補。エコノミスト、フィナンシャル・タイムズ、ガーディアン、プロスペクト、サンデー・タイムズ各紙のブック・オブ・ザ・イヤーに選出。
スレイマンとバスカーは、AIと合成生物学を歴史的なパターンの中に位置づけています。強力なテクノロジーは、経済的、政治的、戦略的なインセンティブが拡散を促すために広まります。「来るべき波」において変化するのは、汎用的な能力、急速な向上、コストの低下、自律性、そして小規模なグループが並外れた力を振るう可能性の組み合わせです。その結果生じる「封じ込め問題」は、破滅的な失敗と、それを防ぐための強権的な権威主義的対応の両方の脅威をもたらします。
本ガイドでは、多くの関係者がリスクを認識しているにもかかわらず、能力を外部へと押し出す経済的、戦略的、科学的、文化的なインセンティブを切り分けて解説します。
社会がいかに深刻なマイナスシナリオの議論を避けているかという著者の主張を追跡し、その診断を特定の技術に関する証拠と区別して理解することができます。
技術的な安全性、監査、チョークポイント、企業のインセンティブ、条約、公的能力、そして民主的な正当性が、単一の解決策ではなく、相互に作用する手段として提示されます。
本書は、その構成要素を明確に区別して捉えることで最も有用になります。読者は、歴史的な類推、技術的な説明、シナリオ、制度的診断、そして政策提言を、すべて同列の証拠として扱うことなく辿ることができます。最終的なプログラム(安全確保、監査、チョークポイント、企業の責任、政府の能力、同盟、文化、市民参加)は、単一の解決策ではなく、ポートフォリオとして評価されるべきものです。
AI、バイオテクノロジー、セキュリティ、公共政策、テクノロジーガバナンスに携わる読者は、直面しているリスクの力強い地図を手にすることができるでしょう。提示されるシナリオには精査が必要ですが、イノベーション政策と国家能力がもはや切り離せない理由を議論するための語彙を提供してくれます。
版に関する注意:本書は独立した章ガイドおよび要約であり、原著ではありません。レビューや読書サポートのために設計されており、全編と併せて使用するのが最適です。