Imaginez un monde où quiconque, muni d’un synthétiseur d’ADN à 20 000 dollars, pourrait développer et propager un virus mortel ; où la vidéo deepfake d’un président en train de tenir des propos racistes ferait le tour d’Internet la veille d’une élection ; où des organisations terroristes stockeraient des armes autonomes.
En tant que cofondateur de DeepMind, le pionnier de l’IA racheté par Google, Mustafa Suleyman a été un témoin privilégié de la rapidité de nos progrès technologiques – et de l’insuffisante compréhension que nous en avons. En s’appuyant sur son expérience et sur une analyse historique des révolutions techniques, il montre comment les prochaines décennies seront caractérisées par une vague d’innovations inévitable qui touchera des secteurs aussi variés que la biologie synthétique, l’intelligence artificielle ou l’informatique quantique. Ces avancées, stimulées par de fortes incitations stratégiques et financières, résoudront d’immenses défis et enrichiront le monde – mais elles le déstabiliseront aussi, et compromettront le principe même d’État-nation.
Tandis que nos gouvernements fragilisés se dirigent aveuglément vers la catastrophe, Mustafa Suleyman prouve que le « problème de l’endiguement », c’est-à-dire le défi de garder les technologies dangereuses sous le contrôle de l’humanité, sera le dilemme central de notre époque.
