L’IA arrive au moment le plus dangereux possible

Quelque chose d’extraordinaire s’est produit cette semaine lors de la conférence sur l’air, l’espace et la cybersécurité du Pentagone.

Pour la première fois, les États-Unis ont reconnu publiquement avoir déployé des armes en orbite.

Le secrétaire de l’Air Force, Troy Meink, a déclaré lors de la conférence à National Harbor, dans le Maryland, que l’Amérique avait déployé « des armes de contrôle spatial en orbite capables de défendre la Force conjointe contre une action adverse hostile ». Deux jours plus tard, le général Dan Caine, président de l’état-major des armées, a averti que les forces américaines devaient être prêtes à « combattre, endurer et gagner » depuis « les fonds marins jusqu’à l’espace cislunaire ».

Considérez ce qui se passe d’autre presque exactement au même moment.

La guerre de la Russie contre l’Ukraine se poursuit tandis que les drones remodèlent le champ de bataille ; Reuters rapporte que les propres responsables de la défense de l’OTAN admettent que l’alliance a du mal à suivre le rythme de ce que l’Ukraine a appris. Le conflit prolongé avec l’Iran a mis à rude épreuve les stocks de munitions américains et alliés. Washington et Pékin se préparent à un sommet conséquent alors même que leur concurrence en matière d’IA s’intensifie. Et certains des concepteurs des systèmes d’IA les plus puissants au monde préviennent que le développement pourrait dépasser les mesures de protection.

Celles-ci sont généralement traitées comme des histoires distinctes. Ils ne devraient pas l’être.

Ensemble, ils pointent vers une réalité inquiétante : l’intelligence artificielle apparaît comme un multiplicateur de force au moment même où le système international est déjà soumis à des tensions extraordinaires.

Le plus grand danger à court terme de l’IA ne réside peut-être pas dans un scénario de science-fiction dans lequel les machines se retourneraient contre l’humanité. C’est peut-être ce qui se produira lorsque des machines toujours plus performantes accéléreront un monde déjà aux prises avec la guerre, des arsenaux épuisés, une concurrence orbitale et une méfiance entre les puissances nucléaires.

Élargir le champ de bataille, réduire le temps de réflexion

Autrefois, les armées combattaient sur terre, les marines sur mer ; le XXe siècle a ajouté l’air, puis le cyberespace. Désormais, l’espace les rejoint indéniablement.

Cet aveu ne rend pas la guerre en orbite inévitable, mais cela montre à quel point la concurrence s’est étendue, à mesure que la Chine et la Russie développent leurs propres capacités pour menacer les satellites américains. L’Ukraine reste un laboratoire qui donne à réfléchir quant à la rapidité avec laquelle la technologie peut remodeler la guerre : les drones bon marché ont remis en question les armes, les tactiques et les cycles d’approvisionnement conçus pour un champ de bataille en évolution plus lente.

Les États-Unis possèdent une capacité militaire extraordinaire, mais pas des ressources illimitées. Le conflit iranien a révélé cette vérité : le Pentagone accélère la production de missiles parce que les récents combats ont épuisé d’importants stocks.

L’intelligence artificielle entre dans ce monde non pas comme une technologie isolée mais comme un accélérateur.

L’IA promet aux commandants un traitement plus rapide, une reconnaissance des formes plus rapide et une aide à la décision plus rapide. La vitesse compte en temps de guerre. Mais la vitesse n’est pas la sagesse. Et lorsque des puissances nucléaires sont impliquées, une erreur plus rapide n’est pas nécessairement une erreur plus petite.

Lors du forum sur la sécurité de Xiangshan à Pékin cette semaine, des responsables militaires et des experts des deux pays ont averti que l’IA pourrait accroître les risques dans un environnement de sécurité déjà en détérioration, dans la mesure où les technologies avancées réduisent le temps disponible pour les décisions stratégiques. Les experts en sécurité américains et chinois ont proposé quelque chose de remarquable : des garanties de type nucléaire pour l’IA militaire – protégeant les systèmes de commandement nucléaire des interférences de l’IA, gardant les humains responsables des cyberattaques qui en découlent et créant une ligne d’assistance téléphonique pour les crises liées à l’IA.

Aucun des deux gouvernements n’a adopté ces propositions. Mais réfléchissez à la raison pour laquelle ils sont évoqués : un incident ambigu d’IA pourrait laisser aux dirigeants quelques minutes pour décider s’ils sont confrontés à une attaque, à une erreur machine ou à quelque chose entre les deux.

Pendant la guerre froide, les dirigeants américains et soviétiques ont appris que la dissuasion exigeait plus que des armes : il fallait du temps pour communiquer, vérifier et juger si un avertissement signifiait une attaque ou une erreur. L’intelligence artificielle menace de comprimer cette marchandise : nous élargissons la géographie de la guerre tout en réduisant le temps de jugement.

Vient ensuite la course à l’IA

C’est pourquoi le débat sur le ralentissement de l’IA ne peut être dissocié de la géopolitique. Le PDG d’Anthropic, Dario Amodei, a appelé à accélérer le développement à la frontière afin que les mesures de protection puissent rattraper leur retard. Pékin a entendu autre chose : le journal officiel chinois Global Times a qualifié sa proposition de « manuel de guerre froide » destiné à préserver l’avance technologique de l’Amérique tout en restreignant l’accès de la Chine aux technologies avancées.

Là est le piège. Les développeurs américains pourraient craindre que la technologie ne dépasse ses garanties ; Les décideurs américains pourraient craindre que le ralentissement ne laisse la Chine nous dépasser. Les dirigeants chinois peuvent faire le calcul inverse : chacun reconnaît le risque réel, mais conclut que le plus grand danger est de laisser l’autre atteindre la frontière en premier. Il en résulte un paradoxe stratégique : la retenue peut être prudente collectivement tout en paraissant dangereuse individuellement. C’est ainsi que la concurrence technologique acquiert la logique d’une course aux armements – une dynamique que je retrace longuement dans « The New AI Cold War ».

L’intelligence n’est pas la sagesse

Ici, le débat dépasse le cadre technologique ou géopolitique. Cela devient profondément humain.

Les Écritures ne définissent jamais la sagesse comme le traitement plus rapide d’informations. Il lie la sagesse au discernement, à la prudence, au conseil et à la responsabilité morale. L’IA pourrait éventuellement traiter les données du champ de bataille plus rapidement que n’importe quel commandant vivant. Mais le calcul n’est pas la sagesse. La prédiction n’est pas la prudence. La vitesse n’est pas une autorité morale.

Les machines n’assument aucune responsabilité morale. Les êtres humains le font. Cette distinction devient urgente à mesure que les gouvernements sont tentés de déléguer les décisions aux machines, précisément parce que celles-ci décident plus rapidement. La vraie question n’est pas de savoir si un humain est techniquement « au courant », mais s’il dispose de suffisamment de temps, d’informations et d’autorité pour exercer son jugement. Un commandant qui ne dispose que de quelques secondes pour approuver la recommandation d’une machine peut techniquement continuer à faire partie du processus – mais savoir s’il a fait preuve d’un jugement significatif est une tout autre affaire.

La question que Trump et Xi ne peuvent éluder

Cela rend la réunion de la semaine prochaine entre le président Donald Trump et le président chinois Xi Jinping, prévue le 24 septembre à Washington, plus conséquente qu’une nouvelle série de disputes sur les puces et le commerce.

Aucun sommet ne mettra fin à la compétition en matière d’IA, et les Américains ne devraient pas non plus imaginer que les profondes divergences entre Washington et Pékin puissent disparaître. Mais les rivaux peuvent reconnaître des dangers communs sans devenir amis. Les deux pays ont intérêt à garantir que l’IA n’interfère jamais de manière indépendante avec le commandement nucléaire, ne lance aucune action militaire conséquente ou ne transforme un incident ambigu en crise avant que les dirigeants ne comprennent ce qui s’est passé – précisément les garanties proposées par les experts américains et chinois.

Cela n’exigerait pas que l’Amérique abandonne son avance technologique, ni que la Chine abandonne ses ambitions. Cela nécessiterait que les deux gouvernements admettent quelque chose de plus fondamental : certaines décisions sont trop lourdes de conséquences pour être confiées à des machines.

Le monde n’a pas besoin d’une folie plus rapide

L’Écriture offre un avertissement adapté à ce moment : « Le désir sans connaissance n’est pas bon, et celui qui hâte ses pieds s’égare son chemin » (Proverbes 19 : 2, ESV). La prudence n’est pas une faiblesse. Cela n’exige pas non plus que l’Amérique abandonne son leadership technologique : un monde dangereux exige toujours de la force, de l’innovation et la capacité de dissuader ses adversaires. Mais la force sans jugement devient sa propre vulnérabilité.

L’Ukraine brûle toujours. L’Iran consomme toujours des ressources. L’espace est désormais un terrain contesté. Et l’intelligence artificielle promet d’accélérer l’évolution de l’ensemble du système.

Le monde ne manque pas d’intelligence. Il manque du temps pour la sagesse.

C’est peut-être le véritable test de l’ère de l’IA – non pas à quel point nos machines deviennent intelligentes, ni quelle nation atteint la frontière en premier, mais si la sagesse humaine peut encore suivre le rythme du monde dans lequel ces machines s’accélèrent.