Le manifeste de Mark Zuckerberg affirme qu’il n’existe « pas de superintelligence bienveillante »
Dans un long manifeste publié lundi intitulé Mark Zuckerberg, PDG de Meta, a exposé sa philosophie sur la superintelligence, mettant en garde contre la concentration de la technologie entre les mains de quelques institutions, gouvernements ou même des systèmes d’IA eux-mêmes.
Tout en prédisant un avenir dans lequel les agents d’IA seront entièrement personnalisés pour les utilisateurs individuels, le milliardaire technologique de 42 ans estime qu’une superintelligence unique et centralisée ne peut pas servir les intérêts de tous. La seule voie réaliste vers la sécurité, a-t-il déclaré, consiste à diffuser largement la superintelligence personnelle afin que les individus et les agents d’IA concurrents créent des freins et contrepoids naturels.
Dans une attaque apparente contre des leaders technologiques comme Elon Musk et le PDG d’OpenAI, Sam Altman, qui ont régulièrement mis en garde contre de potentiels scénarios d’IA incontrôlables de type « Terminator », Zuckerberg ne partage pas ces inquiétudes.
« Il est néanmoins surprenant que le discours de nombreux développeurs de l’IA soit si pessimiste. Je ne comprends pas pourquoi quiconque croit que l’IA éliminera la plupart des emplois et une grande partie de l’importance de l’humanité se précipiterait pour construire cet avenir », a-t-il écrit. « L’idée selon laquelle l’IA est si dangereuse que la seule voie sûre est une concentration extrême du pouvoir semble intrinsèquement problématique. Historiquement, espérer qu’un pouvoir absolu subvienne aux besoins de l’humanité avec bienveillance s’il est suffisamment éclairé n’a pas conduit à des résultats sûrs ou positifs. »
Au lieu de cela, Zuckerberg a averti que les efforts visant à construire une superintelligence théorique de l’IA – un résultat qu’il a rejeté par le passé – constitueraient en eux-mêmes la plus grande menace.
« Il n’existe aucune solution technologique qui puisse s’aligner simultanément sur les intérêts et les valeurs opposés de chacun », a-t-il écrit. « Toute superintelligence unique devrait donner la priorité à certaines valeurs par rapport à d’autres et, ce faisant, serait incapable d’être bienveillante envers tout le monde. »
Dans le cadre de son avertissement, Zuckerberg – qui a été élevé dans la religion juive, autrefois identifié comme athée, et dit maintenant croire que la religion est « très importante » – a déclaré que si « le pouvoir de la superintelligence est détenu par un petit nombre d’individus, d’entreprises, de gouvernements ou d’IA elle-même, alors cela conduira naturellement à des résultats moins favorables pour tous les autres ».
Zuckerberg a alors déclaré : « Il n’existe pas de superintelligence bienveillante singulière. »
Les athées et les agnostiques comme Neil deGrasse Tyson ont utilisé un langage similaire pour affirmer qu’un manque de bienveillance dans la réalité observable est une preuve contre l’existence de Dieu.
Les apologistes chrétiens tels que Ken Ham, PDG du Creation Museum, soutiennent cependant que les humains – et non Dieu – sont responsables de ce qui est un monde « déchu ».
Même si le manifeste de Zuckerberg soutient largement la décentralisation de l’IA, il suggère également que l’humanité pourrait un jour en perdre le contrôle « au point où, au mieux, elle ne servirait plus les intérêts de l’humanité et, au pire, la mettrait en péril ».
Sa solution : donner aux gens leur propre IA « superintelligente » personnelle.
« La clé d’un avenir positif pour chacun est de parvenir à un équilibre des pouvoirs qui favorise les individus », a-t-il écrit. « La solution consiste à garantir que la superintelligence soit largement distribuée pour responsabiliser les gens. »
Il a ajouté : « Un équilibre sain des pouvoirs consiste à garantir qu’il n’y a pas de superintelligence centralisée unique, mais plutôt autant de personnes et d’entreprises que possible avec différents agents superintelligents alignés sur leurs objectifs qui se contrôlent et se font concurrence dans la manière dont notre économie naturelle se comporte. »
En 2024, Zuckerberg a rejeté les commentaires d’Altman, Musk et d’autres qui mettaient en garde contre le fait que l’IA donnerait naissance à un « dieu numérique », affirmant que ce n’était pas le but de la technologie.
« Je trouve que c’est assez décourageant lorsque les gens de l’industrie technologique […] parler de la construction de cette « véritable IA » », a déclaré Zuckerberg lors d’un podcast de 2024. « C’est presque comme s’ils pensaient en quelque sorte qu’ils créaient Dieu ou quelque chose du genre. […] Ce n’est pas ce que nous faisons. Je ne pense pas que ce soit ainsi que cela se passe.
