Les progrès technologiques d'aujourd'hui menacent-ils nos espèces?
Beaucoup de va-et-vient publics se sont déroulés récemment entre deux personnalités technologiques géantes: Elon Musk et Mark Zuckerberg. Leur débat public porte sur la question de savoir si l’intelligence artificielle (IA) représente ou non une menace existentielle pour l’humanité.
Par exemple, Elon Musk, lors de son intervention à la National Governors Association en juillet, a déclaré:
L'IA est un risque existentiel fondamental pour la civilisation humaine, et je ne pense pas que les gens comprennent pleinement que… C'est le plus grand risque auquel nous sommes confrontés en tant que civilisation [qui provoquera la Troisième Guerre mondiale]
Mark Zuckerberg, quant à lui, vante les avantages de l'intelligence artificielle et dit que les prédictions du lendemain d'Elon Musk sur l'IA sont « plutôt irresponsables ».
Cela a incité Elon Musk à rétorquer que la compréhension de Mark Zuckerberg de l'IA est « assez limitée ».
Alors, qui a raison? Seul le temps nous le dira, mais d'après mes spéculations scientifiques, je dirais que les preuves sont favorables à Musk. Et des cerveaux plus grands que les miens nous disent que l’intelligence artificielle pourrait être la fin de l' Homo sapiens ou de tout autre Homo , dont Bill Joy, Stephen Hawking, Vernor Vinge, Shane Legg, Stuart Russell, Max Tegmark, Nick Bostrom. , Michael Anissimov et Irving Good. Des esprits brillants, des lauréats du prix Nobel, des inventeurs renommés et des pionniers de l'informatique nous ont tous avertis.
Bien sûr, d'autres menaces existentielles pour l' Homo sapiens sont possibles et pourraient prendre la forme d'un impact de bolide tel que celui qui a condamné les dinosaures il y a 66 millions d'années ou d'un supervolcan menant à des phénomènes météorologiques mondiaux extrêmes. Contrairement à la poursuite inlassable des technologies susceptibles de modifier, voire d’éliminer, notre espèce, ces menaces échappent à notre contrôle.
Le génie génétique, en particulier s'il est aidé par l'IA, pourrait mener à la spéciation future de l’Homo sapiens et poser une autre menace existentielle. Lee Silvers, dans son livre Remaking Eden, envisage une future société pratiquant une forme extrême d’isolement comportemental basé sur le génie génétique. Dans cette société, seule une petite partie de la population, qu'il appelle le GenRich, dispose des moyens financiers nécessaires pour améliorer génétiquement ses enfants.
Au fil des décennies, les GenRich utilisent des techniques de génie génétique pour optimiser une variété de caractéristiques humaines - telles que l’intelligence, les compétences sportives, l'apparence physique et la créativité - qui leur confèrent une position dominante dans la société. Au fil du temps, la disparité culturelle entre cette population minoritaire GenRich et les autres « naturels » devient si grande qu'il y a peu de métissage entre les deux groupes. Un tel scénario pourrait conduire au développement génétique d'une barrière de reproduction postzygotique.
En d'autres termes, le génie génétique pourrait éventuellement conduire à une nouvelle espèce humaine. Une fois que cela se produit, les résultats à long terme sont imprévisibles. Cette nouvelle espèce - je l’appelle Homo nouveau - comme le GenRich, n'est peut-être pas une menace existentielle, du moins au début des siècles ou des millénaires.
Il est incertain de ce qui pourrait arriver lorsque deux espèces humaines tentent de coexister. Nous savons que les choses ne se sont pas très bien passées pour les Néandertaliens après l’arrivée d’Homo sapiens. En fait, il en va de même pour l’Homo heidelbergensis , l’ Homo erectus , l’ Homo denisova et toutes les autres espèces d’ Homo ayant coexisté avec l’ Homo sapiens .
En considérant toutes les menaces existentielles possibles pour nous, humains, le génie génétique est une possibilité dans un avenir pas trop lointain, disons dans les deux ou quatre prochains siècles. Cependant, si Elon Musk a raison, l'IA pourrait remplacer cela dans un ou deux siècles si nous ne réussissons pas à le contrôler. Là encore, à tout moment, nous pourrions être touchés par un bolide. Rien de tout cela n'est de bon augure pour nous.