L’IA pourrait-elle provoquer l’extinction de l’humanité ?

Les humains pourraient-ils subir le même sort que les dinosaures ?

Même s’il existe encore beaucoup d’incertitude quant au risque potentiel posé par l’intelligence artificielle, certains experts craignent que l’IA ne provoque la chute de l’humanité.

Mais ce qui est encore plus alarmant : les scientifiques estiment qu’il y a 50 % de chances que l’IA surpasse les humains dans les 20 prochaines années.

Des chercheurs en IA ont été interrogé et une majorité d’entre eux (58 %) estiment qu’il existe 5 % de chances d’extinction de l’humanité ou d’autres conséquences catastrophiques liées à l’IA.

« C’est un signe important que la plupart des chercheurs en IA ne trouvent pas tout à fait invraisemblable que l’IA avancée détruise l’humanité », a déclaré au New Scientist  Katja Grace, co-auteure de l’article, du Machine Intelligence Research Institute de Berkeley, en Californie . « Je pense que cette croyance générale en un risque non infime est bien plus révélatrice que le pourcentage exact de risque. »

Les personnes interrogées estiment que les chances de la technologie de réussir certaines tâches types en une décennie – comme écrire des chansons du calibre des compositions de Taylor Swift ou coder un site de traitement des paiements à partir de zéro – sont d’environ 50 % ou plus.

Cependant, des tâches plus complexes, comme l’installation d’un câblage électrique ou la résolution d’énigmes mathématiques, devraient prendre plus de temps à réaliser – mais pourraient effectivement se produire de notre vivant.

Les chances que l’IA surpasse les humains dans chaque tâche d’ici 2047 étaient estimées à 50 %, et les chances que tous les emplois humains soient entièrement automatisés d’ici 2116 étaient de 50 %. Cependant, les deux estimations sont antérieures à celles données dans une version 2022 de la même enquête.

Mais même si les chances s’éloignent de plus en plus en notre faveur, les scientifiques ont déclaré que ce n’était pas vraiment une raison pour tirer la sonnette d’alarme pour l’instant.

Les auteurs ont mis en garde sur le fait que les chercheurs en IA ne sont pas des experts en prévision de l’intelligence artificielle.

De plus, ces types d’enquêtes « n’ont pas de bons antécédents » pour prédire les réalisations de l’IA, il n’y a donc pas lieu de s’inquiéter immédiatement, a déclaré Émile Torres de l’Université Case Western Reserve de Cleveland au média.

En fait, des recherches antérieures ont montré que les prédictions des experts en IA n’étaient pas plus précises que celles du grand public à long terme.

« Beaucoup de ces avancées sont assez imprévisibles. Et il est tout à fait possible que le domaine de l’IA traverse un autre hiver », a déclaré Torres.

Pendant ce temps, les chercheurs avaient des inquiétudes plus immédiates concernant l’IA.

Parmi les personnes interrogées, 70 % ou plus ont exprimé une inquiétude substantielle ou extrême face à des scénarios tels que les deepfakes, la manipulation de l’opinion publique, les armes fabriquées, le contrôle autoritaire, l’aggravation des inégalités économiques, la propagation de la désinformation et la détérioration de la gouvernance démocratique.