L’IA ne détruira pas physiquement la civilisation

Les amis,

Vous avez sans doute entendu aux actualités que certains prédisent que l’IA détruira la civilisation. Même le parrain de l’IA, Geoffrey Hinton a quitté Google et se sent désormais obligé de mettre en garde contre les risques posés par l’IA.

J’ai récemment parlé sur ce sujet au Bio 2023 à Boston. Je ne veux pas minimiser les progrès stupéfiants de l’IA, tels qu’ils ont été récemment illustrés dans ChatGPT.  Mais sa menace pour la civilisation est au pire à nuancer.

Toutefois, ceux d’entre nous qui travaillent dans l’enseignement s’inquiètent de l’impact de ChatGPT sur l’éducation. Il peut rédiger de très bons articles sur n’importe quel sujet, même si les erreurs sont fréquentes. Néanmoins, sa réussite aux examens est tout simplement stupéfiante. ChatGPT peut réussir l’examen du barreau pour les avocats avec un percentile de 90, ChatGPT4 peut aussi réussir une multitude de tests normalisés tels que les SAT, les AP, les GRE et même un test pour les sommeliers ! Ces compétences des IA comme ChatGPT soulèvent des inquiétudes quant à la tricherie scolaire et à l’entrave à l’apprentissage de nos jeunes.

Un article du New York Post résume ce type de préoccupations : "Longtemps connu pour ses avertissements sur les dangers potentiels de l’IA". Le PDG de Tesla, Elon Musk, a alerté lundi sur le fait que même une "dépendance bénigne" à l’égard de ces machines complexes peut menacer la civilisation." (NY Post, 2 mai 2023)

Une autre préoccupation de l’IA est la criminalité. Certains criminels sont très intelligents et utiliseront l’IA pour escroquer les gens, entre autres choses. L’escroquerie se fait notamment par le biais des deepfakes. Un deepfake typique est un faux fichier numérique contenant la voix ou la vidéo d’une personne. Les criminels peuvent utiliser les deepfakes de multiples façons pour extorquer de l’argent.

Les dernières technologies d’IA sont donc effectivement déconcertantes. Mais, il y a un domaine dans lequel les IA sont des échecs complets et le resteront probablement pendant des générations : Le test de Turing physiquement intégré. Ce test consiste essentiellement à demander à un robot doté d’IA d’assembler quelque chose, par exemple des meubles IKEA à partir d’un kit accompagné d’instructions écrites. L’état de développement de l’IA est tellement en retard dans ce domaine que cette tâche relève de la science-fiction. En 2019, mon petit-fils Nate Su, alors âgé de 8 ans, a assemblé les pièces du vaisseau spatial Apollo de 1969 (voir figure 1) en 4 heures. Aucune IA ne peut s’approcher d’un tel résultat. Pour que les IA constituent une véritable menace physique pour l’humanité, des progrès significatifs seraient nécessaires en matière d’interaction avec le monde physique.

Figure 1 Nate Su, 8 ans, a assemblé les 1969 pièces de la fusée Apollo en 4 heures. Aucune IA ne peut s’approcher d’un tel résultat. 

L’une des raisons pour lesquelles les IA sont si peu performantes dans le monde physique est qu’elles n’ont pas de corps. Une grande partie de l’interaction de l’homme avec le monde physique se fait par l’intermédiaire du corps et des sens : goût, toucher, vue et ouïe. De plus, les humains ont des années de contexte sur le monde physique qu’un robot à intelligence artificielle devrait apprendre. Par exemple, au moment où j’écris cet article, je peux regarder mon salon et voir le plancher en bois dur, recouvert de tapis, les meubles, notre cheminée Mumford, la télévision, le téléphone, et bien d’autres choses encore. Chacun de ces objets a une longue histoire qui les connecte entre eux. Pour qu’une IA puisse se déplacer dans notre monde physique, il faudrait qu’elle « apprenne » à en connaître les innombrables aspects.

Donc, ne craignez pas qu’un robot IA comme M3gan (Figure 2) se profile à l’horizon. Plus humiliant encore pour le monde de l’IA est l’adage de Steven Pinker selon lequel aucune IA ne peut vider un lave-vaisselle.  

Figure 2 Des robots comme Megan ne verront pas le jour avant des décennies, voire jamais. 

Merci,

Dr Ron