QI contre IA

Conduire des voitures, arbitrer des parties de baseball, composer de la musique, faire la guerre… avec une intelligence artificielle de plus en plus puissante, machines et robots peuvent maintenant réaliser bien des choses. Saurons-nous cohabiter avec eux?

Septembre 2012. Dans un laboratoire d’informatique de l’université de Toronto, le professeur Geoffrey Hinton et deux de ses étudiants se croisent les doigts. Un programme de leur conception, baptisé Supervision, est en train de trier des millions de photos en milliers de catégories. Cela dans le cadre du Large Scale Visual Recognition Challenge (LSVRC), un concours international de reconnaissance d’images par ordinateur. Ce que les trois chercheurs ignorent encore, c’est que non seulement ils gagneront ce concours, mais ils seront aussi à l’origine d’une révolution technologique majeure.

Trois ans et demi plus tard, des voitures et des camions intelligents sans conducteur sont testés sur les routes, des ordinateurs réussissent les examens d’entrée de grandes universités du Japon et des États-Unis, et d’autres passent des tests de QI qui révèlent une intelligence équivalente à celle d’un enfant de quatre ans. Un ordinateur doté de caméras est parvenu à arbitrer une partie de baseball. Aux frontières entre les Corées, des sentinelles robotisées ont l’ordre de tirer sur tout humain qui s’approche trop…

Ce que l’équipe de chercheurs avait démontré, en 2012, c’est la suprématie des «réseaux neuronaux» en intelli­gence artificielle (IA). L’ère des machines pensantes est bel et bien commencée.

«Il s’agit d’une architecture informatique inspirée des neurones du cerveau humain, explique Yoshua Bengio, titulaire de la Chaire de recherche du Canada sur les algorithmes d’apprentissage statistique à l’Université de Montréal. Geoffrey et ses étudiants ont démontré que ces algorithmes excellent dans la reconnaissance d’images, mais ils peuvent aussi faire bien d’autres choses: reconnaissance vocale, diagnostic médical, traduction, etc. La seule limite est notre imagi­nation.» Le chercheur en IA sait de quoi il parle: avec Geoffrey Hinton et Yann LeCun, un chercheur de New York, directeur du laboratoire d’intelligence artificielle de Facebook, il est l’un des trois pères de ces fameux réseaux neuronaux; ils y travaillent depuis plus d’une vingtaine d’années. «Avec la victoire de Geoffrey au LSVRC de 2012, l’intelligence artificielle est en plein essor. On lui a donné ce qui lui manquait pour décoller.»

La faculté d’apprendre

Ce qui lui manquait, justement, c’était la faculté d’apprendre. Jusque-là, on tentait d’inculquer aux machines des con­cepts – comme table, chat ou visage –, en espérant qu’elles les reconnaissent le moment venu. Avec cette méthode, les meilleures performances au LSVRC donnaient des taux d’erreur de plus de 25%, et les logiciels ne progressaient depuis longtemps que par quelques fractions de point, chaque année.

Les réseaux neuronaux de Supervision lui ont appris à apprendre à reconnaître tout seul les images, lors d’un entraînement de quelques semaines pendant lequel le programme a observé des millions d’images en tentant de les classer. Grâce à cet apprentissage automatique, ou Deep Learning, on dépasse maintenant à peine 15% d’erreur. Pour le même exercice, le taux d’erreur moyen des humains est de 5%.
À l’aide des réseaux neuronaux artificiels, les informaticiens tentent de copier la façon dont le cerveau humain fonctionne. On fait répéter les mêmes tâches à la machine, en lui demandant de les faire chaque fois de façon légèrement différente. On souligne ses meilleurs coups, ce qui renforce son apprentissage, alors qu’elle écarte les stratégies qui ont mené à une mauvaise performance. Cela fonctionne comme notre cerveau, dont les connexions entre neurones sont renforcées par la répétition. Avec cette approche, les machines peuvent apprendre de la même manière que nous.

Afin de diffuser leur programme Supervision, les chercheurs de Toronto ont démarré une start-up, vite achetée par Google qui en a fait son département IA. Les autres géants du numérique – Apple, Microsoft, Facebook, IBM – ont tous aussi leurs laboratoires de recherche sur l’intelligence artificielle. Ils améliorent quotidiennement les prouesses des machines en perfectionnant les algorithmes et l’architecture des ordinateurs. Google, par exemple, teste en ce moment ses voitures sans conducteur sur les routes de la Californie, alors que Facebook – sous la gouverne de Yann LeCun – développe des programmes qui permettront bientôt de reconnaître et d’identifier automatiquement tous les visages sur les photos que vous mettrez en ligne.
«En fait, l’IA nous entoure déjà et a modifié la façon dont nous interagissons avec les ordinateurs», affirme Yoshua Bengio. Nos voitures, par exemple, en sont dotées: depuis l’ordinateur qui décide quand déclencher le système an­tiblocage des freins jusqu’à celui qui ajuste en continu les paramètres du systè­me d’injection d’essence. Nos té­lé­phones en sont bourrés: naviguer en utilisant les applications de cartes géoréférencées, recevoir des recommandations musicales qui coïncident avec nos goûts, parler à notre assistant personnel et consulter la météo sont toutes des actions qui nécessitent un peu d’IA.

Les filtres à pourriel sont aussi un exemple classique. Au départ, les machines n’ont aucune idée de ce qu’est un pourriel, mais elles l’apprennent selon les informations fournies par les utilisateurs.

De même, vous cherchez un article sur Amazon, puis une publicité pour ce produit apparaît sur un site que vous consultez plus tard? C’est un réseau de systèmes intelligents qui s’échangent des informations à votre sujet et sur vos préférences.
Le service de traduction de Google est un autre exemple: il apprend son métier de traducteur en explorant le Web et en scrutant des documents déjà traduits (il a cependant encore bien du travail à faire!). À chaque nouvelle tâche, donc, l’IA se raffine. Et lorsque votre avion atterrit, ce n’est pas un humain qui décide vers quelle porte il doit se diriger, tout comme ce n’est pas un humain qui a déterminé le prix de votre billet. Aujourd’hui, les meilleurs joueurs d’échecs, de dames, de bridge, de backgammon, d’Othello, de poker et de Scrabble sont tous des ordinateurs.

En février 2015, Google – encore – a annoncé que sa plateforme d’IA a permis à un simple ordinateur d’apprendre par lui-même à jouer à 49 jeux vidéo de l’antique console Atari. Dans l’ignorance des règles et sans instructions, avec la seule consigne de faire le plus grand nombre de points possible. Les premières fois, lorsqu’elle commençait une partie, la plateforme essayait un peu n’importe quoi et observait ce qui se passait. En répétant ses bons coups et en ne reproduisant pas ses mauvais, elle s’est améliorée à chaque partie, jusqu’à devenir excellente à tous ces jeux en seulement deux semaines!

Une intelligence universelle?

«Par contre, nuance Yoshua Bengio, tous ces exem­ples renvoient à des IA “é­troi­tes”, spécifiques. C’est-à-dire, à des programmes conçus pour accomplir une seule tâche précise, pour laquelle ils sont bien plus perfor­mants et rapides que nous. Sauf qu’ils sont complètement inap­tes à faire autre chose.» Même Deep Blue – le superordinateur d’IBM qui a battu aux échecs le champion du monde Garry Kasparov dans les années 1990 – n’aurait jamais pu, par exemple, con­duire une voiture.
Mais le nec plus ultra de l’informatique, c’est de développer une IA générale, universelle, issue de la combinaison dans une même machine d’une multitude d’IA étroites. Une intelligence consciente d’elle-même et de son environnement, capable de réagir à toutes les situations. Si, pour le moment, ni le matériel informatique ni les logiciels n’ont la puissance requise, de nombreux chercheurs estiment que ce n’est qu’une question de temps avant que l’ordinateur devienne notre alter ego. Dès lors, les esprits s’enflamment: on craint que les machines ne s’arrêtent pas là.

Déjà, en novembre dernier, dans le Laboratoire sur les interactions humain-robot de l’université Tufts, près de Boston, le petit humanoïde Dempster a fait ce qu’aucun robot n’avait fait avant lui: il a refusé un ordre. «Désolé, je ne peux pas faire cela.»
Dempster reprenait la réplique bien connue de l’ordinateur HAL 9000 dans le film 2001: L’odyssée de l’espace. La réalité, semble-t-il, dépasse maintenant la fiction… Une telle réponse venant d’une machine cristallise, on s’en doute, les plus grandes craintes des philosophes et informaticiens de ce monde.

À observer les progrès époustouflants des dernières années dans le domaine de l’IA, certains experts considèrent que les machines atteindront un jour une intelligence suffisante pour s’étudier elles-mêmes et travailler à améliorer leur propre intelligence. De l’IA étroite, on passera à l’IA générale, puis à la super-IA. La progression sera exponentielle et nous assisterons à une explosion d’intelligence qui nous dépassera. Ce sera la fin de l’humanité telle qu’on la connaît.

La fin – ou le salut? – de l’humanité

Que deviendrons-nous? Ici, les spécialistes en IA se divisent en deux camps: les optimistes et les pessimistes – pour ne pas dire alarmistes. Ou bien nous passerons à une nouvelle étape de notre évolution, disent les premiers, ou bien nous disparaîtrons, tout simplement, croient les seconds.
Mais les deux camps s’entendent pour dire que le niveau d’intelligence qu’atteindront les machines leur permettra de faire des choses que nous ne sommes même pas en mesure d’imaginer à l’heure actuelle.

Le camp des optimistes s’inspire grandement des espoirs et prédictions de l’informaticien, inventeur et futurologue états-unien Ray Kurtzweil, surnommé le «pape du transhumanisme». Selon lui, l’IA générale sera une réalité avant 2029; en 2045, nous aurons non seulement la super-IA, mais aussi un monde complètement nouveau. Équipée de cette super-intelligence, et des nouvelles technologies qu’elle permettra de développer, l’humanité réglera tous ses problèmes.

Réchauffement planétaire? La super-IA commencerait par stopper les émissions de CO2 en découvrant des sources d’énergie qui n’auront rien en commun avec les combustibles fossiles. Puis elle développera des moyens innovants de retirer le CO2 excédentaire de l’atmosphère. Le cancer? La super-IA révolutionnera la médecine d’une façon qu’on ne peut imaginer. La faim dans le monde? Les nanotechnologies serviront à fabriquer, à partir de n’importe quoi, une viande artificielle identique à la vraie sur le plan moléculaire. La super-IA pourra aussi sauver les espèces menacées ou faire revivre des espèces éteintes. L’économie mondiale, les relations internationales, les grandes questions d’éthique trouveront des solutions à leurs problèmes.

Et si cette super-IA pouvait nous conférer l’immortalité? Si une voiture dont on changerait les pièces à mesure qu’elles s’usent peut rouler éternellement, pourquoi pas l’humain? Des nanorobots intelligents, connectés par wifi, pourraient par exemple patrouiller notre corps, réparant ou remplaçant toutes ses cellules usées. Un tel système pourrait même rajeunir les cer­veaux vieillissants sans en altérer les souvenirs. Avec le temps, de plus en plus de matériaux artificiels seront intégrés à nos corps et nos organes seront remplacés par des versions plus performantes, et inusables. Même le cerveau deviendra des milliards de fois plus rapide et pourra accéder, en se connec­tant au nuage numérique, à tout le savoir de l’humanité.
Enfin, Kurtzweil imagine un moment où l’humain et la machine convergeront: nous serons l’IA et elle sera nous. Nous serons alors super intelligents et indestructibles, donc éternels. Bien sûr, nous aurons commencé à nous propager dans le reste de l’Univers.

C’est le philosophe suédois Nick Bostrom qui mène le camp des pessimistes. Selon lui, créer une entité plus intelligente que nous sera une erreur darwinienne, car les risques sont élevés qu’elle nous élimine. Un thème que les films de science-fiction, comme la série Terminator, exploitent presque toujours quand il est question d’IA.
Selon Bostrom, une super-IA n’aurait même pas besoin d’être malveillante pour vouloir nous éliminer. En effet, sa motivation sera toujours d’atteindre le but pour lequel on l’aura programmée. Si, dans ce contexte, nous tuer lui permet d’arriver raisonnablement à ses fins, elle le fera, c’est tout. À moins que le respect de la vie humaine ait été inclus dans son programme.

Aussi le philosophe insiste-t-il là-dessus. Même si la super-IA n’est pas pour demain, il nous faut déjà réfléchir très sérieusement à la façon dont nous pro­­­gram­merons les machines si nous voulons être sûrs qu’elles ne pourront jamais entraîner notre disparition. En 2005, il a fondé l’Institut pour le futur de l’humanité. En janvier 2015, il a joint sa signature à celles du physicien théoricien Stephen Hawking, de l’inventeur et entrepreneur Elon Musk et de plusieurs autres penseurs influents au bas d’une lettre ouverte avertissant l’humanité des dangers potentiels de l’intelligence artificielle. «C’est la plus grande menace à notre existence», écrivaient-ils.

À Montréal, Yoshua Bengio reste pragmatique. Des bouleversements immi­nents s’en viennent, mais ils seront moins dantesques qu’on peut l’imaginer. Il précise: «La révolution de l’IA est d’abord économique. La Bourse s’en mêle, des milliards sont investis dans les compagnies qui développent des voitures sans chauffeur; les paradigmes économiques changent déjà.» Bel exemple: DeepMind Technologies, la start-up britannique qui a mis au monde l’ordinateur champion d’Atari. Google l’a achetée pour une somme estimée à 400 millions de dollars. En plus des géants Facebook, Microsoft, IBM, Apple, les start-ups en IA bourgeonnent à un rythme accéléré.

Pour le chercheur, c’est une douce revanche. Pendant près de 30 ans, les travaux des trois compères à l’origine de l’actuelle révolution étaient considérés comme des culs-de-sac d’où rien d’utile ne sortirait. Toute la place était laissée aux approches directives d’enseignement aux machines. «Geoffrey, Yann et moi avons longtemps été exclus de la communauté des chercheurs en IA, raconte Yoshia Bengio. Il nous était pratiquement impossible de publier nos travaux, puisqu’ils allaient contre le paradigme. Même nos étudiants de maîtrise et de doctorat étaient réticents à travailler sur les réseaux neuronaux, parce qu’ils craignaient de ne pas pouvoir se trouver un emploi, ensuite.» La situation a bien changé.

L’IA tueuse: fiction ou prédiction?

Dans son livre Superintelligence: Paths, Dangers, Strategies, le philosophe suédois Nick Bostrom propose une fable qui illustre bien ses craintes face au développement mal programmé de l’intelligence artificielle.
Une petite start-up invente un bras robotisé qui peut tenir un crayon et écrire comme un humain. On le dote d’IA afin qu’il apprenne lui-même à rédiger et que sa graphie se confonde le plus parfaitement possible avec l’écriture humaine. Son programme de départ prescrit: «Écris la même phrase-test autant de fois et aussi vite que tu peux, compare ta graphie à celles d’une banque de graphies humaines et corrige-la jusqu’à ce qu’on puisse les confondre. Continue de trouver de nouvelles façons d’améliorer ta précision et ton efficacité.»
La machine s’améliore rapidement. Enthousiastes, ses créateurs la connectent à Internet afin de lui permettre de devenir encore meilleure.
Un mois plus tard, toute l’équipe de la start-up meurt au même moment en se tenant la gorge. La même chose se produit partout dans le monde et, à la fin de la journée, l’humanité est éteinte. Le robot, lui, continue de travailler, accompagné de toute une armée de nanoassembleurs qui fabriquent des panneaux solaires, des répliques du robot, du papier et des crayons. La Terre, inhabitée, se recouvre
de notes manuscrites…
Que s’est-il passé? Lorsque le robot a atteint un certain niveau d’intelligence, il a réalisé qu’il devait assurer sa pérennité s’il voulait pouvoir obéir à son programme.
Il devait donc éliminer les menaces potentielles à sa «survie», dont les humains faisaient partie. Pour ce faire, il a utilisé le savoir du Web sur les nanotechnologies, pris les commandes d’un labo à distance et fabriqué des nanorobots pouvant se répliquer. Lesquels ont envahi la Terre en quelques semaines. Puis, tous en même temps, ils ont relâché un gaz toxique qui a tué l’humanité.