Photo: Jonathan Kemper/Unsplash
Malgré les prouesses impressionnantes des grands modèles de langage, la question persiste : peut-on réellement les qualifier d’ « intelligents »?
« En 2019, GPT-2 ne pouvait pas compter jusqu’à dix de manière fiable. À peine quatre ans plus tard, les systèmes d’apprentissage profond peuvent écrire des logiciels, générer des scènes photoréalistes sur demande, donner des conseils sur des sujets intellectuels et combiner le traitement du langage et de l’image pour diriger des robots. »
Cet extrait d’un article scientifique paru en octobre 2023 et cosigné par deux chercheurs de Mila, entre autres, résume bien la vitesse à laquelle les systèmes d’IA ont évolué. Sont-ils pour autant devenus « intelligents »?
De prime abord, la réponse est non. L’éloquence des grands modèles de langage est trompeuse : en vérité, ces systèmes ont une approche mathématique de la langue. Ils « prédisent » les suites de caractères qui surviennent le plus probablement après un fragment de mot, en se basant sur des milliards de données et en prenant en compte le contexte des mots voisins. Pour Laurence Devillers, chercheuse en IA à l’Université Paris-Sorbonne, ChatGPT ne fait preuve d’aucune capacité de raisonnement. « C’est une agglutination de données, de façon livresque, c’est-à-dire sans perception 3D du monde. Cela permet de faire des corrélations entre un nombre de variables incalculable, et de voir émerger des choses très intéressantes. Mais ce n’est pas de l’intelligence. »
Blake Richards, neuroscientifique et chercheur à Mila, est moins catégorique. « Certaines personnes disent que ChatGPT s’engage dans une forme de raisonnement, et qu’il comprend certains aspects du monde. Il a montré des capacités pour lesquelles il n’a jamais été explicitement conçu. » Ces comportements dits « émergents » ont surpris les scientifiques, en leur prouvant que les LLM parvenaient à accomplir des tâches plus complexes que l’assemblage d’une chaîne de texte.
Un exemple? Certains modèles de langage, dont ChatGPT, ont deviné le nom d’un film à partir de plusieurs émojis, au cours d’un test de 204 tâches conçues par 450 scientifiques et soumises en 2022 à plusieurs systèmes d’IA. Simple en apparence, l’exercice demande un certain degré d’abstraction. ChatGPT, en outre, parvient à se forger une image du monde physique (décrire les couleurs, s’orienter à partir d’indications spatiales), alors même qu’il ne l’expérimente pas. Comme si apprendre le monde de façon encyclopédique lui permettait d’extrapoler.
« Les systèmes d’IA peuvent répliquer beaucoup d’aspects de l’intelligence humaine, car celle-ci est basée en grande partie sur ce que les autres nous ont dit ou enseigné. Je dirais que 90 % de ce que nous savons et comprenons du monde nous a été transmis par le langage plus que par l’expérience personnelle », estime Blake Richards, admettant que cette vision est controversée.
Une étude non revue par les pairs menée par une équipe de Google et publiée sur la plateforme ArXiv en novembre dernier semble indiquer le contraire, montrant que les transformers (la technologie au cœur de ChatGPT) sont mauvais pour généraliser au-delà de leurs données d’entraînement.
Les prochaines générations feront-elles mieux? Là encore, le débat est vif dans la communauté. Selon Laurence Devillers, pour se rapprocher de l’intelligence humaine, « il faudrait qu’il y ait un apprentissage in situ, dans un corps, avec un ressenti. Sans ça, il ne pourra jamais y avoir d’intention. » Le philosophe de l’Université Jocelyn Maclure tient un discours similaire : « Je pense que seuls certains organismes vivants, ayant évolué dans des environnements complexes, ont la base matérielle nécessaire à l’émergence d’une intelligence générale. » Un avis qui, encore une fois, ne fait pas l’unanimité dans le milieu.
