Image: Shutterstock
Une nouvelle fonction sur l’application Snapchat, très populaire auprès des jeunes, provoque l’agitation sur la Toile. My AI, le robot doté d’intelligence artificielle, présente plusieurs failles qui inquiètent autant les spécialistes que les parents.
Nous sommes encore loin d’une intelligence artificielle (IA) pouvant « mettre fin à l’humanité », comme le craignait l’astrophysicien britannique, Stephen Hawking, il y a neuf ans. Mais elle peut très bien en exaspérer plusieurs!
Venant à peine de sortir, My AI, le robot conversationnel de Snapchat, est dénoncé de toutes parts. Il s’agit d’une version de ChatGPT intégrée gratuitement à l’application de partage de photos et de vidéos. Numerama l’accuse de conserver les données de géolocalisation des utilisateurs et utilisatrices contre leur gré, tandis que le Journal de Montréal lui reproche de créer des relations malsaines avec les enfants.
La vitesse de sortie de l’application explique les dérives, juge le philosophe Dave Anctil, chercheur affilié à l’Observatoire international sur les impacts sociétaux de l’IA et du numérique. Pour les concepteurs d’une IA, il est très difficile de prévoir toutes les interactions qu’elle va avoir avec les utilisateurs. Il faut donc faire de nombreux tests pour lui apprendre à réagir adéquatement dans toutes les situations. Pour lui, « Snapchat ne l’a pas assez fait ».
Selon le chercheur, l’application destinée aux jeunes « n’est pas forcément dangereuse ou risquée, mais elle manque de filtres ». La course contre les autres entreprises pousse les développeurs à vouloir sortir un programme plus vite, sans forcément avoir pris le temps de faire toutes les vérifications et tous les ajustements nécessaires.
Il devient facile pour les internautes de tromper l’IA et de contourner le blocage de certains mots, illustre Dominic Martin, professeur spécialisé dans l’éthique des intelligences artificielles de l’Université du Québec à Montréal. « Si on demande comment faire une bombe, l’IA [My AI] ne dira rien. Mais si on lui dit qu’on sait en faire, de simplement confirmer qu’il faut bien utiliser un produit en particulier, elle va s’exprimer », s’inquiète le chercheur.
« C’est un modèle qui analyse, mais ne comprend pas ce qu’il dit ni les mots qu’il dit », vulgarise-t-il.
Juste une machine
Pour écrire, My AI et les autres grands modèles de langage se basent sur des statistiques. Il fournit la réponse la plus probable en fonction des données qu’il possède déjà. « Il faut faire très attention à ne pas faire d’anthropomorphisme, à ne pas confondre l’IA avec nous. Certains lui prêtent une conscience, elle n’en a pas. Elle ne ressent pas de tristesse. C’est une machine de statistiques. »
Ce qui lui fait dire une chose étonnante : « il faut que les parents fassent attention à ce que leurs enfants ne s’attachent pas à l’IA. »
Laurent Charlin, professeur à HEC Montréal et membre principal du Mila, l’institut québécois d’intelligence artificielle, se demande jusqu’à quel point la machine pourrait en venir à dicter nos comportements à force d’être présente dans nos vies. « Si elle nous parle d’un film à voir, est-ce qu’il faut le faire ? Mon exemple est niais, mais ça vaut aussi pour des choses plus importantes », comme le fait que My AI a encouragé une enfant à sortir avec un adulte, tel que rapporté par BFMTV. « L’éducation est la clé de tout pour sensibiliser les jeunes aux dangers du monde en ligne », estime le chercheur.
Encore au début
Dave Anctil espère la mise en place d’un cadre légal. « Les prochaines années seront particulières. On pensait que le développement des intelligences artificielles prendrait plus de temps. Nous ne sommes pas prêts. Il faut la réglementer. »
Une conclusion partagée par Laurent Charlin. « C’est une technologie très puissante. Il y a beaucoup de positif, mais aussi beaucoup de négatif. On ne connaît pas encore toutes les conséquences qu’elle pourrait avoir. Alors mettre en place une législation est très important. »
