Image: Shutterstock
Une nouvelle fonction sur l’application Snapchat, très populaire auprès des jeunes, provoque l’agitation sur la Toile. My AI, le robot doté d’intelligence artificielle, présente plusieurs failles qui inquiètent autant les spécialistes que les parents.
Nous sommes encore loin d’une intelligence artificielle (IA) pouvant « mettre fin à l’humanité », comme le craignait l’astrophysicien britannique, Stephen Hawking , il y a neuf ans. Mais elle peut très bien en exaspérer plusieurs!
Venant à peine de sortir, My AI, le robot conversationnel de Snapchat, est dénoncé de toutes parts. Il s’agit d’une version de ChatGPT intégrée gratuitement à l’application de partage de photos et de vidéos. Numerama l’accuse de conserver les données de géolocalisation des utilisateurs et utilisatrices contre leur gré, tandis que le Journal de Montréal lui reproche de créer des relations malsaines avec les enfants .
La vitesse de sortie de l’application explique les dérives, juge le philosophe Dave Anctil, chercheur affilié à l’Observatoire international sur les impacts sociétaux de l’IA et du numérique. Pour les concepteurs d’une IA, il est très difficile de prévoir toutes les interactions qu’elle va avoir avec les utilisateurs. Il faut donc faire de nombreux tests pour lui apprendre à réagir adéquatement dans toutes les situations. Pour lui, « Snapchat ne l’a pas assez fait ».
