11. Quelles sont les limites actuelles de l’IA ?

Les grands modèles de langue, comme celui utilisé par ChatGPT, sont constitués de milliards de paramètres déterminés après un apprentissage sur des milliards de pages de texte. Jusqu’à présent, l’expérience montre que le gain de performance des IA est lié à l’augmentation de la puissance de calcul des ordinateurs, qui s’accompagne d’une plus grande consommation énergétique et de son empreinte carbone correspondante.
Les IA basées sur l’apprentissage exploitent des statistiques et non des raisonnements logiques. Leurs conclusions ne reposent pas sur une causalité (l’enchaînement de relations de cause à effet) mais sur une expérience qui indique simplement la réponse à produire dans telles conditions. Ce manque de transparence du processus de décision d’une IA basée sur les données est une des raisons qui font que, dans certains domaines, comme la médecine, les décisions de l’IA restent supervisées par un médecin qui peut remettre en question ses conclusions.
Comme il est difficile de vérifier le raisonnement suivi par une IA, la seule façon de la valider est de la tester. La difficulté est de l’éprouver sur des cas qu’elle n’a pas vus pendant son apprentissage. Mais s’ils n’ont pas été vus, c’est que ce sont soit des cas trop rares pour qu’ils aient été rencontrés, soit des cas auxquels les concepteurs n’ont jamais pensé. Comment, alors, se prémunir de ce qu’on n’imagine même pas …