IA digne de confiance (Trustworthy AI)

27 Réseaux d’acteurs. L’IA digne de confiance, ou Trustworthy AI, est portée par des acteurs liés à des observatoires et comités éthiques, qu’ils soient indépendants ou affiliés à des organisations ou lobbys (Jobin et al., 2019 ; Tiell, 2019 ; Hagendorff, 2020 ; Tang, 2020 ; Prunkl et al., 2021). Certains de ces organismes sont créés par les législateurs, tels que le Groupe d’experts de haut niveau sur l’IA (IA HLEG) nommé par la Commission européenne. Initialement ancré en Europe (Floridi, 2019 ; Cohen et al., 2020), le concept de l’IA digne de confiance est progressivement adopté aux États-Unis par le White House Office for Science and Technology (OSTP) et en Chine par les Beijing AI Principles (BAAI), ainsi qu’au niveau international par des instances comme l’OCDE (Rieder et al., 2021).

28 Fondements théoriques et problématisation des enjeux. L’objectif de l’IA digne de confiance est double. (1) Le concept prend souvent en compte les préoccupations liées à l’acceptabilité de cette technologie (McClure, 2018), influencées par des œuvres fictionnelles emblématiques (Metropolis, Cycle des Robots, Matrix…) qui ont renforcé la méfiance de la société envers le risque de perte de contrôle face aux machines autonomes (Wosk, 2010). L’enjeu est donc de trouver des conditions qui réduiraient les réticences de la société envers le développement de cette technologie. (2) L’objectif corollaire est d’obtenir une meilleure compréhension des attentes de la population en termes de régulation. Le législateur, confronté à une opinion publique changeante et à une technologie émergente encore en évolution, doit jongler entre le renforcement des obligations légales concernant la conception et la commercialisation de l’IA, et le maintien d’un cadre juridique attractif pour les organisations développant des IA (Weaver, 2018 ; Veale, Borgesius, 2021 ; Floridi, 2021). Les comités éthiques jouent un rôle crucial en délimitant les grands principes susceptibles d’influencer les législateurs, les régulateurs et les instances étatiques dans l’élaboration de lois, ainsi que les politiques d’investissement (Veale, Borgesius, 2021 ; Floridi, 2021). À la demande de la Commission européenne, l’IA HLEG a ainsi produit deux documents importants intitulés « Lignes directrices éthiques pour une IA digne de confiance » et « Recommandations en matière de politiques et d’investissements pour une IA digne de confiance ».

29 Dispositifs préconisés.En termes de dispositifs, les partisans de l’IA digne de confiance mettent l’accent sur la gouvernance et l’établissement de grands principes. Des comités éthiques jouent généralement un rôle central dans cette démarche.

30 La gouvernance peut être mise en place au sein d’une organisation. Par exemple, Microsoft a créé un comité appelé « AETHER » (AI, Ethics, and Effects in Engineering and Research) ainsi qu’un département dédié à l’IA responsable (Office of Responsible AI). De même, Google a rendu publique l’initiative de son comité éthique, l’Advanced Technology Review Council, lorsque celui-ci s’est opposé à l’élargissement des palettes d’émotions identifiées par les IA de reconnaissance faciale en cours de recherche et développement. Le Conseil avait souligné que l’expression de la gêne ou du consentement était culturellement située, ce qui posait un risque de biais significatif. Dans la même optique, un comité éthique a été créé en 2019 à l’initiative de la ministre française des Armées Florence Parly, notamment pour aborder les problématiques liées à l’IA (Parly, 2019). Ce comité a conditionné l’utilisation et le développement de systèmes d’armes autonomes à un contrôle humain, en suivant le principe du « Human in the Loop » (Zanzotto, 2019 ; Grønsund, Aanestad, 2020). Ce principe est également promu par d’autres groupes de réflexion éthique qui soutiennent le concept d’IA digne de confiance, que ce soit dans d’autres armées, comme aux États-Unis (Gunning, 2017), ou dans le domaine médical (Holzinger et al., 2022).

31 Les promoteurs de l’IA digne de confiance visent à étendre ce principe à toute une industrie. Les comités éthiques et les chartes qu’ils établissent agissent en tant que méta-organisations. Florence Parly, ministre des armées, souligne la nécessité d’une IA digne de confiance non seulement au sein de l’armée, mais également au sein de l’écosystème militaro-industriel : « À ma demande, la DGA élabore actuellement un guide de développement maîtrisé des systèmes d’IA. Nous le partagerons et le consoliderons avec nos industriels, les laboratoires et toute la communauté des systèmes critiques, afin que nos armées puissent utiliser ces systèmes en confiance et en toute responsabilité », insiste la Ministre (Parly, 2019).

32 Une critique adressée à de telles initiatives est le risque d’« ethics washing » et même d’« ethics shopping », où les comités éthiques méta-organisationnels imposeraient des contraintes peu problématiques pour les milieux professionnels concernés, utilisant ces efforts minimaux pour dissimuler les véritables enjeux (Wagner, 2018 ; Bietti, 2021).

IA transparente (Transparency in AI)

33 Réseaux d’acteurs. L’IA transparente est soutenue principalement par des associations, des ONG et certains mouvements politiques. Ces groupes, préexistants à la question de l’IA, prônent généralement la transparence dans d’autres domaines (lutte contre les discriminations, etc.) (Jobin et al., 2019 ; Larsson, Heintz, 2020 ; Robinson, 2020). Le concept est également relayé de manière secondaire par deux autres groupes d’acteurs : les législateurs et les comités éthiques. Cependant, ceux-ci le considèrent davantage comme un modus operandi de leur propre programme plutôt que comme une finalité en soi (Jobin et al., 2019 ; Larsson, Heintz, 2020 ; Robinson, 2020 ; Mora-Cantallops et al., 2021).

34 Fondements théoriques et problématisation des enjeux. Le Big Data et l’IA font craindre l’émergence d’une société « boite noire » (Pasquale, 2015), où les individus seraient tributaires de décisions algorithmiques auxquelles ils ne pourraient ni se soustraire ni s’opposer (von Eschenbach, 2021). L’IA transparente vise alors à faciliter l’accès par toutes les parties prenantes aux algorithmes qui président à certaines décisions les affectant (Larsson, Heintz, 2020 ; Diakopoulos, 2020 ; Robinson, 2020 ; Walmsley, 2021). Cette exigence n’est pas spécifique à l’IA, et fait écho à une demande accrue de transparence au sein des organisations comme entre les organisations et leurs parties prenantes (Birchall, 2011 ; Hansen, Flyverbom, 2015). La transparence permettrait ainsi d’empêcher les arrangements secrets et répréhensibles en les soumettant au contrôle des individus, et d’autre part obliger les organisations à être plus rigoureuse en anticipation de ce potentiel contrôle (Felzmann et al., 2020 ; Molina Rodríguez-Navas et al., 2021).

35 Dans cette optique, les biais algorithmiques sont une préoccupation majeure liée à l’IA contre laquelle la transparence doit lutter. Cela inclut les biais de genre, ethniques, politiques, culturels, religieux, géographiques, socioéconomiques, etc. (Ntoutsi et al., 2020 ; Daneshjou et al., 2021). La transparence permet d’éviter des effets de discrimination trop prononcés et, le cas échéant, de les évaluer et de les dénoncer sur le plan politique ou juridique (Martin, 2019 ; Liu et al., 2022 ; Bagaric et al., 2022). L’importance du concept de Transparency AI se manifeste au sein des acteurs engagés dans les luttes contre les discriminations, ainsi qu’auprès des législateurs et régulateurs (Larsson, Heintz, 2020 ; Diakopoulos, 2020 ; Ntoutsi et al., 2020 ; Robinson, 2020 ; Daneshjou et al., 2021). Les comités éthiques intègrent fréquemment la transparence comme l’un des piliers de leurs recommandations afin de répondre aux exigences de transparence de ces acteurs et de les anticiper. Selon Jobin et al. (2019), la transparence est le critère le plus présent parmi les principes des 89 comités éthiques examinés. Toutefois, contrairement aux ONG, mouvements associatifs et politiques prônant l’IA transparente, ces comités ne considèrent généralement pas la transparence comme une finalité, mais plutôt comme un moyen de faciliter l’IA digne de confiance (Jobin et al., 2019 ; Larsson, Heintz, 2020 ; Mora-Cantallops et al., 2021).

36 Dispositifs préconisés. Les partisans de l’IA transparente mettent en avant l’obligation légale, l’audit et la mise en place de dispositifs juridiques permettant de chiffrer et de contester les discriminations perçues (Castets-Renard, 2018 ; Bourcier, De Filippi, 2018 ; Martin, 2019 ; Robinson, 2020 ; Veale, Borgesius, 2021 ; Bagaric et al., 2022). La capacité à procéduraliser en vertu du droit de transparence joue un rôle crucial dans le succès ou l’échec du concept d’IA transparente, car elle détermine si les groupes et associations qui en font la promotion peuvent se permettre les coûts juridiques associés (Washington, 2018). L’accès aux données est un enjeu clé (Bourcier, De Filippi, 2018 ; Veale, Borgesius, 2021), notamment en ce qui concerne la protection du secret industriel (Castets-Renard, 2018).

IA explicable (Explainable AI)

37 Réseaux d’acteurs. L’Explainable AI, ou XAI, réunit des acteurs académiques et de l’industrie du développement des IA (Gunning, 2017 ; Adadi, Berrada, 2018 ; Arrieta et al., 2020). Ils proviennent de domaines variés où l’explicabilité de l’IA est une préoccupation majeure en matière de sécurité, tels que la robotique et l’armée (Gunning, 2017), ainsi que des éditeurs de logiciels tels que Microsoft Azure et IBM Watson. Les principaux acteurs du domaine sont initialement issus de l’informatique et des mathématiques (Adadi, Berrada, 2018 ; Arrieta et al., 2020), mais récemment, des éthiciens, notamment issus de domaines professionnels comme la médecine (Holzinger et al., 2022 ; Shaban-Nejad et al., 2021 ; Antoniadi et al., 2021), contribuent à nourrir et à orienter l’XAI vers une perspective davantage centrée sur l’utilisateur (Meske et al., 2022 ; Zednik, 2021 ; Watson, Floridi, 2021).

38 Fondements théoriques et problématisation des enjeux.Le problème central de l’XAI est l’opacité de certains modèles d’IA qui résultent d’un grand nombre d’opérations mathématiques difficiles à retracer pour les humains comme dans le cas des réseaux de neurones artificiels (Goodfellow et al., 2016 ; Gunning et al., 2019). Cette opacité est souvent négligée par les concepts précédents (Lipton, 2016). L’XAI est principalement axé sur des aspects techniques, développant des outils et des dispositifs (souvent algorithmiques) pour améliorer l’explicabilité des algorithmes d’IA (Gunning et al., 2019 ; Arrieta et al., 2020). Il succède au domaine académique de l’IML (Interpretable Machine Learning, Molnar et al., 2020). Alors que l’IML se concentre sur la compréhension des mécanismes des algorithmes d’apprentissage automatique, par exemple pour le débogage ou l’amélioration de la fiabilité, l’XAI intègre cette réflexion tout en prenant en compte les autres parties prenantes externes, notamment les utilisateurs finaux, dont les attentes et les priorités peuvent différer considérablement de celles des développeurs informatiques (Arrieta et al., 2020).

39 Dispositifs préconisés. L’XAI promeut deux principaux dispositifs. Le premier consiste en la création d’outils techniques pour améliorer l’interprétabilité des algorithmes après leur phase d’apprentissage, tels que des cartes de chaleur indiquant les parties de l’image utilisées par l’IA pour sa classification (Adadi, Berrada, 2018 ; Arrieta et al., 2020 ; Wehbe et al., 2021). Ces outils cherchent également à adapter l’explication en fonction des perspectives des parties prenantes (Watson, Floridi, 2021). L’XAI joue un rôle crucial dans la gestion de projets d’IA et la conception des structures décisionnelles, favorisant l’interaction entre les développeurs et les experts métiers (Shrestha et al., 2019 ; Grønsund, Aanestad, 2020 ; Arrieta et al., 2020).

40 Le deuxième dispositif émergeant de l’XAI est la production de normes industrielles. Cette standardisation est menée au sein d’agences et de consortiums internationaux, en collaboration avec l’industrie et sous l’impulsion de la Commission européenne, visant à établir des normes standardisées (ISO/IEC JTC1/SC 42 Artificial intelligence) (Zielke, 2020 ; Larsson, Heintz, 2020 ; Hagendorff, 2020). La législation en cours en Europe, notamment l’IA Act, renforce le rôle de cette standardisation de l’explicabilité des outils. Les producteurs et distributeurs d’IA ont le choix d’interpréter les exigences essentielles de la régulation en fonction du niveau de risque associé à leur IA, ou de se conformer aux recommandations des organismes de standardisation mandatés par la Commission pour établir des normes dans ce domaine. Cependant, le statut de droit privé de certains de ces organismes soulève des questions sur leur place dans les dispositifs juridiques tels que l’IA Act européen (Veale, Borgesius, 2021).

IA au service du développement durable (AI for Sustainability)

41 Réseaux d’acteurs. L’IA au service du développement durable (AI for sustainability) est soutenue par des acteurs engagés dans cette trajectoire de développement, tels que des chercheurs, des associations, des entreprises privées (PWC, 2019 ; Rambach, 2022), ainsi que des organismes nationaux et supranationaux, dont certains sont liés à l’ONU ou à l’UE (Khareghani, 2020 ; Vinuesa et al., 2020 ; Rolnick et al., 2019 ; Fournier-Tombs, 2021 ; Gailhofer et al., 2021).

42 Fondements théoriques et problématisation des enjeux.AI for sustainability vise à promouvoir le développement durable en utilisant l’IA pour équilibrer les aspects environnementaux, économiques et sociaux (Mensah, 2019). Les acteurs de ce concept soutiennent principalement que l’IA offre une capacité de calcul et de traitement de l’information prometteuse pour le développement durable. Les entreprises perçoivent également l’IA comme une opportunité de contribuer aux objectifs du développement durable, en réduisant leurs émissions de gaz à effet de serre et en se conformant aux réglementations en vigueur, tout en favorisant leur croissance économique (PWC, 2019). Philippe Rambach de Schneider Electric déclare que l’IA permet de réaliser des engagements en matière de décarbonation, de développement durable et de responsabilité sociale, tout en favorisant la transformation digitale et durable des activités (PWC, 2019).

43 Dispositifs préconisés. Les dispositifs de l’AI for sustainability visent à développer et promouvoir des systèmes d’IA réduisant l’impact environnemental des activités polluantes. L’utilisation combinée de l’IA, de la blockchain et de l’internet des objets permet de rationaliser la circulation des biens et des personnes, notamment dans les villes connectées, les chaînes d’approvisionnement et les hôpitaux (Singh et al., 2020 ; Toorajipour et al., 2021 ; Benzidia et al., 2021).

44 La promotion de l’IA au service du développement durable repose sur la présentation de cas d’usage démontrant son potentiel. Rolnick et al. (2019) proposent plusieurs cas d’usage montrant comment l’IA peut réduire les émissions de gaz à effet de serre et aider les sociétés à s’adapter au changement climatique dans treize secteurs d’activité. L’évaluation des impacts négatifs et positifs de l’IA est essentielle, en privilégiant son utilisation lorsque le bilan est positif. Les entreprises privées utilisent également des estimations économiques et comptables pour présenter les cas d’usage, incluant la productivité, les gains de parts de marché, la création d’emplois, la réduction des coûts, l’augmentation du volume d’affaires et la diminution des émissions de carbone (PWC, 2019).

IA durable (Sustainable AI)

45 Réseaux d’acteurs. Le concept d’IA durable (Sustainability of AI), aussi appelée IA verte (Green AI), est principalement porté par des chercheurs (Rolnick et al., 2019 ; Schwartz et al., 2020 ; Lannelongue et al., 2021 ; van Wynsberghe, 2021 ; Wu et al., 2022) ou des associations professionnelles (Schwartz et al., 2020) soucieuses de l’impact écologique de l’IA.

46 Fondements théoriques et problématisation des enjeux.L’objectif de l’IA durable est de réduire l’impact environnemental de cette technologie. Aujourd’hui les plus grands modèles d’IA sont à l’origine de la consommation d’une grande quantité d’énergie et de ressources pour collecter et stocker d’immenses volumes de données, ainsi que pour effectuer des calculs intensifs pendant les phases d’apprentissage (Murdock, Brevini, 2019 ; Brevini, 2020 ; Dauverge, 2020). L’objectif n’est donc plus seulement d’utiliser l’IA pour le développement durable, comme le propose le concept d’AI for Sustainability, mais de rendre l’IA elle-même durable en réduisant la quantité de données nécessaires, les calculs et la consommation énergétique des infrastructures.

47 Dans cette optique, la Déclaration de Montréal pour un développement responsable de l’IA propose plusieurs mesures (Dilhac et al., 2018). Elle recommande de viser une plus grande efficacité énergétique et de réduire les émissions de gaz à effet de serre, de minimiser les déchets électriques et électroniques et de prévoir des filières de maintenance, de réparation et de recyclage dans une perspective d’économie circulaire. Elle préconise également de limiter les impacts sur les écosystèmes et la biodiversité, en particulier lors de l’extraction des ressources naturelles et en fin de vie. Enfin, elle appelle les acteurs publics et privés à soutenir le développement de systèmes d’IA écologiquement responsables afin de lutter contre le gaspillage des ressources naturelles, d’établir des chaînes d’approvisionnement durables, de favoriser les échanges commerciaux soutenables et de réduire la pollution à l’échelle mondiale.

48 Dispositifs préconisés. Les outils de l’IA durable comprennent des contraintes légales, des principes pratiques sur le plan juridique et des outils de comptabilisation pour évaluer l’impact économique, énergétique et environnemental de l’IA à différentes étapes de son cycle de vie (Linkov et al., 2018). D’abord, le principe d’« éco-conditionnalité », introduit par le Premier ministre français le 9 juillet 2013, conditionne l’octroi d’aides publiques ou d’avantages fiscaux au respect de critères environnementaux. Dans le contexte des projets d’IA, cela signifie qu’il faut placer la maîtrise du rapport coût/bénéfice environnemental au cœur de la conception du projet. D’autre part, des travaux de recherche proposent différentes méthodes pour mettre en pratique ces principes, telles que des outils de calcul pour mesurer la consommation énergétique et l’empreinte carbone, des cadres méthodologiques pour les soutenir, ainsi que des recommandations pour réduire l’empreinte carbone. Par exemple, Schwartz et al. (2020) proposent de calculer le nombre d’opérations de base nécessaires pour obtenir un résultat informatique (floating point operations – FPO). Henderson et al. (2020) proposent un autre outil de suivi de l’impact environnemental des expériences (Experiment impact tracker), qui intègre plusieurs variables liées à la consommation énergétique des composants informatiques, à l’efficacité énergétique du centre de données et à sa localisation.

IA juste (Fair AI)

49 Réseaux d’acteurs. Le concept d’IA juste est porté par des groupes multidisciplinaires tels que la conférence FATE (Fairness, Accountability, Transparency, and Ethics in AI), issue de la Web Conference et de l’ACM (Association for Computing Machinery) (Adadi, Berrada, 2018 ; Bird et al., 2020 ; Mehrabi et al., 2021). Au sein de grandes entreprises informatiques comme Microsoft ou IBM, des groupes de travail réunissant chercheurs et praticiens se revendiquent également affiliés à la conférence FATE (Bellamy et al., 2019 ; Bird et al., 2020).

50 Fondements théoriques et problématisation des enjeux. Le concept propose d’aborder les problématiques éthiques engendrées par l’utilisation d’IA avec une focale relativement large et interdisciplinaire, afin de capturer des effets, notamment de discriminations, qui seraient systémiques et donc non directement observables à l’échelle d’un individu. L’objectif est alors de proposer des pistes pour anticiper et amoindrir les conséquences indésirables liées à l’utilisation d’IA, avec une focale spatiale et temporelle étendue. Ici, la focale diffère de celle mobilisée par les concepts précédents. Dans l’IA digne de confiance, de transparence et d’explicabilité, la focale porte surtout sur les dimensions directement mesurables à l’échelle d’un algorithme spécifique ou sur un groupe d’individu dans une situation donnée – comme par exemple la détermination statistique d’une discrimination sur des critères de profilage socio-ethnique, par exemple dans le cas de l’outil prédictif COMPASS utilisé par la justice américaine pour les remises de peine (Washington, 2018 ; Martin, 2019). A contrario, le concept de Fairness considère les effets systémiques de la discrimination sur les populations, qui peuvent être causés non seulement par l’IA elle-même, mais également amplifiés par celle-ci. Il tient compte de l’intersectionnalité, c’est-à-dire des facteurs multiples et interconnectés qui contribuent à la discrimination (Feuerriegel et al., 2020 ; Mehrabi et al., 2021 ; Madaio et al., 2022).

51 Dispositifs préconisés. Le concept d’IA juste valorise la multidisciplinarité, offrant une approche holistique des effets de l’IA par rapport aux concepts d’IA digne de confiance, transparente ou explicable, jugés utiles mais segmentés (Feuerriegel et al., 2020 ; Wachter et al., 2021 ; Mehrabi et al., 2021 ; John-Mathews et al., 2022 ; Madaio et al., 2022). L’AI Fairness considère la justice comme un idéal plutôt qu’un objectif opérationnel à court terme (Dignum, 2021 ; Wachter et al., 2021), soulignant que son objectif principal est d’éviter l’aggravation de situations problématiques existantes (Bennett, Keyes, 2020).

52 Les partisans de l’IA Fairness développent des toolkits et des checklists qui ont une vocation méliorative plutôt que normative. Ces outils favorisent la prise en charge de l’idéal de justice par les parties prenantes, en fournissant une infrastructure organisationnelle pour formaliser les processus ad hoc et autonomiser les défenseurs individuels (Bellamy et al., 2019 ; Madaio et al., 2022). Ils contribuent également à redéfinir le concept de justice en collaboration avec les parties prenantes plutôt qu’institutionnellement (John-Mathews et al., 2022). Dans une optique d’empowerment, la culture organisationnelle est présentée comme un levier critique pour intégrer le concept de justice dans les activités de conception et de déploiement des IA (Madaio et al., 2022 ; Robert et al., 2020 ; Landers, Behrend, 2022).

IA pour le bien commun (AI for Social Good)

53 Réseaux d’acteurs. L’AI for social good et les concepts qui y sont associés (Tech for Good et AI for Common Good) sont promus par des réseaux d’acteurs engagés à mettre en évidence les opportunités offertes par l’IA pour la société, et pas seulement les risques qui en résulteraient. Cela inclut des acteurs économiques impliqués dans des initiatives sociétales, tels que des syndicats, des associations patronales, des associations professionnelles, ainsi que des entités nationales et supranationales comme des organes de l’ONU, de l’OCDE ou de l’UE (Taddeo, Floridi, 2018 ; Berendt, 2019 ; Cowls et al., 2021 ; Bondi et al., 2021 ; Umbrello, Van de Poel, 2021 ; Wamba et al., 2021 ; Foffano et al., 2022).

54 Fondements théoriques et problématisation des enjeux. Le mouvement AI for Social Good prend en compte, en plus des concepts liés à l’écologie, les effets macroéconomiques des technologies, notamment les inégalités Nord/Sud, pauvres/riches et entre différentes générations ou populations ayant un accès différencié aux NTIC (Taddeo, Floridi, 2018 ; Floridi et al., 2020 ; Cowls, 2021 ; Cowls et al., 2021 ; Wamba et al., 2021 ; Foffano et al., 2022). Contrairement à la plupart des concepts précédents, l’AI for social good ne se concentre pas uniquement sur les externalités négatives de l’IA, mais cherche plutôt à inverser la perspective éthique de l’IA en mettant en évidence les opportunités offertes par cette technologie pour résoudre ces grands problèmes sociaux et encourager des projets d’IA vertueux.

55 Dispositifs préconisés. Un des mécanismes encouragés par les tenants de l’AI for Social Good est la combinaison de la promotion institutionnelle et du soutien financier (Bondi et al., 2021 ; Cowls et al., 2021 ; Foffano et al., 2022). Le concept d’AI for social good vise à être volontairement non contraignant, ou du moins le moins contraignant possible (Taddeo, Floridi, 2018 ; Hermann, 2021 ; Floridi et al., 2020 ; Cowls et al., 2021). En effet, ce concept est alimenté par l’enthousiasme pro-business/technologique qui caractérise une part importante de ses promoteurs (Umbrello, Van de Poel, 2021 ; Cowls et al., 2021 ; Foffano et al., 2022). Il repose sur l’idée que la technologie peut être un moteur de changement social collectivement bénéfique, sous certaines conditions infrastructurelles (Cowls, 2021 ; Bondi et al., 2021 ; Foffano et al., 2022).

56 Le concept d’AI for Social Good se réfère notamment à la notion de « commun » (que l’on retrouve dans une variante du concept : l’AI for Common Good) notamment popularisée par les travaux de la prix Nobel Elinor Ostrom (1990) et met en valeur la logique des communautés, capables de générer des externalités positives grâce à la technologie et de limiter les externalités négatives (Berendt, 2019 ; Bondi et al., 2021).

57 Cependant, la force du concept de « commun », notamment sa capacité à être pensé à différentes échelles et dans différents contextes socio-économiques et géographiques, constitue également sa principale limite (Bondi et al., 2021 ; Holzmeyer, 2021 ; Cowls, 2021 ; Cowls et al., 2021). Certains auteurs soulignent ainsi le risque que l’influence socio-économique partielle de certains acteurs très actifs dans la promotion de l’AI for social good imprègne le concept de leurs valeurs et de leurs attentes en termes d’évolutions sociales. En maintenant une certaine ambiguïté autour du concept de « commun », l’AI for social good risque de dissimuler certaines questions éthiques fondamentales, telles que le bien « pour qui ? » et en investissant les biens « de qui » ? (Cowls, 2021).

Enjeux de performativité des concepts d’IA responsables

58 L’étude des concepts d’IA responsables met en avant leur fort potentiel pour favoriser une innovation responsable, mais aussi les limites et les écueils auxquels ils peuvent être confrontés. La littérature met en évidence un alignement théorique : chaque concept est accompagné d’un dispositif qui légitime d’une manière ou d’une autre l’action des acteurs. Cependant, plusieurs risques susceptibles de compromettre l’émergence et la stabilité de ces boucles performatives sont identifiables. Nous contribuons à mieux comprendre ces risques et aux liens qu’ils entretiennent avec les processus de commodification, la conventionnalisation, ou d’incorporation technique. Nous détaillons cette contribution ci-dessous.

59 Un premier risque concerne l’opérationnalisation technique de certains concepts et la maturité des dispositifs recommandés pour les mettre en pratique. Le processus d’engineering est ainsi remis en question. Par exemple, l’idéal d’intelligibilité défendu par le concept d’IA explicable peut se heurter aux difficultés techniques réelles pour expliquer véritablement les algorithmes (Edward, Veale, 2017 ; Arrieta et al., 2020). L’XAI rencontre ainsi des défis techniques pour proposer des outils à la hauteur des attentes liées à l’IA explicable, au point que certains auteurs préconisent d’envisager une approche d’innovation responsable qui assume le caractère « boîte noire » de l’IA à court terme (Grinbaum, 2018). Et même lorsque des outils d’explication existent, leur déploiement nécessite la formation d’un grand nombre d’acteurs, y compris de novices en matière d’IA, voire l’émergence de nouveaux métiers à l’interface entre la conception des IA et les utilisateurs finaux (Kellogg et al., 2020 ; Holzinger et al., 2022 ; Arrieta et al., 2020). L’XAI représente ainsi un défi non seulement technique, mais aussi sociotechnique, car il implique la création d’outils capables d’expliquer adéquatement la machine, ainsi que le développement d’outils ou de protocoles organisationnels favorisant un dialogue entre les nombreuses parties prenantes (Meske et al., 2022).

60 Un deuxième risque découle du défi de définir des normes à la fois suffisamment strictes et claires pour être applicables, tout en restant suffisamment flexibles pour ne pas entraver le développement de l’IA dans la pratique. La Commission européenne, dans la première version de l’IA Act publiée le 21 avril 2021, reconnaît la complexité pour le législateur d’établir une approche réglementaire équilibrée et proportionnée. Par exemple, l’IA transparente repose sur des normes de transparence qui s’appliqueraient aux organisations, mais l’accès aux données et leur intelligibilité une fois transmises posent des problèmes, notamment en raison du secret industriel (Bourcier, De Filippi, 2018 ; Larsson, Heintz, 2020 ; Veale, Borgesius, 2021). D’un autre côté, la faible normativité de certains concepts limite leurs potentialités (Cowls et al., 2021 ; Van Nood, Yeomans, 2021). La malléabilité de concepts tels que l’IA for Social Good ou la Sustainable AI facilite leur adoption par les acteurs, mais peut également réduire leur impact sur la transformation sociale réelle (Murdock, Brevini, 2019 ; Cowls et al., 2021 ; Holzmeyer, 2021). Parallèlement, l’incertitude quant au caractère normatif de ces concepts remet en question le rôle des acteurs chargés de les faire respecter, en l’absence d’une définition claire et définitive du statut de ces normes (Veale, Borgesius, 2021). L’ambiguïté du positionnement de ces acteurs chargés d’assurer la transparence est largement débattue dans la littérature (Jobin et al., 2019 ; Felzmann et al., 2019, 2020 ; Larsson, Heintz, 2020 ; Veale, Borgesius, 2021). Après la publication de la première version de l’IA Act en 2021, de nombreuses interrogations sont apparues quant au rôle des notified bodies chargés de contrôler les mesures de transparence (Veale, Borgesius, 2021 ; Lilkov, 2021 ; Mökander et al., 2022).

61 Enfin, un troisième risque s’observe dans l’enrayement de boucles performatives au niveau du processus de « commodifying », c’est-à-dire de formalisation de biens et services marchands et monétisables à même de concourir à la diffusion du concept et des dispositifs associés, et de contribuer à l’attractivité des métiers qui en découlent (Cabantous, Gond, 2011). Le défi peut porter sur l’absence de dynamique en faveur de la création de ce marché… ou à l’inverse, sur la trop rapide structuration d’un marché et le rapide positionnement d’acteurs qui contreviennent au concept éthique préalablement formulé. Ainsi, la difficulté ne repose pas tant sur l’absence d’acteurs incités à promouvoir le concept, que sur la nature de leur incitation, et leurs propensions, une fois leurs initiatives agrégées, à distordre le concept initial. Un risque concomitant est de voir des acteurs défendre un concept parce que le déploiement des solutions préconisées pourrait leur permettre d’alimenter, en sous-main, leurs bases de données, et ainsi de s’ouvrir de nouveaux marchés. Ainsi, à partir d’une étude sur les initiatives siglées AI4SG (AI for Social Good) dans le domaine de la santé, Holzmeyer (2021, p. 94) souligne que « de nombreuses initiatives AI4SG sont portées par les mêmes entreprises qui incubent les technologies de l’IA […] encapsulent souvent les problèmes sociaux et environnementaux systémiques (…) ».

Performativité et innovation responsable : une grille analytique pour transformer la théorie en pratique

62 Notre étude dresse un constat en demi-teinte. Il souligne d’une part le fort potentiel des principaux concepts listés à faire émerger des boucles performatives afin de traduire la théorie en dispositifs concrets. En revanche, nos résultats mettent en garde envers certains risques pouvant, à moyen terme, enrayer ces boucles.

63 Dans cette optique, une première contribution vise la typologisation de ces difficultés, notamment en les décomposant selon qu’ils portent sur des processus dits d’engineering, de conventionalizing ou de commodification. Cette spécification permet de mieux articuler IA et innovation responsable (IR), en précisant les processus pouvant aider à la définition de solutions permettant d’éviter ou de surmonter ces écueils. Par exemple, l’innovation responsable a développé un ensemble conséquent de méthodes de délibération collective (Buhmann, Fieseler, 2021, 2022). Ces méthodes peuvent être utiles pour surmonter les problématiques de convergence d’audiences rencontrées dans le processus de conventionalizing, notamment les difficultés des promoteurs de l’IA explicable pour concevoir des protocoles organisationnels permettant de faire dialoguer des acteurs aux discours et aux attentes très différentes sur l’IA (Arrieta et al., 2020).

64 Notre étude montre aussi l’intérêt de la théorie de la performativité comme grille analytique pour diagnostiquer l’opérationnalisation de concepts soutenant l’IR notamment au regard de sa modularité en termes d’échelles spatiotemporelles d’analyse. En effet, que ce soit pour l’IA (Brundage, 2016) ou des technologies dérivées comme les véhicules autonomes (Cohen et al., 2018), la littérature en IR insiste de manière croissante sur la nécessité de trouver une ligne médiane entre d’une part un niveau de lecture trop abstrait, qui éluderait la problématique de la mise en œuvre pratique de l’innovation responsable au niveau des acteurs, et d’autre part une vision trop locale sur les dispositifs d’action qui occulterait la dimension systémique de ces technologies et des risques qu’elles engendrent (Galaz et al., 2021). De ce point de vue, en mettant l’accent sur l’alignement entre théorie, réseaux d’acteurs et dispositifs, ce travail offre alors une grille analytique permettant une transversalité d’échelle, englobant des blocages locaux et une vision plus systémique de l’IR. L’autre avantage est de pouvoir étudier l’opérationnalisation des concepts d’IR en se focalisant par exemple sur une région. Dans cette perspective, de plus en plus d’auteurs soulignent la nécessité de penser la multiplicité et les divergences en matière d’IR entre différents écosystèmes d’innovation pour une même technologie (Stahl, 2022). Notre étude suggère alors que la modularité de la grille d’analyse performative, et sa capacité à fournir un diagnostic situé et adapté à l’échelle d’analyse souhaitée, est un vrai atout pour conserver une unicité de méthode et une comparabilité des diagnostics entre segments d’analyse.

L’innovation responsable face à une multiplication des concepts éthiques

65 Une deuxième contribution consiste à examiner comment l’IR peut influencer le développement d’innovations émergentes dans un contexte polycentrique, où différents acteurs sont impliqués avec des rythmes et des ambitions variées, voire opposées. Une partie des travaux sur l’IR suppose que le développement technologique est effectué par un nombre limité d’acteurs, coordonnés ou non, au sein d’écosystèmes d’innovation identifiables (Brundage, 2016 ; Stahl, 2022). Même si d’autres technologies ont aussi été identifiées comme polycentriques, le niveau d’éclatement du processus de développement de l’IA oblige clairement à revoir la théorie pour rendre compte d’une IR impulsée à plusieurs niveaux, à plusieurs rythmes, par et au sein de multiples écosystèmes d’innovation (Stahl, 2022). Or, un tel niveau de dispersion des initiatives pour développer ces technologies induit aussi une dispersion des initiatives pour les améliorer. C’est particulièrement le cas de l’IA : alors que la littérature soulignait la multiplication des concepts pour rendre l’IA plus éthique (Mittelstadt et al., 2016 ; Mittelstadt, 2019 ; Santoni de Sio, Mecacci, 2021), notre étude montre aussi que ces concepts sont appuyés par des réseaux d’acteurs divers, et promeuvent des dispositifs différents. Or, cette dispersion questionne : elle multiplie les regards, donc est plus à même de respecter la diversité des parties prenantes, mais limite aussi le champ d’action, alors que l’innovation responsable appelle initialement une portée plus globale de l’action. Comme le regrette Brundage (2016, p. 545), « On a beaucoup écrit sur les dimensions sociétales de l’IA, mais ces ouvrages ont tendance à se concentrer sur des sous-thèmes discrets de questions sociales soulevées par l’IA, un à la fois, et à s’orienter vers des risques ou des opportunités découlant de l’IA, plutôt que sur la nécessité d’une approche systémique pour renforcer les capacités dans l’ensemble de l’écosystème émergent de la science et de l’innovation ».

66 Nos résultats reformulent le questionnement soulevé notamment par Brundage (2016) et Stahl (2022) sur la multiplication des initiatives pour une IA plus éthique en mettant en lumière le défi d’articuler efficacement les boucles performatives des concepts. Dans une perspective d’innovation responsable, la question qui émerge est : faut-il aider le renforcement de chaque concept séparément, en facilitant l’émergence de boucles performatives associées, au risque de les voir s’autonomiser, ou au contraire accélérer l’intégration des boucles performatives entre elles ?

67 En effet, si on applique la littérature sur la performativité (MacKenzie, Millo, 2003 ; MacKenzie et al., 2007 ; Cabantous, Gond, 2011), l’émergence de boucles performatives indépendantes des autres concepts devraient le plus probablement avoir tendance à renforcer la triade théorie/acteurs/dispositifs. Les réseaux d’acteurs en charge du déploiement auraient intérêt à circonscrire leur juridiction de manière à garder le contrôle sur le déploiement des dispositifs préconisés. Autrement dit : ces concepts seraient en quelque sorte autonomes, générant un marché et des actions relativement indépendamment des autres concepts. Le risque est alors double : d’une part, de voir s’accentuer le constat de Brundage (2016) sur un morcellement de la question éthique de l’IA qui échoue à infléchir durablement et globalement le développement de cette technologie. Dans cette configuration, la multiplication des concepts et des initiatives éthiques serait tendanciellement contraire à la démarche d’innovation responsable. Le second risque est de voir émerger une forme d’ethic shopping. L’ethic shopping pour l’IA désigne une forme de cynisme institutionnalisé qui pousserait les acteurs à s’engager envers les concepts éthiques qui leur seraient les moins contraignants tout en délaissant les autres (Wagner, 2018 ; Bietti, 2021). Selon cette perspective, par exemple, les concepteurs d’IA pour la justice prédictive (Brayne, Christin, 2021), dont l’un des enjeux est d’assurer l’absence de biais (notamment envers les origines socio-ethniques supposés, Martin, 2019) préféreraient s’engager envers des concepts d’IA durable, dont les enjeux sont complètement orthogonaux aux réelles difficultés éthiques générées par cette technologie. Inversement, des concepteurs d’IA les plus polluantes s’engageraient inversement en faveur d’IA explicable et transparente, etc. Cowls et al. (2021) et Holzmeyer (2021) mettent ainsi en garde contre une forme de parasitage de certains concepts par des acteurs aux motivations éthiques douteuses, qui circonscrivent le concept pour mieux l’opérationnaliser à leur fin.

68 À l’inverse, intégrer les concepts entre eux fait aussi courir d’autres risques. A priori, la multiplication des concepts peut apparaitre comme une bonne chose du point de vue de l’IR, car elle permet d’appréhender les multiples facettes de la technologie, ce qui est plus difficile avec un seul concept centralisé forcément réducteur (Brundage, 2016). Dans le cas de l’IA, un certain nombre de concepts semble se compléter. Par exemple, l’IA digne de confiance, l’IA transparente et l’IA explicable tendent à se renforcer mutuellement, de telle sorte que ces trois concepts se retrouvent souvent mentionnés ensemble, bien que priorisés différemment en fonction des acteurs qui les promeuvent (Floridi et al., 2018 ; Jobin et al., 2019 ; Hagendorff, 2020). En particulier, le développement de l’IA explicable est cité comme pouvant fortement contribuer à rendre l’IA transparente plus facilement opérationnelle, en lui fournissant des outils de contrôle de la machine (Arrieta et al., 2020). De manière similaire, l’IA explicable et l’IA transparente sont listées comme des facteurs clés pour l’émergence d’une IA digne de confiance (Floridi et al., 2018). De même, les concepts d’IA durable et d’IA au service du développement durable s’inscrivent aussi à l’agenda de l’AI for Social Good (Wamba et al., 2021). Mais en pratique, il existe une forme de compétition entre ces concepts. Si l’IA durable, l’IA au service du développement durable, et l’IA pour le bien commun semblent porter des objectifs connexes, dans les faits, leurs préconisations en termes d’orientation des investissements (privés, gouvernementaux) et d’élaboration de dispositifs fiscaux éventuellement associés traduisent des priorités économiques qui les mettent en compétition (Cowls, 2021 ; Foffano et al., 2022).

69 Ces concepts convergent donc, mais jusqu’à un certain point ; et l’on peut même imaginer un découplage à moyen terme. En privilégiant certains leviers et certains dispositifs d’action, les pouvoirs publics, les législateurs et les régulateurs, pourraient faire pencher la balance et modifier les équilibres entre ces concepts.