1 Les organisations s’appuient de plus en plus sur les algorithmes et l’intelligence artificielle pour la gestion des opérations et la prise de décisions. Les algorithmes sont considérés comme des «procédures codées qui transforment des données saisies en une production souhaitée, sur la base de calculs spécifiques» (Gillespie, 2014). L’intelligence artificielle (IA) fait référence aux algorithmes des systèmes informatisés qui imitent les fonctions associées aux attributs humains tels que la vision, la parole, le traitement du langage, l’apprentissage et la résolution de problèmes. L’approche communicationnelle de l’IA et des algorithmes met généralement l’accent sur la façon dont ces technologies peuvent prendre en charge certains aspects opérationnels comme les rapports automatisés, les robots de discussion ou encore l’analyse des big data. Notre recherche ne porte pas sur ces aspects mais elle vise à explorer les changements révolutionnaires que ces technologies apportent aux organisations dans leur ensemble, l’impact sur les relations entre l’organisation et les parties prenantes, et, par conséquent, l’émergence de nouveaux défis et de nouvelles opportunités pour la communication stratégique et organisationnelle.

L’émergence des algorithmes et de l’IA : un sujet de préoccupation publique

2 Au cours des deux dernières décennies, la prise de décision algorithmique a été popularisée, par exemple, par les recommandations de produits d’Amazon, les résultats de recherche de Google et l’algorithme de chronologie de Facebook. Initialement, le débat sur les algorithmes portait principalement sur des décisions « douces », comme la question de savoir comment les algorithmes de recommandation pourraient modifier le marché du livre ou comment une «bulle de filtre» pourrait altérer le discours public sur le temps long. Cependant, au cours des dix dernières années, l’impact des décisions algorithmiques dites « douces » a été mis en question. Les exemples les plus marquants sont le vote du Brexit ou les élections présidentielles américaines de 2016, qui ont suscité de vives inquiétudes dans l’opinion publique quant au rôle joué par les algorithmes de chronologie de Facebook dans la préférence pour les positions politiques extrêmes, ce qui a donné lieu à plusieurs auditions parlementaires avec les membres du conseil d’administration de Facebook. Alors que les algorithmes et la prolifération des décisions prises par les machines remodèlent rapidement d’innombrables sphères de la vie, la prise de décision algorithmique n’est plus seulement un sujet réservé aux programmeurs et aux spécialistes de l’IA.

3 Il est désormais clair qu’en dépit de leurs capacités et de leur sophistication, les algorithmes et les systèmes automatisés d’IA ne sont pas infaillibles et peuvent avoir des conséquences néfastes, telles que le renforcement des inégalités sociétales, la compromission de la vie privée des consommateurs, l’exercice d’une influence contraire à l’éthique sur les marchés financiers ou encore l’influence sur les résultats des élections. En conséquence, nous constatons une appréhension croissante du public à l’égard de ces technologies et de leurs implications sociétales, associée à une demande de transparence accrue par rapport au développement, au fonctionnement et à l’impact de ces technologies sur leur domaine d’application. Ce malaise du public à l’égard des algorithmes ne concerne pas que les développeurs d’IA, il implique aussi le nombre croissant d’organisations qui les déploient. En effet, comme l’usage des systèmes algorithmiques s’intensifie, la perception qu’a le public des organisations est de plus en plus influencée par ces systèmes. En d’autres mots, ces systèmes influencent et façonnent les expériences des parties prenantes avec les organisations qui les utilisent. Par conséquent, les communicateurs – en tant que gardiens des relations entre l’organisation et les parties prenantes – doivent assumer la responsabilité de gérer les problèmes de réputation liés à l’IA. Pour s’en acquitter efficacement, ils doivent non seulement comprendre les subtilités des algorithmes, mais aussi être à l’écoute des nouvelles préoccupations du public à leur sujet (Buhmann & Gregory, 2023 ; Buhmann & White, 2022).

Comprendre les préoccupations liées à l’IA

4 Les algorithmes et l’IA peuvent susciter de multiples inquiétudes chez les parties prenantes. Nous distinguons trois grands types de préoccupations (Buhmann & Fieseler, 2020 ; Buhmann & Fieseler, 2023) : 1) les préoccupations liées aux preuves, 2) les préoccupations liées aux résultats et 3) les préoccupations épistémiques.

5 1. Les préoccupations relatives aux preuves peuvent se manifester à trois niveaux. Premièrement, les algorithmes de prise de décision peuvent susciter des inquiétudes parce qu’ils peuvent fournir des preuves non concluantes : bien que leurs calculs permettent de faire les meilleures suppositions sur la base de probabilités, ils ne peuvent jamais produire de résultats certains. Deuxièmement, ces algorithmes peuvent donner des résultats inexplicables, tout simplement parce que les connaissances sur les données d’entrée et leur utilisation sont limitées. Enfin, ils peuvent fournir des preuves erronées lorsque leurs conclusions reposent sur des données d’entrée inadéquates. La qualité des résultats dépend de la qualité des données d’entrée : «garbage in, garbage out».

6 2. En outre, les algorithmes posent des problèmes de résultats car ils ne sont pas parfaits. Ils peuvent produire des résultats faussés, biaisés ou incorrects. Ainsi, il s’est avéré qu’ils étaient discriminatoires à l’égard de certains groupes de personnes (comme c’est le cas des algorithmes de profilage). Ces problèmes de résultats sont flagrants dans le cas des contenus automatisés : de nombreuses agences de presse utilisent des robots d’information pour produire, par exemple, des informations financières. Les données boursières sont automatiquement traduites en texte, sans qu’il soit nécessaire de les faire contrôler par des rédacteurs humains. Cependant, toute erreur dans ces résultats soulèverait d’énormes problèmes pour les transactions connexes et la réputation de l’agence de presse concernée.

Tableau 1. Les trois préoccupations fondamentales liées aux algorithmes

Liées aux preuves	Liées aux résultats	Épistémiques
Les algorithmes peuvent comporter des éléments de preuve non concluants, inexplicables et/ou erronés.	Les algorithmes peuvent produire des résultats partiaux, biaisés ou factuellement incorrects.	Les systèmes décisionnels complexes basés sur des algorithmes posent des problèmes fondamentaux de compréhension.

Tableau 1. Les trois préoccupations fondamentales liées aux algorithmes

7 3. Si les préoccupations relatives aux preuves et aux résultats sont communes aux systèmes algorithmiques complexes de prise de décision, le troisième type de préoccupation est ce qui les rend vraiment uniques : les préoccupations épistémiques font référence à la faible « traçabilité » (Mittelstadt et al., 2016) et « explicabilité » (Floridi et al., 2018) qui découlent des capacités d’auto-apprentissage des algorithmes et de l’autonomie des systèmes basés sur l’IA qui résulte de ces capacités. Cela explique que le développement, l’amélioration (apprentissage) et les implications de l’IA soient difficiles à comprendre. Non seulement parce que les organisations peuvent les garder secrètes afin de protéger leur image ou leur avantage concurrentiel, mais aussi parce que la fluidité de ces systèmes rend leur compréhension excessivement difficile et, dans certains cas, peut empêcher la détection des problèmes et l’identification des causes, même pour les experts. En effet, les algorithmes d’auto-apprentissage sont un ensemble de règles non pas définies par des programmeurs, mais produites algorithmiquement : il s’agit d’algorithmes qui programment de nouveaux algorithmes. Pour comprendre le développement, l’amélioration et les implications de ces systèmes, il faut comprendre le problème qu’ils aident à résoudre, et non se contenter d’étudier un mécanisme et son dispositif. Cela vaut tout particulièrement pour les algorithmes d’apprentissage automatique qui sont en grande partie façonnés par les données d’apprentissage qu’ils utilisent. Les défis épistémiques ne résultent donc pas seulement de la complexité technique, mais aussi du fait que, dans la pratique, ces technologies ne sont pas simplement réductibles à leurs parties.

L’intérêt communicationnel des « préoccupations épistémiques »

8 Nous identifions deux perspectives qui soulignent l’importance communicationnelle des préoccupations épistémiques liées à l’IA. Premièrement, d’un point de vue organisationnel, nous constatons que la prolifération de l’IA et des algorithmes crée un nouvel ensemble de préoccupations liées à la gouvernance qui requiert des réponses et des solutions en matière de communication ; il s’agit en particulier des « préoccupations épistémiques » qui soulèvent des défis pratiques quant à la meilleure façon de gérer des objectifs organisationnels fondamentaux tels que la réputation et la responsabilité lorsque les organisations ne cessent d’introduire des systèmes qui ressemblent à des « boîtes noires » et sont perçus comme des technologies peu transparentes, voire inquiétantes (Buhmann et al., 2020). Deuxièmement, d’un point de vue sociétal, nous constatons que l’ « IA éthique » invite les organisations qui développent et utilisent de tels systèmes à investir dans la communication et à se concentrer sur l’engagement des parties prenantes avec les acteurs des secteurs public, privé et de la société civile afin de garantir l’obligation de justification et la responsabilité en ce qui concerne la manière dont l’IA est appliquée et se développe au fil du temps (Buhmann & Fieseler, 2021 ; Cath et al., 2018 ; Veale & Binns, 2017 ; Rahwan, 2018).

Vers une communication délibérative pour une IA responsable et éthique

9 Les arguments ci-dessus mettent en évidence les défis classiques que les communicants contribuent à résoudre pour leur organisation : les questions d’intérêt public doivent être abordées dans le cadre d’échanges avec les parties prenantes et les organisations doivent justifier leurs actions afin de préserver leur légitimité. Cependant, et c’est là que réside le principal défi : pour les algorithmes opaques et les systèmes d’IA, il n’existe pas toujours de moyen direct de « rendre des comptes » à un moment donné. Même les programmeurs qui ont développé ces systèmes peinent à expliquer leurs actions et leurs décisions. Lorsque les pratiques algorithmiques peu transparentes et fluides des organisations deviennent l’objet de préoccupations publiques, ces organisations ne peuvent plus se contenter de fournir des comptes. Elles doivent participer à un processus discursif avec leurs parties prenantes afin de détecter et d’évaluer les lacunes potentielles de l’IA car les développeurs et les utilisateurs d’algorithmes ne se trouvent pas nécessairement dans une position privilégiée pour l’évaluation de ces questions. En d’autres termes, si aucune partie ne peut fournir de comptes, l’accent doit être mis sur un processus de communication inclusif permettant la réalisation d’une évaluation continue et progressive du développement, du fonctionnement et des conséquences des algorithmes. Dans nos recherches récentes sur la délibération et l’engagement des parties prenantes dans le contexte de l’IA (Buhmann et al., 2020, Buhmann & Fieseler 2023), nous proposons un cadre normatif de trois principes communicationnels clés pour gérer la responsabilité lorsque les relations avec les parties prenantes se trouvent hypothéquées par des préoccupations épistémiques liées à l’IA.

Premier principe de communication‪ ‪: Faciliter l’accès à un débat continu

10 Tous ceux qui subissent potentiellement les effets négatifs des processus et des décisions des systèmes algorithmiques devraient avoir un accès égal à un forum et à un processus de communication visant à identifier les problèmes potentiels et à faciliter le débat.

11 En raison de l’évolution dynamique des systèmes algorithmiques complexes, la promotion de l’accès au débat doit être complétée par des plates-formes qui permettent une continuité appropriée (et pas seulement un débat à des moments définis). Ainsi, des processus de certification rigides ne permettraient pas de prendre en compte la vitesse à laquelle la plupart des systèmes algorithmiques complexes évoluent. Des suggestions récentes d’audits coopératifs et procéduraux des algorithmes (Mittelstadt, 2016) abordent cet aspect de la continuité. Il est également envisagé pour les dépôts de code publics qui utilisent des ensembles de données de référence pour auditer les algorithmes dynamiques d’apprentissage automatique. Ceci indique que les forums communicationnels pour la responsabilité algorithmique sont susceptibles de devenir un domaine important de contact et d’interaction entre les organisations et leurs environnements, émergeant ainsi comme un nouveau et important domaine de délibération et de communication appliquées.

Deuxième principe de communication‪ ‪: Faciliter la compréhension

12 Tous ceux qui participent au débat permanent doivent non seulement disposer d’informations complètes sur les questions en jeu, mais aussi être en mesure de comprendre les différentes propositions de solution et les incidences de ces propositions.

13 Ce principe renvoie au défi fondamental que représente la prise en compte d’algorithmes complexes : la simple transmission d’informations ne garantit pas une compréhension sans faille. Du point de vue de la gestion de la réputation, cela peut constituer un défi inhérent et une menace probable pour la réputation des organisations qui utilisent davantage l’IA. Toutefois, il existe des moyens d’améliorer la compréhension du public en ce qui concerne les algorithmes et l’IA, par exemple grâce à des bases de données expérientielles qui permettent de comparer les algorithmes ou les méthodes de simplification des modèles d’apprentissage automatique en traduisant visuellement leurs actions pour l’homme. Un autre moyen d’améliorer l’accès à des informations intelligibles est la rétro-ingénierie, c’est-à-dire les approches appliquées pour rendre un système transparent sans en divulguer les rouages. Par l’observation des entrées et des sorties d’un système donné, un modèle est développé pour mieux expliquer le fonctionnement de ce système. Les méthodes de rétro-ingénierie des algorithmes font déjà partie de la pratique journalistique et deviendront de plus en plus sophistiquées. En outre, comme alternative à la rétro-ingénierie d’un système dans son ensemble, il existe des approches permettant de générer des informations en se concentrant sur des scénarios d’utilisation réels, à savoir les audits d’algorithmes. Ceux-ci proposent un ensemble sophistiqué de méthodes qui simulent ou suivent les utilisateurs réels d’algorithmes afin de déterminer le degré de discrimination des algorithmes dans ces cas d’utilisation concrets.

Troisième principe de communication : Inclusion de tous les arguments

14 Les participants doivent avoir la possibilité d’examiner une question sous tous les angles pertinents. Toutes les parties potentiellement concernées doivent avoir la possibilité d’exprimer leurs préoccupations.

15 Outre l’inclusion de parties prenantes informées (principes 1 et 2), l’inclusion de tous les arguments est un principe clé pour permettre une communication visant à protéger la réputation et à trouver des solutions responsables pour les systèmes algorithmiques. Il s’agit d’un aspect essentiel, notamment en raison de la capacité souvent limitée des personnes à comprendre les aspects techniques des algorithmes et donc de leurs moyens réduits de formuler et de présenter leurs préoccupations. Il s’agit d’un double problème, car les préjudices algorithmiques découlent souvent de la manière dont les groupes sont classés ou stigmatisés. Ces groupes sont non seulement profanes en matière d’algorithmes, mais n’ont souvent pas conscience d’être désavantagés par ces derniers. Pour prendre en compte tous les arguments, il est essentiel d’inclure les voix de ceux qui peuvent inconsciemment subir les conséquences négatives des systèmes algorithmiques. La sensibilisation à l’opacité des algorithmes est plus fondamentale que la mise à disposition d’informations sur ces derniers. Ce point est bien sûr également important, car si les parties prenantes se rendent compte que les propriétaires d’algorithmes n’ont pas fait d’efforts pour révéler les « inconnues » critiques concernant leurs technologies, cela peut avoir des conséquences considérables sur leur réputation.

Conclusion

16 Les algorithmes et l’intelligence artificielle ne sont plus un sujet d’intérêt réservé aux activistes de l’internet, aux programmeurs ou aux régulateurs. Ils constituent un enjeu public majeur, et leur développement, leur application et leur impact peuvent soulever une pléthore de préoccupations publiques. En tête figurent les préoccupations épistémiques qui rendent les systèmes opaques et incompréhensibles pour de nombreuses parties prenantes, parfois même pour les ingénieurs en données et les développeurs d’IA qui les créent. Ces préoccupations épistémiques deviennent un problème critique pour les organisations : lorsque les parties prenantes concernées demandent des informations et de la transparence, les organisations peuvent avoir du mal à fournir des réponses à la hauteur des enjeux. C’est pourquoi la responsabilité algorithmique doit être gérée par les communicants grâce à des principes appliqués de communication inclusive. Ceci, à son tour, situe le communicant au centre des tensions majeures entre l’innovation en matière d’IA, la stratégie organisationnelle et les préoccupations du public à l’égard de l’IA. Et cela soulève à son tour des questions importantes concernant le rôle exact que la communication peut et doit jouer pour contribuer à l’ IA responsable et éthique de demain (Buhmann & Fieseler, 2023).