1.1 – La possibilité d’un monde calculable

5La numérisation des contenus, comme d’autres technologies en leur temps, permet de renouveler très largement le stockage et la transmission des informations (Gleick, 2015) et donc le rapport à la mémoire [4]. Mais l’aspect sans doute le plus novateur est l’automatisation du calcul sur ces données souligné par (Bachimont, 2014) :

« Le numérique apporte en outre la calculabilité des contenus et la capacité de les transformer […]. Or, contrairement aux supports anciens, les traitements sur le contenu peuvent être entièrement délégués à la machine sans intervention humaine et donc sans médiation interprétative »

1.2 – L’automatisation en marche et quelques exemples d’effets

6Avec quelques exemples tirés du monde des transports, lieu par excellence de l’emprise du monde physique, on mesure ici l’emprise du numérique et de l’automatisation des décisions.

2.1 – La forme des décisions et gouvernance par la technique

16Il existe aujourd’hui différentes manières de prendre et de calculer des décisions, c’est un enjeu majeur puisqu’aujourd’hui de plus en plus de gouvernance s’exerce par la technique.

2.1.1 – Forme des décisions

17Différents modes de raisonnements et de calcul (Dowek, 2011) peuvent être mis à contribution pour prendre des décisions : induction, déduction, abduction et transduction comme indiqué à la figure 1.

Fig. 1

Schéma des principes de raisonnements

Schéma des principes de raisonnements

18Pour aboutir à un résultat sur du particulier (et donc prendre une décision dans un cas précis), il y a deux manières de raisonner :

1. Approche inductive/déductive : un universel (modèle) est préalablement établi, puis le particulier en est déduit.
2. Approche transductive : il s’agit là d’un fonctionnement par analogie ou différence et non par logique.

19La première approche nécessite d’établir un universel, un modèle de rationalité, qui simplifie nécessairement la réalité. Le choix d’un modèle ou d’un autre n’est pas anodin car il porte alors la vision du monde. La seconde approche n’est quant à elle pas rigoureuse mais se développe de plus en plus du fait de la simplicité de sa mise en œuvre, c’est le principe utilisé par les moteurs de recommandations.

20Les travaux d’analyse du Web de Dominique Cardon illustrent comment le choix d’une approche porte une vision du monde (Cardon, 2015). Il identifie ainsi de façon métaphorique quatre familles d’algorithmes (reprises à la figure 2) en fonction de la place qu’occupe le calculateur par rapport au monde.

21Tandis que l’affluence (« à côté ») valorise la popularité, l’autorité (« au–dessus »), valorise quant à elle la notoriété, l’affinité (« dans ») la réputation et la prédictivité (« en-dessous ») l’efficacité.

Fig. 2

Familles d’algorithmes d’analyse du Web d’après (Cardon, 2015)

Principe sur lequel repose le calculateur affluence autorité affinité réputation Position métaphorique « à côté » « au-dessus » « dans » « en-dessous » Métrique utilisée vue lien like trace Notion valorisée popularité notoriété réputation efficacité Exemples top des sites les plus fréquentés, vidéos les plus regardées algorithme PageRank de Google Facebook moteur de recommandation Amazon, NetFlix

Familles d’algorithmes d’analyse du Web d’après (Cardon, 2015)

2.2 – Enjeux de l’automatisation des décisions

26À partir des réflexions et des exemples qui viennent d’être exposés, nous sommes en mesure d’identifier plusieurs enjeux de l’automatisation des décisions.

2.3 – Automatisation des décisions et design

32Dans les paragraphes précédents, on a vu émerger deux questions distinctes :

1. Certaines décisions contiennent une part rationnelle, calculable et donc automatisable. Mais quelles (parts de) décisions choisit-on de déléguer aux machines ?
2. Pour les décisions déléguées aux machines : plusieurs approches sont possibles pour automatiser les décisions et les choix ne sont pas sans impact sur la marche du monde et des comportements. Dans ce contexte, comment former les décisions automatiques ?

33On voit donc qu’un travail est nécessaire à la fois dans le champ de la conception de l’automatisation des décisions mais également sur la manière dont cela sera reçu, les deux questions étant bien évidemment liées. A ce titre, le design – à travers le projet, acte de design concernant à la fois la conception et la réception, comme le rappelle la figure 3 – est bien concerné. Pour autant, les questions et les enjeux sous-jacents à l’automatisation dépassent parfois largement le champ du design : politiques, régulation ou normalisation, judiciaires, philosophiques, éthiques, psychologiques, sociaux, etc. De nombreuses disciplines sont ainsi convoquées au chevet de la révolution numérique, autant d’éléments travaillés en amont qui pourront largement contribuer à en « faire le design » (Vial, 2013).

Fig. 3

Modèle de l’acte de design inspiré d’A. Findeli et augmenté par S. Vial

Modèle de l’acte de design inspiré d’A. Findeli et augmenté par S. Vial

34Par ailleurs, si un travail certain a été mené par l’homme sur l’επιστημη (connaissances scientifiques) et sur la τεχυη (action efficace), au point de pouvoir intégrer maintenant ces dimensions au sein de machines, il reste beaucoup à travailler sur la ϕρονησιζ (sagesse pratique). C’est, il me semble, le sens du changement de paradigme proposé par Klaus Krippendorff dans son ouvrage The Semantic Turn (Krippendorff, 2005), ici cité par (Vial, 2014) :

35

« Concevoir des artefacts pour faire sens, produire des significations et avoir une portée sociale, c’est-à-dire revenir aux significations perdues de l’origine du mot “design”, implique un changement radical pour la pratique du design. Il s’agit d’un tournant vers des considérations de sens – un tournant sémantique – »

36(Vial, 2014) commente :

37

« Pour Krippendorff, il s’agit du passage du “design centré sur la technologie” (technology centered design) de l’ère industrielle au “design centré sur l’humain” (human centered design) de l’ère post-industrielle. »

38Ainsi, à l’ère de l’apogée de la technologie où le « numérique est milieu » (Petit, 2015), qui rend possible de plus en plus de délégation aux machines, c’est bien l’homme et le sens que le design doit considérer pour travailler l’« habitabilité du monde » (Findeli, 2010). Ici, c’est tant en œuvrant pour le bien commun et l’intérêt général qu’en mobilisant la présence humaine dans ses relations avec les algorithmes que le design peut utilement contribuer à « dévoiler la puissance technique [du numérique] jusqu’à nous » (Huygue, 2014).

3.1 – L’empathie des systèmes

40Il est étonnant que les systèmes automatiques actuels ne soient pas plus empathiques : depuis l’automatisation de la ligne 1 du métro parisien, nulle information sur le caractère automatique de la décision de fermeture des portes [15], décision qui ne tient absolument pas compte des voyageurs susceptibles d’être en train de monter à bord (alors que le conducteur humain attentif, retiendra les portes ouvertes quelques précieuses secondes supplémentaires).

41L’empathie, thème de la Biennale Internationale de Design de Saint-Etienne 2013, est un enjeu majeur pour le développement de systèmes à décisions automatiques, en particulier pour l’acceptation des robots comme le souligne Serge Tisseron dans Le jour où mon robot m’aimera (Tisseron, 2015). Pour Dominique Sciamma, Vivre avec les robots, [c’est] designer la relation (Sciamma, 2012).

3.2 – L’intelligibilité et la jouabilité des systèmes

42Un enjeu essentiel des algorithmes de décision automatique est leur réception. Kevin Slavin [16] déclarait à leur propos : « we can write it, but we can’t read it » (Slavin, 2016), Bernard Stiegler lors du séminaire (Doueihi et Marchandise, 2016) déclare quant à lui :

43

« Si je vois une chaise qui me paraît peu solide, je ne m’assois dessus qu’avec prudence. Quelle prudence pour utiliser des algorithmes ? On n’a pas d’intuition directe, la machine nous trompe. »

44Si les algorithmes sont faits d’une matière numérique immatérielle, dénuée de sens et invisible (Crozat et al., 2011), comment alors en travailler l’affordance (Norman, 2013) ?

45Certains, comme Gérard Berry [17] sont partisans que « tous apprennent à coder » (Huet, 2014). D’autres proposent de faire de la vulgarisation pour rendre le fonctionnement des algorithmes compréhensibles par le plus grand nombre (Cardon, 2015).

46La proposition du projet en cours NosSystèmes de la FING [18] (Guillaud, 2016) me paraît beaucoup plus intéressante. Ce projet vise à « rendre la complexité intelligible », notamment en établissant des « méthodes de conception de systèmes intelligibles “by design” » en exploitant notamment la jouabilité [19] de la matière numérique.

47Dans cet esprit, on peut mentionner le projet immersion [20] qui permet une expérience « émotionnelle » de navigation dans l’historique de sa boite Gmail, révélant ainsi à l’utilisateur la puissance de son profil de vie numérique.

3.3 – Libérer l’imprévu et l’imagination

48Si l’automatisation nie par nature toute forme d’imagination, est-il souhaitable comme le propose (Masure, 2014) de ménager une partie d’imprévu dans les programmes ? Comme le souligne (Simondon, 1958) :

49

« Le véritable perfectionnement des machines, celui dont on peut dire qu’il élève le degré de technicité, correspond non pas à un accroissement de l’automatisme, mais au contraire au fait que le fonctionnement d’une machine recèle une certaine marge d’indétermination. »

50C’est un enjeu également essentiel pour (Huyghe, 2014) afin que les systèmes suscitent des conduites [21] et non des comportements [22]. Cela pourrait permettre ainsi d’échapper dans une certaine mesure à la bulle de ses affinités et à la froide optimisation des trajets réalisés par nos assistants GPS et véhicules autonomes (Cardon, 2015).

51Marie-Paule Cani, titulaire en 2014-2015 de la chaire annuelle d’informatique et sciences numériques du Collège de France en partenariat avec l’INRIA [23], lance lors de sa leçon inaugurale :

52

« Le numérique ne permet-il pas de libérer notre imaginaire ? Le numérique recèle une formidable capacité de mémoire et de calcul mais pas d’imagination alors que nous humains, nous avons peu de mémoire et de capacité de calcul, mais nous avons le désir de comprendre le monde et un imaginaire riche (…) Avec les nouveaux outils, l’humain est augmenté de nouvelles capacités pour libérer et partager sa propre vision. Pour devenir plus responsable et coopératif »

53Si le design peut contribuer à créer la surprise et à libérer l’imagination des utilisateurs des systèmes automatiques de décision, il reste à savoir dans quelle mesure il peut contribuer à libérer la propre imagination des designers à l’œuvre.

54L’enjeu de la forme des décisions algorithmique est donc bien la complémentarité/suppléance réciproque entre humains et systèmes numériques plutôt que le remplacement des uns par les autres. Cette forme innovante de subsidiarité reste à inventer dans les différentes dimensions de l’homme et de la machine dont nous avons effleuré ici quelques exemples : matérialité, émotions, intelligibilité, imagination, etc. Reste à développer des travaux concrets (recherche-projet) qui permettront de dévoiler la contribution majeure que le design pourrait apporter à ce domaine aujourd’hui très préempté par des scientifiques.