1Lacan a souvent répété que cela aiderait les psychanalystes de faire un peu de mathématiques [1]. Il nous décrit le sujet mathématicien comme fluide, léger, nulle part accroché ou coincé [2]. Mais en même temps, il considère que cette formation mathématique souhaitable est sans issue, à cause de la question d’âge [3] !

2Pourtant, Lacan lui-même est un contre-exemple : dès l’après-guerre, il témoigne de sa pratique des récréations mathématiques et jeux logiques, ainsi que de son aisance à saisir l’essentiel des objets mathématiques dont il veut faire usage. Et cet usage, des plus divers, ne cessera tout au long de son enseignement.

3Le 9 février 1972, il fait à son Séminaire le récit de sa rencontre avec les nœuds borroméens [4], rencontre qui va l’amener à la pratique des nœuds durant les cinq années suivantes, où il caressera même l’idée de découvrir un « nœud de Lacan ». En tout cas, son intérêt pour cette théorie alors en sommeil n’a pas été sans contribuer à relancer la recherche auprès des spécialistes.

4Les exercices et jeux mathématiques sont-ils devenus, avec les nouveaux repères contemporains, des symptômes de fuite devant les réalités et les misères du monde, devant la globalisation et la mondialisation aussi angoissantes que les replis communautaristes ? La déferlante Sudoku, événement mondial, est intéressante à cet égard. Comme pour la théorie des nœuds à l’époque de Lacan, sa théorie échappe encore aux spécialistes : on ne sait repérer des critères pour leurs niveaux de difficultés, ni le nombre minimum de chiffres nécessaire pour former une grille résoluble. Si pour les neurosciences cette activité représente une très bonne gymnastique neuronale, si pour une morale psychologisante elle équivaut à une perte de temps futile à corriger et rectifier, au pire à une addiction, les psychanalystes peuvent y saisir autre chose, un lieu où enfin le sujet peut souffler, face à une grille de non-sens, de réel enthousiasmant ou énervant, que l’on peut prendre ou laisser tomber, s’y accrocher ou abandonner. Mais c’est un bout de réel neutre, hors sens, élément d’un ensemble qui se démultiplie à l’infini (plus de cinq milliards de possibilités). Un lieu de pause/pose pour le parlêtre par rapport à la jouissance du sens ?

5Cette légèreté propre au sujet mathématicien, légèreté par rapport au sens et à la signification, nul sans doute plus que Leibniz ne l’a aussi bien illustrée. Historiquement, il est le premier à s’être saisi de ce que lui-même appelait l’Art combinatoire. Sans états d’âme sur la signification des résultats, il a joué sur les possibilités de substitutions de lettres comme un Descartes n’aurait jamais songé à le faire, pour qui l’introduction des petites lettres apportait simplement une économie d’écriture mais ne pouvait avoir de valeur heuristique. C’est un des mérites du livre de Michel Serfati [5] de nous en faire la démonstration, nous y reviendrons, après avoir envisagé ce que Leibniz a été pour Lacan effectivement.

6La question posée à propos de la pratique du Sudoku rebondit sur celle des mathématiques elles-mêmes : le sujet mathématicien est-il détaché de la jouissance du sens ? Nous essaierons, à l’issue de ce parcours, d’éclairer cette question qui est un enjeu de la théorie lacanienne et de la psychanalyse en intension.

Leibniz pour Lacan

7Les références de Lacan à Leibniz sont très peu nombreuses, c’est pourquoi nous allons pouvoir les évoquer de façon presque exhaustive. Totalement absent des Écrits, Leibniz n’apparaît que dans Le Séminaire, livre xi [6] et puis dans Le Séminaire, livre xix [7]. Nous le retrouvons donc dans les textes des Autres écrits qui sont contemporains de ces deux Séminaires.

8Dans ses « Réponses à des étudiants de philosophie » (1966), Lacan ironise sur les « consciences philosophiques », série de bonnes consciences qui va jusqu’à Sartre, ce « style de bon apôtre dont il s’est illustré spécialement dans le discours de Leibniz » [8]. Ce dernier est donc là comme le prototype du philosophe qui verrouille la vérité et sature la béance du sujet, béance rouverte avec Freud quand il rend la parole à la vérité. Cependant la monade leibnizienne va attirer l’attention de Lacan, d’abord à cause de sa dialectique inversée par rapport au Tout, puis en tant qu’une représentante valable de l’Un, au moins au niveau de la terminologie qui lui permettra d’introduire quelques néologismes importants concernant le Un (nade, hénade).

9Dans Le Séminaire xi, la monade, en tant que centre de connaissance non isolé du reste du cosmos, a le mérite de s’opposer à l’isolat psychologique qui présente un concept du moi où le sujet est en détresse dans son rapport à la réalité. La monade au contraire est en harmonie avec le monde à connaître. La psychanalyse représente une troisième voie qui « renforce incroyablement le dénuement du sujet » [9].

10En résumé, la psychanalyse s’oppose autant au sujet de la conscience philosophique qu’aux tenants de la personnalité totale, en quoi la monade devient un accessoire positif : « L’œuvre de Leibniz en effet ne l’illustre en premier qu’à rétablir éristiquement qu’il ne faut pas partir du Tout, que c’est la partie qui le tient et le contient. Que chaque monade y soit le Tout, la relève d’en dépendre, ce qui soustrait la dernière-née de nos sottises, la personnalité totale, aux embrassements des amateurs. » [10]

11La monade réapparaît dans Le Séminaire xix, en tant que liée à la question de l’Un. Dans la séance du 19 janvier 1972, Lacan oppose Frege à Leibniz, tout en resituant bien la place de ce dernier dans l’histoire du calcul. En effet, pour compter, il faut donner des signes aux uns : Lacan évoque les poèmes arabes qui « indiquent comme ça, en vers, ce qu’il faut faire avec le petit doigt, puis avec l’index, et avec l’annulaire et quelques autres, pour faire passer le signe du nombre » [11].

12Faire passer le signe du nombre, le nombre est un signe justement de ce que les uns doivent être dépouillés de toute qualité sans exception. Pour les représenter on aura affaire à de menus objets, des petites boules, des cailloux (origine du mot calcul), un chapelet. Mais le Un ne s’en trouve pas fondé de façon logique : « ça ne résout pas du tout la question de l’émergence du 1, comme l’avait bien vu un nommé Leibniz qui part de 1+1=2, etc. » [12]

13Frege critiquera cette généalogie progressive des nombres à partir du 1, (qui serait donc déjà là alors qu’il s’agit justement de lui donner une assise logique), pour les fonder, de façon régressive, sur le zéro. Du point de vue de l’écriture formelle moderne, la critique logique de Frege est tout à fait décisive et féconde, mais du point de vue des mathématiques elles-mêmes et de la création de ses objets, l’apport de Leibniz est, nous le verrons, tout à fait capital.

14Lorsque Lacan refait la construction de Frege, il déclare que les unités, les points, il les appellera monades, ce que n’aurait pas accepté Frege mais qui montre la liberté de Lacan face à ses emprunts. Frege ne l’aurait pas accepté pour la raison même que pointe Lacan, à savoir la charge ontologique qui accompagne le concept leibnizien : « C’est bien ce que Leibniz pressentait avec sa monade, mais que, faute de la dépêtrer de l’être, il laissait dans la confusion plotinienne, celle qui profite à la défense et illustration du maître. » [13] Nous retrouvons dans cette incidente l’idée que l’ontologie est au service du maître : l’enjeu de l’écriture mathématique pour Lacan est à la fois épistémique et politique. Le maître décide de l’être, ne serait-ce qu’en le nommant, mais l’être et la lettre ne font pas bon ménage, c’est le pari de Frege pour les mathématiques que la lettre libère de l’être. Lacan prend donc appui sur Frege, tout en utilisant le terme de monade qui lui permet, en jouant d’une autre manière sur la lettre, d’introduire le néologisme nade, qui renvoie au rien, à l’ensemble vide sur lequel est construite la suite des nombres, et le néologisme hénade pour désigner le premier Un transfini, l’aleph zéro de Cantor.

15À ce niveau, nous avons le rappel par Lacan de la puissance extraordinaire, dans le champ mathématique, du concept d’ensemble, et en particulier de l’ensemble vide [14]. Mais pour le psychanalyste, ces termes ouvrent une autre problématique, celle que l’on retrouvera dans Le Séminaire Le sinthome, et qui concerne le non-rapport du Un avec le Deux. C’est ainsi que le savoir est réinjecté dans la monade, le rapport vide (et pas seulement l’ensemble vide) dans la nade et l’inaccessibilité dans l’hénade : « La monade, c’est donc l’Un qui se sait tout seul, point-de-réel du rapport vide ; la nade, c’est ce rapport vide insistant, reste l’hénade inaccessible, l’aleph zéro de la suite des nombres entiers par quoi deux qui l’inaugure symbolise dans la langue le sujet supposé du savoir. » [15] L’aleph zéro de Cantor est en effet inaccessible par rapport à tous les nombres entiers (finis) qui le précèdent dans la suite des nombres. Mais ce n’est pas le premier inaccessible : le nombre Deux est inaccessible à partir du Un. Poser 1+1 est déjà supposer que le deux existe ! Le Un est donc « tout seul », mais de savoir qu’il est tout seul fait ici le saut du deux, avec le sujet supposé du savoir. Il y faut de l’Autre, du transfert, pour que le S₂ puisse s’incarner dans le sujet supposé savoir. Entre le Un et le Deux, d’un strict point de vue logique, il n’y a pas de rapport, le rapport est vide, c’est la nade, nada, le rien. C’est donc le désir seul qui, de structure, introduit du deux. Le désir du mathématicien est paradigmatique de cette situation.

Leibniz et la révolution symbolique

16Entre 1591 (Introduction à l’Art Analytic de Viète) et 1637 (La Géométrie de Descartes) s’accomplit ce que Michel Serfati appelle la révolution symbolique qui va faire passer les mathématiques de l’ère de la rhétorique à celle de l’écriture formelle moderne. Descartes voulait élever l’algèbre et la théorie des nombres au même niveau de rigueur que la géométrie euclidienne. Son vœu fut exaucé bien au-delà : après lui l’algèbre ne se réduisit plus à des recettes de calcul énoncées dans la langue naturelle de façon de plus en plus absconse mais devint un jeu d’écritures de formules (« formes ») qui, grâce à l’introduction d’un symbole pour l’égalité, s’exprimaient sous formes d’équations. Il ne s’agit pas simplement de représentations, de notations, qui seraient somme toute contingentes, d’objets mathématiques idéaux, mais de l’accession à un jeu de signes qui obéissent à une combinatoire et vont permettre l’introduction d’objets nouveaux. La thèse de l’auteur est qu’il n’y a pas d’idéalités mathématiques données à l’avance dans un monde platonicien, mais des objets qui émergent au fur et à mesure de leurs écritures symboliques.

17C’est ainsi que M. Serfati appelle la Géométrie de Descartes « la pierre de Rosette » pour le déchiffrage des textes symboliques à venir. Elle importe en effet par l’apport de signes et formes symboliques inédites (le vée pour le radical comme , la notation en exposant pour les exponentielles comme 2³, un signe pour l’égalité, entre autres), mais aussi par ce qu’elle ne contenait pas : des signes délimitants (que sont aujourd’hui les parenthèses). « Cette absence faisait en effet ressortir en creux les règles hiérarchiques implicites qui allaient gouverner tous les termes symboliques à venir. » [16] Ces règles fixes marquent la supériorité de l’œuvre de Descartes sur d’autres tentatives antérieures comme celle de Cardan qui avait produit avec son Ars Magna de 1545 un texte proprement indéchiffrable. L’histoire que retrace M. Serfati montre que le passage du rhétorique au symbolique s’est imposé pour des raisons de limites dans les capacités du langage naturel à exposer les formules des calculs, mais que le résultat ne fut pas seulement quantitatif, ouvrant tout un champ de possibles. C’est là qu’intervient Leibniz.

18Ce n’est pas la monade que l’histoire des mathématiques retiendra d’essentiel chez Leibniz mais la façon inaugurale dont il tire profit de l’héritage symbolique de Viète et de Descartes pour inventer en particulier le calcul infinitésimal. Pour Descartes, l’écriture symbolique facilite les calculs dont on connaît la signification. Par exemple, il introduit 5³ pour exprimer que l’on multiplie 5 trois fois avec lui-même. Il lui aurait paru absurde de remplacer 5 ou 3 par des lettres représentant des « indéterminées ». C’est Newton qui le premier introduira, par pur jeu d’écriture, des exposants « rompus » (rationnels pour nous aujourd’hui), puis « sourds » (réels pour aujourd’hui) et leur trouvera une signification.

19La rencontre avec l’Epistola Prior de Newton, en 1676, deux ans après celle de la Géométrie, enthousiasma le jeune Leibniz qui se lança à construire des formes exponentielles complètement neuves comme a^z ou x^z, sans souci de leur signification, c’est-à-dire des objets auxquels ces écritures pouvaient renvoyer. C’est par cette méthode qu’il développa son calcul des différences et des sommes (calcul différentiel et intégral), sans pouvoir justifier des résultats par une signification quelconque. Une fois introduites les notations « dée » et « esse », c’est-à-dire dx et ∫x, il développa ce qu’il appelait son algorithme, en remplaçant x par toutes les formes connues à partir de (x+y), (x-y), xy, x/y, ou en jouant sur la répétition d(dx) etc. « En dépit des proclamations enflammées de son auteur, cette démarche systématique demeura longtemps incomprise de ses collègues, Jean Bernouilli en particulier, qui commença par considérer la Nova Methodus de Leibniz comme “une énigme plutôt qu’une explication”. » [17] Le même Bernouilli devint par la suite un des praticiens les plus inventifs du calcul différentiel et intégral.

20La méthode d’invention inaugurée par Leibniz repose essentiellement sur la substitution de « formes » (aujourd’hui formules bien formées) à la place des lettres contenues dans les formes primitives, engendrant ainsi autant de métamorphoses. « Il est bien clair, d’une part, que ces substitutions n’ont initialement aucune signification intrinsèque, d’autre part qu’elles auraient été inconcevables dans l’écriture rhétorique des mathématiques. Aujourd’hui au contraire, et par un apprentissage spécifique, nous y sommes si complètement habitués, que nous éprouvons de grandes difficultés à comprendre les géomètres du xvi^e siècle qui ne l’utilisaient pas, et en premier lieu Cardan, l’inventeur de la résolution des cubiques. » [18]

21Toutes les formes algébriques possibles furent envisagées et explorées systématiquement par Leibniz, et la question de savoir si toutes étaient valables dans cet Art combinatoire pose la question de la sanction que Serfati compare à une « sélection naturelle » qui se fait après coup ; « en un temps second, c’est l’auteur lui-même ou la communauté des géomètres qui vient sanctionner, trancher, choisir et éliminer, après examen des productions aveugles du combinatoire » [19]. L’exemple de est paradigmatique à cet égard. Les mathématiciens des xvii^e et xviii^e siècles se partageaient, à la mesure de leurs positions ontologiques, entre ceux qui rejetaient toute « quantité imaginaire », comme les cartésiens, et ceux qui les employaient pour leur efficacité, mettant entre parenthèses la question de leur substance, comme le fit Leibniz. Celui-ci mit en avant le paradigme des « quantités imaginaires » pour soutenir la création de ses infinitésimales : « Les infinitésimales se distinguent également des quantités réelles et sont tout à fait comparables aux imaginaires. » [20]

22Notons encore l’importance de cette méthode jusqu’à aujourd’hui où des développements inattendus ont pu se faire en cherchant à définir, par exemple, le cosinus d’une matrice, ou son exponentielle, la substitution correspond alors à un prolongement : dans cos x, on remplace x par autre chose qu’un nombre (une matrice par exemple) et on cherche quelle pourrait en être la définition qui élargirait un canon de calcul qu’on veut conserver de la structure initiale. Serfati donne un certain nombre d’exemples contemporains qui confirment l’efficacité de cette démarche.

Le désir du mathématicien

23La légèreté de la lettre, corrélative au délestage du sens, libère-t-elle le mathématicien de la jouissance ?

24Rien n’est moins sûr, car, du fait qu’il n’y a pas de métalangage, les signes seront repris, dans les commentaires indispensables même en mathématiques, dans des signifiants : « le signe en retour produit [la] jouissance par le chiffre que permettent les signifiants » [21]. Dès le moment du chiffrage à partir des signes, de leur mise en relation, il y aura signifiantisation, et donc jouissance. Mais Lacan affirme aussitôt ceci : « ce qui fait le désir du mathématicien, de chiffrer au-delà du jouis-sens » [22]. Le point de visée du désir du mathématicien est autonome par rapport à cette reprise dans le discours courant, c’est de chiffrer au-delà de cette jouis-sens. Le signe permet cela, il ne se situe pas dans les formations de l’inconscient, il rompt avec ce qui dans le travail du mathématicien est obsession, il fait cession d’avec l’objet : « Le signe est obsession qui cède, fait obcession à la jouissance qui décide d’une pratique. » [23]

25Il semble que la position du mathématicien, telle qu’on peut l’appréhender par ce que nous en dit Serfati à propos de Leibniz, ce premier moderne à utiliser systématiquement des signes mathématiques, est celle de l’audace dans le maniement des lettres et des symboles. Cette audace prime sur l’exigence de rigueur que l’on trouve en revanche chez le logicien.

26Si Frege s’est acharné à fonder les nombres et leur existence sur le non-être de l’ensemble vide, c’est, dit Lacan, qu’il n’était pas satisfait par ce qui fondait jusque-là les nombres. Fonder le nombre sur le nombre ne lui donnait pas satisfaction, « satisfaction de logicien » [24].

27Le désir du mathématicien contrecarre l’exigence de rigueur du logicien. Celle-ci intervient dans les moments de paliers où l’on rassemble et organise la moisson des résultats obtenus par les mathématiciens parfois un peu désinvoltes par rapport à la stricte logique [25]. En forçant un peu le trait, du côté du mathématicien, le désir et son suspens, et une certaine insatisfaction, du fait même que le bouclage logique n’est pas toujours abouti, de l’autre côté l’obsession du logicien de parvenir à ce que Lacan repère de sa satisfaction propre. Hystérie de la découverte face à l’obsession de la mise en ordre et la préoccupation des fondements, ceci sans présager bien entendu de la structure des uns et des autres.

28Si le désir du mathématicien est au-delà de la jouis-sens du langage naturel, il est donc en deçà de l’exigence de certitude (ou d’impossible) du logicien.

29Les réactions respectives de Cantor et de Frege à l’annonce des paradoxes de la théorie des ensembles illustrent parfaitement cet antagonisme. Autant Frege fut cruellement affecté par ce qui détruisait sa théorie, autant Cantor traita l’affaire par le mépris, persuadé avec raison que la théorie des transfinis n’avait pas à souffrir de cet avatar [26]. Cantor eut à défendre ses nombres transfinis comme Leibniz eut à le faire pour les infinitésimaux et il est remarquable que l’un comme l’autre fit appel à l’exemple des quantités imaginaires pour se justifier. Celles-ci, avec leurs deux opérations d’addition et de multiplication se comportant tout à fait comme des nombres, finirent par obtenir le statut de « nombres complexes ».

30Introduire des signes algébriques dans la théorie analytique, comme l’a fait Lacan avec son « algèbre », répond à cette affirmation citée plus haut : « le signe est obsession qui cède, fait obcession à la jouissance qui décide d’une pratique. » [27] L’enjeu n’est pas seulement politique ou épistémique, mais proprement clinique, concerne ce qui décide d’une pratique, ici la pratique analytique. Le signe algébrique aide à se séparer de l’objet de jouissance qui a déterminé le choix d’une pratique.

31Par ailleurs, caractériser le désir du mathématicien par le chiffrage au-delà du jouis-sens oriente également la question du désir de l’analyste. Lacan a rapproché les deux désirs dans sa « Proposition sur le psychanalyste de l’École » : « Il est utile de penser à l’aventure d’un Cantor, aventure qui ne fut pas précisément gratuite, pour suggérer l’ordre, ne fût-il pas, lui, transfini, où le désir du psychanalyste se situe. » [28] Ce n’est donc pas tant le savoir du mathématicien qui importe pour Lacan que sa position de sujet par rapport à un désir inédit jusqu’à Leibniz, celui de mettre un symbole, une lettre, là où il y a du hors-sens, puis revenir à une signification qui sera changée du fait du jeu de la lettre.