1C’est le projet même d’élaborer une philosophie des mathématiques que je me propose ici d’interroger. Je ne suis en effet pas certain que tous les types de mathématiques puissent donner lieu à une philosophie des mathématiques. Inversement, je ne crois pas que tous les types de philosophies puissent prendre les mathématiques pour objet de réflexion. Par type de mathématiques, j’entends ici moins une branche particulière des mathématiques qu’un état des mathématiques à un moment donné de leur histoire – et par type de philosophie, j’entends moins un courant particulier, qu’un état de la philosophie à une période donnée. Il y a eu, par le passé, des philosophies des mathématiques. Mais ces réussites ne sont pas la norme – il y a des situations où les cadres conceptuels des deux disciplines divergent trop pour donner lieu à une hybridation féconde.

2Donnons un exemple pour préciser le propos. La théorie du sujet et de ses facultés aux xvii^e et xviii^e siècles a rendu possible un discours informé sur les techniques mathématiques développées à l’époque. La notion de méthode chez Descartes est à la fois ancrée dans l’histoire de la métaphysique (notamment dans la critique de l’aristotélisme) et a des liens intimes avec la réforme algébrique que le même Descartes mettait en place. De même, la théorie du schématisme chez Kant peut être considérée simultanément comme un dépassement de Leibniz et de Hume, et comme une analyse très fine des procédures de constructions euclidiennes, reprises chez Newton. Autrement dit, aux xvii^e et xviii^e siècles, des concepts et des arguments avaient un sens indépendamment des domaines métaphysique et mathématique. Un même cadre conceptuel permettait alors de circuler souplement entre les deux domaines.

3Ma suggestion est que ce genre de situation est l’exception plutôt que la règle. Il est en réalité rare que les dispositifs philosophiques et les architectures mathématiques se recoupent suffisamment pour qu’une trame conceptuelle commune puisse être dégagée. C’est ordinairement le désajustement qui prévaut – c’est-à-dire une situation dans laquelle les notions et les pratiques mathématiques ne trouvent aucun relais en philosophie et où, inversement, le discours philosophique apparaît étranger à la conceptualité mathématique. Et lorsque la distance entre métaphysique et mathématique est trop grande, c’est le projet même d’une philosophie des mathématiques qui perd son sens. La philosophie des mathématiques devient alors soit un discours philosophiquement consistant mais sans accroche sur le plan mathématique, soit un agrégat d’études de cas, informées sur le plan mathématique, mais auquel manque un cadre philosophique unifié. À la philosophie des mathématiques effective se substitue alors un programme dont la réalisation est sans cesse repoussée. Je défendrai plus bas l’idée qu’aujourd’hui en particulier, la distance entre mathématique et philosophie est trop grande pour que l’on puisse espérer dépasser ce stade du programme en philosophie des mathématiques.

4Pour développer cette thèse, je ferai d’abord un détour par l’histoire. Je parlerai en premier lieu (§ 1) d’une critique que Poincaré adresse au logicisme de Russell. En substance, Poincaré affirme qu’un recours à l’intuition (donc à quelque chose qui échappe à la logique) est absolument essentiel en mathématique. Dans un second temps (§ 2-3), je montrerai que cette critique caricature le projet logiciste : contrairement à ce que soutient Poincaré, Russell poursuit le même but que lui, mais utilise des moyens différents pour y parvenir. Cette confrontation est censée illustrer mon propos liminaire : derrière l’opposition entre Poincaré et Russell, il n’y a pas une opposition sur l’objectif (construire une philosophie des mathématiques), mais sur le cadre conceptuel à mettre en œuvre pour l’atteindre – à la terminologie des facultés de l’esprit, Russell substitue la théorie logique des relations. C’est dans un troisième temps (§ 4-5) que je développerai, en m’appuyant sur l’analyse du rapport entre Poincaré et Russell, la thèse selon laquelle l’existence d’une philosophie des mathématiques dépend de conditions dont les philosophes ne sont pas maîtres. Je soutiendrai notamment qu’aujourd’hui, à cause à la fois de la fragmentation et du haut degré de réflexivité des mathématiques contemporaines, l’idée même de philosophie des mathématiques est devenue extrêmement problématique.

5Ce constat serait sans doute déprimant si les interactions entre philosophie et mathématiques devaient nécessairement toujours prendre la forme de contributions à l’élaboration d’une future philosophie des mathématiques. Mais c’est précisément parce que tel n’est pas le cas que je crois important de réfléchir sur la pertinence et le sens d’un tel projet. L’impératif selon lequel tout philosophe s’intéressant aux mathématiques devrait avoir pour visée ultime la constitution d’une philosophie des mathématiques pourrait se révéler un obstacle aux nombreux et riches usages que l’on peut aujourd’hui faire des mathématiques en philosophie.

6La discussion entre Poincaré et Russell se poursuit sur plusieurs années et porte sur des points très variés (sur la géométrie, puis sur diverses questions logiques allant des paradoxes jusqu’à la définition du nombre). Elle a été plus féconde que l’on ne le pense souvent : Poincaré est revenu au moins partiellement sur ses premières condamnations de la logique ; Russell a affiné ses conceptions de l’espace et a fait un usage décisif du principe du cercle vicieux proposé par Poincaré. Je voudrais ici me concentrer sur une critique méconnue que le savant français adresse au logicisme dans Science et Méthode (1908) [1]. Poincaré commence par distinguer la certitude qu’une démonstration confère à un théorème de la compréhension de ladite démonstration (Poincaré 1908, p. 70) :

7

Comprendre la démonstration d’un théorème, est-ce examiner successivement chacun des syllogismes dont elle se compose et constater qu’il est correct, conforme aux règles du jeu ? De même comprendre une définition, est-ce seulement reconnaître qu’on sait déjà le sens de tous les termes employés et constater qu’elle n’implique aucune contradiction ? Oui, pour quelques-uns ; quand ils auront fait cette constatation, ils diront : j’ai compris. Non, pour le plus grand nombre. Presque tous sont beaucoup plus exigeants, ils veulent savoir non seulement si tous les syllogismes d’une démonstration sont corrects, mais pourquoi ils s’enchaînent dans tel ordre, plutôt que dans tel autre. Tant qu’ils leur semblent engendrés par le caprice, et non par une intelligence constamment consciente du but à atteindre, ils ne croient pas avoir compris.

8Il est possible, explique Poincaré, d’être convaincu par une démonstration de la vérité d’un théorème sans pour autant en saisir la « profondeur », l’« intérêt », le « sens ». On peut notamment suivre chaque étape de la preuve sans saisir l’idée qui l’anime et la structure (Poincaré 1908, p. 70-71) :

9

Notre corps est formé de cellules et les cellules d’atomes ; ces cellules et ces atomes sont-ils donc toute la réalité du corps humain ? La façon dont ces cellules sont agencées, et dont résulte l’unité de l’individu, n’est-elle pas aussi une réalité et beaucoup plus intéressante ?
Un naturaliste qui n’aurait jamais étudié l’éléphant qu’au microscope croirait-il connaître suffisamment cet animal ?
Il en est de même en mathématiques. Quand le logicien aura décomposé chaque démonstration en une foule d’opérations élémentaires, toutes correctes, il ne possédera pas encore la réalité tout entière ; ce je ne sais quoi qui fait l’unité de la démonstration lui échappera complètement.

10Ce « je ne sais quoi » qui manque à celui (le logiciste selon Poincaré) qui décompose chaque démonstration en une foule d’opérations élémentaires, c’est une saisie des formes globales qui tout à la fois organisent la preuve et la singularisent par rapport à d’autres. La logique, si elle nous permet de nous assurer de la solidité des micro-enchaînements, ne livre absolument pas cette vision des structures de haut niveau qui gouvernent et singularisent une démonstration. C’est à l’intuition que revient, selon Poincaré, cette tâche :

11

Dans les édifices élevés par nos maîtres, à quoi bon admirer l’œuvre du maçon si nous ne pouvons comprendre le plan de l’architecte ? Or, cette vue d’ensemble, la logique pure ne peut nous la donner, c’est à l’intuition qu’il faut la demander.

12Et encore, dans la même page (Poincaré 1908, p. 72) :

13

C’est par la logique qu’on démontre, c’est par l’intuition qu’on invente. Savoir critiquer est bon, savoir créer est mieux. Vous savez reconnaître si une combinaison est correcte ; la belle affaire si vous ne possédez pas l’art de choisir entre toutes les combinaisons possibles. La logique nous apprend que sur tel ou tel chemin nous sommes sûrs de ne pas rencontrer d’obstacle ; elle ne nous dit pas quel est celui qui mène au but. Pour cela il faut voir le but de loin, et la faculté qui nous apprend à voir, c’est l’intuition. Sans elle, le géomètre serait comme un écrivain qui serait ferré sur la grammaire, mais qui n’aurait pas d’idées.

14Cet intérêt pour les « arguments » globaux structurant les démonstrations n’est pas propre à Poincaré. On le retrouve chez d’autres philosophes – comme Wittgenstein (cf. ci-dessous). Il est également partagé par nombre de mathématiciens. Dans un article extrêmement stimulant [2], Gowers montre ainsi que ce sont les « patterns » qui rendent certaines démonstrations faciles à mémoriser, et que le bon mathématicien est précisément celui qui sait identifier et saisir rapidement la structure globale d’un argument [3].

15Poincaré ne se contente cependant pas de souligner l’importance des schèmes de haut niveau : il soutient, on l’a vu, que c’est à l’intuition que revient la tâche de les appréhender et, qu’en conséquence, la théorie qui prétend réduire les mathématiques à la seule logique (le logicisme de Russell) manque un élément essentiel des mathématiques. Le logiciste ne rend pas compte de l’existence des stratégies de preuve, des « Gestalts » qui structurent le raisonnement. Il ne dit rien non plus de la spécificité des manières de faire : en réduisant la preuve à l’uniformité des micro-transitions logiques entre énoncés, il perd de vue qu’une démonstration en algébre par exemple n’a pas les mêmes caractéristiques qu’une démonstration en topologie ou en arithmétique. D’une certaine façon, les mathématiques ressemblent pour Poincaré à un tableau en perspective : de même que la contemplation d’un tableau doit se faire à la bonne distance (de trop près, on ne voit que les pigments ; de trop loin, on ne voit que le cadre, mais on rate encore le motif), de même une démonstration mathématique ne doit s’observer ni de trop près (si on « a le nez » sur les enchaînements déductifs, on perd de vue les idées qu’ils supportent) ni de trop loin (si on voit dans toute preuve l’application de schémas logiques généraux, on perd de vue la spécificité des théorèmes). Or ces deux erreurs symétriquement opposées, le logicisme réussirait, selon Poincaré, à les commettre simultanément. Russell regarde les mathématiques de trop près, puisqu’il se concentre sur les micro-enchaînements sans être capable de ressaisir les stratégies d’ensemble. Mais Russell aborde également les mathématiques de trop loin : la logique, étant « topic neutral » et affichant l’ambition d’être applicable à toutes les théories de la même manière, ne permet pas de saisir les particularités des formes inférentielles spécifiques.

16Prévenons un malentendu concernant la nature de cette critique. Poincaré ne soutient pas – dans ces passages – qu’il n’est pas possible de réduire les mathématiques à la logique. Son objection n’est ainsi pas de même nature que celle qui affirme que le premier théorème d’incomplétude de Gödel [4] met fin au rêve russellien. Pour Poincaré en 1908, le problème que pose le projet russellien n’est pas technique, il est méthodologique. Si le logicisme doit être combattu, ce n’est pas parce qu’il est mathématiquement défectueux, mais parce qu’il est philosophiquement dangereux. En focalisant son attention sur les règles d’inférence, le logicisme oublie l’essentiel : comprendre un énoncé ou une démonstration mathématique, ce n’est pas connaître les définitions et être capable de suivre pas à pas le raisonnement. La même idée anime Wittgenstein, lorsqu’il écrit au § 53 de Remarks on the Foundations of Mathematics (1956) :

17

Que veut montrer celui qui veut que les mathématiques ne sont pas de la logique ? Il veut bien dire quelque chose comme : — Si on enveloppe des tables, des chaises, des armoires, etc., dans autant de papier qu’il faut, ils finiront bien par paraître sphériques. Il ne veut pas montrer qu’il est impossible de trouver pour chaque preuve mathématique une preuve russellienne qui lui « corresponde », […] mais que la reconnaissance d’une telle correspondance ne repose pas sur la logique.

18Il est bien possible, selon Wittgenstein, de traduire les concepts de base de l’arithmétique, de la géométrie, etc. dans la langue logique, et de dériver ensuite les principaux théorèmes à partir d’un nombre restreint de principes. Mais cette opération ressemble à celle qui consiste à envelopper différents meubles dans du papier pour les rendre tous sphériques. Ce que l’on gagne au change est une uniformisation factice et artificielle qui masque – plus qu’elle ne révèle – les structures spécifiques de ce dont il est question.

19La position de Poincaré soulève deux problèmes, qui sont d’une certaine façon liés l’un à l’autre : en premier lieu, la référence à l’intuition semble pointer vers une théorie des facultés qui n’est jamais véritablement développée ; en second lieu, Poincaré simplifie de façon exagérée le propos russellien. Quelques mots sur le premier point, avant de passer au second.

20Le recours à la notion d’intuition signale sans ambiguïté que Poincaré évolue dans un contexte kantien où la distinction entre entendement, imagination et sensibilité est pertinente. Sur des points fondamentaux, le savant est cependant en désaccord avec Kant : l’espace n’est pas pour lui une forme de la sensibilité, mais est caractérisé comme un concept, celui de groupe de transformation, dont la structure peut être choisie librement [5] ; d’autre part, pour Poincaré, les catégories mises en œuvre dans la science de la nature ne sont pas fixées une fois pour toutes comme le pensait Kant [6]. Donc, d’un côté, Poincaré use de la triade entendement, imagination et sensibilité qui, pour être précisée, doit être articulée à une théorie des facultés ; de l’autre, Poincaré rejette cette même théorie, sans pour autant jamais proposer une solution de rechange. Certes, les écrits de Poincaré permettent de discerner assez finement ce qu’il retient et ce qu’il refuse de la philosophie de Kant – mais il est difficile d’extraire de ces désaccords locaux une vue d’ensemble de l’architecture du sujet transcendantal, tel que Poincaré le conçoit.

21Tout se passe en réalité comme si la théorie des facultés, qui demeure le cadre de la réflexion philosophique de Poincaré, ne s’ajustait plus aux mathématiques que le savant contribuait à développer. Si la distinction entre intuition et logique mise en avant dans Science et Méthode était si fondamentale, alors Poincaré aurait dû expliquer quel modèle du sujet connaissant il avait en tête. Mais où trouve-t-on chez Poincaré une cartographie des facultés du sujet mathématicien ? Où présente-t-il les différents types d’intuition (un équivalent de l’esthétique transcendantale chez Kant, avec la distinction entre intuition formelle du temps et de l’espace) [7] ? Le projet épistémologique de Poincaré était certainement de « libéraliser » le kantisme [8]. Mais le savant ne détermine jamais quelle transformation doit être apportée à la conception kantienne du sujet, et cette indétermination affecte également sa distinction entre la logique et l’intuition.

22Devant ce qui semble une impasse, on pourrait être tenté par une position de repli : chez Poincaré, opposer logique et intuition serait une simple façon de parler, sans réelle profondeur philosophique. Et il est vrai que dans les textes qui précèdent, le savant ne fait qu’un usage négatif d’une distinction qui lui permet de pointer un défaut dans l’approche russellienne. Poincaré soutient que le logicisme ignore les formes de haut-niveau, fondamentales en mathématiques – mais il ne se prononce pas sur le statut épistémique de ces formes – ; il ne soutient pas vraiment la thèse selon laquelle ces formes sont les corrélats d’une intuition a priori. Cette interprétation, plus faible que la précédente, expliquerait pourquoi l’intuition du mathématicien, telle que Poincaré l’entend, est plus une saisie immédiate de formes conceptuelles très élaborées qu’une intuition sensible, fut-elle pure. Mais une telle lecture se heurte immédiatement à une difficulté. Poincaré ne dit pas seulement que le logicien ne saisit pas les formes globales des arguments mathématiques, il affirme qu’il ne peut pas les saisir sans en appeler à une autre source de connaissance, à savoir l’intuition. Or sans un ancrage de la distinction logique/intuition dans une théorie des facultés, on ne voit pas comment justifier pareille thèse. Pourquoi au juste ce « je ne sais quoi qui fait l’unité de la démonstration » serait-il condamné à échapper à la connaissance logique ? Dans un cadre kantien, où ce qui est intuitionnable ne relève pas de l’entendement, on comprend l’alternative. Mais si on y renonce, comment justifier l’impossibilité principielle posée par Poincaré ? Pourquoi la logique ne pourrait-elle pas rendre compte à la fois des micro-transitions et des formes globales de l’argumentation ?

23Cette question nous conduit au cœur du second point annoncé plus haut, qui concerne la lecture que le savant français fait du logicisme. Pour Poincaré, le logicisme russellien est avant tout une extension du programme d’arithmétisation des mathématiques. Weierstrass, Dedekind et Cantor auraient réduit le continu (l’analyse) au discret (à l’arithmétique), et Russell, après Frege, ferait un pas supplémentaire dans cette direction en dérivant l’arithmétique de la logique et de la théorie des ensembles (ce que Russell regroupait sous le nom de théorie des relations). Cette lecture est encore aujourd’hui largement répandue, même auprès des plus fins connaisseurs de Russell [9]. Quand on lit et commente les Principes ou les Principia, on s’arrête généralement à la définition des cardinaux, en pensant qu’on a atteint là les mathématiques, et qu’ensuite, plus rien de significatif ne se passe. Or une telle interprétation est fausse. Les Principes n’empilent pas les disciplines mathématiques les unes sur les autres et, in fine, toutes les mathématiques sur la logique :

Géométrie Analyse Arithmétique Théorie des relations (logique et théorie des ensembles)

24La structure des mathématiques telle que Russell la décrit ressemble plutôt à :

Arithmétique Analyse Géométrie Théorie des relations (logique et théorie des ensembles)

25Les principales disciplines, l’arithmétique, mais aussi l’analyse et la géométrie, sont directement dérivées de la logique, sans être préalablement réduites à l’arithmétique. On pourrait estimer qu’il s’agit là d’un détail, l’important étant que, dans les deux configurations, les mathématiques sont bel et bien déduites de la logique. Mais on aurait tort – dans le second cas, logicisation ne rime plus avec uniformisation. Parce qu’elles se réduisent directement à la théorie des relations, les différentes disciplines sont associées à des formes relationnelles spécifiques. Ainsi l’arithmétique est conçue comme la théorie générale des relations d’équivalence, l’analyse réelle comme une théorie générale des relations d’ordre, la géométrie comme une théorie générale des relations d’incidence. Aux différents types de relations distingués sont associées les différentes branches mathématiques, et le but de l’entreprise logiciste n’est donc pas seulement de décomposer l’ensemble des raisonnements mathématiques en inférences élémentaires, mais de différencier et d’individualiser, à l’intérieur des mathématiques, différents champs en les corrélant à différents types de relation [10]. Autrement dit, contrairement à ce que suggère Poincaré, le projet russellien est précisément de rendre compte à la fois des étapes élémentaires et de la structure globale des démonstrations mathématiques.

26Pour donner chair au propos, arrêtons-nous quelques instants sur le cas de la géométrie, traité dans le livre VI des Principes. Russell, après avoir présenté sa théorie logiciste du continu au livre V, aurait pu développer une théorie du plan euclidien ou du plan projectif en utilisant la méthode cartésienne des coordonnées. Mais ce n’est pas ce qu’il fait. Russell définit l’espace comme une structure d’incidence : dans toute forme d’espace, explique-t-il, que cet espace soit euclidien ou non, qu’il soit métrique ou non, qu’il soit continu ou non, qu’il soit fini ou non (il y a des espaces avec un nombre fini de points pour Russell et Whitehead), on trouve des relations d’intersection entre différents genres d’éléments (les points, les droites, les plans dans les espaces tridimensionnels). Pour le dire d’une autre manière, et en utilisant l’axiomatique hilbertienne : c’est la présence des axiomes d’incidence (Hilbert parle d’axiomes d’appartenance) qui permet de caractériser une structure comme une structure spatiale. L’importance accordée aux relations d’incidence provient directement du développement de la géométrie projective et de l’émergence, au tournant du xx^e siècle, de l’idée de géométrie sur des corps quelconques [11]. L’essentiel est ici de comprendre que la théorie de la géométrie que Russell met en place tente de ressaisir des traits spécifiques de la géométrie telle qu’elle se pratique à l’époque. Bien entendu, on peut reprocher à Russell de n’avoir pas été sensible à d’autres courants tout aussi (voire plus) importants – je pense aux approches riemanniennes notamment. Mais on ne peut pas lui reprocher d’avoir délibérément ignoré tout ce qui fait le propre de la géométrie en se concentrant sur l’analyse des micro-transitions dans les démonstrations géométriques. La mise au premier plan des relations d’incidence est bien une façon de caractériser, grâce à la logique et sans appel à l’intuition, les formes de haut niveau propres au raisonnement géométrique [12].

27Contrairement à ce que suggèrent Poincaré et Wittgenstein, logiciser n’est donc pas nécessairement uniformiser. Chez Russell, c’est même le contraire qui est vrai : la logicisation est un bouclier contre toute tentative de réduction et d’uniformisation des savoirs disciplinaires – en particulier contre l’arithmétisation. En effet, puisque chaque branche des mathématiques (notamment la géométrie) est individualisée par une forme logique spécifique, la réduction d’une discipline à une autre revient, dans cette perspective, à confondre des types logiques différents. Ce que l’on perd lorsqu’on traduit une théorie mathématique dans le langage d’une autre discipline (lorsqu’on fait de la géométrie analytique, à l’aide des coordonnées et des équations par exemple), ce n’est pas simplement certaines représentations psychologiques qui, en tant que telles, n’appartiennent pas en propre au contenu de ladite théorie et peuvent donc être laissées de côté ; ce que l’on perd, c’est la forme logique spécifique qui structure et organise l’ensemble des développements. Un réductionnisme global (toutes les mathématiques ne sont qu’une extension de la logique) s’accommode très bien d’une défense des particularismes régionaux (est compatible avec un anti-réductionnisme régional). L’alternative entre logique (micro-inférence) et intuition (forme globale) que Poincaré élabore en 1908 ne s’applique pas au logicisme russellien.

28Russell, comme Poincaré, s’efforce de saisir et d’individualiser les stratégies de haut niveau qui organisent les raisonnements des mathématiciens. Ce n’est donc pas tant sur le but à poursuivre (ressaisir le « je ne sais quoi » qui structure les démonstrations et distingue les disciplines mathématiques les unes des autres) que sur les moyens d’y parvenir que Poincaré et Russell divergent : la tâche que le premier confie à la théorie des facultés (à la distinction entre entendement et intuition) est assignée par le second à la théorie des formes logiques relationnelles. Ce qui différencie les deux penseurs, c’est la machinerie philosophique mise en œuvre : là où Poincaré mobilise les ressources d’une théorie du sujet, Russell adopte le cadre de la théorie des relations.

29Précisons tout de suite que, pour Russell, la logique n’est pas un simple outil développé pour rendre compte des mathématiques. La théorie des relations est aussi chez lui le résultat d’une analyse de l’ensemble du développement de la métaphysique occidentale. Le point est connu, mais il vaut d’être réexpliqué. Dans A Critical Exposition of the Philosophy of Leibniz, comme dans The Principles (chap. 26), Russell montre comment la focalisation aristotélicienne sur les formes propositionnelles sujet-prédicat a conduit à deux pathologies philosophiques qu’il nomme le monadisme et le monisme. Le monadisme est la thèse selon laquelle la réalité ultime est constituée d’éléments qui n’interagissent pas les uns avec les autres (Leibniz en serait, d’après Russell, le plus grand représentant [13]). Cette position trouverait sa source dans la volonté de réduire tout jugement relationnel de type aRb en deux propositions sujet-prédicat corrélées : a(Rb), c’est-à-dire le sujet a a la propriété d’être dans la relation R avec b, d’une part ; (aR)b, c’est-à-dire le sujet b a la propriété d’être lié par la relation R avec a, de l’autre. Selon Russell, le cœur du monadisme consiste à croire qu’aucune relation R entre deux termes n’est « réelle », mais que toute relation est ultimement « fondée » sur les propriétés x(Rb) et (aR)x possédées par les deux monades a et b. Le monisme, c’est-à-dire la thèse selon laquelle il n’y a qu’une substance, et dont les représentants emblématiques sont, selon Russell, Spinoza et Bradley, proviendrait lui de la tentative de concevoir toute proposition relationnelle aRb comme une attribution de la propriété « être dans le rapport R » à la totalité formée de a et de b. Dans le monisme, les relations entre deux termes sont donc conçues comme le résultat d’une abstraction préalable, abstraction qui consiste à extraire et à isoler de la totalité certaines parties (ici a et b) qui n’ont pas en réalité d’indépendance propre. Russell montre que les deux entreprises d’élimination des relations que sont le monadisme et le monisme échouent – elles ne peuvent en particulier rendre compte des relations asymétriques d’ordre (donc des relations spatiales et temporelles). Et c’est, selon Russell, pour pallier aux difficultés logiques induites par cet échec que les monadistes et les monistes se voient contraints d’édifier des constructions métaphysiques sans nécessité propre.

30Bien entendu, l’analyse russellienne est discutable. La pertinence de ses développements sur Leibniz a notamment été contestée [14]. J’évoque ce point simplement pour établir que la théorie logique des relations présentée dans les Principes est, pour Russell, le fruit d’une réinterprétation d’ensemble de la philosophie occidentale. Loin de n’être qu’un instrument élaboré ad hoc pour rendre compte des mathématiques, selon Russell, la logique relationnelle plonge ses racines dans l’histoire de la métaphysique, dans la pensée d’Aristote, de Spinoza et de Leibniz. La théorie des relations est un cadre conceptuel qui offre une description non triviale et non artificielle à la fois de la tradition métaphysique et de l’organisation des mathématiques contemporaines. Pris isolément, les deux aspects constituent déjà chacun des réalisations importantes. Mais qu’une même approche puisse fournir les concepts fondamentaux d’une reconfiguration à la fois de la métaphysique et des mathématiques, et ce de façon ni triviale ni artificielle, ajoute à chacune des deux pièces de la construction une puissance de conviction très grande. C’est ce point sur lequel je voudrais insister.

31Comparons dans cette perspective Poincaré et Russell. L’approche de Poincaré est fondée dans une pratique mathématique vivante, et la thèse du savant est précisément que le cadre de la théorie des facultés permet mieux que la grille logique de saisir la texture fine de cette pratique. Mais, outre qu’il simplifie à l’excès le projet russellien, Poincaré ne parvient pas à stabiliser son discours philosophique (à préciser la géographie du sujet et de ses facultés), ni à l’ancrer dans l’histoire de la métaphysique. L’attelage de Poincaré est tiré par deux chevaux qui n’ont pas la même force : le versant philosophique n’est pas doté d’une existence autonome, et semble à la remorque de l’analyse des mathématiques. De ce point de vue, Cassirer apparaît comme le symétrique opposé de Poincaré. Dans Substance et Fonction (1910) [15], Cassirer tente, à partir de l’interprétation que Cohen développe de la Critique de la raison pure, d’élaborer une analyse néo-kantienne anti-abstractionniste de la connaissance qui soit en phase avec les avancées scientifiques de son temps. Si le volet philosophique, qui consiste à amender de façon précise et mesurée la doctrine kantienne, notamment la théorie des formes a priori de la sensibilité, est séduisant, l’articulation aux mathématiques est beaucoup moins convaincante. Des mathématiciens et des logiciens aussi différents que Frege, Hilbert, Klein, Dedekind sont tous enrôlés sous la bannière de la nouvelle épistémologie néo-kantienne et relationaliste ; toutes ces œuvres, pourtant si différentes et parfois même opposées dans leurs parti-pris théoriques, paraissent à Cassirer constituer une parfaite illustration de la thèse générale selon laquelle les objets de la science moderne sont des « systèmes d’ordre ». Ici, le cadre philosophique, en lui-même cohérent, semble incapable de fournir les outils permettant une saisie fine des différentes pratiques théoriques. Dans Substance et fonction, c’est l’analyse des mathématiques qui n’est dotée d’aucune autonomie, et qui paraît complètement subordonnée au projet philosophique.

32J’ai l’air de distribuer des bons points – et c’est bien évidemment ridicule. Mais si je me risque sur ce terrain, c’est seulement pour préciser et illustrer l’idée que la réussite d’une philosophie des mathématiques se juge à l’aune de sa capacité à créer un cadre conceptuel qui soit commun à la philosophie et aux mathématiques, et qui puisse être évalué de façon indépendante dans chacun des deux champs. Russell a su trouver un point d’équilibre, nécessairement instable et précaire, entre les deux domaines. Il a su cristalliser dans une même structure (la théorie des relations) une analyse originale de la métaphysique telle qu’elle se pratiquait à la fin du xix^e siècle sur la scène anglaise (voir note 14), et une analyse non moins nouvelle des mathématiques telles qu’elles se développaient à la même époque. Mon but n’est pas ici de soutenir que la théorie relationnelle est sub species aeternitatis le bon cadre pour développer une philosophie des mathématiques et que l’approche en termes de facultés est toujours et de toute éternité vouée à l’échec. Mon propos est de définir ce qu’est une philosophie des mathématiques réussie : une conjonction, dans un même cadre, de deux formes de rationalité ordinairement divergentes. Comme je l’ai suggéré dans l’introduction, la théorie kantienne de la subjectivité a constitué à la fin du xviii^e siècle un tel achèvement. Friedman, dans Kant and the Exact Sciences (1992), montre tout ce que la théorie du transcendantal kantien doit à Euclide et Newton. Il est tout à fait possible de présenter la Critique de la raison pure à partir de la description des procédures mises en place dans les Éléments et dans les Principia Mathematica (c’est précisément ce à quoi s’emploie Friedman). Mais il est également possible de lire Kant en le reliant à l’opposition entre Hume et Leibniz, c’est-à-dire de replacer son œuvre dans le contexte du développement de la métaphysique. Les deux présentations sont également, et de façon indépendante l’une de l’autre, pertinentes – ce qui signe la réussite du projet kantien [16] comme philosophie des mathématiques. La même chose vaut pour les écrits russelliens jusqu’aux Principia. À leurs sujets, on peut adopter une perspective métaphysique ou mathématique. La philosophie de Kant comme celle de Russell, un peu comme le canard-lapin de Wittgenstein, apparaissent différemment selon les contextes (mathématiques ou métaphysique) dans lesquels on les place. Mais elles sont dans chacun de ces contextes pris isolément convaincantes (non pas indiscutables, mais pertinentes, c’est-à-dire à la fois originales et non artificielles), ce qui, en fin de compte, leur confère à toutes les deux une puissance que n’ont pas les constructions « hémiplégiques », où le versant philosophique a besoin d’être étayé par le versant mathématique, ou vice-versa.

33Au sens où je l’entends, une philosophie des mathématiques est donc la conjonction de deux exigences qui n’ont a priori rien à voir : que les concepts mobilisés fassent sens d’un strict point de vue philosophique et qu’ils fassent également sens d’un strict point de vue mathématique. Qu’une telle conjonction puisse avoir lieu ne va donc absolument pas de soi. Les deux contextes d’évaluation sont en effet à la fois très contraints et très hétérogènes. Comment la philosophie et les mathématiques, qui ont leur propre histoire, leur propre exigence et leur propre rigidité pourraient-elles donner lieu à un discours qui « morde » à la fois sur les deux domaines ? Il y a eu, par le passé – les œuvres de Kant et Russell en témoignent –, des philosophies des mathématiques. Il y a eu des moments où les trajectoires des deux disciplines étaient suffisamment proches pour que se cristallise la possibilité d’un discours réellement commun – d’un discours qui ne soit pas la simple projection sur l’autre domaine de ses propres catégories. La question que j’aimerais aborder pour finir est celle de savoir si l’époque actuelle fait partie de ces moments rares de l’histoire de la rationalité.

34Deux raisons m’incitent à répondre négativement. La première provient de la difficulté qu’il y aujourd’hui à déterminer ce qui constitue la spécificité et l’unité de la connaissance mathématique. Jusqu’au xix^e siècle, les mathématiques étaient caractérisées comme la science de la quantité, i. e. la science des nombres et des grandeurs géométriques. Au xx^e siècle, cette vision a volé en éclats, sans pour autant qu’une solution de rechange ne l’emporte définitivement. La révolution algébrique dans les années trente et le bourbakisme ont un temps accrédité l’idée que la caractérisation des mathématiques comme science des structures était une définition acceptable. Mais la notion même de structure a fait depuis l’objet de multiples interrogations [17] – il n’est en outre pas certain que nombreux soient, de nos jours, les mathématiciens prêts à reprendre l’étendard bourbakiste. De sorte que, lorsqu’aujourd’hui, un philosophe s’avise de prendre les mathématiques pour objet, la question qui se pose d’emblée à lui est celle de savoir quelles mathématiques au juste il considère. Veut-on parler des mathématiques élémentaires apprises au collège ? Ou bien se concentre-t-on sur les mathématiques plus avancées, telles qu’elles sont enseignées à l’université ? S’intéresse-t-on à la recherche mathématique dans sa dynamique propre ou bien aux mathématiques présentées dans les manuels ? Et quelle discipline ou sous-discipline compte-t-on aborder ? Les mathématiques contemporaines sont un labyrinthe dont personne n’a une vue d’ensemble. Bien entendu, certaines théories semblent plus centrales que d’autres – mais chacune des branches fait elle-même l’objet de multiples approches de sorte qu’il serait présomptueux de prétendre dégager ne serait-ce qu’une vague carte du territoire. À la différence de ce qui se passait au xviii^e et au début du xix^e siècle, aucun consensus n’existe sur la façon de concevoir l’unité des mathématiques. Dès lors, c’est l’idée même de considérer la connaissance mathématique comme un régime spécial de connaissance, possédant ses particularités propres, qui est menacée.

35La seconde raison qui rend aujourd’hui problématique une philosophie des mathématiques est que les mathématiques contemporaines présentent, à un très haut degré, la caractéristique de se réfléchir elles-mêmes [18]. Et ce trait oblige à soulever la question suivante : si les mathématiques se prennent elles-mêmes pour objet, quelle nécessité y a-t-il à élaborer une philosophie des mathématiques ? Prenons l’exemple de la question du fondement du calcul différentiel aux xvii^e et xviii^e siècles. Les mathématiciens de l’époque étaient tous à peu près d’accord sur les règles gouvernant le nouveau calcul – en revanche, ils s’opposaient fortement sur la manière de concevoir les opérations élémentaires du nouvel algorithme infinitésimal. Une « métaphysique du calcul » (les fluxions newtoniennes, les infiniment petits leibniziens) était ainsi censée fournir les explications nécessaires et garantir la légitimité de la nouvelle discipline. Mais, rapidement, l’idée s’est faite jour que les mathématiques pouvaient se suffire à elles-mêmes et prendre en charge ce qui avait été un temps dévolu à la philosophie – ainsi, Euler puis Lagrange fondèrent le calcul différentiel sur la théorie des séries, Cauchy l’assit ensuite sur une nouvelle théorie de la limite. Cette histoire, dans le détail extrêmement riche et compliquée [19], n’est évoquée ici que pour montrer comment un développement mathématique peut purement et simplement se substituer à une construction philosophique. Or, aux xx^e et xxi^e siècles, cette réflexivité interne des mathématiques, cette capacité qu’elles ont à absorber des questions extra-mathématiques dans des théories mathématiques toujours plus puissantes et plus générales, a atteint un niveau inégalé jusque-là. Contentons-nous d’un exemple : celui de la théorie des catégories, tel qu’il est présenté par Awodey dans « Structure in Mathematics and Logic. A Categorial Perspective [20] » (1996). Après avoir lié l’émergence de la théorie des catégories à la réforme algébrique des années trente, l’auteur montre que la notion de structure développée dans le cadre catégoriel est plus pertinente pour développer une approche structuraliste des mathématiques que la théorie des modèles reprise par les philosophes contemporains (Shapiro, Resnick, etc.). Autrement dit, pour réfléchir leurs nouvelles pratiques algébriques, les mathématiciens n’ont pas attendu que les philosophes leur expliquent de quoi il retourne. Alors que dans l’exemple précédent, la métaphysique du calcul infinitésimal avait eu un temps le mérite de combler une lacune mathématique, le structuralisme, tel qu’il est développé par les philosophes contemporains, n’a même pas cet avantage. Bien au contraire, il contribue, si l’on en croit Awodey, à masquer le fait que les mathématiciens ont déjà inventé les outils permettant de formuler et de répondre aux problèmes que les philosophes soulèvent. Il est évidemment possible de contester ce diagnostic. Mais il paraît difficile de nier le fait que les mathématiques contemporaines sont une activité hautement réflexive – et qui, par là même, menace la position de surplomb adoptée par le philosophe des mathématiques.

36Beaucoup plus fragmentées que par le passé, les mathématiques contemporaines ont aussi plus tendance à se prendre elles-mêmes pour objet d’étude. Ces deux mouvements (fragmentation et réflexion) conduisent inévitablement à une crise de la philosophie des mathématiques. Et il est vrai que, depuis une vingtaine d’année, le questionnement philosophique sur les mathématiques est écartelé entre deux options opposées : l’approche fondationaliste, qui se concentre sur les domaines les plus fondamentaux des mathématiques, l’arithmétique et la théorie des ensembles, et délaisse en grande partie tous les autres, et les partisans d’une philosophie des pratiques mathématiques, qui refusent une telle réduction. Pour ces derniers en effet, une philosophie qui ne dit rien sur les branches les plus vivantes des mathématiques ne saurait être considérée comme une philosophie des mathématiques [21]. Corfield, un des chefs de file du mouvement anti-fondationaliste, explique que « dans la philosophie contemporaine des mathématiques, c’est la philosophie qui détermine l’agenda », et que le but de la philosophie des pratiques est de « renverser la situation en donnant aux mathématiques la possibilité d’avoir leur mot à dire sur ce qui leur est demandé en philosophie » (Corfield 2006, 269).

37Je partage le diagnostic de Corfield : le cadre sous-jacent à l’approche des philosophes fondationalistes (cadre en partie hérité du logicisme russellien) s’ajuste mal aux concepts et constructions des mathématiciens actuels. Mais, contrairement à Corfield, il me semble que, loin de constituer un remède, le projet d’un retour immédiat et non élaboré philosophiquement aux pratiques mathématiques ne représente qu’un nouveau symptôme de la crise. Il n’est en effet pas si simple de « donner aux mathématiques la possibilité d’avoir leur mot à dire sur ce qui leur est demandé en philosophie ». Vers quelle mathématique doit-on d’abord se tourner ? Quelle discipline ou sous-discipline privilégier ? Et puis, les mathématiques contemporaines étant hautement réflexives, il est possible que ce « mot à dire » ait en réalité déjà été dit – que les mathématiciens aient déjà traité des problèmes soulevés par les philosophes, et que ceux-ci se montrent incapables d’entendre la réponse.

38Ce que le clivage entre fondationalisme et philosophie des pratiques révèle, ce n’est pas seulement que les premiers sont obnubilés par des problématiques qui les éloignent des mathématiques réelles, mais que, contrairement à ce qui se passait à l’époque de Kant et de Russell, il n’y a plus de grille conceptuelle commune à la philosophie et aux mathématiques. Les schèmes sont trop éloignés les uns des autres pour donner lieu à la cristallisation d’une armature notionnelle qui fasse sens indépendamment dans les deux domaines. Les philosophes fondationalistes restent dans le giron philosophique, et comme l’indique Corfield, ils perdent de vue la chair et la texture des mathématiques en train de se faire. Mais le simple souhait de corriger cet état de chose, s’il n’est pas articulé à la construction d’un nouveau cadre philosophique, ne peut donner lieu qu’à une accumulation d’études de cas, sans véritable unité. A l’agenda fondationaliste, les philosophes des pratiques ne substituent rien, si ce n’est le vague programme de redonner la parole aux mathématiques. Or la question que les philosophes des pratiques ne posent pas et qu’ils devraient pourtant soulever est celle de la nécessité de la philosophie des mathématiques. Si aucun agenda philosophique identifiable ne permet de parler de façon informée des mathématiques contemporaines, pourquoi ne pas renoncer à l’ensemble du programme ? Pourquoi ne pas aller jusqu’au bout de la critique, et renoncer à l’idée qu’il faudrait coûte que coûte élaborer une philosophie des mathématiques ?

39J’ai tenté de montrer dans les sections 1 à 3 que les philosophies des mathématiques du passé sont nées dans des périodes où les mathématiques et la philosophie étaient suffisamment proches pour donner lieu à un cadre conceptuel commun. Je doute, pour les raisons que j’ai exposées dans la section 4, que cette situation soit encore la nôtre. En conséquence, je ne crois pas que le projet d’élaborer une philosophie des mathématiques contemporaines ait aujourd’hui une quelconque pertinence. Cette conclusion peut paraître non seulement excessivement pessimiste, mais surtout stérile. À quoi bon consacrer quelques pages à l’idée de philosophie des mathématiques pour expliquer qu’en définitive une telle idée est aujourd’hui vide de sens ?

40Les modalités selon lesquelles la philosophie se rapporte aux mathématiques sont multiples et variées, et le projet d’élaborer une philosophie des mathématiques n’est pas la seule façon pour un philosophe d’utiliser et de se confronter aux mathématiques. Or, faire comme si le projet d’une philosophie des mathématiques allait de soi, faire comme s’il était du devoir de tout philosophe s’intéressant aux mathématiques de tenter de le mener à bien, a pour effet de réduire les autres modes possibles d’interaction à des voies secondaires – au mieux, à des travaux provisoires qui trouveront leur place dans la récapitulation finale, au pire, à des annexes qui détournent de la véritable tâche. C’est précisément pour rappeler l’évidence, à savoir qu’un philosophe peut s’intéresser aux mathématiques pour toutes sortes de raisons et sans nécessairement avoir pour visée la constitution d’une philosophie des mathématiques, que j’ai écrit ce texte.

41Énumérons quelques-unes de ces modalités alternatives. Un historien de la philosophie peut vouloir étudier la relation entre telles pratiques mathématiques et tels développements métaphysiques (pensons à l’étude des œuvres d’un Descartes ou d’un Leibniz). Un épistémologue peut réfléchir sur telle ou telle procédure illustrée de façon particulièrement claire ou originale dans telle ou telle branche des mathématiques (pensons par exemple à l’induction [22]). Un philosophe, qu’il s’intéresse à la métaphysique ou à la philosophie morale ou même politique, peut également importer des modèles mathématiques dans son champ d’étude (il peut avoir, avec les mathématiciens, le même genre de rapport que les physiciens ont avec eux). Tous ces usages philosophiques des mathématiques sont susceptibles de déboucher sur des avancées importantes, et ont donc une valeur intrinsèque, indépendamment de la question de savoir s’ils contribuent ou non à la construction d’une philosophie des mathématiques.

42Bien entendu, ces pistes sont explorées dans la philosophie contemporaine. Mais elles pourraient l’être plus. Les croisements entre l’histoire des mathématiques et l’histoire de la philosophie sont développés par les philosophes des pratiques mathématiques [23] – ils ne sont cependant pas considérés comme un but en soi, mais comme un préalable à l’élaboration d’une nouvelle philosophie des mathématiques. Dans la littérature épistémologique contemporaine, les exemples mathématiques brillent souvent par leur absence. Lorsque les philosophes de la connaissance illustrent leurs analyses, c’est généralement soit par des situations tirées de la vie quotidienne, soit par des cas issus des sciences empiriques – et non par des exemples tirés des mathématiques, alors même que ces derniers sont extrêmement riches [24]. Enfin, lorsque les philosophes se tournent aujourd’hui vers des cadres formels, c’est avant tout vers la logique qu’ils se dirigent, non vers les mathématiques, et ce, alors même que, dans certains cas, des cadres géométriques ou issus de la théorie des catégories paraissent mieux s’ajuster aux spécificités du domaine envisagé [25].

43La nature des freins qui pèsent sur ces usages philosophiques des mathématiques est difficile à déterminer. Il reste que l’idée qu’il faudrait coûte que coûte parvenir à édifier une philosophie des mathématiques n’aide pas à développer ces pistes de recherche. En orientant la recherche des philosophes s’intéressant aux mathématiques (j’évite l’expression « philosophes des mathématiques » à dessein) vers un programme dont l’effectuation est toujours remise à plus tard, elle les isole du reste de la communauté philosophique – des historiens et des philosophes analytiques [26].

44Il y a eu par le passé des philosophies des mathématiques – mais il se pourrait que prendre aujourd’hui ces magnifiques monuments pour modèles constitue un obstacle aux développements des interactions effectives entre philosophie et mathématiques.