1Le renouvellement et l’essor de la philosophie des mathématiques ces dernières années sont en grande partie le fruit de perspectives croisées. Les échanges entre les différentes disciplines (de la logique à l’histoire des mathématiques, en passant par la philosophie des sciences et les sciences cognitives) qui abordent avec leurs outils et leurs méthodes propres, le factum rationis des mathématiques, comme l’effacement progressif des frontières entre les différentes traditions philosophiques qui ont longtemps promu, dans une relative ignorance réciproque, des formes de questionnement jugées antagoniques (« analyse » versus « épistémologie historique »), ont en effet conduit à revisiter les dogmes anciens, pour les questionner et les recontextualiser à partir d’une prise en compte précise et rigoureuse de la pratique des mathématiques. Sans doute garde-t-on en France le souvenir vivace de l’ironie mordante de Poincaré affûtant ses épigrammes contre la logique, saluée pour sa fécondité exclusivement vouée aux paradoxes, ou de la morgue d’André Weil récusant par avance tout autre point de vue sur les mathématiques et leur histoire que celui qu’autorise une connaissance de première main de la fine pointe des mathématiques contemporaines. Sans doute aussi la tradition d’excellence des mathématiques françaises devait-elle durablement conforter l’autorité prêtée à ses éminents représentants. Tout cela a probablement contribué à reléguer longtemps, de ce côté-ci de l’Atlantique comme de la Manche, la philosophie des mathématiques à un rôle ancillaire d’explicitation réflexive de questions dont elle n’aurait pas l’initiative, tandis qu’à l’inverse, dans les pays de tradition philosophique anglo-saxonne, la logique conférait à la philosophie une forme d’indépendance par rapport aux mathématiques en lui fournissant ses principaux paradigmes d’analyse. L’un des traits les plus marquants qui caractérisent la production récente, dans laquelle certains croient pouvoir discerner une « nouvelle vague » de la philosophie des mathématiques, tient peut-être à cette exigence de ne pas sacrifier l’une à l’autre, l’autonomie du questionnement philosophique et l’attention portée aux mathématiques elles-mêmes dans toute leur richesse épistémologique et leur complexité conceptuelle.

2L’idée de ce volume est née d’une occasion et d’un compagnonnage intellectuel. L’occasion était fournie par l’accélération des échanges et l’intensification des collaborations d’une rive à l’autre, dans le cadre de la Chaire d’excellence de Michael Detlefsen (University of Notre Dame, Indiana), accueillie pour une durée de quatre ans (2008-2011), conjointement à l’Université Paris Diderot-Paris 7 et à l’Université de Nancy. Le programme de recherches « Ideals of Proof?/Idéaux de preuve » que conduit Michael Detlefsen s’organise autour de plusieurs questions au croisement de la logique, de l’histoire et la philosophie des mathématiques, dont le caractère novateur tient à ce que sans cesser de donner à la philosophie les instruments et les moyens de son indépendance vis-à-vis des mathématiques, la logique s’ouvre néanmoins à ces dernières. Le titre même réfère à deux contextes distincts dont la corrélation permet de cerner les enjeux principaux de l’entreprise. Selon Detlefsen, l’expression « idéaux de preuve » doit être comprise d’abord en un sens normatif. Il s’agit d’expliciter les fins spécifiques et les vertus épistémiques qui caractérisent la preuve mathématique envisagée comme norme justificative de la pratique mathématique elle-même. Tels sont par exemple les idéaux de rigueur, de certitude, d’a priorité, de pureté, etc. tout comme ceux qui mettent en avant le contenu explicatif des preuves, la complétude, l’effectivité, etc. L’autre sens renvoie à l’histoire des mathématiques et plus spécifiquement à l’introduction dans un champ opératoire et thématique donné, d’entités qui sont, pour ainsi dire, à la fois « dedans et dehors » et ouvrent des possibilités nouvelles aux preuves, tels par exemple les infinitésimaux, les nombres imaginaires, les nombres idéaux « à la Kummer », les points à l’infini de la géométrie projective, etc. Si, comme le rappelle Detlefsen, il est vrai que, selon le mot célèbre de Hadamard, « le chemin le plus court et le meilleur entre deux vérités du domaine réel passe souvent par l’imaginaire », l’exigence d’explicitation de cette forme de normativité indique à l’attention du philosophe un foyer de problèmes théoriques dont le projet « Ideals of Proofs » se propose de dresser la carte.

3L’ouverture et la rigueur dans la pratique de l’argumentation qui ont présidé à ces multiples échanges ont permis ainsi de forger une sorte de compagnonnage intellectuel dont ce volume porte trace. Les articles rassemblés ici donneront une image de ces tendances prometteuses en philosophie des mathématiques.

4Le texte par lequel s’ouvre le volume est la traduction d’un article de Michael Detlefsen, « Russell versus Poincaré sur le rôle de la logique dans les mathématiques », paru pour la première fois en 1993 dans Philosophia Mathematica. Dans ce texte, Detlefsen revient sur l’opposition que Russell faisait entre les « mathématiques » et la « psychologie des mathématiciens ». Au mathématicien Pierre Boutroux, lui-même parent par alliance de Poincaré, qui avait critiqué l’approche russellienne de la notion de fonction en arguant du fait que cette conception était inapte à rendre compte du travail du working mathematician, Russell, dans un article paru en 1905 dans la Revue de Métaphysique et de Morale [1], avait répondu que Boutroux confondait « l’acte de découvrir avec la proposition découverte », « notre connaissance des mathématiques [avec] le corps de vérités que nous découvrons progressivement », « la psychologie des mathématiciens [et] les mathématiques elles-mêmes ». Une opposition aussi brutale et tranchée est-elle pertinente ? Que reste-t-il des mathématiques lorsqu’on leur retranche tout ce qui en elle renvoie à notre connaissance, à nos actes et à ce que Russell appelle la psychologie du mathématicien ?

5Detlefsen cherche à réhabiliter une conception kantienne des mathématiques selon laquelle les mathématiques ne se réduisent pas à leur contenu logique. Pour Poincaré comme pour Kant, il y a « une différence importante entre la condition épistémique de celui qui a une compréhension authentiquement mathématique d’une proposition et la condition épistémique de celui qui a une maîtrise logique sur un ensemble de propositions qui l’impliquent » (conclusion) – différence qui ne peut être réduite à celle entre contexte de découverte et contexte de justification ou entre psychologie et logique. Il est important de comprendre que la critique que Detlefsen adresse au logicisme n’est pas technique ; l’objection ne consiste pas à affirmer que l’on ne peut pas faire correspondre une preuve russellienne à chaque preuve mathématique d’un théorème ; elle vise plutôt à montrer que ce passage de la preuve mathématique ordinaire à son corrélat logique nous fait perdre ce qui constituait le caractère distinctement mathématique de la connaissance que nous avions du théorème. Et tout l’effort de Detlefsen est d’explorer les conséquences du mouvement consistant à intercaler entre le logique et le psychologique un niveau intermédiaire, celui de la connaissance mathématique proprement dite. Ainsi, l’article discute de façon détaillée du concept de jugement et de proposition, de celui de l’inférence mathématique, de la notion de rigueur des preuves, de la question de l’architecture des mathématiques, etc. Le propos de Detlefsen n’est en effet pas simplement historique – le débat entre Poincaré et Russell est pour lui le moyen de montrer qu’il est toujours possible aujourd’hui de défendre une position « kantienne », et que cette défense doit passer par une attention accrue portée à la notion de connaissance mathématique.

6Cette attention portée à la question de la connaissance mathématique est sans doute le point commun de l’ensemble des articles de ce volume, au demeurant, fort différents dans leur propos et leur style. L’argument de Detlefsen n’exclut en effet pas que la logique puisse nous permettre d’éclairer certaines pratiques mathématiques. Ce qui constitue le cœur du propos est que cet usage doit être ajusté à la « métrique » locale des mathématiques considérées, au sens où le mathématicien est guidé dans ses inférences par une compréhension fine de l’architecture locale de son sujet, et que cet ajustement reste toujours une affaire éminemment problématique, que la logique elle-même ne peut pas seule régler.

7Ainsi, le questionnement de Jamie Tappenden, qui se penche dans son article « Définitions mathématiques pour philosophes », sur le problème de savoir ce qui distingue en mathématiques une bonne définition d’une autre, s’inscrit dans la perspective ouverte par Detlefsen. Comment expliquer que « les mathématiciens [puissent] manifester une préférence forte pour une définition au détriment d’une autre », ce alors même que l’on peut prouver que les définitions en question sont équivalentes ? Sans doute des facteurs « psychologiques » ou « sociaux » expliquent-ils en partie ces préférences. Mais il reste que des raisons objectives, fussent-elles non réductibles à des caractéristiques purement logiques, fondent ce type d’appréciation. Il en va ainsi des considérations relatives à la fécondité mathématique des définitions. Tappenden prend notamment deux exemples de définitions fécondes : celle du symbole de Legendre dans la théorie de la réciprocité quadratique, et celle de la notion de schème dans la géométrie algébrique des années 1950. D’une certaine façon, Tappenden milite ici pour une réhabilitation en philosophie des mathématiques de la distinction classique au xvii^e siècle entre définition réelle et définition nominale, mais en la dépouillant de ses oripeaux métaphysiques traditionnels. Les analyses de cas mathématiques précis sont ainsi, dans cet article, mises au service de discussions philosophiques de portée plus générale s’inscrivant dans la tradition « analytique » (par exemple ici, les discussions issues de la « nouvelle énigme de l’induction » de Goodman et la question des espèces naturelles) comme dans la tradition « continentale » (par exemple ici, la distinction kantienne entre beauté libre et adhérente).

8Dans « L’infinité des nombres premiers : une étude de cas de pureté des méthodes », Andrew Arana se penche, non plus sur le problème de la pluralité des définitions, mais sur celui de la pluralité des preuves. Un même théorème, comme celui (connu des Grecs) qui affirme qu’il y a une infinité de nombres premiers, peut souvent être démontré par plusieurs preuves très différentes entre elles. Un des critères utilisés pour distinguer et hiérarchiser ces différentes preuves est celui de la pureté des méthodes impliquées : une preuve est topiquement pure si elle ne fait fond que sur des concepts apparaissant dans l’énoncé du théorème. Mais que veut dire exactement ici « contenir », « faire fond sur », « énoncé du théorème » ? On pourrait croire que la preuve grecque du théorème de l’infinité des nombres premiers, qui ne fait fond que sur les notions d’entiers, d’entiers premiers et d’addition entre entiers, est plus pure que celle, topologique, de ce même théorème donnée par Furstenberg en 1955. Mais est-ce vraiment le cas ? Tout en déployant les raisons pour lesquelles on pourrait tenir la preuve topologique du théorème de l’infinité des nombres premiers pour pure, Arana rejette ultimement cette hypothèse, en soulignant le fait que la compréhension du théorème dont il est question dans la définition de la pureté topique doit rester élémentaire. L’auteur est ainsi conduit à distinguer deux types de preuves : les preuves pures et les preuves profondes. On le voit, la réflexion d’Arana s’inscrit également dans la perspective ouverte par Detlefsen : la notion de pureté est un concept qui n’est certainement pas « psychologique », mais qui n’est pas seulement « logique » (au sens où il distingue différentes preuves du même théorème).

9Brice Halimi, dans « Structures et généralité en combinatoire : les mathématiques et les lettres », en prenant pour objet certains concepts de combinatoire cherche, quant à lui, à mettre en évidence une distinction entre structure et situation. Une situation est une structure munie d’un repère. Un exemple permet de saisir l’idée : « Les permutations qui opèrent sur un ensemble sont par principe autant de symétries de cet ensemble, mais il est précisément inévitable d’introduire une dissymétrie minimale (sous la forme d’une numérotation arbitraire de départ) pour « fixer les idées » et ainsi rendre possible la représentation de ces symétries ». La structure symétrique des permutations sur un ensemble n’est représentable qu’à partir du moment où une « dissymétrie » minimale, un repère, est introduite. Cette manœuvre consistant à introduire une dissymétrie pour pouvoir opérer et raisonner sur la structure, si elle est ubiquitaire en mathématiques, est particulièrement intéressante en combinatoire, dans la mesure où précisément, c’est le concept de substitution qui est ici le sujet de la théorie. Cette distinction fine entre situation et structure permet de résoudre de façon naturelle (c’est-à-dire d’une manière qui est en prise avec le travail des working mathematicians) certaines difficultés internes au structuralisme, notamment celle, discutée récemment par Shapiro et Keränen, liée à l’existence de positions indiscernables dans une structure. Mais elle éclaire également d’une nouvelle lumière la versatilité de la distinction entre ce qui appartient en propre au contenu mathématique (ici la structure) et ce qui relève des conditions de son accessibilité (la situation, c’est-à-dire la structure munie d’un repère).

10Les deux derniers articles présentés dans ce volume sont, d’une certaine façon, symétriquement opposés l’un à l’autre. En effet, alors que dans « Le rôle du contenu géométrique dans le raisonnement diagrammatique d’Euclide », John Mumma entend montrer qu’une logique élargie, autorisant à côté de l’usage d’énoncés, l’emploi de diagrammes, permet de cerner au plus près la pratique mathématique euclidienne, Denis Bonnay, dans « L’objet propre de la logique », interroge la distinction fondamentale entre constantes logiques et constantes non-logiques en mobilisant les ressources de la théorie des groupes de transformations, initialement utilisée par Klein, dans le fameux programme d’Erlangen, pour classifier les différentes géométries. Dans un cas, la logique est mise à contribution pour ressaisir l’originalité d’une pratique géométrique, dans l’autre des outils algébrico-géométriques servent à éclairer les concepts de base de la logique. Les deux illustrent d’une nouvelle manière à quel point le rapport entre logique et mathématiques peut être complexe, fécond et surprenant. Disons un mot de chacune de ces contributions.

11Si on prête ordinairement un rôle heuristique aux diagrammes, il est d’usage de les bannir complètement du processus de justification. Mumma, s’appuyant à la fois sur les recherches historiques de K. Manders sur Euclide, et sur les travaux de J. Barwise et J. Etchemendy sur les preuves « hybrides », entend établir la possibilité d’une conception alternative, selon laquelle les diagrammes doivent être considérés comme des constituants à part entière de la preuve euclidienne. Le but de Mumma n’est pas dans cet article de présenter les deux systèmes formels qu’il a (en collaboration avec d’autres) élaborés, mais de réfléchir sur leur statut – et donc également sur le statut de la preuve euclidienne. Il entend notamment montrer que ces systèmes sont semi-formels. Ils ne sont pas complètement formels dans la mesure où les règles permettant d’introduire un nouvel objet dans un diagramme s’énoncent au cas par cas, et ne sont subsumées sous aucun principe général. Il y a cependant une parenté étroite entre les raisonnements d’Euclide et les formalisations contemporaines : le système diagrammatique, exactement comme les systèmes posthilbertiens, font peser de très fortes contraintes sur ce qui compte comme une évidence mathématique admissible. Si Mumma a vu juste, c’est donc à une révision de l’opposition standard entre preuve informelle et démonstration formelle que nous serions conduits.

12Selon la définition tarskienne devenue classique, la relation de conséquence logique dépend de la caractérisation de la classe des mots logiques, ces mots qui, comme « non », « et », « tous » ou « certains » servent à articuler nos raisonnements. Mais cette caractérisation semble dépendre à son tour de nos intuitions concernant le caractère logique ou non des déductions que nous faisons. Comment sortir de ce cercle ? Dans son article, Denis Bonnay présente et explore les conséquences philosophiques d’une solution à ce problème, donnée d’abord par Tarski, et prolongée depuis : les opérations logiques sont les propriétés invariantes par permutation. Cette réponse peut être envisagée comme s’inscrivant dans le droit fil du programme d’Erlangen, lequel visait à associer à chaque classe de propriétés géométriques un groupe de transformations. Dans ce contexte géométrique, plus le groupe comporte de transformations, moins les propriétés invariantes permettent de distinguer les différents objets géométriques les uns des autres. Si l’on adopte cette perspective et qu’on la transpose à des domaines d’objets arbitraires, une opération serait logique si elle ne fait plus aucune distinction entre les objets auxquels elle s’applique. Bonnay montre que cette approche ne permet de sauver le caractère nécessaire et formel du raisonnement logique que si l’on accepte deux hypothèses supplémentaires, non triviales d’un point de vue philosophique : la première, l’hypothèse sur la possibilité, lie généralité et rigidité ; la seconde, l’hypothèse sur la formalité, lie généralité et absence de contenu.

13Par-delà la diversité de leurs perspectives et de leurs sujets, ces contributions illustrent ainsi, chacune à sa manière, un aspect de la complexité des relations entre mathématiques et logique, dont l’interaction ne se réduit pas aux schémas univoques du fondationnalisme, tout en réaffirmant la philosophie dans ses prérogatives d’inventivité conceptuelle.