On confond trop souvent, dans l’idée de « formalisme », deux opérations fort différentes : l’axiomatisation et la formalisation. Or, lorsque nous réfléchissons sur les relations en général envisageables de la littérature et des mathématiques, ce qu’il y a à dire de légitime et d’intéressant n’est pas la même chose selon que l’on considère l’axiomatique ou la formalisation.
Par suite, il me faut d’abord préciser et distinguer les deux termes, tout en reconnaissant leur solidarité. Ensuite, je m’intéresserai successivement à ce que la prise en compte de l’axiomatique peut apporter à l’examen de la chose littéraire, et à ce que le geste de formalisation peut avoir de transposable à l’ordre littéraire.
On pense d’abord, lorsque l’on parle d’axiomatique, à ce que Hilbert a fait dans son ouvrage fameux Les Fondements de la géométrie. Il y proposait, effectivement, une liste d’axiomes, régissant d’énigmatiques entités, encore baptisées points, droites et plans, mais que l’on aurait pu nommer autrement. Et il procédait à la reconstruction de ce que l’on appelait jusqu’alors géométrie, pour l’envisager, désormais, comme la déduction logique à partir des axiomes en question. Dans ce cas donc, axiomatiser X, cela veut dire installer X dans un mode et un système déductifs propres. Appelons axiomatisation fondationnelle un tel mode de l’axiomatiser.
Mais il existe en mathématiques un autre usage de l’expression axiomatiser, plus courant à mon sens : on dit, par exemple, que Kolmogorov a axiomatisé la théorie des probabilité…