Les objets mathématiques existent-ils ?

Un des traits caractéristiques de la science moderne est une forte mathématisation des théories scientifiques, au moins depuis Galilée, qui affirmait que "la nature est un livre écrit en langage mathématique". Ce succès dans l'application des mathématiques au réel pourrait nous amener à penser que la connaissance mathématique n'est pas qu'une simple construction de l'esprit, qu'elle nous renseigne en quelque sorte sur le monde.

Mais voilà justement, l'avènement de la science moderne, avec Copernic, Galilée puis Newton, remettant en cause sur la base de l'expérimentation la physique d'Aristote (une physique essentiellement qualitative qui avait été érigée en dogme au cours du moyen âge), a jeté en même temps le doute sur l'idée qu'on puisse accéder par la seule raison à des vérités premières. C'est le fameux débat entre empirisme et rationalisme qui animait la philosophie des lumières (peut-être que nous y reviendrons prochainement sur ce blog), les empiristes défendant l'idée que toute connaissance est issue de l'expérience. Or les vérités mathématiques ne sont-elles pas connues a priori, par la pure raison, sans recours à l'expérience ?

En effet ce n'est pas par l'expérience qu'on vérifie le théorème de Pythagore : les triangles qu'on dessine sur des feuilles de papier ne servent que de supports à nos raisonnements, mais ils ne correspondent qu'imparfaitement à nos idéalisations. Les objets mathématiques ne sont pas des dessins sur du papiers. Ils n'existent pas de manière concrète dans l'espace et le temps : ce sont des abstractions. Et leurs propriétés sont connues par déduction à partir d'axiomes plutôt que par induction sur la base de l'observation, comme ce peut être le cas des objets des sciences naturelles.

Pourtant ne s'agit-il pas d'une connaissance objective ? Les mathématiciens peuvent arriver aux mêmes résultats indépendamment par le raisonnement, ils peuvent aboutir à la certitude et se convaincre les uns les autres par des démonstrations. Comment expliquer cette connaissance ? Finalement, les objets mathématiques dont les mathématiciens semblent assumer l'existence (quand ils disent par exemple "il existe un nombre/une fonction/... tel que..."), ces objets existent-ils réellement ?

C'est la question qu'on va se poser aujourd'hui. Le défi, c'est de rendre compte de l'objectivité des mathématiques en faisant justice à la pratique des mathématicien et de rendre compte du succès de leur application en science, tout en expliquant comment la connaissance mathématique est possible. Nous allons voir cependant qu'aucune réponse n'est entièrement satisfaisante, et que le statut des objets mathématiques reste un peu mystérieux.

Le logicisme

Commençons par dire un mot de la philosophie de Kant, qui propose une synthèse entre rationalisme et empirisme. Pour Kant, si en effet la connaissance provient de l'expérience, l'expérience n'est possible que si notre esprit lui donne une certaine forme, et c'est justement le rôle des mathématiques, ou de certains principes métaphysiques comme le principe de causalité, que d'exprimer cette forme. Les axiomes mathématiques, comme ceux de l'arithmétique (le calcul sur les nombres entiers) ou de la géométrie, seraient donc connus a priori, sans recours à l'expérience. Il ne s'agirait cependant pas de simple tautologies ou conventions mais de vérités substantielles (ou "synthétiques" dans le vocabulaire de Kant) connues par intuition, qui concernent la forme de l'expérience. La connaissance des nombres, notamment, dériverait de l'intuition du temps, ou la succession d'instants, tandis que la géométrie dériverait d'une intuition de l'espace.

Cette intuition mathématique peut paraître un peu mystérieuse (et puis il s'avère que la géométrie de l'espace physique n'est pas euclidienne, contrairement à ce que pensait Kant) et elle n'éclaire pas forcément le statut fondamental des objets mathématiques, mais les idées de Kant ont influencé les différentes positions visant à rendre compte des mathématiques à la fin du 19ème siècle et au début du 20ème siècle, et qui généralement voulaient éviter de faire des objets mathématiques de réels objets existant dans le monde.

Une première tentative allant dans ce sens est d'envisager que les mathématiques ne soient finalement qu'une question de logique et rien de plus, disons une logique "déguisée". Cette approche d'abord envisagée par Leibniz a pu être développée à partir de la fin du 19ème siècle, quand l'arithmétique a été axiomatisé par Dedekind et Peano, et la logique formalisée par Frege.

La logique, telle que formalisée par Frege, consiste à analyser les énoncés du langage comme attribuant des propriétés et des relations à des objets, et reliant d'autres énoncés par des opérateurs logiques ("et", "ou", ...) et des opérateurs de quantification ("tous les..."). La logique nous dit simplement sur cette base quelles inférences sont valides (si tous les chats sont gris et qu'Albert est un chat, alors Albert est gris).

L'axiomatisation de l'arithmétique consiste à poser certains principes fondamentaux desquels on peut dériver les théorèmes de l'arithmétique. L'axiomatisation de Peano, par exemple, pose que :

• tout nombre a un unique successeur,
• tout nombre est le successeur d'au plus un nombre,
• zéro n'est le successeur d'aucun nombre,
• on obtient la chaîne complète des nombres entiers en partant de zéro.

Partant de là, on peut définir l'addition, la multiplication, et démontrer différents théorèmes par inférence logique.

Frege, justement, a poursuivi toute sa vie le projet de réduire l'arithmétique à la logique par de simples définitions : les nombres ne seraient rien d'autre que des objets dérivés de pures principes logiques. L'intérêt, c'est de pouvoir expliquer la certitude qu'on a vis-à-vis des nombres sans avoir recours à une mystérieuse intuition, et sans s'engager sur l'existence d'un monde abstrait : la logique n'est qu'une bonne façon de raisonner mais ne présuppose rien sur le monde (elle porte sur la forme de nos énoncés, non leur contenu).

Comment alors comprendre ce qu'est un nombre ? Frege part du principe (qu'il pense être un principe logique) qu'à toute propriété logique on peut associer l'ensemble des objets qui possèdent cette propriété, ce qu'on appelle son extension. On peut alors dire que deux propriétés ont le même nombre quand elles ont le même nombre d'objets associés, c'est à dire qu'il est possible d'associer ces objets deux à deux (comme on dit qu'il y a autant de personnes que de chaises dans une pièce si on peut placer chaque personne sur une chaise et qu'il ne reste aucune chaise vide). Partant de cette définition logique du nombre, Frege parvient alors à retrouver les lois de l'arithmétique, ce qui tendrait à montrer qu'en effet l'arithmétique n'est qu'une histoire de pure logique.

Le problème est que le principe sur lequel se fonde Frege est contradictoire, comme le montrera Russell. On peut illustrer ceci par un paradoxe : imaginons, dans un village, un barbier qui rase l'ensemble des habitants du village qui ne se rasent pas eux-même, et uniquement ceux-ci. La question est : le barbier se rase-t-il lui même ? Si c'est le cas, ce n'est pas le cas, et si ce n'est pas le cas, c'est le cas : on aboutit à une contradiction.

De même le principe de Frege suivant lequel n'importe quelle propriété logique peut être associée à un ensemble d'objets (y compris, parmi ces objets, d'autres propriétés logiques) s'avère contradictoire, puisqu'on peut exprimer la propriété de s'appliquer à toutes les propriétés qui ne s'appliquent pas à elles-mêmes. Mais alors il est impossible de savoir si cette propriété s'applique à elle-même ou non.

Ce paradoxe mis fin à l'espoir de Frege de pouvoir fonder les mathématiques sur la logique uniquement. Certes, on peut envisager certaines contraintes dans la définition des propriétés logiques pour éviter ce type de problèmes, comme l'a proposé Russell avec sa théorie des types, mais alors on ne parvient à définir les nombres qu'au prix de nouveaux axiomes qui ne sont pas purement logiques : en tout les cas, pour définir ce qu'est un nombre, on doit sortir de la logique pure et parler du monde.

Si le logicisme s'est avéré un échec, les travaux de Frege et Russell ont permis de repenser les fondements logiques des mathématiques, ce qui a finalement aboutit à la formulation de la théorie des ensembles (plus praticable que la théorie des types) qui permet d'unifier les différentes branches des mathématiques. On voit que les mathématiques peuvent reposer sur un nombre assez petit d'axiomes fondamentaux. Cependant on ne peut se passer d'axiomes.

L'intuitionnisme et le formalisme

Si les mathématiques ne se réduisent pas à la logique, peut-être pourrait-on dire que les objets mathématiques sont de pures constructions mentales. C'est l'approche que poursuit Brouwer avec l'intuitionnisme.

Cette approche est révisionniste vis-à-vis des mathématiques et de la logique elle-même. En effet, certaines démonstrations mathématiques (comme les démonstrations par l'absurde) parviennent à démontrer l'existence d'objets sans que ceux-ci ne soient explicitement construits. Si l'on veut maintenir que les objets mathématiques sont des constructions, il faut interdire ce type de procédé.

Brouwer proposera donc une logique intuitionniste, au sein de laquelle le principe du tiers exclu (une proposition est soit vrai, soit fausse) ou encore celui de l'élimination de la double négation ne sont pas acceptés. Il s'agit, disons, de réinterpréter le "vrai" de la logique classique en "constructible" ou "démontrable"... Avec l'espoir de mieux pouvoir interpréter le statut des objets mathématiques comme constructions.

L'approche s'avère dans un premier temps abordable. Il est possible de prouver de cette façon des équivalents des théorèmes de l'arithmétique. Cependant elle se complexifie énormément dès qu'on s'attaque à des branches plus avancée des mathématiques, et pour cette raison elle échouera à convaincre la plupart des mathématiciens. Le mathématicien Alain Connes emploie une image à cet égard : c'est un peu comme si un géographe décidait de dessiner la carte des Alpes en escaladant les montagnes unes à unes plutôt que de les survoler en hélicoptère...

Une approche similaire, mais qui ne nous demande pas de réviser les mathématiques telles qu'elles sont pratiquées, est le formalisme, envisagé par Hilbert.

Pour Hilbert, les mathématiques sont simplement une manipulation de symbole, un jeu formel : on part d'axiomes et en utilisant certaines règles, on montre des théorèmes. On utilise généralement des entités concrètes, comme des inscriptions sur une feuille de papier, pour jouer le rôle des objets mathématiques, mais en aucun cas il n'existe de réels objets au delà de ces symboles. Il ne faudrait pas interpréter les énoncés des mathématiciens littéralement comme des énoncés affirmant l'existence d'objets.

Cette position peut être rapprochée du fictionnalisme, qui prétend, pour prendre une image, que les objets mathématiques sont un peu comme des personnages de fiction, et que les mathématiques qui nous demandent d'accepter leur existence consistent, disons, à se raconter des histoires...

Hilbert entreprend un programme "méta-mathématique" qui consiste à décrire ce jeu mathématique au sein des mathématiques elles-mêmes. C'est simple : à chaque énoncé mathématique on peut associer un nombre entier unique, par un processus de codage. On peut ensuite assimiler les déductions que font les mathématiciens à des opérations arithmétiques sur ces nombres. A l'aide de cette méthode, on pourrait peut-être prouver certains "méta-théorèmes", comme la consistance de l'arithmétique : le fait qu'on ne puisse démontrer une chose et son contraire, ou encore la complétude : le fait que n'importe quel énoncé puisse être démontré soit vrai soit faux à partir des axiomes de l'arithmétique.

Si ce projet pouvait aboutir, et si on pouvait montrer la complétude de l'arithmétique, on aurait en effet réduit l'ensemble des mathématiques à un jeu formel qui peut s'exprimer dans le cadre de l'arithmétique (les mathématiques avancées seraient purement instrumentales), et on disposerait alors d'une méthode sûre pour connaître l'ensemble des vérités mathématiques.

Gödel mettra fin à ce beau projet. Il montrera que certains énoncés mathématiques sont indécidables, c'est à dire qu'on ne peut prouver ni qu'ils sont vrais, ni qu'ils sont faux à partir des seuls axiomes. On peut même construire de nouveaux systèmes formels divergents à partie de chaque énoncé indécidable : un qui l'accepte et un qui le rejette. Gödel montrera également que l'énoncé correspondant à la consistance de l'arithmétique elle-même fait partie de ces énoncés indécidables. De manière général, aucun système d'axiome au moins aussi puissant que l'arithmétique ne peut démontrer lui-même sa propre consistance, c'est à dire qu'il ne peut prouver qu'il est lui-même cohérent et n'aboutit à aucune contradiction. Il faut, pour le montrer, partir d'un système plus puissant qui englobe le premier en faisant usage de concepts mathématiques avancés (mais ce système lui même ne peut montrer sa propre consistance). Un peu comme des poupées russes...

Ceci montre que les systèmes formels avancés dépassent en un sens l'arithmétique. Mais le programme de Hilbert, s'il échoue en partie, a également ouvert la voie à des travaux très important sur les fondations des mathématiques et la notion de preuve ou de système formel.

En dépit du théorème d'incomplétude de Gödel, l'approche formaliste reste a priori viable : peut-être que les mathématiques ne sont que manipulation de symboles. Il faudrait alors accepter qu'il n'existe pas un unique système cadre (l'arithmétique), mais que tous les systèmes formels se valent, et que la vérité d'un théorème ne vaut qu'à l'intérieur d'un système donné qu'on accepte par simple convention. Les théorèmes de l'arithmétique ne seraient vrai qu'une fois qu'on accepte les axiomes de l'arithmétique, tout comme un personnage de fiction n'existe qu'à l'intérieur d'une histoire donnée. Mais les axiomes seraient arbitraires, ou résulterait de considérations pragmatiques.

On peut douter cependant qu'une telle vision des choses face vraiment justice à la pratique des mathématiciens. On peut douter qu'ils perçoivent leurs énoncés comme dénués de sens, ou leur activité comme un simple jeu formel. Et leurs "personnages de fiction" existent un peu dans toutes les histoires...

Ensuite il est très fréquent que les mathématiciens discutent de la pertinence des axiomes (par exemple l'hypothèse du continu) comme s'il s'agissait de déterminer quels sont les bons axiomes à adopter. Les axiomes de la théorie des ensembles ne semblent pas être arbitraires : on peut penser que ce sont de bons axiomes qu'il est raisonnable d'accepter, et si par exemple la consistance de l'arithmétique de Peano est indécidable, il semble encore une fois raisonnable de l'accepter comme axiome et de travailler dans des systèmes qui l'acceptent plutôt que l'inverse. Il ne semble pas qu'il s'agisse d'un choix arbitraire.

Un autre problème se pose, qui est que si les mathématiques ne sont qu'un jeu de manipulation de symboles, si les nombres ne sont que des marques sur du papier, comment alors expliquer la façon dont ils s'appliquent au monde à travers les sciences ? Est-ce que cette application, couronnée de succès, ne suppose pas une certaine réalité des concepts mathématiques ?

Platonisme et naturalisme

On voit que les approches visant à réduire les objets mathématiques à autre chose (à la logique, à des constructions, à des jeux de symboles arbitraires) rencontrent des difficultés. Et si, finalement, les objets mathématiques existaient réellement ? Non pas de manière concrète dans notre univers, mais peut-être de manière abstraite ?

C'est ce qu'on appelle le platonisme. Il a connu un renouveau au cours du 20ème siècle suite aux difficultés des autres approches, et était adopté notamment par Gödel. Derrière le platonisme, il y a l'intuition que les mathématiciens ne font pas que construire des systèmes, mais qu'il découvrent des vérités qui pré-existent à leurs raisonnements.

On peut finalement faire une analogie assez forte avec les sciences naturelles. L'intuition mathématique pourrait se rapprocher de la perception qui sert de support aux sciences naturelles. Tout comme en science, on émet des conjectures et certaines hypothèses sont révisables (comme quand Frege découvre que son principe est contradictoire). Tout comme en science, on juge finalement les axiomes mathématiques à l'aulne de leur succès pour rendre compte de façon simple et économique d'un grand nombre de vérités (ou de choses qui semblent intuitivement vraies).

Une forme de platonisme est le naturalisme, qui est l'idée que les mathématiques, comme les sciences, font partie intégrante de notre connaissance de la nature. Le naturalisme en général (pas seulement à propos des mathématiques) est notamment défendu par Quine. Il consiste à affirmer qu'il n'existe pas de principes premiers indubitables dans la connaissance, que tout est révisable, qu'il existe une continuité entre philosophie et science, et que les sciences expérimentales sont notre meilleur moyen d'acquérir de la connaissance.

Si l'on est naturaliste, alors il est possible de formuler un "argument d'indispensabilité" en faveur de l'existence des objets mathématiques (formulé par Putnam) qui est le suivant : puisqu'on ne peut faire de science sans poser l'existence d'objets mathématiques, alors nous devons accepter que les objets mathématiques existent.

Cet argument peut aussi être associé au "holisme de la vérification" (dont on a déjà parlé) également défendu par Quine : l'idée est qu'on ne teste jamais des hypothèses scientifiques de manière isolée, mais qu'on embarque toujours un ensemble de présupposés implicites, métaphysiques, méthodologiques ou de bon sens quand on entreprend une vérification expérimentale. Finalement l'ensemble de nos représentations sont mises à contribution, et testées en bloc. Ceci inclue nos représentations mathématiques, qui seraient donc confirmées indirectement à chaque fois qu'une théorie scientifique utilisant les mathématiques est confirmée.

Tout le monde n'est pas d'accord. Field, par exemple, a proposé une reformulation de la physique de Newton qui ne présuppose pas l'existence d'objets mathématiques (mais uniquement des relations de comparaison entre objets physiques), de manière à montrer que ceux-ci ne sont pas si indispensables.

Un problème que rencontre le naturalisme est que les mathématiciens ne se préoccupent généralement pas outre mesure des sciences naturelles, et que de larges pans des mathématiques ne sont d'aucun usage en science. Il semble bien qu'il s'agisse d'une discipline autonome. Peut-être que notre conception des nombres ou de la géométrie s'appuie initialement sur notre expérience du monde (de l'espace, des objets) mais il est difficile d'en dire autant de tous concepts abstraits que manient les mathématiciens.

A ce titre, Maddy s'est intéressée aux principes que les mathématiciens utilisent pour justifier l'adoption d'axiomes pour compléter la théorie des ensembles (comme l'hypothèse du continu). Elle en relève deux principaux : l'unification et la maximisation, c'est à dire le fait de parvenir à fournir un cadre général au sein duquel tous les objets mathématiques pourraient être modélisés, de la façon la plus fructueuse et puissante possible. Il s'agit de principes qui sont internes aux mathématiques.

Une autre critique du naturalisme, formulée par Sober, est basée sur l'idée qu'on ne fait jamais que tester les hypothèses scientifiques en les comparant à des hypothèses concurrentes. Mais si toutes les hypothèses utilisent les mêmes outils mathématiques, ceux-ci ne sont pas vraiment testés par l'expérience.

Et puis reste la question, pour le platonisme en général, de la façon dont nous pouvons connaître les propriétés de ces objets abstraits. Benacerraf explicite le problème de la manière suivante : on conçoit généralement que la connaissance, ou le fait de faire référence à des objets, suppose une relation causale à ces objets. Mais si les objets mathématiques n'existent pas dans l'espace et le temps, s'ils n'ont pas de pouvoirs causaux, comment pourrions-nous être reliés à eux et les connaître ?

En résumé, si les approches qui refusent d'accepter l'existence d'objets mathématiques rendent difficilement compréhensible la pratique des mathématiciens et le succès de l'application des mathématiques aux sciences, celles qui les acceptent peinent à expliquer comment la connaissance de ces objets est possible.

Le structuralisme

Pour terminer évoquons une dernière position : le structuralisme. Il part de l'observation qu'il existe différentes façons équivalentes de représenter les nombres entier dans la théorie des ensembles. Mais alors, du point de vue même des mathématiques, il n'est pas évident que les nombres soient des objets bien identifiés !

Le structuralisme propose alors de se passer des objets en mettant l'accent sur les structures : ce qui définirait les nombres entiers serait leur structure, les relations qu'ils entretiennent et les opérations qu'on peut effectuer sur eux. Les nombres ne seraient pas de réels objets, ils ne seraient finalement que les emplacements de cette structure. Et une structure peut être instanciée de plusieurs façons.

Plus d'objets, plus de problème ? On peut penser cependant que cette position n'a fait que reporter le problème de l'existence des objets vers les structures, et de la même façon que pour les objets, on peut être platonicien ou fictionnaliste à propos des structures. On retrouve alors les mêmes arguments : le platonicien doit nous expliquer comment il est possible d'acquérir une connaissance des structures mathématiques si celles-ci ne sont pas concrètes. Le fictionnaliste doit nous expliquer pourquoi la connaissance mathématique semble objective, et pourquoi elle s'applique si bien au réel si ces structures ne sont que des constructions de l'esprit.

Une réponse (proposée également par Putnam) est que les structures mathématiques seraient des structures non pas réelles mais possibles, et qu'affirmer une vérité mathématique reviendrait à affirmer que toute structure concrète instanciant cette structure possible rendrait vrai les théorèmes mathématiques correspondant (par pure logique, puisque les théorèmes dérivent logiquement des axiomes). Voilà qui éclaircirait la façon dont les mathématiques s'appliquent à la réalité. Mais n'y a-t-il pas une circularité ? Est-ce qu'il ne faut pas déjà avoir en tête une structure mathématique abstraite pour décrire une structure concrète ? Et est-ce que toutes les structures mathématiques, y compris les plus abstraites (comme les infinis d'ordre supérieur) peuvent vraiment être instanciées dans le monde ?

Au final, le statut des entités mathématiques (objets ou structures) laisse planer un parfum de mystère difficile à dissiper.