Point de vue psychanalytique sur la logique et les mathématiques (Lire plutôt la réédition chez Vuibert ou en eBook, avec les illustrations de Jean Gourmelin) Une simple observation permet d'aboutir à une modification radicale de l'aspect des mathématiques, des sciences et de quelques autres domaines. Les mathématiques sont des phénomènes survenant dans des cerveaux d'êtres humains. Cela ne semble faire aucun doute: les mathématiciens construisent les mathématiques en les pensant. L'écriture des mathématiques n'est qu'une mémoire extérieure et le truchement permettant d'accorder plusieurs cerveaux sur les phénomènes dont ils sont le siège. Jamais aucun traitement automatique, même manuel, de l'écriture n'a produit des mathématiques. Pour évidente qu'elle soit, cette observation mérite cependant la plus grande attention. Tout se passe en effet, en pratique, comme s'il n'en était rien. Les mathématiciens mettent un point d'honneur à gommer la présence humaine. Ils évitent toute allusion à leur propre existence. Ils cernent leur discours d'une barrière de rigueur et de dépouillement. Aucun sentiment, aucune émotion ne doivent transparaître à travers le masque de l'abstraction. Il est toutefois difficile d'admettre qu'au cours des phénomènes mathématiques le fonctionnement du cerveau ne soit pas le même qu'au cours des autres moments de la pensée. Une hypothèse essentielle de la psychologie est l'universalité de la vie psychique. Le bûcheron et l'artiste ressentent des émotions semblables, mais les expriment à travers des actes et des langages différents. La psychanalyse a démontré à l'envi ces similitudes. Tacitement, le mathématicien a été jusqu'ici classé à part. Le privilège est abusif. Quelle est la vie affective du mathématicien ? Quels sentiments exprime son langage ? Quelles sont ses émotions ? Où sont ses bénéfices pulsionnels ? Le refus de l'existence sentimentale s'accompagne d'ailleurs d'un refus de l'existence physique. Alors que tout sportif professionnel sait avec précision comment vivre pour obtenir le meilleur rendement, et ne travaille jamais sans soigneur, aucun enseignement mathématique ne s'accompagne d'un mode de vie, encore moins de médecins ou de psychologues spécialisés. Si l'on compare les importances relatives des sports et des mathématiques pour notre civilisation, on ne peut manquer de flairer une anomalie. Ultime effacement de la personne du mathématicien: il n'existe pratiquement aucun enseignement de l'histoire des mathématiques. Placé devant un être humain moyen présentant ce genre de refus, un psychanalyste n'hésiterait pas à parler de refoulement e. de défense, et entreprendrait une analyse. Je suggère de faire de même pour les mathématiciens. Il faut s'attendre à rencontrer dans cette analyse de très fortes résistances. Elles proviendront de l'intérieur, bien sûr, mais aussi de l'extérieur. L'intellectuel contemporain s'est habitué à la présence de la certitude occulte et rassurante des mathématiques. S'il ne les a pas pratiquées, il est entouré de suffisamment de preuves de leur efficacité pour avoir une haute idée de leur valeur, et conserve l'impression qu'en cas de besoin il lui suffirait de tendre la main pour pouvoir les utiliser — seul ou avec un spécialiste — et pour raffermir du même coup une pensée molle ou hésitante. La rambarde étant là, visible, il n'est pas indispensable de la saisir pour éviter le vertige, et peu la saisissent; mais l'image doit rester intacte. Toute remise en question risque d'être rejetée aussi aveuglément qu'a été acceptée la présence des mathématiques. Au pire, on s'en remettra à l'opinion d'un “ vrai ” mathématicien. Une psychanalyse des mathématiques peut s'entreprendre sur trois plans différents. Chaque mathématicien, d'abord, individuellement, peut être analysé. Mais, au niveau du cas particulier, l'analyste risque d'être désarmé. Seul face à un sujet pratiquant les mathématiques, il sera sans recours devant son langage spécialisé, dont il sera dans l'impossibilité de vivre les associations. IL sera tenté ou bien de se réfugier dans la vie “ normale ”, extra-mathématique, du sujet, ou bien de subir le terrorisme habituel des mathématiciens à l'égard des non-initiés. Dans les deux cas, les défenses ne sont que renforcées et l'analyse est impossible. Il est souhaitable que le terrain soit débroussaillé d'abord à un niveau général. Si les grandes lignes de la réalité mathématique inconsciente peuvent être dégagées, l'analyste ne doit pas ressentir plus de désarroi devant un mathématicien que devant un peintre, sans qu'il lui soit nécessaire d'avoir pratiqué les mathématiques plus que la peinture. Un second plan possible d'analyse est le langage des mathématiques. La matière est riche, car les mathématiques se distinguent nettement des autres sciences par l'aspect de leur vocabulaire. Les mathématiciens modernes sont peu friands de constructions néologiques sur des racines grecques ou latines. Ils leur préfèrent un vocabulaire de réemploi. Constamment, des termes sont pris dans la langue courante et se voient assigné un usage mathématique. Cette production systématique de calembours ne suit pas de loi précise. S'il existe parfois une vague consonance structurelle entre le sens usuel et le sens mathématique d'un mot, le rapport logique est le plus souvent absent. Tel mathématicien, par exemple, ayant défini une nouvelle entité mathématique, cherche vainement un terme pour la nommer, va chez un dentiste qui le fait souffrir, revient à son travail et affecte à l'entité le terme: “ nerf ”. Calembours, jeux de mots, associations fortuites, la piste est chaude pour l'analyste. Là où le rapport logique, conscient, est flottant, le rapport inconscient peut être fécond. Mais ce plan d'analyse est à un niveau encore trop particulier pour constituer une première pénétration. IL est préférable de viser d'abord plus haut. Le vocabulaire est inséparable du foisonnement des théories mathématiques. Les associations d'un terme sont empêtrées de la personnalité du mathématicien qui l'a créé et de la théorie qui le contient. A scruter un terme de trop près, et au départ de l'analyse, on perdrait la perspective d'ensemble. IL sera important de revenir à l'analyse du vocabulaire, mais par la suite et munis d'outils adéquats. Le piège est le même qu'au plan précèdent, celui du mathématicien. Sans idée directrice capable de la guider, l'analyse s'embourberait dans les détails. Il reste à sonder un troisième plan d'analyse: la logique des mathématiques. Ici, le niveau est général à souhait, commun aux diverses théories et aux divers mathématiciens. La logique est aussi, par certains de ses aspects, plus vulnérable à l'analyse que les mathématiques et leur vocabulaire. Une méthode de travail fascine les scientifiques, et plus particulièrement les mathématiciens, depuis Euclide: l'axiomatique. Lorsqu'un mathématicien observe des lois sur les entités de tel domaine des mathématiques, une seule méthode lui vient à l'esprit pour s'assurer de leur intérêt: l'axiomatique. Si le domaine est classique, il tente d'établir que les lois observées se déduisent des axiomes classiques du domaine. Si le domaine est nouveau, il tente d'établir des axiomes dont ces lois peuvent se déduire. Si une loi est rebelle à ce traitement, il tente de déduire sa négation. Dès qu'une loi est entrevue, ou conjecturée, le mathématicien souhaite une chose avant toute autre: l'intégrer dans une axiomatique, en faire un théorème prouvé. Cette obsession de l'axiomatique n'a pas de limite. Si le mathématicien a quelque ambition, il s'efforcera de réunir plusieurs théories dans une seule axiomatique, voire même d'atteindre le stade ultime des “ fondements ” des mathématiques: les axiomes d'où se déduiraient toutes les mathématiques. Après s'être longtemps propagée sous une forme bénigne, l'axiomatique a vu son importance croître au XIXe siècle, pour atteindre un paroxysme au XXe, avec l'existence de la logique en tant que branche indépendante. Le schéma axiomatique connaît actuellement un succès si considérable qu’il n'a pratiquement aucun concurrent. Avant de se demander si l'axiomatique est la meilleure méthode de travail possible, il convient de se demander pourquoi le mathématicien la trouve spontanément si souhaitable. La question est d'autant plus cruciale que l'axiomatique n'est pas, en fait, une méthode universellement féconde. Certes, l'activité axiomatique a occupé et occupe la majeure partie du temps d'un nombre considérable de mathématiciens. Certes, elle a été et elle est leur gagne-pain privilégié. Qui n'invente pas, peut toujours espérer axiomatiser, réfléchir sur la façon d'axiomatiser, etc. Qu'a apporté à l'arithmétique l'axiomatisation de Peano, mise à part une présentation attrayante ? Aucun résultat nouveau, pas plus que l'axiomatisation de la géométrie. Que les géométries non-euclidiennes ne soient surtout pas portées à l'actif de l'axiomatisation. Bien au contraire, elles n'ont eu tant de peine à s'imposer qu'à cause du terrorisme dictatorial de l'axiomatisation euclidienne. Quant aux tentatives d'axiomatisation générale, elles ont échoué loin de leur but. Enfin, l'axiomatisation est toujours un second temps des mathématiques, qui n'intervient qu'après le premier temps, celui de l'élaboration des théorèmes. Ces indications sont évidemment sommaires. Une critique serrée de l'efficacité de l'axiomatique mérite d'être réalisée. Ses conclusions ne sont pas indispensables à cet instant de la réflexion présente. IL suffit ici de noter que l'intérêt absolu et universel de l'axiomatique peut être mis en doute. Dès lors, l'axiomatique apparaît à la fois comme un acte quasi universel des mathématiques, et comme un acte non pleinement justifié par son utilité. A coup sûr, son analyse doit permettre d'accéder de plain-pied à une réalité mathématique inconsciente importante. Axiomatiser consiste à exhiber d'une part une collection d'énoncés, appelés axiomes, d'autre part une règle de déduction, puis à présenter les théorèmes d'une théorie comme déduits des axiomes au moyen de la règle. Or ce schéma de présentation peut se décrire dans un autre langage, qui montre aussitôt son parallélisme à un schéma plus universel. La collection d'axiomes peut être associée à l'image maternelle; elle est la matrice qui va engendrer les théorèmes; elle est fréquemment caractérisée par sa fécondité. La règle de déduction peut être associée à l'image paternelle; elle féconde les axiomes; elle est le verbe législateur auquel il faut obéir. Collection d'axiomes et règle de déduction engendrent ensemble les théorèmes. Dans ce schéma familial, la théorie est la descendance des parents axiomatiques et chaque théorème est un enfant. A son tour, un théorème peut être fécond; de nouveaux théorèmes en seront déduits directement. La situation affective du mathématicien par rapport à ce schéma peut prendre des positions diverses. Le mathématicien peut produire un théorème et le prouver. Tout porte à croire que, ce faisant, il s'identifie au théorème; il lui donne son nom; il est le théorème. Ayant établi sa filiation dans le schéma, il en reçoit l'affirmation de sa valeur, de son appartenance aux bons énoncés. En retour, il apporte aux parents axiomatiques la confirmation de leur richesse, de leur puissance, de leur bonté. L’échange affectif est complet. Le théorème peut espérer engendrer de nouveaux théorèmes, et le mathématicien devenir géniteur. En outre, le mathématicien est le membre actif qui opère la fécondation et réalise la production d'un nouveau théorème; il est le phallus du père-règle de déduction; gonflé du sperme logique, il le véhicule en pénétrant les axiomes-matrice. Sur une autre position, le mathématicien peut partir d'une théorie existante et l'axiomatiser. IL y a à la fois choix et production de théorèmes — les axiomes—et création d'une généalogie. Le mathématicien recherche et établit la souche ancestrale, tout en s'y identifiant. La position n'est pas la réciproque de la précédente. L'image paternelle de la règle de déduction reste hors d'atteinte du mathématicien, qui s'y soumet avec plus de ferveur qu'au cours de la simple installation d'un théorème: il n'utilise pas seulement la règle, il développe sa toute-puissance. Dans le même temps le mathématicien illustre sa propre fécondité, sa capacité d'assurer la sécurité formelle de la famille théorique. IL est enfin, comme précédemment, l'élément actif de la création. Sur une autre position, le mathématicien apprenant une théorie déjà élaborée par des prédécesseurs ressent une émotion à chaque compréhension d'un théorème et de sa démonstration. L'émotion est sans doute moins intense que celle du créateur original, mais elle est loin d'être négligeable. L'élève peut par exemple la rendre plus intense en s'astreignant à retrouver seul la démonstration. Dans ces réseaux généalogiques affectifs, un sentiment joue un rôle central: la preuve, la démonstration. La preuve établit la responsabilité du pére-règle de déduction dans la filiation des axiomes au théorème. Elle établit la vérité du théorème, sa consanguinité à la famille des bons énoncés, en affirmant l'action du sperme logique. Or, la preuve est avant tout un sentiment. Elle est, dans les meilleurs cas, un sentiment partagé. La démonstration est ressentie comme la qualité essentielle des mathématiques, le ciment qui maintient la solidité de l'édifice. Sans démonstration, il n'y aurait pas de rigueur, et les mathématiques n'existeraient pas. Néanmoins, la valeur d'une démonstration est une qualité extrêmement précaire. IL n'existe aucun critère objectif, palpable, tangible, permettant d'affirmer à tel instant que telle démonstration est absolument juste. Une seule chose existe: le sentiment de la justesse d'une démonstration. Tel mathématicien bâtit une démonstration. A tel instant il en est satisfait et éprouve le- sentiment qu'elle est juste. Quelle que soit l'intensité de ce sentiment, il ne garantit pas la justesse de la démonstration. Pour plus de certitude, la démonstration est soumise à d'autres mathématiciens. Si tout va bien, chacun d'eux éprouve le sentiment de sa justesse. Mais la valeur de la démonstration n'en est pas pour autant garantie dans l'absolu. Plusieurs démonstrations, acceptées à une époque, furent rejetées à une époque suivante. “ Prouvé ” signifie qu'à telle date, un nombre fini de mathématiciens, dont les noms pourraient être précisés, ont lu une ou plusieurs démonstrations de tel théorème, et ont éprouvé chacun la justesse de l'une au moins d'entre elles. A chaque preuve, pourrait et devrait être attachée la liste des approuvants. Proches des théorèmes prouvés, se trouvent les théorèmes sans contre-exemple. Le plus célèbre est le théorème de Fermat. Les quelques êtres humains ayant éprouvé la justesse d'une démonstration n'ont pas pu, ou n'ont pas su faire partager leur sentiment à la communauté des mathématiciens. Ainsi, la vérité du théorème de Fermat n'est retenue que parce qu'à telle date, tels mathématiciens ont tenté en vain de trouver un contre-exemple. Les mathématiciens préfèrent les théorèmes prouvés aux théorèmes sans contre-exemple. Le sentiment d'un lien logique leur semble plus souhaitable que le constat de l'absence de contradiction. Pourtant l'un et l'autre sont des poursuites d'un absolu jamais atteint. Il n'est pas possible, en un temps fini, d'obtenir l'adhésion sentimentale de tous les mathématiciens présents et à venir. IL n'est pas possible, en un temps fini, d'explorer tous les exemples. La coupure entre le vrai et le faux mathématiques est semblable à la coupure entre la raison et la folie psychiatriques. Pour la vérité comme pour la raison, il ne semble pas y avoir de problème: nous sommes tous d'accord. Sauf en quelques cas particuliers. Mais ce sont les cas particuliers qui importent. Le discours présent se place résolument hors du discours mathématique. A la première lecture, il a toutes les chances d'être ressenti par le mathématicien pratiquant comme intolérablement superficiel. La richesse des mathématiques, la magnifique cohésion de leur édifice, la spectaculaire efficacité de leurs applications, qualités que j'ai personnellement vécues et admirées, sont absentes sous leur forme courante. Il n'en subsiste que le réseau des émotions sous-jacentes. IL ne faut pas pour autant s'y tromper. Il ne s'agit pas de démolir le rationalisme. Il s'agit de l'assainir. Dans un but semblable, les métamathématiques avaient pour méthode de prendre du recul par rapport aux mathématiques, de se situer hors de leur champ classique. Les résultats, pour n'être pas négligeables, ne sont pas considérables; ils furent limités par les moyens purement mathématiques et logiques utilisés. En réinjectant des mathématiques dans les mathématiques, on ne peut espérer une ouverture sur l'extérieur, mais tout au plus une accélération du mouvement traditionnel. Ici, le recul se prend hors de la logique, à un niveau où l'homme est seul avec ses fantasmes et ses sentiments. Les mathématiques n'y sont pas plus présentes que la logique. IL ne s'y trouve que les choix fondamentaux qui orienteront les constructions conscientes. Y rester exclurait toute activité organisée et scientifique. Y séjourner périodiquement pour réévaluer ses options fondamentales est indispensable. L'axiomatique a été, en plusieurs occasions, un assainissement des mathématiques. Mais ce temps est fait. Le champ restreint qu'ouvrait l'axiomatique est exploité. Les développements contemporains ne sont qu'une vie apparente, l'exubérance décadente de la fin d'une civilisation incapable de se renouveler. Est-il donc possible de fantasmer une nouvelle présentation des mathématiques, différente de l'axiomatique ? L'axiomatique suppose et magnifie la présence du père, son autorité intangible et absolue. Elle exige l'identification du pratiquant à l'image paternelle et son inscription dans un schéma généalogique hiérarchique. Un fantasme s'impose: tuer le père. Tuer le père et, au-delà, la mère dans l'image qu'en impose le père. Reconstruire les mathématiques sans la présence universelle et hiérarchisante du père. Se libérer du complexe d'Euclide, passion obsessionnelle pour la structure hiérarchique. Vivre d'autres bénéfices pulsionnels dans une taxonomie plus ouverte des faits mathématiques. L'axiomatique assurait une cohérence des théorèmes. Elle était une gestion compétente de la contradiction. Les mathématiques, dans l'immédiat au moins, ne sauraient se passer d'une telle gestion. Mais elle n'a nul besoin d'être centraliste et hiérarchique. Des formalismes non-axiomatiques et non-hiérarchiques sont imaginables. IL suffit de renoncer aux inégalités de rang entre les théorèmes. IL n'y a plus de théorèmes privilégiés, “ fondamentaux ”, d'où découlent les autres. “ Tel théorème se déduit de tels et tels autres ” peut devenir: “ il y a cohérence entre tel, tel et tel théorème ”. La filiation régressive peut céder le pas à la communauté adulte. A priori, cette cohérence n'a pas une forme unique à travers toutes les mathématiques, ni même dans toutes les régions d'une même théorie: ce serait retomber dans le piège d'un formalisme autoritaire, imposant sans souplesse une logique uniforme sur une matière mouvante. La cohérence est locale, dépendante des faits qu'elle regroupe. La mise en œuvre de la cohérence locale suppose une reformulation parallèle des mathématiques. Le système actuel du langage et des définitions est trop étroitement assujetti à l'axiomatique, qui supposait un ordre d'existence des objets mathématiques. La cohérence locale ne saurait, pas plus que la démonstration axiomatique, contenir de certitude absolue. La certitude n'appartient qu'aux machines; ni l'homme, ni l'univers, ni la science ne la connaissent. Telle cohérence locale contient l'adhésion sentimentale de un, deux, n mathématiciens. Dans un premier temps, la cohérence peut être un tout ou rien: au sein de tel ensemble d'énoncés, il y a soit cohérence, soit incohérence. Cette présentation conserve l'aspect binaire de la logique hiérarchique. Elle est néanmoins non-déductive, puisqu'elle ne suppose aucune préséance entre énoncés. Dans un second temps, plus élaboré, la cohérence peut être une fonction prenant ses valeurs dans un continu. Elle peut représenter une distance entre énoncés, susceptible de valeurs intermédiaires entre la cohérence parfaite et l'incohérence absolue. Elle peut aussi, pour un ensemble d'énoncés, représenter un degré de cohérence. Enfin, la cohérence est un fantasme parmi tous les possibles. A toi aussi de rêver. Le fantasme rêvé, il faut le vivre. Il n'est pas possible de mener ce discours plus loin sans faire effectivement des mathématiques, ce qui n'est pas de son domaine. Les mathématiques sont à nouveau à découvrir, à éprouver, à décrire et à partager. Les autres sciences sont susceptibles d'une analyse semblable. Indépendamment du matérialisme dialectique entre l'expérimentation et la rédaction de lois, une même obsession hiérarchique règne, soit par des axiomatisations et des théories unitaires, soit par des taxonomies obstinément généalogiques. Là encore, l'éclatement peut se faire à travers la méthode fantasmatique, vers une description cohérente de l'univers. D'un point de vue plus général, l'obsession hiérarchique n'existe pas dans les sciences sans une profonde connivence avec les structures sociales. Les dictatures euclidiennes de l'ordre et de la matrice en organisent la quasi-totalité. Tuer le père dans les formalismes qu'il modèle. Fantasmer des formalismes ouverts. Les vivre. © Pierre Berloquin 1973 - Edité par André Balland en 1974 sous le titre "Un souvenir d'enfance d'Evariste Galois".