Intuition et invention mathématique

Florian ForestierUniversité Paris-IV, Sorbonne

L’objet de ce texte, qui prolonge et développe un certainnombre de pistes ouvertes dans notre article« Mathématiques et concrétudes phénoménologiques1 », estmoins la philosophie des mathématiques que l’examenphilosophique de ce que les mathématiques peuvent nouspermettre de comprendre sur les productions ou créations del’esprit humain. La position qu’il entend assumer, appuyépar le texte et les paroles d’un certain nombre demathématiciens, est un refus de la thèse formaliste et lanécessité d’un questionnement formulé en terme de sens etd’expérience.

Il s’agit en effet pour nous de prendre acte d’emblée de ceque les mathématiques ne sont pas un pur langage formel. Cequi relève en elles de la formalisation et du calcul n’enconstitue pas la dimension unique, ni même la dimensionfondamentale, car « un sens, une signification, un certainimaginaire accompagn(ai)ent le travail du chercheur. A lalimite, la logique n’(est) utile qu’après coup, pournettoyer la mathématique de toute cette gangue qui estcependant l’humus même de la pensée mathématique2 »

Cette position relève bien plutôt d’abord des perspectiveset descriptions amorcées par les mathématiciens eux-mêmeslorsqu’ils s’intéressent, plutôt qu’aux fondements de leurdiscipline, ou, problème qui les touche plus, qu’à l’ordred’articulation des structures que celle-ci déploie, à lafaçon dont ils travaillent. De quelle façon procèdent-ilspour s’accorder sur des problèmes, définir peu à peu des

1 F. FORESTIER, « Mathématiques et concrétudes phénoménologiques », Annales de phénoménologie n°11/2012.2 N. CHARRAUD et P. CARTIER, Le réel en mathématiques, Paris, Agalma,2004, « Introduction », p. 11.

objets, des structures, des stratégies démonstratives, oupour s’entendre sur des programmes ou des projets partagés,alors que les objets et concepts à développer sont encorepour une grande part à développer.

Cette enquête n’est pas d’abord philosophique, que ce soitdans l’optique d’une interrogation sur les fondements desmathématiques, ou, inversement, d’une interrogaiton surleur capacité à atteindre, révéler ou développer desvérités métaphysiques voire divines. Elle n’est pas nonplus psychologique, car il s’agit bien moins d’expliquerpar des mécanismes psychologiques, neurologiques, etc.,sinon les objets mathématiques eux-mêmes, du moinsl’activité conceptuelle des mathématiciens, que, suivant auplus près cette activité en train de se faire, de tenter demieux comprendre la façon dont nous pensons et ce que nousfaisons lorsque nous pensons. Ce n’est pas un hasard,répétons-le, si un une grande partie des référencesmobilisées dans cette optique sont issues de la plume demathématiciens. Il peut s’agir des écrits de Poincaré, dutravail plus systématique d’Hadamard interrogeant lesmathématiciens autour de lui sur les images et le langageutilisées dans la formulation de leurs résultats etremarquant l’importance de l’image géométrique3, ou, ànotre époque, de travaux d’inspiration tout aussi bienphilosophique de certains mathématiciens de profession (parexemple G. Longo, F. Patras) usant de conceptsphilosophiques pour éclairer l’examen de leur pratique etde sa fécondité.

Les travaux de G. Longo nous intéressent toutparticulièrement par leur façon de remettre, avec Poincaré,mais aussi Merleau-Ponty, le corps du chercheur au cœur del’interrogation. Ce faisant, cet auteur n’entend certes pasécraser le sens de la pratique mathématique sur d’autrespratiques plus directement gestuelles et rudimentaires,mais rappeler que l’activité mathématique est toujourscelle d’un sujet fini, incarné, se situant face au monde etface aux objets de sa discipline avec une mémoirespécifique, et les construisant selon une temporalité

3 J. HADAMARD, Essai sur la psychologie de l’invention dans le domaine mathématique(1959) ; H. POINCARE, L’invention mathématique, 1908, édition Jean Gabay

spécifique. La temporalité vécue de l’expérience de lacréation mathématique est même pour G. Longo ce qui plaidele plus nettement contre une réduction logiciste desmathématique : la conception constructiviste du temps chezHerbrand, Turing, Church et Heyting, impliquerait ainsi,écrit-il, une mémoire digitale sans oubli, alors quel’homme justement oublie. Cette structure de fragmentationet de perte de sa pensée et de son expérience n’en est pasune limitation, mais, J.-Y. Girard y insiste aussi, sadimension essentielle4.

Le présent texte entend dans la perspective que nous venonsde présenter s’intéresser à quelques questions plusprécises : en premier lieu, à la question de lagénéralisation et du processus de généralisation au seindes mathématiques ; ensuite à celle de l’idée problématiqued’un sol sensible de l’activité mathématique ; puis à cellede la créativité et de l’invention mathématique : enfin, àla question de l’objectivité, ou plutôt du réelmathématique, et de la façon dont celui-ci affectel’intuition du mathématicien.

Généralisation et abstraction

Le triomphe de la raison

Comme nous le rappelons dans « Mathématiques et concrétudesphénoménologiques5 », les mathématiques tendent, depuis ledébut du XIXe, à dégager des structures formellesexplicitant les relations entre des objets qu’ellesdécrivent comme des cas de lois plus générales.

Donnons d'abord un exemple de ce processus en proposant unbref historique de la résolution des équations de degrésupérieur ou égal à trois6. Comme le rappelle J. Vuillemin,

4 Cité par M.-F. ROY, « Le réel du calcul», p. 200, in N. CHARRAUD etP. CARTIER, Le réel en mathématiques, op.cit.5 F. FORESTIER, « Mathématiques et concrétudes phénoménologique »,Annales de phénoménologie n°11/2012. 6 J. VUILLEMIN, Philosophie de l'algèbre, Tome premier : Recherches sur quelques conceptset méthodes de l'algèbre moderne, Paris : Presses Universitaires de France,1962.

les équations de degré 3 (de la forme ax3 + bx2 + cx + d) serésolvent classiquement en plusieurs étapes. Il s'agit toutd'abord de faire disparaître le terme en x2 par unepremière substitution dont le principe est connu depuis lesalgébristes italiens du XIVe (pour obtenir une équation dela forme a1x3 + b2x + c1). Dans un second temps, il s'agit,par une seconde substitution, d'obtenir à partir del'équation proposée une seconde équation auxiliaire. Celle-ci est de degré 6, mais se laisse toujours réduire à uneéquation de degré 2, car elle est de la forme a2x6 + b2x3 +c2. On établit de cette façon une relation entre lessolutions des deux équations à partir de la relation destermes substitués. Par un autre procédé, on substitue auxéquations de degré 4 une équation de degré 12 que l'on peutréduire à une équation de degré 3. Dans les deux cas, c'estprécisément le fait de parvenir à une équation de degrésupérieur, mais en vérité réductible à un degré inférieur àla proposée, qui en permet la résolution. La question estalors de savoir pourquoi on ne peut trouver de semblableformule pour les équations de degré supérieur ou égal à 5,pourquoi l’équation de degré supérieur obtenue à partird’elles s’avère irréductible.

Comme le montre J. Vuillemin, Lagrange examine cettequestion en partant de l'équation auxiliaire. Il montrepourquoi la technique de résolution réussit pour leséquations de degré 3 et 4, pourquoi en d'autres termes onpeut effectivement obtenir une telle équation auxiliaireréductible à une équation de degré inférieure à l'équationproposée, et pourquoi l'équation auxiliaire, lorsque laproposée est de degré 5 ou plus, est de degréirréductiblement supérieur. Ce renversement de perspectiveest caractéristique d’une évolution de la recherchemathématique, qui s’intéresse dès lors aux structuresmathématiques générales cachées sous les problèmes, et quipermettent d'en produire l'intelligibilité propre.

Ce mouvement se poursuit avec les travaux de Gauss, ettrouve son accomplissement dans la révolution galoisienne.Celle-ci produit enfin la structure globale liant lesracines d'une équation à ses coefficients. Elle montre lesraisons arithmétiques profondes pour lesquelles la méthode

de substitution, qui réussit pour les équations de degréinférieur ou égal à 4, échoue pour les équations de degrésupérieur. Les concepts de groupe, de corps, d’anneaux,d’algèbres, idéaux, sont issus de cette révolution : ilspermettent de caractériser directement les relations deséléments d'un ensemble et les opérations auxquelles on lessoumet sans que celles-ci n'aient à être qualifiées. Lesgroupes ne sont pas seulement des objets généraux utilisésde façon opératoire lors de la résolution de problèmes ;ils deviennent des objets à part entière qui sont étudiés pour eux-mêmes.

Pour J. Vuillemin, en conclusion, le mouvementd’abstraction qui caractérise les mathématiques est unmouvement de l’intelligence se comprenant elle-même etéliminant peu à peu le hasard et l’arbitraire de ses modesd’applications : elle ne relève donc pas d'une extensionprogressive du champ de cas embrassés par une théorie,mais d'une exploration des raisons de structure quiexpliquent le comportement des objets selon leursdifférentes spécifications.

Selon J. Vuillemin, un parallèle semble possible entreles principes à l'oeuvre dans la recherche mathématiqueet ceux explicités par les philosophies des époquescorrespondantes. La philosophie cartésiennecorrespondrait par exemple à une conception encoreopératoire des mathématiques, axée sur la découverteprogressive de stratégies, dont le mathématicienDescartes serait également l'illustration ; le premiertournant de la généralisation (opérant, selon l'auteur,entre Gauss et Abel/ Gallois), à partir duquel il s'agitde déployer a priori le principe d'engendrement et dedifférenciation des cas, pourrait être mis en regard dela philosophie classique allemande ; le second tournantde la généralisation, conduisant, lui, à ladifférenciation des axiomatiques et de leurs modèles,correspondrait bien sûr au moment autrichien de la fin duXIXe siècle et à la naissance de la phénoménologie et dela philosophie analytique7.

7 Comme nous le rappelions dans « Mathématiques et concrétudesphénoménologiques », Annales de phénoménologie n°11/2012, la mise en placede la théorie des multiplicités de Riemann joue un rôle important dans ce

Une généralisation non abstractive

Ce serait aller vite en besogne, ainsi, que de considérerqu’il n’y va dans ce processus de généralisation que d’unesimple abstraction par sursomption. La perspectivestructuraliste et rationaliste de J. Vuillemin, qui voitdans l’évolution des mathématiques un processus de mise en

mouvement de généralisation en modifiant radicalement le sens de ladémarche mathématique?. Elle modifie en particulier celui de ladistinction de l’arithmétique et de la géométrie et les façons detraiter ces deux domaines. Une multiplicité est un objet mathématique dotéde lois formelles qui peuvent particulariser d’autres objets moins généraux : on distingueainsi les multiplicités discrètes (ou la comparaison des grandeurss’effectue par dénombrement) et les multiplicités continues (où cettecomparaison s’effectue par la mesure). Les espaces géométriques ne sontplus qu’un cas particulier des multiplicités continues, l’espace tri-dimensionel qu’un cas particulier de multiplicités n-dimensionnelles,l’espace euclidien un cas particulier d’espaces à courbure constante. Cescatégories de multiplicités n’ont pas, en elles-mêmes, de sensgéométrique ni de sens arithmétique ; elles décrivent l’engendrement destructures capables de décrire les lois de ce que nous connaissons intuitivement commearithmétique ou géométrie. En d’autres termes, elles caractérisent lesopérations, de déductions, de raisonnements que l’on peut accomplir surun certain type de multiplicité, c’est-à-dire des types de théoriesconstructibles. L’axiomatisation, prolonge et radicalise ce mouvement. En elles’opère un changement de statut des axiomes, lesquels ne sont plus desimpératifs a priori, mais des objets définissant des systèmes déductifs ausein desquels la démonstration se soumet aux seules règles dedérivation analytique. Ce changement pose d’ailleurs des questionscruciales à la démarche mathématique tout entière puisque c’est la formemême de la démonstration et la démontrabilité qui est prise comme objet. Une révisiongénérale de l’ensemble de ce qui paraissait jusqu’alors comme desévidences accompagne ce tournant. Quel est en effet le statut desdémonstrations s’appuyant sur des données intuitives ? La question peuten fait être retournée puisque longtemps, les démonstrations se sontrestreintes à un champ qu’elles ne posaient pas comme tel et au seinduquel elles jouissaient bien d’une évidence valable ; c’est seulement àpartir du moment où la définition formelle des problèmes outrepassait leur champ actuellementproductible, suscitait des questions portant sur la formulation même de la définition (et non plussur les exemples) que le regard mathématique s’est retourné des objets définis aux lois de leurdéfinition. Le programme de Hilbert, enfin, est la plus ambitieuse tentatived’assurer de manière stable et rigoureuse les fondements desmathématiques. On peut, selon Frédéric Patras dans « L'horizonsémantique et catégorial de la méthode axiomatique », Noesis, 2003,déterminer quatre influences majeures à ce programme. 1) La premièreconcerne la légitimation de l’usage de géométries non-euclidiennes. Avec Cayley, puisKlein, a lieu ainsi l’absorption des propriétés métriques dans les

lumière de la raison refoulant progressivement l’arbitrairequi l’habite, peut elle aussi être, sinon mitigée, du moinscomplexifiée. Avec A. Lautman, que nous accompagneronsquelques temps, il faut souligner en effet que lagénéralisation procède d’un travail d’extractiond’invariants, à partir de formes décelables à un certainniveau, lequel consiste en particulier dans ladésolidarisation idéale de formes qui semblent liées.Ainsi, écrit Lautman

« Nous avons vu dans tous les cas, certainesnotions de l'arithmétique et de l'algèbreélémentaire, qui paraissent simples etprimitives, envelopper une pluralité de notionslogiques ou mathématiques, délicates à précisermais en tout cas nettement distinguables les unesdes autres. C'est ainsi que l'égalitéarithmétique est la seule relation d'équivalencetelle que le dénombrement des individus d'unensemble se confonde avec le dénombrement desclasses d'individus équivalents au sens de cetterelation ; de même l'idée de multiplication

propriétés projectives des figures: la géométrie est « arithmétisée »et ses nouveaux objets sont engendrés formellement, sans quel’intuition n’y joue plus aucun rôle normatif. La généralisationprojective de l’arithmétique permet de la sorte de construire aussibien des modèles euclidiens que des modèles non-euclidiens. 2) Laseconde influence vient de l’axiomatisation du continu, à travers les travauxde Dedekind, Weierstrass, et Cantor. 3) La troisième influence, plussubtile, est celle de la théorie Gallois. Hilbert remarque en effet quel’abandon de l’hypothèse de continuité permet de décrire, sur lesstructures mises en place par la théorie de Gallois (la clôture quadratique réelledu corps des rationnels) toute la géométrie euclidienne. Pour lapremière fois, en d’autres termes, la relation entre un système d’axiomes et lesobjets qu’il décrit est ébranlée. Une même axiomatique peut se « projeter » surplusieurs systèmes d’objets différents, ce qui ouvre la voie à lathéorie des modèles et à la distinction des analyses syntaxiques etsémantiques des théories mathématiques qui joue un rôle important dansla réflexion de Husserl. La notion de complétude joue un rôle importantpour éclairer le sens de cette distinction. 4) La quatrième évoquée parPatras est celle de tentatives d’axiomatisations antérieures (Moritz Pasch ou l’écoleitalienne avec Giuseppe Peano et Giuseppe Veronese). En dépit de sondésir d’évacuer tout recours intuitif, Hilbert demeure toutefoissoucieux de ne pas rompre le rapport intuitif originellement noué ausein des premières constructions mathématiques.

contient à la fois la formation de produitsarithmétiques et l'action d'opérateurs sur undomaine d'éléments distincts de ces opérateurs ;l'idée de l'unité peut être considérée soit dupoint de vue de l'élément unité d'un anneau denombres, soit du point de vue de l'opérateuridentique d'un domaine d'opérateurs ; la longueurd'un segment est liée à la grandeur qu'ellemesure mais elle n'est pas un nombre attaché parconvention à cette grandeur ; enfin la valeurabsolue de l'algèbre classique enveloppe à lafois l'idée d'ordonnance et la construction de lafermeture d'un corps de nombres. Le passage desnotions dites « élémentaires » aux notionsabstraites ne se présente donc pas comme unesubsomption du particulier sous le général maiscomme la division ou l'analyse d'un « mixte » quitend à dégager les notions simples auxquelles cemixte participe. Ce n'est donc pas la logiquearistotélicienne, celle des genres et des espècesqui intervient ici, mais la méthode platoniciennede division, celle qu'enseignent le Sophiste etle Philèbe pour laquelle l'unité de l'Être estune unité de composition et un point de départvers la recherche des principes qui s'unissentdans les Idées8 »,

Les généralisations mathématiques se conquièrent non parabstraction mais par décomposition. Chaque structure estinterrogée en regard des invariances qu’on peut comprendreà partir d’elle et constituer comme objets nouveaux. Ceux-ci ne sont donc pas seulement des objets de rang plus élevéou d’un niveau d’abstraction plus fin ; ce sont les formesabstraites elles-mêmes qui sont dégagées les unes desautres, de sorte que la généralisation est en véritéplurielle. Il y va, en mathématique, d’un horizon degénéralisations impliquant la recherche de structuresd’invariances bien plutôt que de la recherche d’une seuleformalité dominante. Unité et pluralité sont en d’autrestermes en tension : il s’agit bien d’apercevoir l’unité des

8 A. LAUTMAN, Les mathématiques et le réel physique, Paris, Editions JosephVrin, 2006, « L'axiomatique et la méthode de la division », p. 79.

mathématiques au sein de la pluralité de ses objets, maiscette unité procède d’une possibilité d’applications,d’inter-traductions et de transferts. Elle n’apparaît quepar la création permanente d’une pluralité d’objets quicirculent entre les domaines.

Ainsi, la généralisation multiplie les perspectives plutôtqu’elle ne les réduit, et dévoile la pluralité bien plutôtqu’elle ne la subsume. Chez A. Lautman, la raisonmathématique ne s’éclaire pas peu à peu elle-même commechez J. Vuillemin. Elle éclaire bien plutôt peu à peu uneidéalité qui l’habite originellement. Les mathématiques,pose le platonicien A. Lautman, sont dominées par desproblématiques métaphysiques qui frayent en elles leurchemin vers la raison, laquelle est en quelque sorted’emblée ouverte, extasiée, et donc appelée à accomplir unprocessus dialectique. Avec Brunschvig, J. Lautman insistecertes sur cela que l’objectivité des mathématiques estl’œuvre de l’intelligence. Mais cela a pour lui commeconséquence que toute réduction des mathématiques à desprincipes ou à une architecture, que le mathématiciendécèle, lui, pour s’aider et s’avancer dans sa recherchebien plus que pour instituer des principes ultimes, nerespecte pas le telos de cette activité.

À ce titre, les structures ne constituent sans doutequ’un pôle de l’activité mathématicienne. La réflexion deJ. Vuillemin sur le dégagement progressif de grandesstructures qui explicitent et rendent intelligibles desrésultats mathématiques préalables doit ainsi êtremitigée, de même sans doute que celle de Lautman. Certes,les structures et leur dégagement jouent un rôle capitalau sein de l’activité mathématicienne, mais ce seraitcependant trop s’avancer que de faire de cette activitéun simple éclaircissement d’une dialectique entrestructures. L’activité du mathématicien, qui est uneffort fait d’essais, de tentatives avortées et reprises,d’intuitions, consiste certes dans la mise en place detelles structures : mais précisément, c’est la façon dontcelles-ci s’élaborent et la façon dont leur définitionengendre de nouveaux objets qui constituent le cœur decette activité.

On notera ici que la conception que nous exposons est trèscohérente avec le structuralisme dynamique qui s’est imposédans les développements de la recherche mathématique quiont suivi le théorème de Gödel. Celui-ci, loin de limiterles prétentions du domaine formel, les étend au contraireconsidérablement en décrivant les conditions de déterminationd’un modèle axiomatique correspondant à un domained’objets. Cette distinction est clairement soulignée par S.Bachelard dans La logique de Husserl.

Encore une fois, c’est bien d’une redéfinition (d’unenouvelle façon de décanter) le telos de l’activitémathématique qu’il s’agit ici. Le mathématicien accomplitdésormais l’idéal normatif par une dynamique de l’activitéde recherche. L’axiomatisation n’est plus une occupationpréalable mais la matière même de son travail quotidien9. Ainsi, lesmathématiques modernes substituent peu à peu l’idée au calcul. Il s’agitde saisir l’unité d’un domaine d’objets derrière lamultiplicité de ses aspects, et de se laisser guider parl’idéal d’unification de ces domaines. La recherchemathématique s’éloigne ce faisant des objets individuelspour considérer les champs d’objets.

En définitive, la généralisation ne relève pas del’élimination progressive de l’arbitraire qui résisterait àla pensée et d’une reconstruction endogène de lamathématique pure, mais de l’ouverture de toujours plus depotentialités, de toujours plus de chemins, de points devue au sein des mathématiques.

La dimension sensible de l’acticité mathématique

La pluralité des chemins abstractifs

Dans une toute autre perspective, il faut également, avecG. Longo (et un certain Husserl), concevoir ce processusbien en amont des logiques d’abstraction au sein du corpus

9 S. BACHELARD, « « L'axiomatique-fondation » s'est muée en une« axiomatique arborescente » ; ou, si l'on veut, l'axiomatisation estpassée du stade statique au stade dynamique »,  La logique de Husserl, étudesur « Logique formelle et logique transcendantale », p. 113, Paris, PUF, 1957.

mathématiques, au prisme du très long mouvement et du trèslointain héritage phylogénétique dont procèdent lespremiers types de regroupements et d’abstractions (non,certes, pour, à l’instar du Husserl de L’origine de la géométrie,en déterminer les lois). Il faut par exemple tenir comptede l’individuation originaire des petits nombres (2, 3, 4)pour certains animaux et les petits enfants qui manifestentdes réactions spécifiques au deux, au trois, etc.

Dès lors, la barrière infranchissable du formel et duperceptif est atténuée, ou, plus précisément, dupliquée. Iln’y a d’une part strictement aucun sens à vouloircomprendre le contenu des propositions mathématiques àpartir de quelque hypothétique base sensible ou gestuelle.La différenciation des ordres doit être, après Frege et leHusserl des premières Recherches Logiques, répétée (il s’agitpar ailleurs dans ce premier sens d’une distinctiongrammaticale). Étant admis qu’il est égarant de chercher àrétablir les possibilités d’une dérivation directe de l’unà l’autre, il faut d’un autre côté comprendre l’activitémathématique dans la complexité de la pratique, dansl’entrelacement des niveaux qui y interviennent. Certes,l’erreur de Husserl et de la phénoménologie est d’avoirtenté d’élaborer une science ou une systématique, de cettezone intermédiaire, qu’il n’y a pas de sens à vouloirbaliser. Il s’agit bien plutôt en effet de tenir compte decette zone, de considérer avec suffisamment de souplesse etde plasticité théorique pour éviter toute réificationphilosophique, scientiste ou idéaliste, et d’exercer, eninvitant à la considérer, le potentiel heuristique d’unetelle attention.

Les mathématiques, pour G. Longo, s’occupent d’extraire despropriétés communes puis de les affiner dans des notationsen apparence sans signification, dans l’horizon d’unerecherche d’invariance. Il s’agit bien alors aussi des’intéresser aux embryons de l’invariance mathématique, etpour cela à la pluralité, d’abord physiologique, desprocessus de leur extraction : l’œil et ses différentsrécepteurs aux formes, couleurs, mouvements, par exemple.Certains précurseurs de formes abstraites et généralespeuvent ainsi être trouvés très en amont de toute activité

conceptuelle réelle, par exemple, explique G. Longo, laligne droite, qui est anticipation du bond vers une proiepour un prédateur. Ils sont alors peu à peu précisés,poursuivis, raffinés par les dynamiques de l’évolution. Sila langue mathématique et la logique de cette langueinstituent une coupure avec l’expérience, la façon dontelle est mise au service du développement d’objets peut,elle, être pensée comme la pratique d’un être incarné,vivant, fruit d’une évolution, inscrit dans une société etdans une historicité.

L’humanisation, au delà de la simple hominisation, instilleen effet au sein de ces dynamiques extractives un paramètremnésique et culturel qui les complexifie considérablement.Les débats psychanalytiques nous mettent depuis longtempsen garde contre toute conception stratifiée de la genèse,inscrivant la strate symbolique sur la base d’une strateaffective, et faisant des pulsions les formes sublimées desinstincts. Tout au contraire, il faut prendre acte de lacomplexité que l’émergence des sphères sociales,techniques, langagières ajoute en réagençant et brouillantl’ensemble de l’édifice physiologique et de ses rythmes.

Cette barrière symbolique se constitue elle-même au seind’une configuration plus vaste : les civilisations humainesdéveloppent en effet ce qu’on peut appeler une économie dela mémoire, permise par les techniques (qui sont toujours,pour reprendre un terme de B. Stiegler, mnémotechniques10).L’émergence des sociétés et l’évolution des processusd’inscription permettent, en ouvrant la scène des rapportsinter-temporels, de mixer ces généralisations et de lesstabiliser par un double processus d’inscription etd’idéalisation. L’écriture et l’évolution des notationsfavorisent ainsi le mouvement de division et depurification.

Comme le rappelle G. Longo, dans premièresnotations mathématiques connues, le concept général denombre n’existe pas encore : il n’est pas séparé d’unesémantique ancrée dans des contextes d’usages trèsspécifiques. La signification n’est alors jamais totalement10 B. STIEGLER, La technique et le temps, Tome 1, Paris, Galilée, 1995.

disjointe des notations numériques : le mouvementconduisant à la visée de la généralité comme telle estinséparable du mouvement de décontextualisation desécritures, lesquels ouvrent un espace de jeu permettantl’institution progressive de l’idéalité comme horizon.

L’écriture syllabique en particulier permet de représentern’importe quel son, donc, de transcrire n’importe quellelangue. Elle n’est plus inscrite dans une langue donnéedont elle serait inséparable et ouvre de fait plusnettement à la possibilité de viser un universeltranscendant la forme à travers laquelle celui-ci estexprimé. Avec Derrida, nous pouvons dire à ce sujet que «(...) l’écriture n’est pas seulement un moyen auxiliaire auservice de la science – et éventuellement son objet – maisd’abord (…) la condition de possibilité des objets idéauxet donc de l’objectivité scientifique. Avant d’être sonobjet, l’écriture est la condition de l’épistémè.11 »

Pour G. Longo, l’interaction entre la mémoire des actesd’expérience (la mémoire procédurale engramméephysiologiquement) et la mémoire déclarative enracinée dansl’écriture et le langage pourrait même constituer unparadigme de la théorisation mathématique12. Celle-ciprocéderait de la transcription, de l’élaboration et biensûr du prolongement, à travers des langages formels, d’unsavoir en grande partie « sub-personnel », savoir du corpshérité de l’évolution. Dit autrement encore, ce qui seraitle plus propre aux mathématiques serait l’activité d’unregard spécifique, faisant advenir à la conscience desinvariants préparés par notre capacité d’agir. Selon G.Longo, en mathématiques « (…) avec des signeslinguistiques, nous généralisons des propriétés de notrerelation avec l’espace extérieur à un degré qui semblen’avoir plus aucun rapport avec notre compréhensionoriginelle.13 »

Comprendre autrement l’intuition mathématique11 J. DERRIDA, De la grammatologie, Paris, Editions de Minuit, 1967, p. 42.12 G. LONGO, « Mémoire et objectivité en mathématiques », in N.CHARRAUD et P. CARTIER, Le réel en mathématiques, op.cit., p. 46.13 G. LONGO, ibid., p. 43.

De la sorte aussi, la familiarité des abstractions les plusélaborées et des formes les plus primitives s’explique. Si,comme le note G. Longo, les dessins font revenir desabstractions algébriques à notre espace familier, maisétablissent aussi des connexions avec d’autres domaines,c’est bien que les mathématiques sont une élaboration deformes qui conservent bel et bien un air de famille aveccelles qui les inspire. Cette inspiration n’est et ne peuten rien être une explication, mais elle peut bel et bienêtre guide, indication, motivation, incitation pour le flairdu mathématicien. En ce sens, les structures dégagées nedoivent pas être considérées comme abstraites. Elles sontconcrètes, dans la mesure où elles veulent dire quelquechose pour les mathématiciens. Ceux-ci « voient » ou« comprennent » mieux certains phénomènes ou certainesquestions à travers elles, font ou font plus facilementcertaines opérations avec elles. Si difficiles etinhospitalières semblent-elles d’abord, elles sont aussifaites pour être habitées par d’autres regards théoriques :l’esquisse d’un programme, qui s’amorce par la formationd’objets très sophistiqués, ne sera féconde que si elle estsuivie par la communauté, qui utilise ces objets pour denouvelles démonstrations.

Indépendamment même de la fécondité potentielle duprogramme, sa fécondité réelle dépend aussi de cescontingences – quels mathématiciens, convaincus parl’investissement autant que par les arguments de tel autre,s’engagent à leur tour dans tel chemin de recherche… Lafécondité de Grothendieck est par exemple aussi liée à lacapacité du mathématicien à constituer autour de lui uneécole de haut niveau prolongeant ses intuitions, usant dela langue développée par lui, la réinvestissant…Rétroactivement, les protestations du même Grothendieckenvers une institution qui aurait trahi ses intuitions (etrefusé de le suivre dans le développement des objetsultimes que devaient être les motifs) et la réorientationultérieure de la géométrie algébrique sont aussi liées auxruptures personnelles du mathématicien avec nombre de sescollègues ou élèves. Entre-temps, l’avancée desmathématiques vers de nouveaux « fronts » aura sans doute

modifié le sens que pourraient prendre ces motifs s’ilsétaient développés avec les outils, perspectives etproblématiques contemporaines, dans le cas par exemple oùles notes de travail de Grothendieck conservées àMontpellier seraient – contre la volonté du mathématicien –rendues publiques et exploitées14.

Il faut certes ici faire avec Wittgenstein15 une distinctionnette entre le problème qui est à résoudre et le problèmerésolu. Contre Wittgenstein, il faut cependant préciser quela rupture ne peut être totale, dans la mesure où l’objetest toujours aussi lié aux chemins de sa conception, quelsque soient les usages qu’on peut en faire ultérieurement.La question de l’identité ou de la différence des objetsavant et après la démonstration ou avant et après leurtraduction est elle-même d’abord une question mathématique.Elle prend sens en fonction de certains horizons dequestionnement ou de certains projets de démonstration. Ladistinction qu’impose Wittgenstein, qui a un sens en termede philosophie des mathématiques, est sans doute fautive dupoint de vue des mathématiques elles-mêmes, et tout aussibien ajouterions-nous, du point de vue de ce que lesmathématiques peuvent apporter de plus enrichissant à laphilosophie.

Ici sans doute, la conceptualité philosophique tend àintroduire plus d’obscurité qu’elle n’en enlève, enimposant une dichotomie ou une triplicité (entendement,imagination, sensible) qu’il est difficile d’appliquercomme telle aux mathématiques. Permettons-nous un détour àtravers la vision proposée par J. Vuillemin del’intuition, qui est particulièrement représentative de ceréductionnisme. Pour J. Vuillemin, très kantien,l’intuition n’est que modélisation imaginative, et « (…)la figure empirique ne sert qu’à illustrer un concept quinous donne a priori la règle selon laquelle cette figuredoit être engendrée et regardée.16 »

14 P. CARTIER, « Un pays dont on ne connaitrait que le nom », in N.CHARRAUD et P. CARTIER, Le réel en mathématiques, op.cit.15 L. WITTGENSTEIN, Remarques sur les fondements des mathématiques, Paris, Gallimard, 1983. 16 J. VUILLEMIN, Philosophie de l’algèbre, op.cit., p. 3

Il doit y avoir identité de structure entre lacorrespondance fonctionnelle qu’exprime le concept etcelle qu’exhibe l’intuition. Toute la subtilité, écrit J.Vuillemin, est qu'il n’est pas possible de distinguer parl’entendement le concept et son image, tel étant le sensvéritable du symbolisme impliqué dans l’imaginationmathématique, simple règle de correspondance linguistiqueentre deux structures. La structure est alors la véritéde l’image : c’est la faculté de formaliser qui rendpossible un rapport entre le concept et l’intuition, quin'est qu'un guide et n'est en elle-même pas essentielleaux objets mathématiques. Ainsi,

« C’est aussi le caractère symbolique del’intuition mathématique qui explique saplasticité. Si abstraite que soit une idée, on peutlui trouver une illustration dans le langage. Maisc’est à la condition d’utiliser l’image elle-mêmecomme un langage, dont la perception requiert plusencore que la faculté de la vue, la compréhensiondes conventions qui la définissent et desabstractions qu’elle requiert.17 »

Cette vision de J. Vuillemin fait cependant elle aussiabstraction de la réalité de la pratique mathématicienne.Elle considère les mathématiques de l’extérieur, du pointde vue de leur achèvement, de leur stabilisation formelle,et écarte la dimension affective et inéliminablementinstinctive de la mise en œuvre de cette intuition. Celle-ci ne relève pas d’un simple usage intuitif, mais d’uneinscription, d’une familiarité, de l’aptitude à déceler desairs de familles, à transposer des idées en stratégiesdémonstratives, etc.

Comme le rappelle le commentaire proposé par FrédéricPatras de Triangle de pensées18, le livre entretien croiséd’Alain Connes, d’André Lichnernowitz et de Marcel-PaulSchützenberger, Lichnerowicz distingue sur ce point defaçon très pertinente le discours de communication et le discours

17 J. VUILLEMIN, Philosophie de l'algèbre, op.cit., p 312.18 A. CONNES, A. LICHNERNOVITZ, M.-P. SCHUTZENBERGER, Triangle de pensées,Paris, Odile Jacob, 2000.

de création des mathématiciens. Le discours de communication,par essence, est formel, et doit être préservé de toutengagement ontologique comme de toute ambiguïtéintuitive. Le discours de création, de son côté, estprescriptif et « phénoménologique » : il s’agit à traverslui de saisir quelque chose. La structure d’une théoriemathématique est inséparable d’une forme de possessionintuitive appartenant à ses conditions d’emploi, mais lesdébordant toujours aussi. Les structures définissent unenvironnement particulier, un véritable monde environnant.Est rappelée à cette occasion la célèbre descriptionproposée par le groupe Bourbaki :

« On ne saurait trop insister sur le rôlefondamental que joue dans ses recherches, uneintuition particulière (2) qui n’est pasl’intuition sensible vulgaire, mais plutôt unesorte de divination directe (antérieure à toutraisonnement) du comportement normal qu’il sembleen droit d’attendre, de la part d’êtresmathématiques qu’une longue fréquentation lui arendu presque aussi familiers que les êtres dumonde réel. Or, chaque structure apporte avecelle son langage propre, tout chargé derésonances intuitives particulières, issues desthéories d’où l’a dégagée l’analyse axiomatiqueque nous avons décrite plus haut ; et pour lechercheur qui brusquement découvre cettestructure dans les phénomènes qu’il étudie, c’estcomme une modulation subite orientant d’un seulcoup dans une direction inattendue le courantintuitif de sa pensée, et éclairant d’un journouveau le paysage mathématique où il se meut.19 »

La description est tout à fait remarquable. Le mondemathématique est lié à certaines anticipations, à des horizonsd’attente, à un certain style général induisant un certaincomportement de la part des objets qui lui appartiennent, àcertaines associations. Ce cours peut cependant êtreinfléchi en reconfigurant le rapport avant-plan, arrière-

19 BOURBAKI, « L'architecture des mathématiques », in F. LE LIONNAIS,Les grands courants de la pensée mathématique, Paris, 1957, p. 42.

plan, en variant les lieux sur lesquels se porte l’intérêtthéorique et ceux qui n’en forment que l’horizon, etc. Unefois encore, la pensée mathématique procède par découvertede similitudes en cherchant le langage en lequel lesformuler, et « (...) progresse, entre autres, en analysantla structure interne de son rapport aux objets (...) ».20

L’origine de la géométrie

Précisons ici que l’association, qui peut sembler àpremière vue surprenante, de la perspective platoniciennede Lautman (pour qui les mathématiques sont dominées pardes questions de type méthaphysique portant sur l’espace,le continu, etc. dont elles réalisent la descente) et de laperspective plus opératoire de G. Longo, est en fait trèslégitime si on prend pour axe la question de l’invention.G. Longo lui-même, s’il insiste sur les processus etmotivations sous-jacents à la généralisation et audégagement d’invariants, ne nie en rien que ceux-cis’opèrent dans l’horizon de ces grands problèmes etquestions rémanents. Avec Husserl (ou H. Weyl) bien sûr, ilrappelle simplement l’inscription sensible de cesquestions, à la manière pourrait-on dire d’horizonstranscendantaux : ainsi, l’horizon du continu, ouvert parla forme de notre expérience du temps21.

On notera en effet ici que cette dimension n’est pasétrangère au traitement que Husserl propose de la géométrieet qui est bien exposé par D. Pradelle dans L’archéologie dumonde22. La question centrale de Husserl dans ses recherchessur l’Origine de la géométrie est, on l’a déjà évoqué,l'idéalisation23 effectuée par les sciences formelles sur labase des essences phénoménologiques décrivant les modes dedonation des objets spatiaux, autrement dit l'engendrement20 F. PATRAS, « Pourquoi les nombres sont-ils “naturels” ? » in L.BOI, P. KERZSBERG, F. PATRAS (Eds.), Rediscovering Phenomenology,Springer, 2007, p. 364. 21 Cf. Aussi G. LONGO, « Le continu mathématique, de l'intuition à lalogique », in J. PETITOT, F. VARELA, B. PACHOUD, J.-M. ROY, Naturaliserla phénoménologie, éditions du CNRS, 2002. 22 H. HUSSERL L’archéologie du monde, Kluwer, 2000. 23 E. HUSSERL, Krisis, § 9.

des objets formels à partir du sol synthétique dessubstrats mondains. Il s'agit pour Husserl de dévoiler lastratification qui, des actes perceptifs, conduit, enpassant par des degrés d'idéalisation successifs, à laposition du formel en général, et quelles ont été les rupturesmajeures de cet itinéraire. Mais il s'agit, du même coup,de déterminer le telos de l'activité mathématique tel qu'ils'est constitué et poursuivi, de décrirephénoménologiquement le projet de connaissance au seinduquel cette activité prend place.

Cette double perspective tend bien alors aussi à limiter lapertinence du formalisme qui n'épuise pas la totalité duchamp de l'objectivité mathématique ni n'en accomplit seulson telos. La géométrie invite par exemple le phénoménologueà tourner son regard vers la logique transcendantale quiprépare le sol anté-prédicatif où prend pied la logiqueformelle, laquelle se libère certes de ce sol, mais nonpour l’abandonner. Comme le note D. Pradelle, d’aprèsHusserl, le concept de multiplicité semble même échouer à caractériserl'objet propre de la géométrie parce qu'il ne porte plus en lui de sensproprement géométrique.

Selon Husserl, le sens originaire de la géométrie n'est passéparable de ses proto-idéalités, des figures qui ont étéses objets originaires. Toute l'activité mathématicienneprésuppose au contraire un monde pré-donné d'objets extra-mathématiques, constitué originairement par les figuresspatiales, propriétés intrinsèques des objetsapparaissants. La structure eidétique de l'apparaître sensibleconstituerait pour l'activité idéalisante de la conscienceun fondement dont la science ne peut se couper totalement,au risque de perdre le sens de son formalisme. Dans lesIdées 1, Husserl décrit même les axiomes géométriques commel'expression de lois eidétiques fondamentales, correspondant auxlois synthétiques essentielles de la région espace24 (ce24 Cf. D. PRADELLE, L'archéologie du monde, op.cit. Comme le montre parailleurs D. Pradelle, Husserl fait également porter ses analyses surdes points précis de la théorie mathématique et de son lien avec laphysique. Selon Husserl, la théorie des courbures de Gauss ne permet pas lacaractérisation interne d'espaces quelconques mais seulement celle de figures quelconques dansl'espace pré- donné : la spatialité en elle-même leur échappe. La notiongéométrique de congruence est irréductible à la notion algébrique de

qui, nous l’avons écrit plus haut, nous semble cependantdifficile à suivre).

Créativité et mise en oeuvre

Une dialectique transcendantale

Cette prise en compte du sol praxique à partir duquels’édifie l’activité mathématique ouvre ainsi à unecompréhension plus concrète du rapport de cette activitéaux grands problèmes (espace, continu, infini) qui latraversent, et dont il paraît tout aussi risqué d’affirmerqu’ils procèdent d’une simple idéalisation que de poserqu’ils constitueraient pour les mathématiques unestructure métaphysique dominante. Bien plutôt, il fautconsidérer de tels problèmes comme les traces inéliminablesde la dimension toujours aussi sensible et corporelle del’activité mathématicienne, et plus finement, de ce qui sejoue dans la tension entre cette dimension irréductible(mais inacessible et impurifiable comme telle autrementque dans l’acte de théorisation) et l’idéalisation. PourMarc Richir, par exemple, la pensée mathématique seretrouve orientée

«  (…) toujours déjà, par la médiation descatégories d'unité et de totalité, qu'elleconstitue dans cette multiplicité des groupements,

courbure, que l'impossibilité d'appliquer l'une sur l'autre la maingauche et la main droite n'est pas inscrite dans la structure formellede l'espace euclidien, mais rencontrée, de manière irréductible, ausein même de cet espace. En d'autres termes, l'espace géométriquepossède bien des propriétés spécifiquement géométriques qui relèventd'un a priori phénoménologique. Selon D. Pradelle (commentant Riemann?), lagéométrie devient de la sorte une science non a priori car la physique légifère pour lagéométrie, permet de choisir entre les différents systèmes formelspossibles. Les multiplicités continues, explique-t-il, ne portent pasen elles le principe de leur métrique : dans leur application à ladescription d'espaces physiques, cette métrique extrinsèquement déterminéepar les forces physiques qui les remplissent. L'espace n'est ainsi pas indifférent àce qui le remplit, ne peut pas être défini dans sa spatialité sans quesoit aussi analysés les modes de liaisons de ce qui est posé comme leremplissant. La physique relativiste, remarque Pradelle, corrobore ceprincipe : il y est impossible de séparer l'espace du potentiel degravitation, ce que D. Pradelle interprète comme l'existence d'uneconnexion eidétique entre espace et force de gravitation.

des systèmes, des relations, en lesquelless'établit chaque fois la corrélation de l'unitéd'un point de vue et de l'unité d'une multiplicitérassemblée en totalité.25»

Si une dialectique peut être esquissée, c'est bien alorsau sens kantien, de telle sorte qu'il y a une séparationstricte entre une dimension « phénoménologique » ou« expérientielle », des horizons problématiques, et lafaçon dont ceux-ci sont repris au sein des théories ettraduits à travers les formalismes. Précisons que nousparlons ici de dimension et non de base expérientielle,ce qui reviendrait à faire passer artificiellement unedistinction au sein de l'acticité mathématique plutôt quede chercher à appréhender la complexité de celle-ci. Siles mathématiques sont inséparables de l'expérience et desa corporéité, comprendre celle-ci comme un sol seraitpourtant trompeur. De la même façon, si les mathématiquessont intersubjectives et humaines, si elles présupposentquelque chose de partagé (à la fois dans l'implicite deleur mise en oeuvre et dans leur projet), il ne s'agit enrien de quelque chose d'isolable comme tel, mais, làencore, d'une dimension de leur pratique.

Ajoutons que le terme de dialectique lui-même n'est queprovisoire. Il doit être rapproché du concept husserlienet richirien de zigzag, l'idée de dialectiqueprésupposant un rapport de tension trop nettementpolarisé et orienté. Il s'agit bien ici de reconnaîtreune forme de tension permanente, au sein desmathématiques, entre pré-compréhensions sensibles etcorporelles, objets mathématiques et interprétationsphilosophiques (métaphysiques) de ce qui s'y élabore,mais sans supposer de dynamique unique à ces tensions.

Ainsi, ce ne sont peut-être pas l'infini, le continu,l'espace qui resurgissent sans cesse (comme le postuleJean-Michel Salanskis26), mais les amorces sensibles qui

25 M. RICHIR, Recherches phénoménologiques IV et V, Bruxelles, Ousia, 1983,p. 114. 26 J.-M. SALANSKIS, Sens et philosophie du sens, Lille, Presses du Septentrion, 2003.

sous-tendent la façon dont on les vise et qui impliquentune variabilité et une instabilité de l'idéalité27. Cettetension appelle une perpétuelle réouverture du sens queleurs idéalisations peuvent prendre et de la façon dontcelles-ci peuvent être redéfinies. Les mathématiquestouchent à quelque chose qu'on peut qualifier dephénoménologique, dans l'impossibilité d'épuiser a priori lepotentiel de leurs structures – cela simplement parce quecette richesse n'est pas inscrite seulement dans leurconceptualité, mais dans la dimension active de celle-ci

27 A ce sujet, nous ne pouvons que renvoyer aux magistrales étudesconsacrées par Marc Richir à la possiblité d’une phénoménologietranscendantale des mathématiques, ainsi qu’à l’article que nous leuravons consacré : « Mathématiques et concrétudes phénoménologiques »,Annales de phénoménologie n°11/2012. Comme nous l’écrivions alors à proposdes infinis cantoriens et de leur postérité mathématique, « (…) il nes’agit pas ici d’une libre création, que la domestication de laprolifération de l’infini implique une véritable morphologie del'auto-application de l'infini sur lui (…). La succession desordinaux construits à partir de ώ explore ainsi le pouvoir duformalisme initial. La formulation de la « tour » permet pardéfinition de poser un ordinal supérieur à tout ordinal s'écrivantsous la forme précédemment donnée. Le passage à la limite n'est doncici qu'épuisement des possibilités d'une écriture « directe » par uneméta-écriture. C'est en quelque sorte avec la récurrence du processusde dépassement « scriptural » que l'idée d'un ensemble ou d'uneclasse complète d'ordinaux constructibles par n'importe quel moyen àpartir des opérations données prend un sens plein. L'explorationsystématique des possibilités d'un formalisme donné à un certainniveau donne donc seule un sens maîtrisable aux positions d'objetsinaccessibles par ce formalisme, en permettant de ne pas posercelles-ci dans le vide mais dans l'horizon d'un champ déjà structuré.Les excès (les nouveaux types d'ordinaux, de cardinaux, etc.) ne seconstruisent alors à chaque fois qu'en compliquant une structurethéorique déjà donnée, par une forme d'autoréflexion du formalismeutilisé pour définir les précédents. Ces formalismes sont, à leurtour, transposables par modifications des hypothèses de départ,conduisant à ce que sous certaines conditions des objets théoriquestrès différents sous d’autres soient identiques. En cela, la proliférationdes infinis est malgré tout limitée par la complexité théorique des objets. La série descardinaux est en quelque sorte en équilibre entre le formalisme videet « l'infini réel » qu'elle voudrait indiquer. Les axiomes qu'ilfaut chaque fois ajouter le sont ainsi en fonction de la cohérenceglobale de la théorie – cohérence qui n'est plus seulement uneconsistance logique mais la « préservation et la transmission depropriétés fondatrices à travers certaines transformationsstructurelles (comme le Forcing de Cohen, etc.) définies sur elle. »

et dans la possibilité de poursuivre et de développer lesvirtualités à sa bordure.

Mieux, les mathématiques ne peuvent sortir d'elles-mêmespour se circonscrire de l'extérieur. Loin d'être enposition fondatrice, la logique et la méta-mathématiquesdeviennent des branches des mathématiques, dont une partdu développement s'exprime par ce mouvementd'explicitation de ses concepts, sans qu'il n'y aitcependant de sens à vouloir l'en distinguer.

Pour le mathématicien, une fois encore, ce sont moins lesconcepts classiquement métaphysiques que sont l’infini,l’espace, le continu, qui ne cessent de resurgir, mais unepluralité de nouveaux concepts. Si la méthaphysiqueapparait bien à l’origine des mathématiques, comme l’écritJ. Merker :

« Le niveau « conceptuel-métaphysique » de lamathématique est maintenant dépassé à cause de sonélémentarité — ce n’est plus que du B.A.-BA, et lesmathématiques sont maintenant bien au-delà! Lesréponses non effectives et purement métaphysiquesaux questions mathématiques techniques ne sontqu’un premier moment initial dans un vaste parcoursimprévisible d’explorations toujours riche ensurprises.28 » 

Si la philosophie peut à son tour enrichir la pratiquemathématique, ce n’est certes pas en en éclaircissantd’illusoires fondements, mais en en enrichissant laplasticité conceptuelle. C’est par sa propension à prendrepour objet le non objectivable et le non formalisable quela philosophie peut proposer aux mathématiques des amorcesde figures, d’angles de vue ou de stratégiesdémonstratives. Comme l’écrit J.-Y. Girard, la philosophiedemeure bien à ce titre pour les mathématiques une sourceinégalée de potentialités inventives29.

28 J. MERKER, Philosophie générale des mathématiques, p. 27,http://www.math.u-psud.fr/~merker/Philosophie/2012/essai.pdf29 J.-Y. GIRARD, La syntaxe transcendantale, manifeste, 2011, p. 2, http://iml.univ-mrs.fr/~girard/syntran.pdf

Réciproquement poserions-nous, si la philosophie doit deson côté se donner un telos, il s’agit de celui d’entretenirune plasticité maximale, de se rendre capable de comprendreà la fois les motivations d’engagements ontologiques ou deréifications diverses et de se déprendre de ceux-ci. Commele préconise Wittgenstein, l’objet de la philosophie estbien de décrisper des nœuds qui procèdent d’uneextrapolation de formes langagières et de perspectives au-delà de leur cadre d’application. Il ne s’agit pas non plusselon nous de dénier toute valeur aux prises de positionsphilosophiques, mais bien de développer à leur égard unrapport suffisamment assoupli pour se mettre en mesure d’enuser et d’en jouer plutôt que d’être jouées par elles.

La mise en œuvre des objets mathématiques

À cette dimension quasi-esthétique de l’inventionmathématique, il faut ajouter, nous en avons déjà dit unmot, la dimension de la mise en œuvre et de l’action. Eneffet, les mathématiques n’inventent pas des objets decontemplation mais, avec eux, définissent et spécifient despossibilités d’usages, d’applications, de prises deperspectives sur ces objets et sur d’autres objets ouchamps d’objets30. D’une certaine façon, l’objectivité dumatériau mathématique en question importe moins que ladiversité de ses mises en œuvre elles-mêmes mathématiques.La série des entiers naturels peut être considéréenaïvement, de façon opératoire, ou bien comme projection destructures bien plus élaborées, mais il n’est nul besoin dece demander quel sens prime l’autre. La question est moinssans doute ici de savoir s’il s’agit bien dans les deux casde la même série (question qui n’a de sens quemétaphysique, tout dépendant sinon de l’interprétationqu’on donne au terme « même ») que de considérer celle-cicomme matériau appréhendé selon un certain nombred’opérations qu’on souhaite accomplir, cette perspectiveentrainant dans l’un ou l’autre cas l’attention à tel outel type de possibilités et de structures.

30 A ce sujet, cf. J. BENOIST et T. PAUL (éds.) : Le formalisme en action.Aspects mathématiques et philosophiques, Paris, Hermann, 2013, et enparticulier l’article de J. BENOIST, « Appliquer ».

Certes, ces postures et perspectives sont à exercer et àstabiliser. La caractérisation la plus générale d’undomaine d’objet n’est pas, le plus souvent, celle àlaquelle notre esprit incline tout d’abord. L’apprentimathématicien peine parfois à percevoir le rapport de lastructure abstraite à la série habituelle des nombres. Ilconçoit la seconde comme une abstraction à partir de lapremière (et certes, c’est souvent, mais indirectement, lecas, la généralisation empruntant des chemins abstractifspluriels jalonnés de détours). L’intérêt motivant un moded’appréhension est en effet subordonné à une perspectivemathématique, à un paysage lui-même fait de structures etd’objets, que le métier a pour effet de stabiliser. Lemathématicien entrainé et habitué à user des différentescaractérisations de la série arithmétique et despossibilitées que celles-ci ouvrent pour d’autres usages,finit pour sa part par rencontrer en elles plus de réalitéque dans la série usuelle, parce qu’elles représentent pourlui des prises de perspectives plus enrichissantes et despossibilités d’action plus importantes.

On pourrait en guise d’analogie comparer ces deux types deperspectives à la différence entre le regard que peuventporter sur un fauteuil un enfant en quête d’un objet pourjouer, un homme fatigué qui cherche à s’asseoir, un esthètequi examine la qualité d’ouvrage d’un meuble ancien, et unouvrier chargé d’estimer la quantité de matériau entreposédans une chambre et n’ayant pas même besoin d’individuer,sinon brièvement et mécaniquement, le fauteuil pour faireson calcul. L’analogie est risquée, et il ne faut pas luifaire dire plus que ce qu’elle ne dit, à savoir : lesobjets mathématiques ne sont pas plus que d’autres desobjets inertes, et on en use différemment selon ce qu’onveut en faire, à condition de respecter les règles etdéfinitions qui garantissent leur stabilité.

Encore une fois, il ne s’agit pas de conventionnalisme :les mathématiques sont tenues par leur telos mais celui-ci,étant recherche d’invariances, exploration despotentialités d’invariance, entraine le développement destructures par essence extractibles de leur contexte de

naissance et réapplicables. C’est ainsi de la nature dugeste formalisant de pouvoir formaliser, donc, aussi, depouvoir lier des éléments théoriques d’une autre nature,par exemple ceux d’une théorie physique, d’autant que, parleurs ancrages corporels et gestuels, les objetsmathématiques ne sont pas nativement coupés du mondephysique, mais toujours peu ou prou commensurables, donc,applicables à lui.

Si, comme d’une autre façon, la danse ou la musique, lesmathématiques procèdent d’une succession de gestes qui sedésenveloppent les uns des autres et se raffinent et sedistillent à partir de leur propre exécution, l’historicitémathématique est sans doute autrement plus pregnante (lesmathématiques, contrairement à la musique, ne peuventdécider, où croire décider, de se réinventer d’un coup « àcôté » de leur histoire). La « matière » de la musique,moins labille et fugitive (on fait de la musique à partirdes sons, on extrait le musical du sonore), peut donnerl’impression de pouvoir supporter plus facilementl’irrévérence envers sa propre tradition, alors que lesmathématiques courraient le risque de sombrer aussitôt dansl’insignifiance et de cesser de pouvoir prétendre être desmathématiques.

Mais dira-t-on aussi, il y a dans la musique actuelle unedimension conventionnelle supplémentaire qui accentueencore la différence entre ces domaines qui ont puhistoriquement être jugés apparentés. À notre époque, toutson peut être considéré comme musical s’il est reconnucomme tel par une part conséquente des musiciens,critiques, institutionnels, mécenes, ce qui n’est certespas le cas des mathématiques, toute suite de raisonnementsétant loin de pouvoir prétendre à l’onction de ladiscipline. Pourrait-on cependant exclure que ledéveloppement des mathématiques subisse dans certainescirconstances des évolutions similaires, certes à pluspetite échelle ? Il faut pour répondre à cette questionconsidérer que d’une part, indépendamment de la question dela « matière » (la matière mathématique étant, on l’a vu,une combinaison insaisissable d’éléments), la robustesse dutelos mathématique semble incomparable.

Mais il faut aussi constater qu’il y a bel et bien desbranches mathématiques plus ou moins fécondes et parfoisdes controverses étrangement similaires en mathématiques eten musique sur le sens de certains pans de la recherche(par exemple J.-Y. Girard qui taxe une grande partie deslogiciens contemporains d’user d’un formalisme pauvre etvide), même si celles-ci restent fragmentaires etpartielles, et que ni les mathématiques dans leur ensemble,ni la fécondité de la recherche mathématique, ne sontmenacées par les risques de tarissement provisoire d’unsecteur ou par la dérive abtractive d’un autre.

L’autre différence est bien sûr sociale : la communautémathématique seule statue de ce que doivent être lesmathématiques et de la direction qu’elles prennent oudoivent prendre. Cette communauté se coopte avec pourcritère la maitrise des mathématiques existantes. Plusfinement sans doute, on pourrait cependant certainementdéceler des variations dans l’aiguillage (ou lesaiguillages) au sein des mathématiques, de la négociationdes normes du souhaitable, du rigoureux, de l’important,liées, par exemple, à la proximité plus ou moins forte avecune physique plus ou moins féconde selon les époques, etplus largement, aux relations aux différents typesd’audience de la communauté mathématique (l’ingéniérie, etsurtout l’informatique à notre époque, qui encourage ledéveloppement de certaines approches de la logique audétriment des autres). L’incidence de ces variations, nonseulement sur les recherches et domaines explorés, mais,cela étant inséparable d’une activité de recherche, sur lafixation du (ou des) telos, est par ailleurs certaine, mêmesi, en aucun cas comparable à la façon dont se négocientles normes en musique et en art.

De l'ontologie au réel mathématique

L'objet des mathématiques chez Husserl et après lui

Revenons brièvement au projet husserlien de fondationphénoménologique des mathématiques, qui se déploie de soncôté selon deux orientations liées. Les formes universelles

ne sont en effet chez Husserl que le versant signitif de lalogique, qui doit être également caractérisée par leurspendants objectifs. La mathesis articulant les combinaisonsde visées intentionnelles, elle est bien affaire d’objets :la dimension ontologique est le corrélat de l’apophantiqueselon la structure intentionnelle. Là où l’apophantiquedéploie des structures noétiques, l’ontologie formelle rendcompte de leurs contreparties noématiques.

En d’autres termes, les actes instaurent des positionsd’objets. Il s’agit pour Husserl de montrer que lesformalismes ne sont vides qu’en apparence, et qu’ils sous-entendent toujours la position, au moins implicite, desobjectités qui en valident les systèmes ; la définitionmême des systèmes axiomatiques présuppose une viséed’objet, donc la forme générale d’un remplissement possible: la logique ne se pose elle-même comme logique pure qu’ence qu’elle prend ce double sens apophantique etontologique.

Bien sûr, pour Husserl, cette inhérence du logique pur etde l’ontologique demeure cachée au mathématicien qui neraisonne pas sur le sens et la structure des actes parlesquels il produit des systèmes d’objets. Elle ne serévèle pleinement qu’à l’analyse phénoménologique quireconnecte les systèmes d’objets posés aux systèmes d’actesdans lesquels ils peuvent être posés. Si la conscience visetoujours implicitement les formes d’objets validant lessystèmes d’axiomes, c’est bien en effet que ceux-ci tirenteux-mêmes leur sens de ce qu’ils décrivent l’ensemble desenchaînements d’actes d’un ego transcendantal31.

31 E. HUSSERL, Logique formelle et logique transcendantale, p. 198 : « Le doublesens corrélatif d' « évidence » et de « vérité » que nous avons misen lumière implique aussi manifestement un double sens corrélatif de logiqueformelle : en partant de l'orientation traditionnelle vers les jugements (...)nous obtenons une logique apophantique (...). Si nous privilégionsl'orientation vers les objectités catégoriales possibles elles-mêmes ou plutôt versleur forme, alors (...) nous mettons en mouvement une logique ontologico-formelle mais qui (...) sera cependant astreinte pour des raisons deméthode, à prendre les objets en tant que sens, mais seulement commemoyens, tandis que le dessein final concerne les objets. ».

La dimension ontologique ne constitue qu’un versant d’unesystématique des actes de conscience dont la connaissanceest le telos ; elle peut, comme y insiste Husserl, êtreméthodologiquement séparée du tout de la doctrine de lascience et posée comme tâche, même s’il sera toujours ànouveau possible de rendre claire la significationépistémologique de cette ontologie. Cette logique pure –ainsi phénoménologiquement constituée dans sa pureté –reçoit alors son armature fondamentale dans l’élaboration –dans la continuité du projet riemannien, d’une théorie destypes de théories. Celui-ci constitue au sein de la logiquepure une mathesis universalis : les types de théories, sur leplan apophantique, renvoie en effet pour Husserl à desmondes ; de cette façon, Husserl entend exposer « l’idéelogico-formelle d’un monde en général », comme « totalitécompossible d’objets en général »32.

Ainsi, Husserl enracine dans la logique intentionnellel’engagement nécessairement ontologique de l’activitémathématique. Les mathématiques visent une réalité par lalogique des actes qui les posent, façon élégante derépondre au débat du platonisme et du conventionnalisme,accordant une réalité intentionnelle aux objetsmathématiques. Certes, la fragilité de l’édifice husserlienest d’avoir cherché à constituer cette ontologie, de sorteaussi que la structure des objets finaux de l’ontologieformelle dépend d’un certain état des mathématiques. Sansdoute aussi demeure-t-il une certaine naïveté à passer dela question de la réalité des mathématiques elles-mêmes àla question de la réalité des objets mathématiques, et plusencore à la poser en termes ontologiques (de façon, certesplus subtile que ne le font les débats qui l’expriment enterme d’existence ou d’inexistence, et assimilent touteréalité à celle de l’objet matériel).

Pour notre part, il nous paraît plus intéressant d’opérerun double tournant, passant tout d’abord de la réalité desobjets mathématiques à celle des mathématiques en général,puis en désobjectivement et désontologisant cette question,en interrogeant l’idée d’un réel mathématique.

32 Ce que D. PRADELLE montre de façon précise dans L’archéologie du monde,op.cit.

La rencontre du réel mathématique

Comme le souligne aussi M. Richir en décrivant la structurede ce qu’il nomme le sens-se-faisant (ou parfois aussi,lphénomènes de langage), notre expérience du sens sestructure comme expérience de quelque chose d’autre que lesens, même si cet autre ne doit pas être conçu parréification de son expression linguistique (il n’est paslui-même un objet ni un être, l’objet étant la façon dontnous en écrivons et transcrivons la réalité, l’être, lepoids de cette réalité en tant qu’elle est concrétude). M.Richir entreprend en effet dans ses MéditationsPhénoménologiques33 de penser le sens tel qu'il est engagé, defaçon plurielle, dans le système de concrétudesphénoménologiques que forment les rythmes de laphénoménalisation, système rythmique qui sert de « relai »au sens. 

Le sens est ainsi compris comme processus réflexif au seind’une masse phénoménologique en laquelle il se produit,mais qui cependant lui échappe et lui résiste aussi, et encela, le met en mouvement, le ressource ou le fragilise.Cette extériorité phénoménologique constitue de cette façonà la fois la chair du sens, dont les rythmes lui sontcoextensifs, et son référent, ce qui à la fois « veut sedire » et ne peut pas se dire. Selon M. Richir parailleurs, cette structure du sens-se-faisant, caractériseégalement les mathématiques, même si, d’une façonspécifique, les mathématiques étant selon lui la seuleinstitution symbolique, c’est-à-dire la seule institutionfixant un sens du sens, à la fois capable de conserver enelle le rapport à cette extériorité intime et de limiter sapropre prolifération.

Pour aller plus loin, c’est une fois encore vers desparoles de mathématiciens qu’il nous faudra nous tourner sinous voulons mieux comprendre comment se manifeste (ou peutse manifester) le rapport à ce référent spécifique, quin’est, une fois encore, pas référent externe au sens

33 M. RICHIR, Méditations phénoménologiques, Grenoble, Editions Jérôme Millon, 1992.

objectif, même s’il manifeste une robustesse et unerésistance qui incite nombre de chercheurs à prendre despositions platoniciennes. Sur ce point d’ailleurs, leplatonisme d’Alain Connes (exprimé dans de nombreusesinterventions, et de façon assez détaillée dans l’entretiendéjà évoqué) donne lieu à des descriptions trèsévocatrices. Alain Connes évoque en effet la réalité archaïque desnombres et soutient que le domaine du vrai ne se restreintpas au domaine d’inférence des axiomes d’une théorie.

Cette réalité résiste, dans le sens où elle ne s’épuise pasdans une appropriation, dans un usage, dans uneperspective, et qu’elle semble toujours exiger desdéveloppements et des éclaircissements supplémentaires ;elle est selon Connes une source inépuisable d’informations. Elleimpose (ou propose) des notions ou des intuitionsfondamentales (comme le concept de point) qui peuvent etdoivent être enrichies par l’élaboration formelle qui lesstabilise et s’auto-transforme pour mieux les ressaisir.Les traits d’intuitivité dégagés par Connes diffèrentcertes radicalement de ceux évoqués par Lichnerowicz (larésistance de la réalité s’impose par la découverte de champsde congruences inter-théoriques, par des problèmesuniversaux, dans le langage de la théorie des catégories,qui traversent et excèdent les élaborations qu’on endonne), mais, selon nous, les complètent, en insistantaussi sur la nécessité, pour le mathématicien, de rencontrerquelque chose.

S’il y a une forme de réalité dans les mathématiques, c’estbien au sens de cette extériorité familière, de cet appelmultiforme à transgresser les limites du langage, de cettemultitude d’effets aux limites d’un état donné de mise enforme théorique. Bien sûr, cette extériorité est uneextériorité interne. Elle est une extériorité du point devue du langage, constituée par lui comme extériorité, sansqu’il n’y ait sens à la renvoyer à aucun support, à aucunecontrepartie extérieure dont le format serait homogène à lafaçon dont elle est poursuivie ou visée. Elle ne préexistepas aux objets, mais n’est pas non plus créé par eux. Elleest suscitée par la tension, dont nous avons fait état plushaut, entre le langage et l’épaisseur corporelle,

insinctive, sensible (et aussi historique) dont celui-cis’élève et se détache.

B. Tessier, insiste, pour sa part, sur les sourcesmultiples de la structure réelle (phylogénétiques,mnésiques historique) est tout aussi pertinent lorsqu’ilrappelle qu’il y a en nous un primate, et qu’entre

« (…) lui et nous il y a le mur du langage. C’estun lieu de ramification du sens, où se produisentdes phénomènes irréversibles et extrêmementcomplexes, des tourbillons de sens et de désirs quise condensent en mots, en syntaxe, selon des règlesqui nous échappent presque entièrement. Le réel estvraiment impossible à atteindre à partir du langageen retraversant le mur (…)34 »

Au terme trop massif et inerte du réel, J. Merker préfèrede son côté l’idée d’un ouvert mathématique, qu’il déclineselon 3 niveaux : 1 premier infralinguistique,problématique, 1 niveau interne aux axiomes (structuresmathématiques et systèmes d’axiomes), 1 niveau socio-historique. Il souligne cependant bien que « (…) le réel,en mathématiques, est primordialement un réeld’ouverture, c’est-à-dire un réel de questions et deproblèmes ouverts, seul « réel » qui dynamise tout espritde recherche, de manière trans-historique.35 »

Conclusion

L’assimilation trompeuse du logique et des mathématiquesconduit nombre de philosophes à considérer, à l'instar deHeidegger dans Qu’est-ce qu’une chose ?, le mathématique commeparadigme de la précompréhension et de la prédéterminationde la chose saisie comme objet soumis à la calculabilité età la substituabilité36. Heidegger désigne par le mathemagrec ce qui peut être appris et enseigné, en d’autrestermes le sens déjà-là. Le mathématique serait la forme34 B. TESSIER, « Le mur du langage », in N. CHARRAUD et P. CARTIER, Leréel en mathématiques, op.cit., p. 2535 J. MERKER, Philosophie générale des mathématiques, p. 24.http://www.math.u-psud.fr/~merker/Philosophie/2012/essai.pdf36 M. HEIDEGGER, Qu’est-ce qu’une chose ?, Paris, Editions Gallimard, 1971.

même d’un rapport à ce qui est structuré comme projetd’anticipation de l’étant et du format selon lequel celui-ci est amené à se manifester. La chose devrait alors êtreretrouvée hors du mathématique – touchée dans le poétiqueou dans l’art.

Là contre, revenir aux mathématiques telles qu’elles sefont (et non pas à ce qu’on fait, peut faire, veut faire ouà voulu faire à partir d’elles, ou, à partir de partiesd’elles) révèle au contraire une discipline qui a son réelautant que ses objets, et dont la caractéristique est unecapacité maximale de reprise, de réengagement et deréinvestissement.

A ce titre, les mathématiques ne se laissent certainementpas baliser de l’extérieur par une méta-mathématiquedéfinitive (même si elles usent souvent de la méta-mathématique). S’il n’est pas de critère non mathématiqueou ni même de critère mathématique unique demathématicité, il faut admettre que les mathématiques sontinséparables d’une historicité qu’elles ont pourtant pourmouvement de dépasser – en tout cas de réinvestir – et quela contingence y est présente et inéliminable. Lesmathématiques sont les mathématiques – à la fois ce qui estreconnu comme mathématique par les mathématiciens et ce quia été mathématique au cours de l’histoire.

A l’inverse, on peut cependant risquer, avec G. Longo et F.Bailly37 une tentative de caractérisation en considérant queles mathématiques ont pour principe de toujours viserl’invariance maximale – non l’invariance liée à un cas, auservice d’une circonstance extérieure – et qu’elles nepeuvent dès lors thématiquement admettre aucun donné ni sereposer sur lui (même si la mondanité les habite de manièreimplicite). Certes, concrètement sans doute, ledéveloppement mathématique est souvent lié à la recherchephysique : des théories hybrides élaborées à destination dela physique peuvent être ressaisies dans l’horizonmathématique et rendues plus rigoureuses selon cetteexigence, de véritables avancées mathématiques peuvent être

37 F. BAILLY et G. LONGO, Mathématiques et sciences de la nature. La singularitéphysique du vivant, Paris, Herman, 2002.

entièrement liées à la constitution de théories physiques(par exemple, les théories de la jauge).

Bien évidemment alors, il n’y a pas de sens à vouloirbaliser de l’extérieur l’extension d’une invariance qui estsans cesse à nouveau visée : toute méta-mathématique estvouée à être réappropriée et réinvestie par lesmathématiques qui verront en elle les moyens de reprendreet de poursuivre leur projet. Toute méta-mathématique jugéeintéressante par les mathématiciens est destinée à demultiples réécritures mathématiques.

Loin d’être l’ontologie, comme le voudrait Alain Badiou,les mathématiques attestent de l’impossiblité del’ontologie entendue en ce sens maximaliste. Ellesattestent du triomphe inexorable de la recherche denouvelles généralisations sur toute tentative de la penséede sortir de sa propre contextualité pour proposer un pointde vue de nulle part.

Résumé

Le présent texte entend s’intéresser à plusieurs questions.En premier lieu, la question de la généralisation et duprocessus de généralisation au sein des mathématiques ;ensuite celle de l’idée problématique d’une dimensionsensible de l’activité mathématique ; puis à celle de lacréativité et de l’invention mathématique : enfin, à cellede la question de l’objectivité, ou bien plutôt du réelmathématique, et de la façon dont celui-ci affectel’intuition du mathématicien. Nous en concluons que loind’être l’ontologie, les mathématiques attestent del’impossiblité de toute ontologie et du triomphe inexorablede la recherche de nouvelles généralisations sur toutetentative par la pensée de sortir de sa proprecontextualité pour proposer un point de vue de nulle part.

Philosophie des mathématiques – Intuition mathématique –Phénoménologie des mathématiques

This text intends to focus on several questions. First, theissue of generalization and of the generalization processin mathematics. Then that of the problematic idea of asensitive ground of mathematical activity. Then quequestion of creativity and mathematical invention. Finallythe question of objectivity, or rather of a mathematicalreality, and how it affects the intuition of themathematician. We conclude that, far from being theontology, mathematics attest ofthe impossibility of anyontology and of the inexorable triumph of newgeneralizations about any attempt by the thought of goingout of his own contextuality and offering a point of viewof nowhere.

Philosophy of mathematics - Mathematical Intuition -Phenomenology of Mathematics