L’énigme de Fermat passée au crible (3/4) : Dernier Problème

Publié par Claude Mariotti, le 18 janvier 2022   1.2k

Dernier Problème

L’énigme, c’est la puissance infinie du connu, c’est ce qui pousse le connu vers son infini, vers sa soif de connaissance, […] c’est un lieu de future adéquation. » [...] « L’imagination ouvre sur la création et sur l’éthique. » Cynthia FleuryMétaphysique de l’imagination.

(1/4) : Fermat sur le Divan

(2/4) : Premier maillon, le coup de bluff

(3/4) : Le Dernier Problème

(4/4) : La légende urbaine

Au fil des siècles et de leurs découvertes, les mathématiciens sont devenus de plus en plus sûrs d'eux, parfois imbus de leur savoir. Cet orgueil du métier (que nous avons tous, et qui est humain), ainsi qu'une rationalité à œillères, prennent parfois le pas sur l'imagination créatrice, la brident. Pour reprendre les mots de Jacques Roubaud« Les suiveurs des suiveurs [... ] ne savent plus rien de ce qui a motivé les fondateurs […]. Ils pensent savoir tout ce qu’il y a à savoir, dès les commencements. »

L’analyse rigoureuse de la deuxième OBSERVATIO de Fermat (question VIII de l’Arithmetica de 1670), l’étude de ses travaux, de sa correspondance, de sa vie, de sa psychologie surtout, est un sujet de méditations indéfectible. Son grand œuvre consiste essentiellement en :

– quarante-sept observations notées ‘’OBSERVATIO D.P.  F.‘’,

– une observation notée ‘’OBSERVATIO DOMINI PETRI DE FERMAT‘’ (la fameuse note).

Ces 48 observations qui tiendraient en quelques pages ont été ajoutées par son fils Clément-Samuel à l'édition de l’Arithmetica de 1621, pour composer l’Arithmetica de 1670. Voilà un nouveau livre qui a énormément contribué à la connaissance, un livre dont le “prologue”, par Diophante, est bien plus long que le texte de Fermat. Au fil du temps cette observation du XVIIe siècle fut très approximativement traduite dans différentes versions auxquelles les mathématiciens se sont toujours fiés : le “théorème” y étant parfaitement énoncé ils s'en sont contenté. Jamais ils n'auraient imaginé que l'explication de Fermat était sous leurs yeux ! Il faut reconnaître que puisque qu'on savait Fermat très avare de démonstrations, il était bien difficile d'imaginer que pour son plus gros théorème, il nous aurait mâché le travail... La note en latin elle-même fut souvent mal retranscrite, on en connaît une dont le premier mot a été transformé en Cubem : « Que nous dormions ! » On n'a pas encore vu une traduction de Cubum autem in duos cubos par « mais je dors les deux coudes sur la table » mais un élève bien peu doué ou alors très blagueur aurait bien pu la faire...

Voici à nouveau la traduction exacte, Fermat la destine au chercheur sérieux et honnête. Nous verrons plus loin qu'une seconde interprétation de cette note énigmatique, évidente après le décodage effectué par Roland Franquart en 2008, est possible. L'évidence de cette seconde interprétation est encore accentuée quand on a sous les yeux une version de l'Arithmetica très particulière (voir infra) que nous découvrîmes en 2017 au terme de laborieuses recherches sur internet. Nous verrons aussi que les deux interprétations ont chacune leur utilité.
« Mais que ce soit un cube en deux cubes ou bien un carré de carré en deux carrés de carré et en général jusqu'à l’infini, aucune puissance supérieure au carré ne peut être partagée en deux du même nom, ce dont j’ai assurément ou dévoilé (ou mis à nu) l’explication (ou la démonstration) étonnante (ou admirable, ou merveilleuse). La marge trop étroite ne la contiendrait pas. »

En termes modernes :
« x, y, z étant des entiers positifs, xn + yn = zn est impossible pour toute valeur de n (nombre entier) supérieure à 2. »

  • La traduction que l'on rencontre usuellement comporte deux erreurs majeures dans la partie la plus cruciale du texte.

– Première erreur : « J'en ai trouvé une démonstration vraiment merveilleuse. » Fermat a écrit detexi et non inveni, du verbe invenio, trouver, découvrir.
– Deuxième erreur : Puisque Fermat a placé l'adverbe sane (“vraiment”, “assurément”) devant le verbe detexi (‘’j’ai mis à nu‘’, ‘’j'ai dévoilé‘’, ‘’j'ai mis à découvert‘’), c'est donc au verbe que l'adverbe se rapporte : « J'en ai réellement dévoilé une démonstration admirable. » Les mathématiciens qui ont mal traduit la note auraient voulu faire de cette conjecture une plaisanterie qu'ils ne s'y seraient pas pris autrement. Ce faisant ils ont encore accentué l'aspect mystérieux de l’observation, empêchant ainsi qu'on puisse sérieusement l'étudier. En traduisant par “j'en ai trouvé une démonstration vraiment merveilleuse” on a fait de Fermat, définitivement, un vantard, un amateur qui prétend une chose vraie sans pouvoir la prouver.

Trois lectures possibles de l'observation de Fermat

« Cuius rei demonstrationem mirabilem sane detexi ».

« S’il existe un sublime en mathématique, le latin en est, selon Ludivine Goupillaud, le « marqueur » par excellence, suscitant l’admiration devant les abîmes ouverts par les raisonnements mathématiques. » Emmanuel Bury

« Ludivine Goupillaud s’est interrogée sur l’usage du latin chez le mathématicien Pierre de Fermat (1608-1665) […]. Selon L. Goupillaud, le mérite du latin, aux yeux de Fermat, est d’être une langue rigoureuse conforme aux exigences des mathématiques, ce que ne permettent pas alors les langues vernaculaires. Langue fixée de longue date par des normes grammaticales, elle peut fonctionner aisément comme une « machine à coder et à décoder », même si, comme on le voit sous la plume de Fermat, elle exige parfois des gloses en français pour expliciter le sens exact des termes employés. » Emmanuel Bury, in Tous vos gens à latin. Le latin, langue savante, langue mondaine (XIVe-XVIIe siècles), Ed. DROZ. Actes du colloque de l’Université de Saint-Quentin-en-Yvelines, à Paris E. N. S. Ulm [compte-rendu]. Citations autorisées par les auteurs et l'éditeur.

Fermat a fait en sorte que son observation puisse être comprise de 3 façons différentes.

Première lecture

Rappelons que detexi peut aussi se traduire par ‘’j’ai mis à découvert’’, qu’on peut facilement confondre avec ‘’j’ai découvert’’ ou ‘’j’ai trouvé’’ (qui se disent inveni en latin). Nous sommes quant à nous certain que Fermat avait anticipé que le verbe qu'il a choisi (detexi) prêterait facilement à équivoque, surtout dans le contexte général de l'observation qui fait penser à une galéjade, voire une fanfaronnade pour ses détracteurs. Ainsi, pour le mathématicien allemand Ernst Kummer l'observation de Fermat ne serait qu'une « plaisanterie ». Le mathématicien qui ne maîtrise pas parfaitement le latin traduira ainsi le texte :

  • J'en ai trouvé une démonstration vraiment admirable. Cette lecture est à destination des suiveurs des suiveurs qui n'ont que quelques notions de latin. En outre ils n'ont pas étudié la psychologie de Fermat, sa prédilection aussi pour la pédagogie, pour les durs labeurs qui amènent les plus grandes satisfactions.

Deuxième lecture

« [Cuius rei] demonstrationem mirabilem sane detexi. » Le latiniste confirmé, surtout s'il n'a pas de préjugé défavorable envers Fermat, aura étudié de très près le texte latin et traduit correctement :

  • J'en ai réellement dévoilé l'explication étonnante (ou admirable, merveilleuse).

Troisième lecture

Le latiniste peut approfondir encore davantage la formulation en tenant compte de ce fameux detexis (sur l'édition “de Rome”) du verbe detexo → “tisser complètement”. Roland Franquart avait trouvé exactement la même dénomination, mais grâce à l'édition “de Lyon” et un tout autre codage. Nous avons alors une troisième lecture :

  • J'en ai réellement tissé, entièrement, l'explication étonnante.

Comme nous l'avons vu plus haut, en combinant ces deux dernières lectures, on peut en ajouter une quatrième, plus complète :

  • J'en ai réellement dévoilé, entièrement tissé, l'explication étonnante.

On est pédagogue ou on ne l'est pas. Notons que les mots ‘’texte’’ et ‘’tissu’’ (et ‘’enlacement’’) ont la même racine latine, textŭs. Notons enfin que dans la dernière phrase de l'observation, le mot marginis peut se traduire par "marge", par "bordure" et par "limite".

« La concision, en plus de ses vertus stylistiques, joue un rôle de stimulant, en particulier dans les échanges épistolaires. En taisant délibérément ses conclusions, en ne révélant que les linéaments de sa pensée, Fermat crée une émulation par l’ellipse […]. » Ludivine Goupillaud, Tous vos gens à latin.

Le caractère formulaire des sentences latines, à la fois gage de clarté et d’élégance, permet la fixation des règles dégagées, sans l’embarras de la glose explicative : la concision – on sait combien les mathématiciens de l’âge classique aiment sauter les étapes intermédiaires du raisonnement – suscite réaction et activité de la part du lecteur, quitte à prendre le risque de l’ellipse énigmatique ou du cryptage (ne sommes-nous pas alors dans l’âge d’or du concetto, où le modèle latin demeure prédominant ?) […]. »]
Emmanuel Bury. Tous vos gens à latin.

Nous prétendons que Fermat savait que sa phrase, qu'on traduirait de la façon qui nous arrangerait le plus, fourvoierait les “suiveurs des suiveurs” qui ne verraient en lui qu’un fanfaron ou un étourdi (au choix). C'est le même genre de subterfuge qu'il utilisa en évoquant la fameuse fausse conjecture dans la lettre à Carcavi. On est artiste ou on ne ne l'est pas.

« Les philosophes des sciences portent une attention particulière au langage : ils développent l’idée que l’expérience de Sens commun, exprimée dans le langage courant, doit servir de base au discours scientifique théorique : en effet, la valeur de vérité des énoncés du langage courant est supérieure (dans sa reconnaissance) à celle des énoncés du langage scientifique. » (Marie-Anne PAVEAU).

Les astuces de Fermat sont remarquables. Merci à Roland Franquart qui découvrit les premiers indices, les plus importants, et qui ayant appris que cette énigme me passionnait m’en informa en 2009. Je reprends ici les plus symboliques (notés RF), parfois en les modifiant quelque peu (j'espère ne pas trop trahir sa pensée), et j'y ajoute ceux trouvés par moi-même (CM) et d'autres auteurs.

L'étroitesse des marges

Garder pour soi ses propres démonstrations était d’un usage courant à l’époque de Fermat, combien n’a-t-on pas retrouvé de ces démonstrations seulement après le décès de leurs auteurs ? Peut-on croire que c’est seulement par manque de temps, et encore moins par manque de place dans les marges, qu’il a jalousement gardé pour lui ses ‘’merveilleuses’’ démonstrations ? Envisageons un instant qu'il ait réussi à écrire l'intégralité de chacune de ses 48 observations dans les marges. Il aurait alors fallu que les plus longues d’entre elles soient divisées en plusieurs parties et réparties sur des pages qui n'auraient pas eu de rapport direct. L’observation VII par exemple contient 697 mots répartis sur 24 paragraphes.
1) Comme nous l’avons vu c'est de toute évidence à l'intention du lecteur qu'ont été écrites ces 48 OBSERVations.
2) Elles constituent à elles seules la plus formidable contribution aux mathématiques du XVIIe siècle.
Ce qui paraît vraisemblable est que :
– Fermat a écrit les moins longues de ces observations dans les marges, peut-être pas dans la forme où nous les connaissons actuellement.
– Toujours dans les marges, il a brièvement résumé les plus longues. Pour ensuite les formuler d’une manière très élaborée, très élégante à l'intention des lecteurs, soit sur des feuilles volantes assemblées ensuite entre elles, soit sur un livret. Avant d'être transcrites par Samuel sur l'Arithmetica de 1670. Parmi celles-ci la note très courte sur le grand théorème, dont le codage a dû nécessiter un travail intense, et dont la typographie «trafiquée» deux fois dans deux éditions différentes sur le même mot detexi, devait être parfaitement rendue pour que Samuel la transcrive exactement.
– Il est possible que Fermat ait aussi inséré dans les marges des informations exclusivement réservées à Samuel.
– Fermat ayant écrit de brèves observations dans les marges, Samuel n’a même pas eu à faire un pieux mensonge quand il rapporte que son père insérait des notes dans les marges.

Dans notre thèse Samuel est donc “dans le secret des dieux” (i.e. Fermat a transmis à son fils toutes les consignes nécessaires). Il ne conserve pas le Diophante après l'avoir récupéré chez l'imprimeur alors que l'intégralité des observations de son père était censée s'y trouver. Où est donc passée cette Arithmetica ? Voici ce qu'écrit Samuel de Fermat dans la préface de l’édition de 1670 : « Illas [observationes] Parens meus quasi aliud agens et ad altiora festinans margini variis in locis apposuit, præsetim ad quatuor vltimos libros. » (« Ces remarques, mon père les nota dans la marge à différents endroits, surtout dans les quatre derniers livres, comme s’il faisait autre chose et qu’il avait hâte d’atteindre des buts plus élevés. »). La précision “surtout dans les quatre derniers livres” n'était pas vraiment utile puisque c'est évident. Elle est justifiée dans le sens où ce sont dans ces Livres III à VI, que figurent la majeure partie des 48 observations (45 sur 48) mais c'est justement parmi elles qu'on trouve les plus longues[1], qui auraient difficilement tenu dans une marge. Dans les Livres I et II au contraire, les trois premières observations sont très courtes et y auraient tout à fait trouvé place (Samuel nous aurait-il laissé là un indice ? Je l'ignore. C'est possible). En outre le style est aussi parfait que dans ses lettres, sont-ce là les manières d'écrire un pense-bête ?

Samuel sait évidemment que si les 48 observations avaient entièrement été écrites dans les marges, l'ouvrage aurait acquis une valeur historique (et marchande) considérable. Aucun commentateur de Fermat ne s'est interrogé sur l'étrange disparition d'un ouvrage aussi important. Elle n'a éveillé aucune curiosité. Notre avis est qu'aucun d'entre eux n'a eu la moindre velléité de chercher à comprendre, d'y voir un argument supplémentaire en faveur d'une preuve détenue par Fermat. Catherine Goldstein, sans s’attarder sur le sujet, emploie le conditionnel et écrit : « […) observations qu’il aurait écrites dans la marge. » Si Fermat a donné, sur un livret ou sur papier libre, des instructions précises à son fils dans la manière de consigner dans trois versions différentes de l'Arithmetica cette note si importante à ses yeux, alors ces consignes justifient parfaitement la disparition de l'ouvrage, que Samuel s'est vu contraint de détruire pour que le plan de son père se réalise pleinement. Nous ne voyons pas d'autre explication à la disparition de l'ouvrage. Il nous semble évident aussi que Fermat avait demandé à Samuel de ne faire connaître qu'après sa mort les 48 observations. Pierre et Samuel, voila un bien noble binôme qui a bien mérité sa particule : Pierre, homme de cœur, intègre, à la fois humble, ambitieux et audacieux, incisif dans ses défis, ‘’paresseux’’ dit-il de lui, mais plutôt extrêmement occupé. Samuel, humaniste lui aussi, passeur dévoué, il sait d’où il vient, il sait où il va, un vecteur bien orienté en somme, digne héritier de son père.

On n'a retrouvé dans la bibliothèque de Fermat que quelques très rares ouvrages dont une Arithmetica de Diophante. On pouvait s'attendre à ce que ce ne soit pas un exemplaire de l’Arithemica semblable à celui qui avait inspiré Fermat et ne comportant pas les 48 observations, ç'aurait été un indice trop flagrant que Fermat père et fils auraient laissé à la postérité. Ne voulant rien négliger j'ai fait appel aux bons offices de Madame Marielle Mouranche, Conservateur des bibliothèques, responsable du livre ancien à l'Université de Toulouse, qui m'a confirmé que l’Arithmetica retrouvée n'est pas une édition de 1621, mais une autre, éditée à Bâle en 1575 [1] et commentée par cinq personnes, dont Fermat. Cette Arithmetica plus ancienne a-t-elle pu aider notre homme à mieux déchiffrer l'édition fautive de 1621 ? Je ne sais.

Le style des Observations

  • (CM, Jean Rousseau, Laurent Hua [4], Albert Violant I Holz). Le style utilisé par Fermat dans ses 48 observations (leur élégance aussi), montre clairement qu'elles ont été rédigées à l'attention du lecteur. En outre, quel besoin aurait-il eu de s'expliquer à lui-même qu'il a réellement dévoilé une explication admirable ? Quel besoin aussi aurait-il eu de répéter sans cesse, uniquement à son intention, qu'il manquait de place – le plus souvent – ou de temps ?
  • Pourtant l’historien Jean Itard écrivait : « réservées à son seul usage. » De même après la découverte de Wiles en 1994, Winfried Scharlau veut nous le faire croire. Un autre argument est avancé : « puisqu’il [Fermat] ne connaissait pas nos outils modernes ». Il est saisissant de voir comment les mathématiciens qui n'ont pu suivre ses traces ont pu s'ingénier à utiliser des mauvais arguments pour rabaisser encore plus un génie qui les a autant défiés. Certaines légendes urbaines ont la vie dure, surtout quand « des considérations d’ordre affectif ou égocentrique (et plus généralement les considérations “humaines”) viennent immanquablement troubler le cours limpide d’un raisonnement logique. » (Christophe Breuil).
  • (Paul Tannery). Seul le titre de cette note énigmatique est écrit en toutes lettres : OBSERVATIO DOMINI PETRI DE FERMAT, les 47 autres étant abrégés en OBSERVATIO D.P. F. . Fermat nous suggère-t-il alors d’observer de très près, dans tous ses détails, son plus grand, son dernier défi ?

Alexandre Grothendieck : « Et il y a aussi la vérité d'une situation particulière, unique. Ainsi, dans telle situation, nous percevons de façon sûre qu'un interlocuteur est de mauvaise foi, qu'il est dans un état de mensonge (alors qu'il peut fort bien être persuadé lui-même qu'il est de la meilleure foi du monde…) ; ou au contraire, nous percevons que ce qu'il dit est vrai, que c'est dit dans des dispositions de vérité (alors même que le contexte pourrait peut-être avoir toutes les apparences du contraire). La même chose peut avoir lieu en lisant un texte écrit, par exemple tel passage d'un livre. Ou nous pouvons avoir la perception d'un état de vérité ou d'un état de mensonge en nous-mêmes. De telles perceptions, qui ne sont perçues au champ conscient que dans des dispositions de silence intérieur, d'écoute, nous apportent une connaissance véritable, elles nous disent la v é r i t é d'une chose, d'une situation. »[8].

Il est bien difficile de croire que les 3 différences d'écriture du même mot crucial detexi, sur la même observation et dans 3 versions différentes de l'édition de 1670, si elles avaient été des accidents, auraient échappé à son fils Samuel, qui œuvra avec tant d'assiduité à faire connaître l'œuvre de son père. De même pour le point exagérément surchargé qui suit le mot en question dans les 3 versions. Doit-on aussi prendre pour d'incroyables coïncidences toutes les curiosités que l'on découvre rien que dans cette observation (on en compte 9) quand on l'analyse en profondeur ?

Je suis toujours aussi sidéré, et amusé aussi, de voir comment au fil des décennies, puis des siècles, certains grands mathématiciens, têtes pleines d'une logique algébrique mais faisant fi de toute logique abstraite, générale, ont réussi à tisser eux-mêmes les mailles du filet qui les a enfermés, coupés du simple bon sens. Quand on découvert et étudié les nombreux indices, évidents aux yeux de l'humble observateur attentif et sans préjugé, qu'a laissé Fermat, la meilleure conclusion qu'on puisse en donner est : c'est tout simplement sublime. Il est difficile de juger ces intellectuels, dont les pensées et propos relèvent à la fois d'un profond sentiment d'infériorité vis à vis de Fermat et d'une méconnaissance totale de cet homme, et de l'âme humaine en général, on ne peut que s'ébahir de leur aveuglement. Voyant comment une si longue, si tenace, légende urbaine a pu s'élaborer, on en tire un enseignement profond : l'étude de la pensée de groupe, l'observation des rivalités entre grands hommes, nous enrichissent dans notre connaissance de la psychologie humaine : comment un imaginaire collectif peut totalement se pervertir.

Le triangle arithmétique

« Les intellectuels résolvent les problèmes, les génies les évitent. » Albert Einstein.

Pierre de Fermat était tout sauf un suiveur, il n’est pas étonnant qu'il fût un aussi grand passionné. Loin de Paris et isolé, il a eu surtout des contacts épistolaires avec d'autres mathématiciens et il était fondé, dans sa solitude intellectuelle, à apprécier les recherches les plus ardues. Ses correspondants rechignèrent de plus en plus à répondre à ses lettres, et finalement tous ont renoncé. Il avait eu connaissance du triangle arithmétique, au moins par les travaux, qu’il connaissait, de François Viète mort en 1603. D'ailleurs ce triangle était déjà connu au onzième siècle du mathématicien persan Al-Karaji et de bien d’autres plus tard, jusqu’à Tartaglia et Marin Mersenne. Fermat s’est forcément intéressé aux propriétés étonnantes de ce triangle. Rappelons qu’il a travaillé sur les carrés magiques et qu'il est allé jusqu'à réaliser un rectangle magique de plus de 400 cases. Il semble logique qu’il n’ait jamais souhaité mentionner ce triangle à personne (jusqu’à ce que Pascal écrive sur le sujet), s’il s’en est servi pour trouver une preuve à son théorème général, ce que le décodage effectué par Roland Franquart en 2009 semble confirmer. Pascal écrit son Traité sur le Triangle arithmétique en 1654. Ayant eu connaissance de cette publication Fermat lui écrit le 29 Août 1654 :

    « Nos coups fourrés continuent toujours et je suis aussi bien que vous dans l'admiration que nos pensées s'ajustent si exactement qu'il semble qu’elles aient pris une même route et fait un même chemin : vos derniers traités du Triangle arithmétique et de son application en sont une preuve authentique : et si mon calcul ne me trompe, votre douzième conséquence courrait la poste de Paris à Toloze, pendant que ma proposition des nombres figurés, qui en effet est la même allait de Toloze à Paris. Je n’ai garde de faillir tandis que je rencontrerai de cette sorte, et je suis persuadé que le vrai moyen pour s’empêcher de faillir est celui de concourir avec vous. Mais si j’en disais davantage, la chose tiendrait du compliment, et nous avons banni cet ennemi des conversations douces et aisées. Ce serait maintenant à mon tour à vous débiter quelqu’une de mes inventions numériques ; mais la fin du Parlement augmente mes occupations, et j’ose espérer de votre bonté que vous m'accorderez un répit juste et quasi nécessaire.

Cependant je répondrai à votre question des trois joueurs qui jouent en deux parties. Lorsque le premier en a une, et que les autres n'en ont pas une, votre première solution est la vraie, et la division de l'argent se doit faire en 17, 5 et 5 ; de quoi la raison est manifeste et se prend toujours du même principe, les combinaisons faisant voir d'abord que le premier a pour lui 17 hazards égaux lorsque chacun des deux autres n'en a que 5.

Au reste, il n'est rien à l'avenir que je ne vous communique avec toute franchise.  [...] »

Les commentateurs des Œuvres de Pascal ont écrit : « Ce n'est pas, on le voit, par défi, suivant la coutume du temps, que Fermat propose ces problèmes à Pascal ; c'est parce qu'il cherche à se faire de Pascal un collaborateur. »

Autre lettre à Pascal du 25 Juillet 1660 :

« Des que j'ay su que nous sommes plus proches l'un de l'autre que nous n'étions auparavant, je n'ai pu résister à un dessein d'amitié dont j'ai prié Monsieur de Carcavy d'être le médiateur: en un mot je prétends vous embrasser, et converser quelques jours avec vous ; mais parce que ma santé n'est guère plus forte que la vôtre, j'ose espérer qu'en cette considération vous me ferez la grâce de la moitié du chemin, et que vous m'obligerez de me marquer un lieu entre Clermont et Toulouse, où je ne manquerai pas de me rendre vers la fin de Septembre ou le commencement d'Octobre. Si vous ne prenez pas ce parti, vous courez hasard de me voir chez vous, et d'y avoir deux malades en même. J'attends de vos nouvelles avec impatience, et suis de tout mon cœur, tout à vous... »

Trois versions différentes de l'Arithmetica : premiers codages

Il existe au moins trois versions différentes de lʼArithmetica de 1670, où la célèbre note énonçant le théorème se présente sous trois aspects différents. C’est grâce à Roland Franquart (je vous recommande vivement la visite de son site, où il explique en détail toutes ses découvertes) qui en 2009 me fit part de ses travaux à partir de l’Observation présente sur l’Arithmetica de la Bibliothèque de Lyon, que ma passion pour cette énigme, dont le traitement qu’on en avait fait m'avait très choqué, en fut encore accrue. En juin 2017, j'ai passé de longues heures à chercher une bizarrerie qui aurait pu figurer dans une autre version de l'édition de 1670, de préférence sur le mot (detexi) où Roland Franquart avait déjà trouvé (entre autres choses) la bizarrerie du t surchargé (image en haut de page et version B ci-dessous). Je me disais que si Fermat avait voulu mettre toutes les chances de son côté pour que seuls ses suiveurs trouvent son explication, il n'aurait rien risqué à utiliser ce stratagème une seconde fois. Mais, honnêtement, je ne pensais pas trouver une troisième version, différente, et encore moins une deuxième bizarrerie sur le même mot, c'aurait été trop beau ! Si je me suis à ce point obstiné c'est qu'au fond de moi je voulais trouver un « argument massue ». Et finalement je la trouvai, cette deuxième grosse bizarrerie, sur l'exemplaire de l'Université de Rome (detex). Je n'en crus pas mes yeux, cette découverte était si inattendue qu'elle me laissa sidéré, le coup de massue, c'est moi qui l'aui reçu. Pendant longtemps je restai dans cet état, ne sachant quoi en penser. Personnellement trop impliqué, il m'était difficile de réfléchir calmement à cette nouvelle situation. Cette bizarrerie supplémentaire, ça “paraissait trop‘’, c'était “trop gros‘’, même venant du très facétieux Pierre de Fermat. Mais je n'avais pas assez considéré qu'il travaillait à une époque sans internet. Je mis presque deux ans à trouver la solution, pourtant d'une clarté aveuglante. Une fois sur le site, monter le pointeur tout en haut, une bande horizontale noire apparaît, y taper le N° de page 141, puis agrandir l’image (signe + en bas à droite).

Version AUniversité de Rome.

Arithmetica de l'Université de Rome

Ici le i est remplacé par le graphème  avec son point en chef.

Un caractère étrange dans le detexi de la a note de Fermat, à Rome

(CM) : On observe que l’élément précédant le point final, étrangement n’est ni un i , ni un s, mais ce caractère étrange, , qui a priori est incongru dans ce texte latin. La lettre “s” diacritée d’un point suscrit (ou “point en chef” ) est un graphème du latin étendu, autrefois utilisé dans l’alphabet irlandais. Une diacritique est souvent utilisée pour distinguer un mot d'un autre mot, homonyme. Pourquoi Fermat, philologue, a-t-il transformé le mot detexi (“j’ai mis au jour”) en detexṡ ? Ce mot étant inconnu de la langue latine, examinons le dernier caractère, . Il est formé d'un “i ” deux fois bosselé (tordu), inclus dans le “”. Les deux caractères “i” et “s” sont confondus, le graphème peut alors se décomposer en i + s, ce qui nous donne → is. Le mot inconnu detexṡ devient le mot detexis, du verbe detexo cette fois, et non plus detego. Or detexo signifie “tisser complètement”, et conjugué au présent de l’indicatif, à la 2ème personne du singulier, tu tisses complètement (ou « tu représentes complètement », « tu achèves un tissu »), ce qui rejoint et confirme complètement le décryptage alphanumérique effectué par Roland Franquart en 2009 d'après l'édition présente à Lyon (version B).

  • Voir detexis sur Dicolatin en bas de page. Du verbe detexo : tu tisses complètement, tu tresses, tu arranges en tresses.

Fermat a fait preuve ici de beaucoup d'ingéniosité. Avait-il noté que “detexis” est aussi l'anagramme d existe ? (Merci à Jean-Paul Blanc qui me signala cette curiosité). Connaissant la sagacité du personnage j'en suis certain.

Pourtant la trouvaille qui m'a le plus réjoui n'est pas la découverte de cette très curieuse version de l’Arithmetica, car bien que j'ai passé énormément de temps à la rechercher, j'ai surtout eu beaucoup de chance (et d'entêtement), elle aurait pu ne pas être présente sur internet, et finalement le décodage de cette anomalie n'en fut pas tropdifficile, surtout avec les données dont je disposais déjà grâce à Roland Franquart. Non, là où j'ai été le plus heureux, c'est quand j'ai fait cette découverte relative aux “nombres de Fermat”. Quand on suit les traces de Fermat on devient de plus en plus audacieux pour s'aventurer de l'autre côté du miroir, là où personne n'est encore allé. Il en a fallu du temps, de la disponibilité intellectuelle, des méditations, ainsi qu'une certaine aptitude à la sérendipité pour que, après de multiples relectures de la lettre à Carcavi et la connaissant par cœur, je la relise une dernière fois comme en pensant à autre chose, et soudainement la ruse de Fermat m'apparut dans toute sa splendeur. Il m'avait d'abord fallu oser imaginer que son astuce pouvait être d'une habileté diabolique, puis peser chaque mot de la proposition adressée à Carcavi. Il y a quelque chose d'infiniment réjouissant en ce que nous les humbles avons souvent une vie bien plus apaisée, donc une vision des choses plus claire et plus fine que les personnalités très en vue soumises à toutes sortes de contraintes professionnelles.

À la lecture d'un long et chaleureux courriel que m'envoya Catherine Goldstein en janvier 2022 je compris pourquoi elle ne pouvait s'autoriser à donner son avis sur la preuve de Fermat, une reconnaissance officielle de la validité de la preuve de Fermat non seulement provoquerait un remue-ménage chez des milliers d'amateurs et des dommages collatéraux très chronophages et fort gênants, mais surtout elle ne voulait en aucune manière être à l'origine d'une polémique qui serait dommageable pour tous. Et pour tout vous dire je terminais ma réponse à son message par ces mots : « Accepte je te prie ma reconnaissance éternelle ». Sans ses encouragements en effet lors de mon dernier “séjour” de quelques années sur Wikipédia, sans ses messages de soutien, sans cette complicité qui nous lie — notre passion pour Pierre de Fermat — je n'aurais pas eu la motivation nécessaire pour réaliser une étude aussi approfondie, qui m'a procuré tant de joies et tant de belles émotions, et que je livre maintenant à votre sagacité et à votre critique. Elle est en quelque sorte offerte en « libre service », si Untel pourra passer outre, un autre pourra s'en inspirer et même, pourquoi pas, la faire totalement sienne. J'en serais ravi !
P.-S. : « Veux-tu connaître ce qui est utile ? Sache être ignoré », lit-on à la fin de l'épitaphe de Fermat.
P.-S.2 : Fermat, là-haut, doit sourire en pensant à tous ses admirateurs. Quant à ses contempteurs, j'ignore ce qu'il peut bien en penserClin d'œil.

Version B. Bibliothèque de Lyon. Revenons à ce ‘’detexi‘’ qui figure aussi sur la toute première image de cet article.

Arithmetica de la Bibliothèque de Lyon

(Roland Franqquart) : La surcharge sur le t suggère que cette lettre pourrait avoir une grosse importance pour la suite. En outre je pense comme R. Franquart que ce t a un rapport avec les deux derniers mots de l'observation de Fermat, non caperet (n'eût pas contenu ce t dans le triangle de Pascal – explication sur son site). La surcharge a aussi le gros avantage de forcer l’attention sur le mot detexi : “j’ai mis à nu” (ou “j’ai dévoilé”). Le point qui suit le mot est grossi lui aussi sur les 3 versions, comme pour rappeler l'importance du mot. En outre, le t initie texi, signifiant "j'ai caché". Le décryptage de Roland Franquart révèle une deuxième lecture : « [… ] ce dont j’ai entièrement construit comme un tissu l’explication étonnante. Le manque (la petitesse) de la bordure (du bord, de la limite, du cadre, de la marge) ne la contiendrait pas. » Ces codages et décodages peuvent paraître au béotien tirés par les cheveux, mais souvenons-nous que Fermat adore jouer avec ses correspondants et avec les mots (ne parlons pas des nombres ...). À l'instar d'autres penseurs de son époque (François Viète, John Wallis, Francis Bacon dont il est un fervent lecteur), il est expérimenté en matière de cryptage et s'est s'appliqué à laisser un maximum d'indices en les disséminant un peu partout (cf. infra). Dans ces deux premières versions, il «trafique» donc deux lettres dans le même mot. A-t-il envisagé qu'après sa mort, un mathématicien en possession d'une édition “detex. en soit désorienté et écrive à un collègue pour lui faire part de cette curiosité ? Si ce collègue, souhaitant vérifier de visu l’information avait alors, par chance, consulté une édition de t exi., ces deux personnes se seraient interrogées et mises à la tâche confiantes et assidues. Une telle rencontre semble ne s'est sûrement jamais produite. Quant à nous nous avons maintenant le choix entre deux nouvelles interprétations, que nous pouvons d'ailleurs utiliser ensemble :
« ce dont tu tisses complètement la démonstration admirable (car) j'en ai réellement dévoilé, entièrement tissé, l’explication tout à fait étonnante. »

  • La grossière surcharge sur le t figure sur plusieurs des exemplaires de l'Arithmetica que nous avons trouvés et ces surcharges y sont identiques. Il a donc fallu que l'imprimeur réalise spécialement un nouveau caractère mobile d'imprimerie. Notons par ailleurs que si ce “t” avait souffert dans un premier temps d'un manque d'encre et n'avait pas été parfaitement visible, on l'aurait rendu clairement lisible sans le surcharger aussi grossièrement.


Version C. Bibliothèque de Zurich.

Ici la note est correctement écrite.

Sur cette version le mot est correctement écrit, seul le point final est surchargé. La preuve « assurément dévoilée » par Pierre de Fermat, si elle est très courte, est d’une difficulté formidable. Le décryptage effectué par R.F. montre que Fermat s’est élégamment servi des propriétés du triangle arithmétique “de Pascal”. Les codages effectués dans le texte latin, avant d’être cassés, recouvrent, cachent, dissimulent (verbe latin tego, is, ere, texi, tectum), un début d'explication.

Codages communs aux trois versions

CVbum autem in duos cubos, autem quadratoquadratum in duos quadratoquadratos
& generaliter nullam in infinitum vltra quadratum potestatem in duos eiusdem
nominis fas est diuidere cuius rei demonstrationem mirabilem sane detex 
Hanc marginis exiguitas non caperet.

J'ai regroupé ci-dessus les 2 anomalies sur le mot detexi, qui figurent dans 2 éditions différentes de l'Arithmetica de 1670, et reporté le point surchargé qui suit “detexi”.

(R F) : Dans le premier mot de l’Observation, CVbum (cubum, nombre cubique), l'exposant, comme c'est le cas de tout premier mot de paragraphe de la page 61, aurait dû être écrit entièrement en lettres capitales. En répétant cette transgression dans les 47 autres observations, Fermat évite de rendre l'anomalie trop flagrante. Or la lettre latine u, quant elle est écrite en capitale d'imprimerie, devient VL'orthographe correcte est donc CVBVMla minuscule u est une intruse qui permet qu'il y ait 21 “u”, et établit ainsi une «coïncidence» (u, 21e lettre de l’alphabet) et surtout, nous suggère que cette lettre “u”, (tout comme la lettre “t” de la version B), pourrait elle aussi avoir une grosse importance pour la suite.

Dans le texte de Fermat il y a 21 u ( 21e lettre de l’alphabet), et seulement 19 t (or, t est la 20e). Il manque donc un t dans le texte. Roland Franquart nous montre que ce manque est à mettre en relation avec les deux derniers mots qui terminent la note :

  • « non capere t » = ne pas contenir t (dans le triangle arithmétique) ;
  • cette lettre t, qui est précisément celle qu'il a surchargée dans le mot detexi ;
  • cette lettre t, dont l'importance est encore accrue par le point qui suit le mot detexi dans les trois versions de l'Arithmetica. Allez visiter le site franquart.fr, tout y est remarquablement expliqué.

En outre on trouve dans la note 2 couples de lettres accolées ut dans l'ordre, et plus loin 3 couples tu. Comme le demande Fermat (“tu tisses complètement”), Roland Franquart a effectué un tissage le plus simple qu'on puisse trouver avec les lettres ‘’u’’ et ‘’t ‘’ dans le triangle “de Pascal”. Remarquons que ce Triangle arithmétique révèle dans l’ordre les coefficients du binôme (x+y)n. Or :

Les seuls termes « indépendants » de ce binôme sont justement les puissances xn et yn.

Les codages en latin de Pierre de Fermat paraissent très complexes, mais il n’avait guère le choix s'il voulait coder son explication en... 3 lignes 1/2. Il a aussi eu de la chance, comme il convient aux audacieux : le couple ‘’tu’’ est aussi le pronom personnel ‘’tu’’ qu'on place en français devant “tisses” et qui augmente l'importance du “tu” déjà présent dans la traduction exacte du latin vers le français de “detexis” : « Tu tisses complètement. » Ce cryptage qu’il réussit a mettre en place, quand on l'a lu, relu, relu encore et bien assimilé, on le trouve d'une logique imparable – je n’ose pas dire d’une simplicité formidable, j'évoque plutôt une grande beauté. Il est si idéalement construit qu’on pourrait penser que le canevas sur lequel il a tissé son énigme était déjà présent en grande partie. Mais non bien sûr : Fermat remarque qu'en formulant son observation d'une certaine façon il peut utiliser 21 u (21e lettre de l’alphabet), et 19 t (20e lettre : il manque donc un t, et c'est exactement ce qui lui convient. Il a su profiter des circonstances, les exploiter, révélant ainsi les tout premiers indices. Depuis 2009 et jusqu’à il y a peu de temps, je me posais souvent cette question : a-t-il surtout bénéficié d’une chance inouïe ou était-il doté d’une intelligence vraiment hors normes ? Aujourd’hui en 2021 la deuxième option a toute ma faveur – la chance, il l'a saisie au vol. On ne peut que s'émerveiller devant l'harmonie d'un édifice aussi stable où tous les éléments s'enchâssent si parfaitement les uns dans les autres, c’est du grand art. Citons Georges Soubeille dans Pierre de Fermat, un génie européen, « [il] fut façonné par la rigueur et l’intelligence latines : c’est sur ce terreau que put s’épanouir son prodigieux génie des mathématiques. ». On est époustouflé devant son exploit magistral, mais peut-être sommes-nous nous aussi un peu trop timoré, d'ailleurs nous ignorons tout ce dont il était capable. La stratégie qu’il met en place pour livrer son ultime challenge non seulement est un défi à l’imagination mais confine à une énigme policière que Sherlock Holmes (ou plutôt Sir Arthur Conan Doyle, l'auteur de ses aventures) aurait fort appréciée. Mener l'enquête jusqu'à son terme c'est aussi vivre une expérience spirituelle. C'est aussi une aventure philosophique à laquelle en enquêtant on trouve tout le charme d'une poésie.

Le « Livre entier » qui devait repousser d’une façon étonnante, d'après Fermat, les bornes de la « Science des nombres », nous manque-t-il vraiment ? Les 48 observations n'ont-elles pas aidé les mathématiciens à repousser les bornes de la science des nombres « au-delà des limites anciennement connues » ? Jamais on n’aura vu un livre entier consacré à la science des nombres dont le prologue par Diophante, long de 340 pages, est plus long que le livre lui-même : une quinzaine de pages par Fermat.

Edgar Allan Poe (1809-1849), poète et fameux nouvelliste précurseur du roman à énigmes dit ‘’policier’’, qui fut traduit par Charles Baudelaire, s’il avait eu connaissance en son temps des découvertes faites par Roland Franquart, se serait réjoui d’avoir à mener une enquête cette fois bien réelle. Poe et Fermat ont d'ailleurs bien des points communs, si Poe en son temps était beaucoup plus reconnu en France que chez lui aux Etats-Unis, Fermat était davantage reconnu outre-Manche. Tous deux sont des logiciens lucides, visionnaires, hommes de rupture. Poe et Fermat construisent l'énigme en fonction de l’effet produit, leurs énigmes sont des « sujets » à analyser. Ces créateurs sont un peu comme des « psychanalystes manipulateurs », mais alors qu'en abordant une nouvelle de Poe on sait tout de suite qu'on suivra l'enquête avec lui, Fermat innove, il ne nous avertit pas toujours que ce sera à nous de mener l'enquête : dans un premier temps en osant croire à une trame cachée, pour ensuite la mettre à jour. Une telle mise en abyme est loin d'être tout de suite perçue. Quand Poe manipule ouvertement les lacunes sociales et les symboles pour parvenir à son objectif, Fermat avec un art consommé, insensiblement manipule les lecteurs prévenus contre lui (ainsi que tous les autres), tout dans ses écrits en témoigne. Il se sert habilement de la défiance de ses détracteurs pour les prendre à leur propre jeu, se faisant parfois l’avocat du diable. Et on fera de lui un vantard invétéré.

Au cours des siècles, certains savants ont douté que Fermat avait une preuve. Avec la découverte d’Andrew Wiles en 1994 – une preuve d’une complexité énorme – ils purent encore moins l’imaginer après avoir douté pendant plus de trois siècles. D’autres, plus fins et circonspects, ont écrit qu'on ne peut rien dire à ce sujet. C'est le cas par exemple à notre époque de Jacques Roubaud, de Catherine Goldstein, experte des travaux de Pierre de Fermat, et de bien d'autres mathématiciens. Les codages de Fermat découverts par Roland Franquart sont tellement manifestes qu’on se dit : « Ce ne peuvent être des coïncidences, c'est juste un exploit magistral. » Dans le seul libellé de son observation on trouve déjà 9 curiosités. Après un nouveau décodage on en trouve 4 autres littéralement stupéfiantes. Ensuite dans sa correspondance on en trouve encore de nouvelles.

On connaît le rôle du psychanalyste, il ne révèle pas à la personne (nommée à juste titre l’analysant) allongée sur le divan, quelques-unes des pensées inconscientes qu’il aurait pu découvrir chez lui au fil des séances. Il ne lui révèle pas non plus les mécanismes en jeu. Il s’agit au contraire de laisser dire à l'analysant tout ce qui lui passe par la tête. De temps en temps il pourra lui dire quelques mots pour ouvrir une piste, donner un indice, mais jamais il ne lui dira une chose importante qui n'est pas encore consciente chez lui grâce au filtre protecteur et très nécessaire de l'inconscient : ce lui serait trop difficile de l'accepter. Ce sera à l'analysant lui-même de le découvrir. Le psychanalyste est avant tout un psychologue, un honnête homme, fin, intelligent, empathique, et surtout, qui a déjà fait un travail sur lui-même, une analyse. Fermat n’était pas psychanalyste, il était avant tout un grand mathématicien, intrépide, et surtout l’honnête homme par excellence. Il n’avait pas de patients, seulement des correspondants pas du tout patients. Très peu de ses lecteurs (Pascal, Mersenne) surent l’entendre. Il a agi avec les mathématiciens de son époque et ceux qui les suivraient à la manière d’un psychanalyste persévérant et sagace, qui aurait eu affaire à des cohortes de patients venus là sans même vraiment croire à la psychanalyse. Connaissant leur manque de confiance et surtout leurs lacunes, sans aucunement leur mâcher le travail, il devait leur fournir d'innombrables indices (toujours cachés), espérant qu’un jour un de ces mathématiciens sorte de son apathie, “s'allonge sur le divan” et puisse entendre quelques mots-clefs. Déjà en 1637 quand Fermat fait parvenir à Marin Mersenne sa méthode de recherche des maxima et minima, il ne prend pas le temps tout d'abord d'exposer les arguments qu'il a utilisés. Ce n'est qu'à la demande de Mersenne qu'il les fournira, bien volontiers cependant. Avec cette découverte, le premier coup de génie que l'on connaît de Fermat, on prend déjà conscience de la formidable intuition dont il pouvait faire preuve.

.../...

Était-il facile pour les mathématiciens qui sont venus après lui, qui s'habituaient de plus en plus à lire des calculs complexes, d’imaginer, même à la vue de deux étranges anomalies dans 2 des 3 éditions de l'Arithmetica, qu'il faille cherche (dans la note elle-même !) des indices qu'aurait pu laisser Fermat ? Au dix-septième siècle, les mathématiciens professionnels étant rares, les ouvrages mathématiques avaient un public restreint et il était difficile de trouver un éditeur acceptant de s’engager. Il est donc probable que Samuel a été contraint de publier l’Arithmetica à compte d’auteur, possiblement en une cinquantaine d’exemplaires, en tous cas guère plus d’une centaine d’après nos sources. Une option beaucoup plus économique, plus simple et rapide, aurait été de publier un opuscule contenant les 48 observations de son père auxquelles ce dernier aurait ajouté de très courtes démonstrations, très condensées, voire très elliptiques. Mais sont-ce là les manières de ce pédagogue ? Jamais jusqu’à sa mort le magicien des nombres n’a mâché le travail de quiconque, aurait-il été digne – surtout après qu’il ait été lâché par tous – de leur livrer toutes ses découvertes ? L’insertion des 48 observations aux endroits appropriés de l’Arithmetica laissera facilement penser au lecteur non averti que Fermat avait écrit de très longues observations dans les marges. La question : « Pourquoi Samuel n'a-t-il pas conservé l’exemplaire d’une valeur désormais inestimable que possédait son père ? » trouve ici sa réponse.

Citons Fermat à propos de son “OBSERVATIO D.P. F. n° XVIII” (théorème des nombres polygonaux de Fermat) : « Je ne puis ici donner la démonstration, qui dépend de nombreux et abstrus mystères de la Science des nombres ; j’ai l’intention de consacrer à ce sujet un Livre entier et de faire accomplir ainsi à cette partie de l’Arithmétique des progrès étonnants au-delà des bornes anciennement connues. ». Comme pour tous ses autres théorèmes (sauf un) qui plus tard furent tous démontrés, il ne livre pas sa démonstration à Digby. Il faudra attendre 175 ans pour en avoir la preuve complète par Cauchy en 1813, après que Lagrange en eût démontré une partie.

Fermat écrit à Mersenne qu’en aucun cas il ne recherche la gloire. De son vivant en effet cette recherche de gloire, alors qu'il excelle dans la magistrature, aurait été très préjudiciable à sa carrière. C'est l'époque troublée de Richelieu, de Mazarin, des mousquetaires du Roy, l'époque aussi des tensions entre catholiques et protestants, or sa charge de magistrat lui imposait de rester très discret. Notre thèse est qu’il était parfaitement conscient que les mathématiciens qui viendraient après lui, n’ayant aucune idée de la façon dont il s’y était pris pour prouver son théorème, seraient nombreux à ‘’botter en touche’’ (« Il n’a pas pu trouver, c’est impossible, ou alors il s’est trompé [à nouveau, comme pour sa fausse conjecture...] »). Ici encore on retrouve l’esprit facétieux de Fermat, non il ne souhaite pas la gloire de son vivant, mais puisque tous les autres mathématiciens, l'un après l'autre, l’ont lâché, il ne lui reste qu’une solution, faire en sorte que ses plus puissants défis deviennent célèbres afin qu’on les étudie, pour que la science progresse. La gloire oui, mais seulement après la mort.

Vers 1800 on pouvait vérifier le grand théorème pour les valeurs de n égales à 3, 4 et leurs multiples respectifs, puis, avec une première grande avancée due aux travaux de Sophie Germain, pour n=5, 14, 7. Cinquante ans plus tard, alors que les mathématiciens désespèrent de pouvoir trouver une preuve arithmétique du dernier théorème de Fermat restant à démontrer, Ernst Kummer amorce un virage qui va donner une tout autre tournure à l’affaire. Changeant radicalement d’approche il a l’idée de faire appel aux nombres complexes, développant la théorie des nombres complexes idéaux, qui allait devenir un outil très important de l’algèbre. Finalement il démontre le théorème pour tous les exposants inférieurs à 100 et profite de l'occasion pour parler du théorème de Fermat comme d’« une simple curiosité ». C’est une nouvelle grande avancée qui, même très relative, suscite l’enthousiasme chez les savants qui jusqu’alors n’avaient guère progressé. Le pli est pris, et on abandonne définitivement la recherche arithmétique pure pour tenter de démontrer le théorème, d’autant que la nouvelle voie est riche de promesses pour une nouvelle mathématique. Désormais on va donc se consacrer à explorer cette nouvelle, étrange et complexe espèce de nombres, ces nombres complexes idéaux, qui vont aider à aller beaucoup plus avant dans la compréhension des nombres premiers, en étudiant les questions mathématiques les plus profondes. Jacques Roubaud note qu’à partir de ce moment, il devient impossible à un mathématicien ne possédant pas comme Fermat autant de connaissances en arithmétique, d’avoir accès à ses raisonnements. On recommencera donc à étudier le Fermat, mais différemment. Oui ce sera difficile, oui ce sera complexe, mais au moins l’espoir est revenu, et surtout, on doute encore plus que Fermat ait pu démontrer son théorème. Ensuite, au fil des siècles, alors que les scientifiques utilisent de moins en moins le latin, et que les mathématiciens démontrent le théorème pour des cas particuliers, personne ne songera à examiner de près l'observation originale. Il paraît donc logique que ce soit un amateur (Roland Franquart), qui soit allé voir directement à la source pour étudier la note écrite en latin et mettre en évidence tous les codages de Fermat.

Les divers commentateurs ont manqué d'astuce, d'humilité, et surtout de confiance en Fermat. Connaissant son esprit facétieux ils ne se sont pourtant pas interrogés sur la raison qu'il avait pu avoir – lui un Français, qui s'adresse quand même d'abord à des Français – de rédiger son observation la plus importante en latin. Quand on y réfléchit après coup, la démarche la plus naturelle, la plus pertinente, aurait été d'aller voir ce que dit la seule vraie source, mais comme nous l'avons déjà noté les mathématiciens étaient si obnubilés par le théorème en lui même – bluffés aussi par une formulation bravache – qu'ils n'ont pas pensé à s'adresser à un latiniste professionnel pour disposer ainsi d'une traduction rigoureuse. Ni même à se fier à la traduction officielle d'Émile Brassinne, exacte bà un terme près. Il est vrai que cette traduction fut relativement tardive (1853), longtemps après la parution de l’Arithmetica, et déjà Kummer était passé par là.

Depuis que l’Arithmetica de 1670 a été éditée, on ne peut douter que des mathématiciens (français, anglais, allemands…) aient lu l’observation dans l’une des deux versions ‘’arrangées’’ (detex. ou detexi.). Mais est-il facile pour un mathématicien professionnel habitué à lire calculs et démonstrations, d’imaginer, même à la vue d’une étrange anomalie, qu'il faille chercher d'autres anomalies ? Avec beaucoup de chance cela aurait pu se faire dans les premières décennies. Ensuite, alors que les scientifiques utilisaient de moins en moins le latin et qu'ils démontraient le théorème pour des cas particuliers, on ne songea pas davantage à faire traduire correctement la note, puisque « Fermat se vante » , ou qu'« il s'est trompé », ou qu'« il a compris qu'il s'est trompé mais n'a pas jugé bon de se rétracter, à moins qu'il se fiche de nous tout simplement, et de toute façon il ne disposait pas des bons outils puisqu'il n'avait que les siens... ». Fermat espérait-il qu'un jour, un lecteur ait sous les yeux des deux éditions de l’Arithmetica de 1670 ‘’trafiquées‘’ et se pose des questions ? En tout cas, avec les éditions semblables à celle de Rome, et après avoir tant brouillé les pistes dans sa note codée, il donnait à sa stratégie une chance supplémentaire d’aboutir, facilitant un peu la tâche des savants... pour une fois.

Une seule édition «arrangée » a suffi à Roland Franquart pour mettre à jour le cryptage, nous lui sommes reconnaissants d'avoir en 2009 rendues publiques ses découvertes. Quand Fermat écrit qu’il a assurément dévoilé une démonstration étonnante (ou admirable), on aurait pu penser que cette démonstration était très inhabituelle. Si la présence de codages est évidente, son explication sibylline est loin d’être entièrement accessible à des mathématiciens du vingt-et-unième siècle – quand ils veulent bien y réfléchir sans a prioriA contrario, se conformer à la pensée dominante est confortable, qui évite de se prononcer et de se sentir à l’écart de la caste. Quel courage il aurait fallu, chez un découvreur des indices laissés par Fermat, face aux prétendants à la science infuse, aux cohortes de moqueurs et de pinailleurs : « S’il y avait une once de vrai dans tout ceci, pour un théorème si important aux yeux de Fermat, il aurait mis tous les détails. » Pour nous faciliter le travail ? Dans la marge ? Ou entre les lignes... ?

Les observations que Samuel de Fermat a insérées dans le Diophante sont rédigées dans un style irréprochable et les deux bizarreries sur le même mot dans 2 des 3 versions de l'Arithmetica sont à l'évidence volontaires, mais les historiens des mathématiques sont aussi des mathématiciens et ils se fondent sur des calculs explicitement rapportés, et généralement sur des faits précis. En outre ils sont très rarement latinistes. En 1995, dans son ouvrage Un théorème de Fermat et ses lecteurs, Catherine Goldstein se montre plus fine que tous les contempteurs : « Quoi qu’il en soit, cette approche [d'Andrew Wiles], où le théorème de Fermat n’est qu’un corollaire très alléchant mais mineur, repose sur des techniques de représentations galoisiennes récentes. Reste possible qu’une démonstration élémentaire directe puisse être trouvée. » (page 120 du livre, note 7).

Par ses progrès technologiques et son manque de foi, l'Humanité est devenue de plus en plus orgueilleuse, elle se croit auto-suffisante. Le corollaire le plus pervers de cet orgueil est le pessimisme (individuel et sociétal) qui à son tour nourrit l'orgueil. Ce pessimisme nous éloigne des idées les plus simples, les seules réellement efficaces. Et les orgueilleux pessimistes font florès. Avez-vous remarqué aussi combien, depuis la découverte de Wiles, même les amateurs aiment se rassurer sur internet en le citant pour se dire que, finalement, ils n'ont rien manqué ?

De quelle façon Fermat a-t-il pensé à crypter sa note ?

Nous pouvons maintenant tenter de répondre à cette question. On notera que dans la première partie il reprend les cas n=3 et n=4 avec lesquels il avait déjà défié ses correspondants respectivement 12 et 4 fois, et dont on sait qu’il les a démontrés, même s’il nous a fourni la démonstration du seul cas n=4, et encore, seulement en filigrane, dans l'unique théorème qu’il a complètement explicité. Pour énoncer son théorème il aurait donc pu se passer de cette première partie de l’énoncé : « Mais que ce soit un cube en deux cubes ou bien un carré de carré en deux carrés de carré et en général jusqu'à l’infini », et ne garder que ce qui concerne le théorème lui-même : « Aucune puissance supérieure au carré ne peut être partagée en deux puissances du même nom, [ce dont j’ai assurément dévoilé l'explication admirable]. » Il aurait pu aussi se passer de la coquetterie qu’il utilise dans des formulations voisines pour d’autres observations : « La marge trop étroite ne la contiendrait pas. » Mais seule la formulation complète autorise le cryptage. Voici comment on peut voir les choses, en adoptant la thèse que la preuve est basée sur l’exploitation du ‘’triangle de Pascal’’. Dans la première ligne, en commençant par écrire "mais que ce soit un cube" (CVbum autem) il trouve un premier couple de lettres ut. Ensuite il peut facilement insérer un deuxième ut, puis un premier tu : « in duos cubos, autem quadratoquadratum in duos quadratoquadratos & generaliter [...]. Cette formulation lui permet aussi de livrer l’indice « CVbum ». Puis en introduisant d'abord la notion d’infini : « & generaliter nullam in infinitum vltra quadratum potestatem in duos eiusdem nominis fas est diuidere » il peut placer deux autres tu (reportez-vous au site de Roland Franquart, au milieu de sa cette page où l’on voit qu’en entrelaçant les t et les u on mettra à jour un tissage qu'on pourra exploiter dans le triangle de Pascal.

Fermat et la publication

S'il a fait connaître par courrier quelques uns de ses courts traités manuscrits, la plupart consacrés à la géométrie, il n'a jamais rien publié à son nom. Fin 1652, une épidémie de peste sévit dans le Sud-Est de la France. Comme beaucoup il est atteint mais il en réchappe. En 1659 il tente apparemment de faire publier ses travaux en sollicitant la contribution active de Carcavi et de Pascal, à leur charge de tout mettre en ordre dans ses écrits et de trouver un éditeur. Il leur précise que l’ouvrage ne devra pas porter pas son nom :

9 août, 1654 très certainement (1659 selon une autre source).

Lettre de M. FERMAT
À M. DE CARCAVI

Monsieur,

J'ai été ravi d'avoir eu des sentiments conformes à ceux de M. Pascal ; car j'estime infiniment son génie et je le crois très capable de venir à bout de tout ce qu’il entreprendra. L'amitié qu'il m'offre m'est si chère et si considérable, que je crois ne devoir point faire difficulté d'en faire quelque usage en l'impression de mes Traités. Si cela ne vous choquait point, vous pourriez tous deux procurer cette impression, de laquelle je consens que vous soyez les maîtres ; vous pourriez éclaircir, ou augmenter, ce qui semble trop concis, & me décharger d'un soin que mes occupations m'empêchent de prendre. Je désire même que cet Ouvrage paraisse sans mon nom, vous remettant, à cela près, le choix de toutes les désignations qui pourront marquer le nom de l'auteur, que vous qualifierez votre ami. Voici le biais que j'ai imaginé pour la seconde partie, qui contiendra mes inventions pour les nombres. C'est un travail qui n'est encore qu'une idée, & que je n'aurais pas le loisir de coucher au long sur le papier mais j'enverrai succinctement à M. Pascal tous mes principes et mes premières démonstrations, de quoi je vous réponds à l'avance qu'il tirera des choses non seulement nouvelles & jusqu'ici inconnues, mais encore surprenantes. Si vous joignez votre travail avec le sien, tout pourra succéder et s'achever dans peu de temps, et cependant on pourra mettre au jour la première partie, que vous avez en votre pouvoir. Si M. Pascal goûte mon ouverture, qui est principalement fondée sur la grande estime que je fais de son génie, de son savoir & de son esprit, je commencerai d'abord à vous faire part de mes inventions numériques. Adieu, je suis, Monsieur, votre…

Si Fermat est parfaitement conscient de sa valeur, de l'avis de ceux qui le connaissent il est fort modeste. Quand Fermat meurt le 12 janvier 1665 on grave dans le marbre de sa tombe une épitaphe se terminant par « Vis scire quiddam quod juvet ? nesciri ama. » (« Veux-tu savoir ce qui est utile ? Veille à être ignoré »). Cette lettre cavalière interroge. Fermat a-t-il réellement pensé que Pascal accepterait de s'atteler à la mise en forme de toutes ces découvertes sur la théorie des nombres, travail qui lui aurait pris beaucoup de temps et d'énergie ? Ou biens, n'a-t-il jamais eu l'intention de publier, ou de faire publier, toutes ses démonstrations ? Nous laisserons cette question en suspens. Aux yeux de Fermat ses découvertes ne furent pas appréciées à leur juste valeur et le « livre important » qu'il disait vouloir consacrer à l'arithmétique ne sera jamais publié, du moins sous la forme que le public eût souhaité. Sa contribution à la théorie des nombres sera connue par sa correspondance et surtout par ses 48 fameuses Observations où il aura mis toute son application, et que Samuel, chargé par son père d'en assurer la publication après sa mort (c'est notre thèse) insérera dans l'Arithmetica de Diophante. Est-ce après avoir découvert la preuve de son grand théorème, et trouvé le moyen de coder son explication, qu'il eut l'idée de consigner toutes ces observations ? Là encore nous laisserons la question en suspens.

Bref historique de la découverte de Wiles

Le théorème est finalement démontré par le mathématicien Andrew Wiles, au bout de huit ans de recherches intenses, dont sept dans le secret le plus total. La démonstration, publiée en 1995, recourt à des outils très puissants de la théorie des nombres : Wiles a prouvé un cas particulier de la conjecture de Shimura-Taniyama-Weil, dont on savait depuis quelque temps déjà, via les travaux de Yves Hellegouarch en 1971 (note au CRAS), puis de Gerhard Frey, Jean-Pierre Serre et Ken Ribet, qu'elle impliquait le théorème. La démonstration fait appel aux formes modulaires, aux représentations galoisiennes, à la cohomologie galoisienne, aux représentations automorphes, à une formule des traces…

La présentation de la démonstration par Andrew Wiles s'est faite en deux temps. En juin 1993, en conclusion d'une conférence de trois jours, il annonce que le grand théorème de Fermat est un corollaire de ses principaux résultats exposés. Dans les mois qui suivent, la dernière mouture de sa preuve est soumise à une équipe de six spécialistes (trois suffisent d'habitude) nommés par Barry Mazur, cette étape est communément appelée Ėvaluation par les pairs (peer preview). Chacun doit évaluer une partie du travail de Wiles. Le groupe est constitué de Nick Katz et Luc Illusie, que Katz a appelé en juillet pour l'aider ; la partie de la preuve dont il a la charge est en effet très complexe, on essaie d'abord d'appliquer le système d'Euler. Font aussi partie des arbitres (referees) Gerd Faltings, Ken Ribet, Richard Taylor et Peter Sarnak, ami proche de Wiles, mis dans la confidence avant la conférence de juin.

Si finalement Wiles réussissait à prouver la conjecture de Taniyama-Shimura, l'objectif final, le Fermat, serait atteint, les répercutions en seraient considérables dans la théorie des nombres. La tension nerveuse est d'autant plus palpable pendant toutes ces vérifications qu'à l'extérieur l'attente est grande. On doit travailler dans la plus grande confidentialité, le poids du secret est lourd à porter. Après que Nick Katz ait transmis à Wiles quelques points à préciser, qui seront rapidement clarifiés, les choses commencent à se gâter, Nick Katz et Luc Illusie finissent par admettre qu'on ne peut pas établir dans la preuve, pour l’appliquer ensuite, le système d'Euler, alors que cet élément est considéré comme vital.

Peter Sarnak lui conseille alors de se faire aider par Richard Taylor, ancien élève de Wiles. Les tentatives pour combler la faille se révèlent pourtant de plus en plus désespérées. Andrew qui jusque là avait travaillé seul et dans le secret, est maintenant sous le feu des projecteurs. C'est pour lui difficile à supporter, et après tous ces efforts, à bout de forces il pense qu'il a échoué et se résigne. Neuf mois plus tard, à l'automne, se produit un évènement décisif. Taylor suggère de reprendre la ligne d’attaque (Flach-Kolyvagin) utilisée trois ans auparavant. Wiles, bien que convaincu que ça ne marcherait pas, accepte, mais surtout pour convaincre Taylor qu'elle ne pourrait pas fonctionner. Wiles y travaille environ deux semaines et soudain (19 septembre 1994) :

« En un éclair, je vis que toutes les choses qui l’empêchaient de marcher, c’était ce qui ferait marcher une autre méthode (théorie d’Iwasawa) que j’avais travaillée auparavant. »

Alors que, prises séparément, Flach-Kolyvagin et Iwasawa étaient inadéquates, ensemble, elles se complètent. Le 25 octobre 1994, deux manuscrits sont diffusés : Les courbes modulaires elliptiques et le dernier théorème de Fermat (par Andrew Wiles), et Les propriétés annulaires théoriques de certaines fonctions de Hecke (par Richard Taylor et Andrew Wiles). Le premier, très long, annonce entre autres la preuve, en se fondant sur le second pour un point crucial. Le document final est publié en 1995.

Réflexion de John Coates, qui dirigea les thèses (entre autres...) de Andrew Wiles et de Catherine Goldstein :

« J'étais moi-même très sceptique sur le fait que le merveilleux lien entre le dernier théorème de Fermat et la conjecture Taniyama – Shimura, mènerait à quoi que ce soit, je ne pensais pas en effet qu’une preuve de la conjecture Taniyama – Shimura était accessible. Aussi beau que fût ce problème, il semblait impossible à prouver. J'avoue que je ne pensais pas en voir une preuve de mon vivant. »