Le Dernier Théorème de Fermat

Les triplets Pythagoriciens sont les triplets d'entiers positifs $(x,y,z)$ vérifiant $x^2+y^2=z^2$. Observons que si $(x,y,z)$ répond à la question, alors il en est de même de $(kx,ky,kz)$ et $(ky,kx,kz)$, pour tout entier $k$. On peut donc se ramener à l'étude des triplets avec $x<y$ et tels que $(x,y,z)$ n'aient pas de diviseur commun. Le triplet pythagoricien le plus simple est $(3,4,5)$, mais bien d'autres exemples sont connus depuis l'antiquité. Certains pensent que la tablette d'argile dite Plimpton 322, gravée en caractères cunéiformes vers 1800 av. J.C. doit être interprétée comme une liste de triplets pythagoriciens. Ce qui est avéré en tout cas, c'est l'utilisation par les architectes depuis l'Égypte ancienne, de la corde à treize nuds, qui délimite 12 intervalles égaux, et permet de tracer toutes sortes de figures géométriques dont un triangle rectangle de côtés 3, 4 et 5 intervalles. Vers 800 av. J.C., le mathématicien indien Baudhayana connaissait $(3,4,5)$, $(5,12,13)$, $(8,15,17)$, $(7,24,25)$ et $(12,35,37)$. Pythagore (569-475 av. J.C.) est bien le premier à avoir donné une formule permettant d'en produire à volonté. D'autres formules furent données par Platon (428-347 av. J.C.), puis par Euclide (325-265 av. J.C.). Voici ces formules (en langage actuel).

• Pythagore : $\forall n\in \mathbb{N} ,\; (2n+1 , 2n^2+2n , 2n^2+2n+1)$ est un triplet pythagoricien,
• Platon : $\forall n\in \mathbb{N} ,\;(2n , n^2-1 , n^2+1)$ est un triplet pythagoricien,
• Euclide : $\forall a\geqslant b \in \mathbb{N} ,\; (2ab , a^2-b^2 , a^2+b^2)$ est un triplet pythagoricien.

Euclide démontre que sa formule permet en fait de les obtenir tous. Peut-être s'était-il posé la même question pour la puissance 3 : existe-t-il des triplets d'entiers $(x,y,z)$ tels que $x^3+y^3=z^3$ ? On n'en a pas de trace, pas plus que chez Diophante. Par contre les mathématiciens arabes, grands exégètes des grecs, y avaient répondu par la négative dès le X^e siècle, mais sans apporter de démonstration convaincante. Voici ce qu'écrit al-Khasin, dans son «Épître à al-Hasib». ³

J'ai déjà démontré que ce qu'avance Abu Mohammed al-Khujandi - que Dieu soit miséricordieux avec lui - dans sa démonstration que la somme de deux nombres cubiques n'est pas un cube, est défectueux et incorrect.

Pourquoi al-Khazin donne-t-il lui aussi une démonstration incomplète ? Cela reste un mystère. Un peu plus tard ibn Sina (plus connu comme médecin que comme mathématicien, sous le nom d'Avicenne) affirme lui aussi le résultat et précise qu'il n'a pas été démontré, puis ibn al-Khawam au XI^e siècle affirme sans non plus la démontrer l'impossibilité du cas $n=4$. Quelques siècles passent avant Pierre de Fermat (1601-1665). Il est né à Beaumont de Lomagne d'un père négociant en cuir, assez riche pour que Pierre fasse des études de droit à l'Université, puis achète une charge de conseiller au parlement de Toulouse. Amateur de sciences et de mathématiques en particulier, il entretient une relation épistolaire suivie avec les plus grands savants de son temps : Descartes, Pascal, Mersenne, Roberval, Toricelli...  L'image qu'il a laissé est celle d'un amateur génial, avec des intuitions certes fulgurantes, mais très peu de faits établis⁴. Voici un extrait de sa lettre d'août 1640 à Frénicle :

Je suis quasi-persuadé que $2^{2^n}+1$ est premier quel que soit $n$. Je n'en ai pas la démonstration exacte, mais j'ai exclu si grande quantité de diviseurs par démonstrations infaillibles, et j'ai de si grandes lumières qui éclairent ma pensée, que j'aurais peine à me dédire.

Il l'avait sans doute vérifié jusqu'à $n=4$. C'est malheureusement faux dès $n=5$ et au moins jusqu'à $n=32$. Sa soi-disant «merveilleuse démonstration» de l'impossibilité de trouver trois entiers strictement positifs tels que $x^n+y^n=z^n$ pour $n>2$ a fait beaucoup pour sa réputation. Il avait tout de même résolu le cas $n=4$ et nous allons voir comment. Fermat commence par affirmer qu'il n'existe pas de triangle rectangle à côtés entiers dont l'aire soit un carré d'entier. Voici ce que qu'il écrit ensuite dans la marge des Arithmétiques de Diophante. La traduction du latin est due à C. Henri et P. Tannery ; nous avons ajouté la numérotation.

1. Si l'aire d'un triangle était un carré, il y aurait deux bicarrés dont la différence serait un carré ;
2. il s'ensuit qu'on aurait également deux carrés dont la somme et la différence seraient des carrés.
3. Par conséquent, on aurait un nombre carré, somme d'un carré et du double d'un carré, avec la condition que la somme des deux carrés qui servent à le composer soit également un carré.
4. Mais si un nombre carré est somme d'un carré et du double d'un carré, sa racine est également somme d'un carré et du double d'un carré, ce que je puis prouver sans difficulté. On conclura de là que cette racine est la somme des deux côtés de l'angle droit d'un triangle rectangle dont l'un des carrés composant formera la base et le double de l'autre carré la hauteur.
5. Ce triangle rectangle sera donc formé par deux nombres carrés dont la somme et la différence seront des carrés.
6. Mais on prouvera que la somme de ces deux carrés est plus petite que celle des deux carrés, dont on a également supposé que la somme et la différence soient des carrés. Donc, si on donne deux carrés dont la somme et la différence soient deux carrés, on donne par là-même en nombres entiers, deux carrés jouissant de la même propriété et dont la somme est inférieure.
7. Par le même raisonnement, on aura ensuite une somme plus petite que celle déduite de la première et en continuant indéfiniment on trouvera toujours des nombres entiers de plus en plus petits satisfaisant aux mêmes conditions. Mais cela est impossible, puisque, un nombre entier étant donné, il ne peut y avoir une infinité de nombres entiers qui soient plus petits.
8. La marge est trop étroite pour recevoir la démonstration complète avec tous ses développements.

Re-voilà le gag de la marge trop étroite, mais cette fois-ci tout est juste. Par contre, il faut quand même travailler beaucoup pour arriver à la «démonstration complète». Pour commencer, les différentes affirmations méritent une traduction mathématique. Les problèmes successifs évoqués par Fermat sont les suivants.

$$\exists (a,b,c,d)\in \mathbb{N}^*\;,\quad \left\{\begin{array}{ccl} a^2+b^2&=&c^2 ab/2&=&d^2 \end{array}\right.$$ (P1)

$$\exists (a,b,c)\in \mathbb{N}^*\;,\quad a^4-b^4=c^2$$ (P2)

$$\exists (a,b,c,d)\in \mathbb{N}^*\;,\quad \left\{\begin{array}{ccl} a^2+b^2&=&c^2 a^2-b^2&=&d^2 \end{array}\right.$$ (P3)

$$\exists (a,b,c,d)\in \mathbb{N}^*\;,\quad \left\{\begin{array}{ccl} a^2+2b^2&=&c^2 a^2+b^2&=&d^2 \end{array}\right.$$ (P4)

$$\exists (a,b,c,d)\in \mathbb{N}^*\;,\quad \left\{\begin{array}{ccl} a^2+2b^2&=&c^2 (a^2)^2+(2b^2)^2&=&d^2 \end{array}\right.$$ (P5)

Observez que si $a^4-b^4=c^2$ n'a pas de solution (problème (P2)), alors $x^4+y^4=z^4$ n'en a pas non plus. Les cinq premières affirmations disent respectivement :

1. (P1) $\Longrightarrow$ (P2)
2. (P2) $\Longrightarrow$ (P3)
3. (P3) $\Longrightarrow$ (P4)
4. (P4) $\Longrightarrow$ (P5)
5. (P5) $\Longrightarrow$ (P3)

Vous pouvez chercher vous-mêmes les démonstrations de ces implications, qui ne sont pas immédiates. Les deux principaux ingrédients sont :

1. la caractérisation d'Euclide des triplets pythagoriciens,
2. le fait que si le produit de deux nombres premiers entre eux est un carré, chacun des deux nombres est lui-même un carré (commencez par le démontrer).

Au fil des arguments revenant de (P3) à (P3) en passant par (P4) et (P5), les sommes d'entiers concernés diminuent strictement (affirmation 6). Arrive alors l'argument massue de la «descente infinie» (affirmation 7) : si partant de 4 entiers $a,b,c,d$ solution d'un problème donné, on construit 4 autres entiers $(a',b',c',d')$ solution du même problème et vérifiant $a'+b'+c'+d'<a+b+c+d$, alors le problème n'a pas de solution. Pas convaincu ? Démontrez rigoureusement par récurrence sur $n$ qu'il n'existe pas de solution vérifiant $a+b+c+d\leqslant n$, pour tout $n$. Fermat n'a pas inventé cet argument que l'on trouve déjà chez Euclide. Mais il en a fait un usage tellement intensif et astucieux qu'on l'a baptisé depuis «descente infinie de Fermat». En 1654 il avait promis à Pascal un traité rassemblant tous ses résultats basés sur la descente infinie ; il n'écrira finalement cette compilation qu'en 1659. Rappelons que Pascal est le premier à avoir formalisé le raisonnement par récurrence...  en 1654. Les affirmations péremptoires de Fermat ont occupé beaucoup de mathématiciens après lui. Mais à la mort d'Euler en 1783 tous les énoncés de Fermat avaient été soit démontrés soit infirmés. Tous sauf un : le Dernier Théorème de Fermat.