Les démons de Cantor

Nous sommes en 1871, la grande vague de rigueur mathématique, initialisée par Cauchy, et puissamment portée par l'École de Berlin, Weierstrass en tête, trouve en Georg Cantor (1845-1918) un zélateur scrupuleux. Pour Cantor, il n'est pas question de démontrer l'unicité du développement en série trigonométrique sans avoir défini auparavant ce qu'est une «grandeur numérique». Voici comment il commence son article³.

Les nombres rationnels servent de fondement pour arriver à la notion plus étendue d'une grandeur numérique ; je les désignerai sous le nom de système $A$, en y comprenant zéro.

On rencontre une première généralisation de la notion de grandeur numérique dans le cas où on a, obtenue par une loi, une série infinie de nombres rationnels :

$$a_1 ,\; a_2 ,\;\ldots ,\;a_n ,\;\ldots ,$$ (1)

constituée de telle sorte que la différence $a_{n+m}-a_n$ devient infiniment petite à mesure que $n$ croît, quel que soit le nombre positif $m$, ou, en d'autres termes, qu'avec $\varepsilon$ (positif rationnel) pris arbitrairement on a un nombre entier $n$, tel que $(a_{n+m}-a_n)<\varepsilon$, si $n\geqslant n_1$, et si $m$ est un nombre entier positif pris à volonté.

J'exprime ainsi cette propriété de la série (1) : «La série (1) a une limite déterminée $b$».

Ces mots ne servent donc qu'à énoncer cette propriété de la série, sans exprimer d'abord autre chose, et de même que nous lions la série (1) avec un signe particulier $b$, de même on doit aussi attacher différents signes $b$, $b'$, $b''$ à diverses séries de même espèce.

Eh bien oui, Cantor construit les réels par les classes d'équivalence des suites de Cauchy de rationnels, comme vous l'avez vu dans ce chapitre. Mais il ne s'arrête pas en si bon chemin. Il définit par récurrence des systèmes de nombres d'ordre $k$ en itérant le procédé, pour plus tard les identifier par un axiome aux points de la droite géométrique. Il exprime tout de même quelques scrupules par rapport au sujet de son article.

Dans une autre circonstance je reviendrai avec plus de détail sur tous ces rapports. Ce n'est pas non plus ici le lieu d'expliquer comment les conventions et les opérations dont j'ai parlé dans ce paragraphe peuvent servir à l'analyse infinitésimale. Dans ce qui suit, en exposant le rapport des grandeurs numériques avec la géométrie de la ligne droite, je me bornerai presque exclusivement aux théorèmes nécessaires, d'où l'on peut, si je ne me trompe, déduire le reste au moyen d'une démonstration purement logique.

Ce seront encore les séries trigonométriques, et plus précisément leurs discontinuités, qui l'amèneront à travailler sur les ensembles infinis, en commençant par donner un fondement rigoureux à la notion d'ensemble. Sa réflexion sur les cardinaux infinis l'amène à se demander s'il est si évident que cela qu'il y a plus de points dans un carré que dans un segment. Voici ce qu'il écrit à son ami Dedekind, le 5 janvier 1874.

Est-ce qu'une surface (disons un carré incluant sa frontière) peut être ramenée de façon unique à une ligne (disons un segment de droite incluant les extrémités) de sorte que pour chaque point sur la surface il y ait un point correspondant sur la ligne et, réciproquement, pour chaque point sur la ligne il y ait un point correspondant sur la surface ? Je crois qu'il ne sera pas facile de répondre à cette question, malgré le fait que la réponse semble si clairement être «non» qu'une démonstration apparaisse presque superflue.

Quand il finit par répondre «oui» en 1877, il dit «Je le vois, mais je ne le crois pas». Ce résultat étonnant suscita le scepticisme de beaucoup de ses collègues, en particulier Kronecker. Cantor était douloureusement conscient de l'opposition que ses travaux, en particulier sur la théorie des ensembles et les cardinaux transfinis, suscitaient.

Je réalise qu'en entreprenant cela, je me place dans une certaine opposition par rapport aux vues largement répandues sur l'infini mathématique, et aux opinions fréquemment défendues sur la nature des nombres.

Querelles avec Kronecker, Mittag-Leffler et les autres ? Problèmes psychologiques liés à son enfance ? À partir de 1884, Cantor connaît le premier d'une série d'épisodes de dépression qui ne lui laissèrent que peu de répit jusqu'à son décès. Ses efforts pour démontrer que Francis Bacon est le véritable auteur des pièces de Shakespeare ont été moins reconnus par la postérité que sa théorie des ensembles que Hilbert considérait comme «le plus beau produit du génie mathématique, et une des réalisations suprêmes de l'activité humaine purement intellectuelle».