Sous-groupes

Maintenant que nous connaissons ce que nous avons pompeusement appelé les exemples fondamentaux, il reste à apprendre à tirer de ces exemples trop fondamentaux pour être vraiment utiles des exemples plus concrets.

Pour cela, introduisons une nouvelle notion.

Définition 19   Soit $G$ un groupe. On dit qu'un sous-ensemble $H$ de $G$ est un sous-groupe de $G$ lorsque les trois conditions suivantes sont vérifiées :

(i) L'ensemble $H$ n'est pas vide.

(ii) Pour tous $a$ et $b$ de $H$, le produit $ab$ est aussi dans $H$.

(iii) Pour tout $a$ de $H$, l'inverse $a^{-1}$ de $a$ est aussi dans $H$.

Avant de commenter ce que ça veut dire, donnons tout de suite une proposition très simple, et utile en pratique pour vérifier qu'un sous-ensemble d'un groupe est un sous-groupe.

Proposition 9   Soit $G$ un groupe. Un sous-ensemble $H$ de $G$ est un sous-groupe de $G$ si et seulement si les deux conditions suivantes sont vérifiées :

(i) L'ensemble $H$ n'est pas vide.

(iv) Pour tous $a$ et $b$ de $H$, le produit $ab^{-1}$ est aussi dans $H$.

Démonstration : Supposons que $H$ est un sous-groupe de $G$, c'est-à-dire qu'il vérifie (i), (ii) et (iii). Il est alors clair que (i) est vérifiée.

Montrons que $H$ vérifie (iv). Soit $a$ et $b$ deux éléments de $H$. En appliquant (iii) à $b$, on constate que $b^{-1}$ est aussi dans $H$, puis en appliquant (ii) à $a$ et $b^{-1}$ que le produit $ab^{-1}$ aussi. Cette partie de la preuve est déjà finie !

Supposons maintenant que $H$ vérifie (i) et (iv). Vérifier (i) est bien sûr sans problème. Avant de montrer que $H$ vérifie (ii) et (iii), montrons préalablement que $e$ appartient à $H$, où $e$ désigne l'élément neutre de $G$. En effet $H$ n'étant pas vide, on peut prendre un élément $c$ dans $H$, puis appliquer l'hypothèse (iv) à $c$ et $c$ pour conclure que $cc^{-1}=e$ appartient à $H$.

Montrons maintenant que $H$ vérifie (iii). Soit $a$ un élément de $H$. Puisqu'on sait maintenant que $e$ aussi est dans $H$, on peut appliquer (iv) à $e$ et $a$ pour obtenir $ea^{-1}\in H$, c'est-à-dire $a^{-1}\in H$.

Montrons enfin que $H$ vérifie (ii). Soit $a$ et $b$ deux éléments de $H$. Par la propriété (iii) appliquée à $b$, $b^{-1}\in H$, puis par la propriété (iv) appliquée à $a$ et $b^{-1}$, $a(b^{-1})^{-1}\in H$, c'est-à-dire $ab\in H$.$\square$

Bien que le résultat qui suive soit très simple à démontrer, son importance lui fait mériter l'appellation de :

Théorème 1   Soit $G$ un groupe et $H$ un sous-groupe de $G$. La restriction à $H$ de la loi de composition sur $G$ fait de $H$ un groupe.

Démonstration : Il ne faut pas manquer de vérifier la possibilité de restreindre la loi de composition initiale, application de $G\times G$ vers $G$ à une loi de composition sur $H$, c'est-à-dire une application de $H\times H$ vers $H$. Comme on veut restreindre non seulement l'ensemble de départ mais aussi l'ensemble d'arrivée, on est dans la situation où il faut spécialement prendre garde. Mais la propriété (ii) de la définition des «sous-groupes»  assure précisément que la loi de composition de $G$ envoie l'ensemble $H\times H$ dans $H$ et que la restriction a donc bien un sens.

L'associativité de cette restriction est alors évidente. Dans la preuve de la proposition précédente, on a montré au passage que le neutre de $G$ était élément de $H$. Il est alors évidemment neutre pour la loi de composition restreinte à $H$. Enfin la propriété (iii) garantit l'existence d'un symétrique pour chaque élément de $H$.$\square$

Voyons maintenant comment ce théorème permet de fabriquer plein de groupes nouveaux et intéressants.

Exemple 8   Soit $G$ le groupe des bijections strictement croissantes de $\mathbb{R}$ vers $\mathbb{R}$, muni de la composition. Montrer que $G$ est un groupe.

(On rappellera, au cas où ce serait nécessaire, qu'une application $f$ est dite strictement croissante lorsque pour tous $x$ et $y$, $x<y$ entraîne $f(x)<f(y)$).

La bonne idée est de montrer que $G$ est un sous-groupe du groupe ${\cal S}(\mathbb{R})$. Lançons-nous.

La vérification de (i) est évidente : il est clair que l'application identique est une bijection strictement croissante de $\mathbb{R}$ sur $\mathbb{R}$.

Passons à (ii). Soit $f$ et $g$ deux bijections strictement croissantes de $\mathbb{R}$ sur $\mathbb{R}$. On sait déjà que $g\circ f$ est une bijection ; montrons qu'elle est strictement croissante. Soit $x$ et $y$ deux réels avec $x<y$ ; alors $f(x)<f(y)$ (croissance de $f$) puis $g(f(x))<g(f(y))$ (croissance de $g$). Ceci montre bien que $g\circ f$ est strictement croissante.

Vérifions enfin (iii). Soit $f$ une bijection strictement croissante de $\mathbb{R}$ vers $\mathbb{R}$. Il est bien clair que $f^{-1}$ est bijective ; vérifions qu'elle est strictement croissante. Soit $x$ et $y$ deux réels avec $x<y$. On ne peut avoir $f^{-1}(x)=f^{-1}(y)$, car $f^{-1}$ est injective ; on ne peut avoir $f^{-1}(y)<f^{-1}(x)$, car $f$ étant strictement croissante on en déduirait l'inégalité $f(f^{-1}(y))<f(f^{-1}(x))$, qui est fausse. Par élimination on a donc bien $f^{{-1}}(x)<f^{{-1}}(y)$.

Exemple 9   Soit $A$ un sous-ensemble de $\mathbb{R}^2$ et $G$ l'ensemble des isométries $f$ de $\mathbb{R}^2$ sur $\mathbb{R}^2$ telles que $f(A)=A$. On montrerait par le même genre de méthode que $G$ est un groupe parce que c'est un sous-groupe de ${\cal S}(\mathbb{R}^2)$. Dès que $A$ sera un peu trop patatoïdal, $G$ se réduira à $\{\mathrm{Id}_{\mathbb{R}^2}\}$ et sera donc peu intéressant, mais si $A$ possède des symétries raisonnables, par exemple si $A$ est un pentagone régulier, le groupe $G$ méritera notre attention.

Le théorème de Lagrange est un résultat simple et élégant, proposé ici surtout pour le plaisir de faire une démonstration agréable.

Théorème 2 (de Lagrange)   Soit $G$ un groupe fini et $H$ un sous-groupe de $G$. Alors le nombre d'éléments de $H$ divise le nombre d'éléments de $G$.

Démonstration : Elle repose sur l'introduction de la relation $\sim$ définie pour tous éléments $a,b$ de $G$ par :

$$a\sim b$$   si et seulement si$$\qquad ab^{-1}\in H.$$

Le plan de la preuve est le suivant :

1. On vérifie que $\sim$, comme son nom le laisse penser, est une relation d'équivalence.
2. On vérifie que toutes les classes d'équivalence pour la relation $\sim$ ont le même nombre d'éléments, à savoir le nombre d'éléments de $H$.
3. On conclut en quelques mots.

Exécution...

Étape 1. Vérifions successivement les trois propriétés requises des relations d'équivalence.

Soit $a$ un élément de $G$. Comme $aa^{-1}=e\in H$, $a\sim a$. La relation $\sim$ est donc réflexive.

Soit $a$ et $b$ deux éléments de $G$, avec $a\sim b$, donc $ab^{-1}\in H$. En prenant l'inverse, $\left(ab^{-1}\right)^{-1}\in H$, c'est-à-dire $ba^{-1}\in H$, soit $b\sim a$ : la relation $\sim$ est donc symétrique.

Soit $a$, $b$ et $c$ trois éléments de $G$, avec $a\sim b$ et $b\sim c$. On a donc $ab^{-1}\in H$ et $bc^{-1}\in H$. En multipliant entre eux ces deux éléments de $H$, on obtient que $(ab^{-1})(bc^{-1})$ appartient à $H$, c'est-à-dire $ac^{-1}\in H$, soit $a\sim c$. La relation $\sim$ est donc transitive.

La relation $\sim$ est donc une relation d'équivalence.

Étape 2. Soit $a$ un élément fixé de $G$. L'objectif est de montrer que sa classe d'équivalence $\mathfrak{cl}(a)$ possède le même nombre d'éléments que $H$. Pour ce faire, une bonne idée serait de montrer qu'il existe une bijection entre $\mathfrak{cl}(a)$ et $H$. Et pour montrer qu'une bijection existe, une bonne idée pourrait être d'en sortir une de sa manche (en mathématiques, on dit «exhiber»), et voir qu'elle convient !

Introduisons donc l'application $f \colon H\to \mathfrak{cl}(a)$ définie par : pour tout $h$ de $H$,

$$f(h)=ha.$$

Vérifions tout d'abord que $f$ est bien une application. La difficulté vient ici de ce que la formule $ha$ possède certes un sens, mais qu'il faudrait savoir que $ha$ appartient bien à $\mathfrak{cl}(a)$. Heureusement, la question est plus facile à résoudre qu'à poser ! C'est en effet une simple vérification : $a(ha)^{-1}=aa^{-1} h^{-1}=h^{-1}\in H$; donc $a\sim ha$ ; en d'autres termes $ha$ appartient à $\mathfrak{cl}(a)$.

Vérifions que $f$ est une bijection. Soit $b$ un élément de $G$ tel que $b\in \mathfrak{cl}(a)$. Cherchons les antécédents de $b$. Un élément $h$ de $H$ est antécédent de $b$ par $f$ si et seulement si $b=ah$, c'est-à-dire si et seulement si $h=ba^{-1}$. Il y a donc au plus un antécédent, à savoir $ba^{-1}$, et comme en outre $b\sim a$, l'élément $ba^{-1}$ est dans $H$ et il y a exactement un antécédent.

Ceci montre que $f$ est une bijection, et $\mathfrak{cl}(a)$ compte donc exactement autant d'éléments que $H$.

Étape 3. Il ne reste plus qu'à conclure. On dispose d'une relation d'équivalence $\sim$, donc d'un ensemble-quotient $G/\!\sim$, qui constitue une partition de $G$. Chacune des parties de $G$ figurant dans cette partition possède exactement $\mathrm{card}(H)$ éléments ; le nombre total d'éléments de $G$ est donc égal au produit de $\mathrm{card}(H)$ par le nombre de parties de $G$ figurant dans la partition $G/\!\sim$ et est en particulier un multiple de $\mathrm{card}(H)$.$\square$