Théorème orbite-stabilisateur : démonstration et exercices corrigés

Lorsqu’un groupe agit sur un ensemble, des éléments distincts du groupe peuvent envoyer un point donné au même endroit. Par exemple, parmi les symétries d’un carré, plusieurs peuvent préserver une même diagonale. Comment compter les images possibles sans compter plusieurs fois celles qui coïncident ?

La réponse est le théorème orbite-stabilisateur. Sa formule, dans le cas d’un groupe fini, est

$$\boxed{|G\cdot x|=\frac{|G|}{|G_x|}}.$$

Ici, $G\cdot x$ est l’ensemble des images possibles de $x$ (son orbite) et $G_x$ est l’ensemble des éléments de $G$ qui fixent $x$ (son stabilisateur). Mais avant de compter, il faut comprendre pourquoi les éléments de $G$ se regroupent naturellement en classes. C’est le cœur de la démonstration.

1. Qu’est-ce qu’une action de groupe ?

Soient $G$ un groupe, d’élément neutre $e$, et $X$ un ensemble. Une action à gauche de $G$ sur $X$ associe à chaque couple $(g,x)\in G\times X$ un point de $X$, noté $g\cdot x$, avec les deux propriétés suivantes :

$$e\cdot x=x,\qquad (gh)\cdot x=g\cdot(h\cdot x).$$

Elles doivent être vérifiées pour tous $g,h\in G$ et tout $x\in X$. La deuxième propriété signifie qu’agir d’abord par $h$, puis par $g$, revient à agir par leur produit $gh$. Elle fixe l’ordre des opérations pour une action à gauche.

Pour chaque $g$, l’application $x\mapsto g\cdot x$ est une bijection : l’action de $g^{-1}$ défait celle de $g$. Une action peut donc être vue comme une façon d’associer à chaque élément de $G$ une permutation de $X$, en respectant la multiplication dans $G$.

Exemple. Les quatre rotations d’un carré qui le laissent inchangé forment un groupe $G=\{e,r,r^2,r^3\}$, où $r$ est la rotation de $90^\circ$. Ce groupe agit sur les quatre sommets : $r\cdot A$ désigne le sommet obtenu en faisant tourner $A$ de $90^\circ$.

2. L’orbite : tous les points que l’on peut atteindre

L’orbite d’un point $x\in X$ est

$$G\cdot x=\{g\cdot x\mid g\in G\}.$$

C’est l’ensemble des points que l’on obtient en faisant agir tous les éléments de $G$ sur $x$. Dans l’exemple du carré, l’orbite d’un sommet comprend les quatre sommets.

Dire que $x$ et $y$ sont dans la même orbite signifie qu’il existe $g\in G$ tel que $y=g\cdot x$. Cette relation est une relation d’équivalence :

• $x$ est relié à lui-même, car $e\cdot x=x$ ;
• si $y=g\cdot x$, alors $x=g^{-1}\cdot y$ ;
• si $y=g\cdot x$ et $z=h\cdot y$, alors $z=(hg)\cdot x$.

Les classes d’équivalence sont précisément les orbites. Elles forment donc une partition de $X$ : chaque point appartient à une orbite, et deux orbites sont soit égales, soit disjointes.

Cette propriété est utile lorsque l’action n’est pas transitive : on peut étudier une orbite à la fois, sans perdre ni compter deux fois aucun point.

3. Le stabilisateur : les éléments qui fixent le point

Le stabilisateur de $x\in X$ est l’ensemble

$$G_x=\{g\in G\mid g\cdot x=x\}.$$

Il contient les éléments qui laissent $x$ à sa place. Il s’agit toujours d’un sous-groupe de $G$.

Démonstration. D’abord, $e\cdot x=x$, donc $e\in G_x$. Si $g,h\in G_x$, alors $h^{-1}$ fixe également $x$, car

$$h^{-1}\cdot x=h^{-1}\cdot(h\cdot x)=x.$$

Par conséquent,

$$(gh^{-1})\cdot x=g\cdot(h^{-1}\cdot x)=g\cdot x=x.$$

Ainsi $gh^{-1}\in G_x$. Le critère de sous-groupe est vérifié.

Le stabilisateur dépend du point choisi et de l’ensemble sur lequel on fait agir le groupe. Nous allons voir que cette dépendance est essentielle pour comprendre les tailles des orbites.

4. Pourquoi plusieurs éléments de $G$ peuvent-ils avoir la même image ?

Fixons un point $x$ et étudions l’application

$$\pi_x:G\longrightarrow G\cdot x,\qquad g\longmapsto g\cdot x.$$

Elle est surjective : tout point de l’orbite est, par définition, l’image de $x$ par au moins un élément du groupe.

Qu’appelle-t-on une fibre d’une application ? Pour une application $f:A\to B$ et un élément $y\in B$, la fibre de $f$ au-dessus de $y$ est l’ensemble des éléments de départ envoyés sur $y$ :

$$f^{-1}(\{y\})=\{a\in A\mid f(a)=y\}.$$

Par exemple, pour $f:\mathbb R\to\mathbb R$ définie par $f(t)=t^2$, la fibre au-dessus de $4$ est $\{-2,2\}$ : ces deux nombres ont la même image. La notation $f^{-1}(\{y\})$ désigne ici une image réciproque d’ensemble ; elle n’exige pas que $f$ soit bijective.

Revenons à $\pi_x$. Chercher sa fibre au-dessus de $g\cdot x$ revient à demander : quels éléments de $G$ envoient $x$ exactement au même endroit que $g$ ?

Pour $g,h\in G$, on a

$$\begin{aligned} h\cdot x=g\cdot x &\iff (g^{-1}h)\cdot x=x\\ &\iff g^{-1}h\in G_x\\ &\iff h\in gG_x. \end{aligned}$$

L’ensemble $gG_x$ désigne

$$gG_x=\{gk\mid k\in G_x\}.$$

C’est une classe à gauche modulo le sous-groupe $G_x$ : on multiplie chacun de ses éléments à gauche par $g$. À ne pas confondre avec la classe à droite $G_xg=\{kg\mid k\in G_x\}$.

Nous venons de montrer que

$$\boxed{\pi_x^{-1}(\{g\cdot x\})=gG_x.}$$

Autrement dit, les éléments du groupe ayant la même image de $x$ forment exactement une classe à gauche du stabilisateur. Voilà pourquoi le stabilisateur intervient dans le dénombrement : il décrit toutes les répétitions possibles d’une même image.

5. De ces classes à une bijection

Notons $G/G_x$ l’ensemble des classes à gauche $gG_x$, lorsque $g$ parcourt $G$. Chaque élément de cet ensemble est une classe, donc un sous-ensemble de $G$, et non un élément isolé du groupe.

La formule précédente montre que les classes correspondent exactement aux différentes images de $x$. Elle conduit à l’application

$$\begin{aligned} \Phi:G/G_x&\longrightarrow G\cdot x,\\ gG_x&\longmapsto g\cdot x. \end{aligned}$$

Vérifions les trois points qui font de $\Phi$ une bijection.

Elle est bien définie. Une classe peut avoir plusieurs représentants. Si $gG_x=hG_x$, alors $h=gk$ pour un certain $k\in G_x$, donc $h\cdot x=g\cdot(k\cdot x)=g\cdot x$. Le résultat ne dépend pas du représentant choisi.

Elle est injective. Si $g\cdot x=h\cdot x$, le calcul des fibres montre que $gG_x=hG_x$. Deux classes distinctes ne peuvent donc pas avoir la même image.

Elle est surjective. Chaque point de l’orbite s’écrit $g\cdot x$ pour un certain $g\in G$ ; il est donc l’image de $gG_x$.

On a établi la bijection fondamentale

$$\boxed{G/G_x\ \simeq\ G\cdot x}$$

entre ensembles. Cette bijection existe même lorsque $G$ est infini.

Une correspondance qui respecte aussi les actions

Le groupe $G$ agit sur ses classes à gauche par

$$a\cdot(gG_x)=(ag)G_x.$$

C’est bien une action : si l’on change de représentant de $gG_x$, on obtient la même classe après multiplication à gauche par $a$. On a alors

$$\Phi\bigl(a\cdot(gG_x)\bigr) =(ag)\cdot x =a\cdot\Phi(gG_x).$$

On dit que $\Phi$ est équivariante : faire agir $a$ avant ou après la correspondance revient au même. L’orbite et l’ensemble des classes portent donc la même action de $G$, à un changement de représentation près.

Pourquoi $G/G_x$ n’est pas forcément un groupe quotient

L’écriture $G/G_x$ désigne ici seulement un ensemble de classes à gauche. Pour que la règle

$$(gG_x)(hG_x)=(gh)G_x$$

définisse une multiplication sur les classes, il faut que $G_x$ soit un sous-groupe distingué de $G$, c’est-à-dire que $gG_xg^{-1}=G_x$ pour tout $g\in G$.

Un stabilisateur n’est pas nécessairement distingué. La bijection avec l’orbite et l’action sur les classes restent pourtant parfaitement valables. Il ne faut donc pas confondre ensemble de classes et groupe quotient.

6. Le théorème orbite-stabilisateur pour un groupe fini

Supposons maintenant $G$ fini. Les classes à gauche de $G_x$ sont disjointes ou égales et recouvrent $G$. De plus, chacune possède exactement $|G_x|$ éléments, car

$$G_x\longrightarrow gG_x,\qquad k\longmapsto gk$$

est une bijection.

Si l’on note $m$ le nombre de ces classes, on compte ainsi $|G|=m|G_x|$. Or le nombre de classes est égal au nombre de points de l’orbite. Donc

$$\boxed{|G|=|G\cdot x|\,|G_x|}$$

ou, de manière équivalente,

$$\boxed{|G\cdot x|=[G:G_x]=\frac{|G|}{|G_x|}.}$$

L’écriture $[G:G_x]$ s’appelle l’indice du sous-groupe $G_x$ : c’est le nombre de classes à gauche de $G_x$ dans $G$.

Conséquence. Pour toute action d’un groupe fini, la taille de chaque orbite divise l’ordre du groupe. Cette propriété donne rapidement des contraintes possibles sur les orbites.

La bijection $G/G_x\simeq G\cdot x$, elle, ne suppose aucune finitude. Pour les groupes infinis, on garde cette bijection plutôt que de diviser deux cardinaux infinis.

7. Exemples : les rotations du carré et $S_3$

Un même groupe, deux stabilisateurs différents

Reprenons le groupe des rotations du carré, $G=\{e,r,r^2,r^3\}$.

Un même groupe, deux actions et deux stabilisateurs

Choisissez l'objet étudié, puis appliquez une rotation du carré. Fixer une diagonale signifie conserver cette diagonale comme ensemble, pas fixer chacun de ses points.

Sommet ADiagonale AC

err²r³

Orbite : {A, B, C, D} ; stabilisateur : {e}.

Le groupe a 4 éléments ; l'orbite en contient 4 et le stabilisateur en contient 1. Donc 4 = 4 × 1.

Pour cet objet, chaque rotation donne une image distincte.

Action sur les sommets. Si $A$ est un sommet, les quatre rotations envoient $A$ sur quatre sommets distincts. Aucune rotation non triviale ne fixe $A$. Donc

$$G\cdot A=X,\qquad G_A=\{e\},\qquad |G\cdot A|=\frac41=4.$$

Action sur les diagonales. Prenons maintenant pour ensemble $D$ les deux diagonales, chacune considérée comme un ensemble de points. La rotation $r$ échange les diagonales, tandis que $r^2$ laisse chacune d’elles inchangée. Pour l’une des diagonales $d$,

$$G\cdot d=D,\qquad G_d=\{e,r^2\},\qquad |G\cdot d|=\frac42=2.$$

Les quatre éléments du groupe ne donnent que deux images distinctes de $d$ : $e$ et $r^2$ ont la même image, de même que $r$ et $r^3$. Les deux fibres de l’application $g\mapsto g\cdot d$ sont précisément $\{e,r^2\}$ et $\{r,r^3\}$. Elles sont chacune de cardinal $2$.

Les permutations de $S_3$

Le groupe $S_3$ contient les six permutations de $\{1,2,3\}$. Il agit naturellement sur cet ensemble par $\sigma\cdot i=\sigma(i)$.

Fixons $x=1$. Toutes les valeurs $1,2,3$ sont atteintes, donc $S_3\cdot1=\{1,2,3\}$. Les seules permutations qui fixent $1$ sont l’identité et $(23)$ :

$$(S_3)_1=\{\mathrm{id},(23)\}.$$

D’où $|S_3\cdot1|=6/2=3$. Les trois classes à gauche sont représentées par

$$(S_3)_1,\qquad (12)(S_3)_1,\qquad (13)(S_3)_1,$$

et correspondent aux images respectives $1$, $2$ et $3$. Chaque classe contient les deux permutations donnant la même image de $1$.

Ici, le stabilisateur n’est pas distingué : en composant les permutations de droite à gauche,

$$(12)(23)(12)=(13)\notin(S_3)_1.$$

L’ensemble $S_3/(S_3)_1$ existe bien, avec ses trois classes, mais ce n’est pas un groupe quotient.

8. Actions libres, transitives et simplement transitives

Une action est libre si aucun élément autre que l’identité ne fixe un point : pour tout $x\in X$, on a $G_x=\{e\}$. Dans une action libre d’un groupe fini, chaque orbite contient donc $|G|$ points.

Une action sur un ensemble non vide est transitive lorsque l’on peut envoyer n’importe quel point sur n’importe quel autre par un élément de $G$. Cela revient à dire que l’ensemble est constitué d’une seule orbite.

Elle est simplement transitive si elle est à la fois libre et transitive. Pour chaque couple $(x,y)$, il existe alors un unique $g\in G$ tel que $g\cdot x=y$. En effet, la transitivité assure l’existence ; si $g\cdot x=h\cdot x$, alors $h^{-1}g$ fixe $x$, donc la liberté impose $g=h$. Le raisonnement inverse établit aussi cette caractérisation.

L’action des rotations du carré sur ses sommets est simplement transitive. Autre exemple, valable pour tout groupe $G$ : l’action de $G$ sur lui-même par multiplication à gauche, $a\cdot g=ag$, est simplement transitive.

Être libre ne signifie pas être transitive. Un groupe peut agir librement sur plusieurs orbites disjointes, comme on le verra dans un exercice.

9. Stabilisateurs conjugués sur une même orbite

Si $y=g\cdot x$, les stabilisateurs de $x$ et de $y$ sont liés par

$$\boxed{G_y=gG_xg^{-1}.}$$

En effet, pour tout $h\in G$,

$$\begin{aligned} h\in G_y &\iff h\cdot(g\cdot x)=g\cdot x\\ &\iff (g^{-1}hg)\cdot x=x\\ &\iff g^{-1}hg\in G_x\\ &\iff h\in gG_xg^{-1}. \end{aligned}$$

Deux sous-groupes de la forme $H$ et $gHg^{-1}$ sont dits conjugués. Ils sont isomorphes par $h\mapsto ghg^{-1}$ et ont donc le même cardinal lorsqu’ils sont finis.

Attention : conjugués ne signifie pas nécessairement égaux. Dans l’action naturelle de $S_3$, les stabilisateurs de $1$ et $2$ sont distincts, bien qu’ils soient conjugués. On comprend ainsi pourquoi tous les points d’une même orbite ont des stabilisateurs de même taille.

10. Divisibilité : une condition nécessaire, pas suffisante

Pour un groupe fini, une orbite de cardinal $m$ exige un stabilisateur d’ordre $|G|/m$. Il faut donc que $m$ divise $|G|$. Mais un diviseur de $|G|$ ne donne pas automatiquement une orbite possible.

La condition exacte est la suivante : il existe une action de $G$ possédant une orbite de taille $m$ si et seulement si $G$ possède un sous-groupe d’indice $m$.

Le sens direct vient du théorème. Pour la réciproque, si $H$ est un sous-groupe d’indice $m$, le groupe $G$ agit sur l’ensemble $G/H$ des classes à gauche par $a\cdot(gH)=(ag)H$. Cette action est transitive, possède $m$ points, et le stabilisateur de la classe $H$ est exactement $H$.

Il s’agit de l’existence d’une action, et non d’un résultat sur toutes les actions de $G$. Dans une action fixée, il faut déterminer les stabilisateurs de cette action.

Pourquoi $A_4$ ne peut avoir aucune orbite de taille $2$

Le groupe alterné $A_4$ des permutations paires de quatre lettres contient $12$ éléments. Pourtant, bien que $2$ divise $12$, aucune action de $A_4$ ne peut posséder d’orbite à deux éléments.

Supposons le contraire. Le stabilisateur $H$ d’un point de cette orbite aurait l’indice $2$, donc l’ordre $6$. Or un sous-groupe d’indice $2$ est nécessairement distingué : il existe seulement deux classes à gauche et deux classes à droite, celle de $H$ et son complémentaire ; elles coïncident.

Nous pourrions alors former le groupe quotient $A_4/H$, d’ordre $2$, et disposer d’un morphisme surjectif $A_4\to A_4/H$.

Mais $A_4$ est engendré par les $3$-cycles : ses éléments sont l’identité, huit $3$-cycles et trois produits de deux transpositions disjointes ; ces derniers sont eux-mêmes des produits de $3$-cycles, par exemple

$$(12)(34)=(123)(234).$$

Dans un groupe d’ordre $2$, l’image d’un élément d’ordre $3$ ne peut être que l’identité, car son ordre doit diviser à la fois $3$ et $2$. Tout morphisme de $A_4$ vers un groupe d’ordre $2$ est donc trivial : impossible qu’il soit surjectif.

Ainsi, $A_4$ n’a aucun sous-groupe d’indice $2$, donc aucune orbite de cardinal $2$, quelle que soit l’action considérée.

11. Comment utiliser le théorème dans un exercice ?

Face à une action d’un groupe fini, le bon réflexe n’est pas de commencer par diviser l’ordre du groupe par un nombre choisi au hasard.

1. Préciser l’action et le point étudié. Une action sur des sommets, des diagonales ou des sous-ensembles n’a pas les mêmes stabilisateurs.
2. Calculer le stabilisateur : quels $g$ satisfont exactement $g\cdot x=x$ ? Si $x$ est un ensemble, « le fixer » peut signifier le conserver globalement.
3. Appliquer la formule, une fois $|G_x|$ déterminé, puis vérifier la cohérence avec les images qu’on sait déjà obtenir.
4. Si le cardinal est imposé à l’avance, rechercher un sous-groupe de l’indice demandé ; la seule divisibilité ne prouve pas qu’il existe.

12. Exercices progressifs

Les six exercices utilisent les notions précédentes sous des angles différents : calculer un stabilisateur, reconnaître les orbites d’une conjugaison, distinguer liberté et transitivité, puis exploiter les classes à gauche et les contraintes sur la taille des orbites.

Les corrigés détaillés sont regroupés après tous les énoncés. Ils sont masqués au départ, pour que vous puissiez chercher sans découvrir la réponse.

Exercice 1 — Les paires dans $\{1,2,3\}$

Le groupe $S_3$ agit sur l’ensemble des parties à deux éléments de $\{1,2,3\}$ par $\sigma\cdot A=\{\sigma(a)\mid a\in A\}$. Déterminer l’orbite et le stabilisateur de $\{1,2\}$, puis vérifier la formule orbite-stabilisateur.

Exercice 2 — Conjugaison dans $S_3$

Le groupe $S_3$ agit sur lui-même par conjugaison : $g\cdot\sigma=g\sigma g^{-1}$. Déterminer les orbites de cette action ainsi que les stabilisateurs de $\mathrm{id}$, $(12)$ et $(123)$.

Exercice 3 — Libre, mais non transitive

Soit $G$ un groupe et $X=G\times\{0,1\}$. On pose $a\cdot(g,i)=(ag,i)$. Montrer que cette action est libre, mais non transitive. Déterminer ses orbites.

Exercice 4 — Agir sur des classes à gauche

Soit $H$ un sous-groupe de $G$, pas nécessairement distingué. Montrer que $a\cdot(gH)=(ag)H$ définit une action transitive de $G$ sur l’ensemble des classes à gauche $G/H$. Calculer le stabilisateur de $gH$.

Exercice 5 — Une orbite de trois éléments pour $A_4$

On pose

$$V_4=\{\mathrm{id},(12)(34),(13)(24),(14)(23)\}\subset A_4.$$

Montrer que $V_4$ est un sous-groupe distingué de $A_4$, puis construire une action transitive de $A_4$ sur trois points. Expliquer pourquoi cela ne contredit pas l’impossibilité d’une orbite à deux éléments.

Exercice 6 — Groupes d’ordre premier

Soit $G$ un groupe d’ordre premier $p$ agissant sur un ensemble fini $X$. On note

$$X^G=\{x\in X\mid \text{pour tout }g\in G,\ g\cdot x=x\}$$

l’ensemble des points fixés par tous les éléments de $G$. Montrer que

$$|X|\equiv|X^G|\pmod p.$$

13. Corrections détaillées

Ouvrez la correction de l’exercice qui vous intéresse. Chaque solution reprend le raisonnement, pas seulement le résultat.

Afficher la correction Masquer la correction de l’exercice 1

Étape 1 — Déterminer ce qui peut être atteint. L’ensemble sur lequel agit $S_3$ comporte exactement trois parties à deux éléments :

$$\{1,2\},\qquad \{1,3\},\qquad \{2,3\}.$$

Les trois sont dans l’orbite de $A=\{1,2\}$. L’identité laisse $A$ inchangé ; la permutation $(23)$ l’envoie sur $\{1,3\}$ ; la permutation $(13)$ l’envoie sur $\{2,3\}$. Il n’existe aucune autre partie à deux éléments. On a donc

$$S_3\cdot A=\bigl\{\{1,2\},\{1,3\},\{2,3\}\bigr\}.$$

Étape 2 — Calculer le stabilisateur. La condition $\sigma\cdot A=A$ signifie que la permutation conserve la partie $\{1,2\}$ comme ensemble. Elle peut échanger les nombres $1$ et $2$ ; elle n’a pas à les fixer séparément. Puisque $\sigma$ est une permutation des trois nombres, préserver $\{1,2\}$ impose aussi de fixer $3$. Les seules possibilités sont alors $\mathrm{id}$ et $(12)$ :

$$(S_3)_A=\{\mathrm{id},(12)\}.$$

Étape 3 — Vérifier le théorème. Puisque $|S_3|=3!=6$ et $|(S_3)_A|=2$, on retrouve

$$|S_3\cdot A|=\frac{|S_3|}{|(S_3)_A|}=\frac62=3.$$

Ce résultat illustre une distinction utile : stabiliser un ensemble de deux éléments n’est pas nécessairement fixer ses deux éléments point par point.

Afficher la correction Masquer la correction de l’exercice 2

Étape 1 — Comprendre la conjugaison. Si $g\in S_3$ et $\sigma=(ij)$ est une transposition, alors

$$g(ij)g^{-1}=(g(i)\ g(j)).$$

La conjugaison change donc les noms des lettres échangées, mais ne transforme pas une transposition en un $3$-cycle. Plus généralement, deux permutations de $S_3$ sont conjuguées exactement lorsqu’elles ont la même structure en cycles.

Il existe trois structures possibles dans $S_3$ : l’identité, les trois transpositions et les deux $3$-cycles. Les orbites de la conjugaison sont ainsi

$$\{\mathrm{id}\},\quad \{(12),(13),(23)\},\quad \{(123),(132)\}.$$

On peut vérifier que les deux $3$-cycles sont conjugués, par exemple avec $(12)(123)(12)=(132)$.

Étape 2 — Traduire « être dans le stabilisateur ». Un élément $g$ fixe $\sigma$ pour l’action par conjugaison si et seulement si

$$g\sigma g^{-1}=\sigma \iff g\sigma=\sigma g.$$

Le stabilisateur est donc le centralisateur de $\sigma$ : l’ensemble des permutations qui commutent avec elle.

Étape 3 — Calculer les trois stabilisateurs.

Pour $\sigma=\mathrm{id}$, toute permutation commute avec l’identité, donc

$$(S_3)_{\mathrm{id}}=S_3.$$

Pour $\sigma=(12)$, supposons $g(12)=(12)g$. Cette égalité impose que $g$ envoie l’unique point fixé par $(12)$, à savoir $3$, sur lui-même. Il reste donc à permuter éventuellement $1$ et $2$. Les deux choix, $\mathrm{id}$ et $(12)$, commutent effectivement avec $(12)$ ; d’où

$$(S_3)_{(12)}=\{\mathrm{id},(12)\}.$$

Pour $\sigma=c=(123)$, la condition $gc=cg$ donne, pour $k=0,1,2$,

$$g(c^k(1))=c^k(g(1)).$$

Comme $1,c(1),c^2(1)$ sont les trois nombres distincts, connaître $g(1)$ détermine entièrement $g$. On dispose au plus de trois possibilités, correspondant à $g(1)=1,2$ ou $3$. Or $\mathrm{id},c,c^2$ commutent avec $c$ et réalisent ces trois possibilités. Ainsi

$$(S_3)_{(123)}=\{\mathrm{id},(123),(132)\}.$$

Étape 4 — Contrôler les cardinaux. Les stabilisateurs ont respectivement $6$, $2$ et $3$ éléments. Le théorème donne

$$\frac66=1,\qquad \frac62=3,\qquad \frac63=2,$$

exactement les tailles des trois orbites. La conjugaison fournit donc un nouvel exemple d’action où les orbites ne sont pas toutes de même taille.

Afficher la correction Masquer la correction de l’exercice 3

Étape 1 — Vérifier qu’il s’agit bien d’une action. Si $e$ est l’élément neutre de $G$, alors

$$e\cdot(g,i)=(eg,i)=(g,i).$$

Pour $a,b,g\in G$,

$$a\cdot\bigl(b\cdot(g,i)\bigr) =a\cdot(bg,i) =(abg,i) =(ab)\cdot(g,i).$$

Les deux axiomes d’une action à gauche sont donc vérifiés.

Étape 2 — Prouver la liberté. Fixons un point $(g,i)\in X$. Si $a\in G$ le stabilise, on a

$$(ag,i)=(g,i),$$

ce qui impose $ag=g$. En multipliant à droite par $g^{-1}$, on obtient $a=e$. Aucun élément non neutre ne fixe un point : l’action est libre.

Étape 3 — Déterminer les orbites. Faire agir $a$ sur $(g,i)$ donne $(ag,i)$ : la deuxième coordonnée reste toujours $i$. On ne peut donc jamais passer de $(g,0)$ à un point dont la deuxième coordonnée vaut $1$.

Réciproquement, à partir de $(g,i)$, on peut atteindre tout $(h,i)$ : il suffit de choisir $a=hg^{-1}$, car $(hg^{-1})g=h$. Il y a exactement deux orbites :

$$G\times\{0\} \quad\text{et}\quad G\times\{1\}.$$

Elles sont disjointes et non vides. L’action n’est donc pas transitive, quel que soit le groupe $G$, même si elle est libre.

Afficher la correction Masquer la correction de l’exercice 4

Étape 1 — Vérifier que la formule ne dépend pas du représentant. Une classe $gH$ contient plusieurs éléments, et $gH=g'H$ signifie qu’il existe $h\in H$ tel que $g'=gh$. Pour $a\in G$, on a alors

$$ag'H=aghH=agH,$$

puisque $hH=H$. Le résultat $(ag)H$ est donc indépendant du choix de $g$ dans sa classe. La règle est bien définie sur $G/H$.

Étape 2 — Vérifier les axiomes de l’action. D’une part, $e\cdot(gH)=(eg)H=gH$. D’autre part,

$$a\cdot\bigl(b\cdot(gH)\bigr) =a\cdot(bgH) =(abg)H =(ab)\cdot(gH).$$

Il s’agit bien d’une action à gauche.

Étape 3 — Montrer la transitivité. Prenons deux classes quelconques $gH$ et $g'H$. En choisissant $a=g'g^{-1}$, nous obtenons

$$a\cdot(gH)=(g'g^{-1}g)H=g'H.$$

On peut donc atteindre n’importe quelle classe depuis n’importe quelle autre : l’action est transitive.

Étape 4 — Calculer le stabilisateur. Un élément $a\in G$ fixe la classe $gH$ exactement lorsque

$$\begin{aligned} a\cdot(gH)=gH &\iff (ag)H=gH\\ &\iff g^{-1}ag\in H\\ &\iff a\in gHg^{-1}. \end{aligned}$$

Par conséquent,

$$\boxed{G_{gH}=gHg^{-1}.}$$

En particulier, le stabilisateur de la classe $H=eH$ est $H$.

Faut-il que $H$ soit distingué ? Non. Nous n’avons utilisé que le fait que $H$ est un sous-groupe. La normalité serait nécessaire pour faire de $G/H$ un groupe quotient par multiplication des classes ; elle ne l’est ni pour former l’ensemble des classes à gauche ni pour construire cette action. L’action de $S_3$ sur $S_3/\{\mathrm{id},(12)\}$ fournit justement un exemple avec un sous-groupe non distingué.

Afficher la correction Masquer la correction de l’exercice 5

Étape 1 — Montrer que $V_4$ est un sous-groupe. Posons

$$u=(12)(34),\quad v=(13)(24),\quad w=(14)(23).$$

Chacun de ces éléments a pour carré l’identité : $u^2=v^2=w^2=e$. Avec la convention de composition de droite à gauche, on calcule aussi

$$uv=vu=w,\qquad vw=wv=u,\qquad wu=uw=v.$$

L’ensemble $\{e,u,v,w\}$ contient donc l’identité et est stable par produit et passage à l’inverse : c’est un sous-groupe de $A_4$, de cardinal $4$. Il est appelé groupe de Klein et noté $V_4$.

Étape 2 — Montrer qu’il est distingué. Pour n’importe quelle permutation $g\in S_4$, la conjugaison transforme une double transposition en une double transposition :

$$g(ij)(k\ell)g^{-1}=(g(i)\ g(j))(g(k)\ g(\ell)).$$

Il n’existe que trois doubles transpositions sur quatre lettres, précisément $u$, $v$ et $w$. La conjugaison par $g\in A_4$ permute donc les trois éléments non triviaux de $V_4$ et fixe $e$. Ainsi

$$gV_4g^{-1}=V_4\qquad(g\in A_4).$$

Le sous-groupe $V_4$ est bien distingué dans $A_4$.

Étape 3 — Construire l’action demandée. Puisque $|A_4|=12$ et $|V_4|=4$, l’indice de $V_4$ est

$$[A_4:V_4]=\frac{12}{4}=3.$$

L’ensemble des classes à gauche $A_4/V_4$ contient donc exactement trois éléments. On fait agir $A_4$ sur cet ensemble par

$$g\cdot(aV_4)=(ga)V_4.$$

L’exercice 4 montre que cette action est transitive et que le stabilisateur de la classe $V_4$ est précisément $V_4$. On a donc construit une orbite de cardinal $3$. Comme $V_4$ est distingué, l’ensemble des classes possède ici aussi une structure de groupe quotient, mais cette structure supplémentaire n’était pas nécessaire à l’action.

Pourquoi n’y a-t-il pas de contradiction ? Une orbite de taille $3$ correspond à un sous-groupe d’indice $3$, que nous venons de construire. Une orbite de taille $2$ exigerait un autre sous-groupe, d’indice $2$ et donc d’ordre $6$. Or nous avons montré plus haut qu’un tel sous-groupe n’existe pas dans $A_4$. Le fait que $2$ et $3$ divisent tous deux $12$ ne garantit pas que les deux indices soient réalisés par des sous-groupes.

Afficher la correction Masquer la correction de l’exercice 6

Étape 1 — Examiner la taille des orbites. Pour chaque $x\in X$, le théorème orbite-stabilisateur donne

$$|G\cdot x|=\frac{|G|}{|G_x|}=\frac{p}{|G_x|}.$$

Puisque $G_x$ est un sous-groupe de $G$, son ordre divise $p$. Or $p$ est premier : les seules possibilités sont $|G_x|=1$ ou $|G_x|=p$. Toute orbite contient donc soit $p$ points, soit un seul point.

Étape 2 — Identifier les orbites à un seul point. Si $G\cdot x=\{x\}$, alors $g\cdot x=x$ pour tout $g\in G$. C’est exactement la condition $x\in X^G$. À l’inverse, si tout élément du groupe fixe $x$, son orbite se réduit à $\{x\}$.

Les orbites à un élément correspondent donc exactement aux points de $X^G$.

Étape 3 — Compter toutes les orbites. Les orbites forment une partition de l’ensemble fini $X$. Les orbites à un élément apportent chacune un point, soit $|X^G|$ points au total. Toutes les autres orbites ont $p$ éléments. Si leur nombre est $k$, on obtient

$$|X|=|X^G|+kp.$$

En retranchant $|X^G|$, on voit que la différence $|X|-|X^G|$ est un multiple de $p$. C’est précisément

$$\boxed{|X|\equiv|X^G|\pmod p.}$$

Si $X$ est vide, les deux membres valent $0$ et la congruence reste vraie. Ce raisonnement est un modèle courant : décomposer un ensemble en orbites, puis compter séparément les orbites de taille particulière.

Pour aller plus loin

Les actions de groupes permettent de compter des objets en tenant compte de leurs symétries. Mais elles interviennent aussi en algèbre linéaire : par exemple, les décalages cycliques donnent des opérateurs dont les propriétés reflètent une structure de groupe cyclique.

Pour explorer ce second point de vue dans un problème de niveau MP/MPI : Décalages cycliques, matrices circulantes et transformée de Fourier.