Sous-groupe maximal d'un groupe

En théorie des groupes, on appelle sous-groupe maximal d'un groupe G tout élément maximal de l'ensemble des sous-groupes propres de G, cet ensemble étant ordonné par inclusion. (On entendra ici par « sous-groupe propre de G» un sous-groupe de G distinct de G.) Autrement dit, un sous-groupe maximal de G est un sous-groupe propre H de G tel qu'aucun sous-groupe de G ne soit strictement compris entre H et G.

Un groupe réduit à l'élément neutre n'a pas de sous-groupes propres et n'a donc pas de sous-groupes maximaux. On montre facilement que dans un groupe fini, tout sous-groupe propre est contenu dans au moins un sous-groupe maximal. (Parmi les sous-groupes propres d'un groupe fini G qui contiennent le sous-groupe propre H, en considérer un dont l'ordre est le plus grand possible.) En particulier, tout groupe fini non réduit à l'élément neutre admet au moins un sous-groupe maximal. (Dans ce qui précède, faire H = 1.) Plus généralement, on prouve (à l'aide du lemme de Zorn) que dans tout groupe de type fini, tout sous-groupe propre est contenu dans au moins un sous-groupe maximal.

Un groupe infini n'a pas forcément de sous-groupe maximal. C'est le cas par exemple du groupe additif des nombres rationnels.

L'ensemble des éléments d'un groupe G qui appartiennent à tout sous-groupe maximal de G est évidemment un sous-groupe de G. On l'appelle le sous-groupe de Frattini de G.

Un exemple d'usage de la notion de sous-groupe maximal est le théorème suivant : une opération transitive d'un groupe G sur un ensemble X d'au moins deux éléments est primitive si et seulement si, pour tout élément x de X, le stabilisateur de x est un sous-groupe maximal de G.