Limite et action de groupe par isométries

Cette courte note présente un résultat simple mais pourtant assez éloquent, en lien avec l’étude des ensembles limites de groupes agissant sur une variété à vision (visibility manifold).

Une discussion suit sur le dictionnaire de Sullivan.

Dynamique

Soit \(\Gamma\) agissant par isométries sur \(Y\), une variété riemannienne à courbure négative et ayant la propriété suivante : pour tous \(x_1,x_2\) au bord de \(Y\) (on regarde le compactifié métrique de \(Y\), noté \(X=\partial Y\)), il existe une géodésique reliant \(x_1\) à \(x_2\).
On désigne par \({\rm géo}(x_1,x_2)\) une géodésique reliant \(x_1,x_2\in X\).

On montre l’énoncé suivant. Supposons que \(g_np\to x\) (avec les \(g_n\in \Gamma\)) pour \(x\in X\) et \(p\in Y\). Alors cela est encore vrai pour tout autre \(p'\in Y\) et pour tout \(x'\in X\) sauf peut-être un point de \(X\). Ce point exceptionnel étant donné par \(\lim g_n^{-1}p\).

Tout d’abord, montrons que \(\lim g_np'=x\). Si \(d(p,p')\) est la distance entre \(p\) et \(p'\) alors comme les \(g_n\) sont des isométries de \(Y\), la distance \(d(p,p')\) reste égale aux compositions par les \(g_n\) : \(d(g_np,g_n p') = d(p,p')\). Maintenant, cette distance est finie car \(p,p'\in Y\) et comme \(g_np\to x\in X\) alors \(\lim g_np'\) doit être à distance finie de \(x\) qui est au bord, donc doit être \(x\).

Maintenant, prenons \(x_1,x_2\in X\). Il suffit de montrer qu’au moins l’un des deux converge vers \(x\) par les \(g_n\). En effet, si cela est vrai, alors il ne peut y avoir qu’un seul point de \(X\) qui ne converge pas vers \(x\).
On considère les géodésiques \(\gamma\) dont les extrémités sont \(x_1\) et \(x_2\). Tous les points intérieurs de \(\gamma\) convergent vers \(x\) par la propriété précédemment démontrée.
Mais les \(g_n\gamma\) sont encore des géodésiques puisque \(g_n\) agit par isométrie.
Supposons que \(g_nx_1\to x_1'\) et \(g_nx_2\to x_2'\). Alors \(g_n\gamma\to {\rm géo}(x_1',x_2')\). Mais puisque \(p'\in \gamma\) converge vers \(x\), alors \(x\in {\rm géo}(x_1',x_2')\). Mais cela est impossible à moins que \(x=x_1'\) ou \(x=x_2'\). En effet, on aurait sinon une géodésique dont les extrémités et un point intérieur sont à l’infini. \(\square\)

Ces deux propriétés montrent donc la chose suivante. Lors d’un point limite de l’action d’un groupe sur une variété à vision, il s’avère que tout l’espace tend vers ce point limite, sauf peut-être le point dual (qui est exactement celui qui est limite pour les actions inverses).
La propriété étonnante étant que seuls deux points sont distinguables lors d’une telle suite d’éléments du groupe : la limite et la limite des inverses. Le fait d’avoir deux points n’étant pas sans lien avec une propriété de minimalité : toute partie du bord d’au moins deux points stable par le groupe contient l’ensemble limite.

Minimalité

Tout d’abord, on peut montrer que l’ensemble limite est bien stable par \(\Gamma\).
Ici on définit l’ensemble limite, \(L(\Gamma)\) comme étant l’ensemble des \(x\in X\) tels que il existe \(\{g_n\}\subset \Gamma\) de sorte que \(g_np\to x\).
Si \(g\in \Gamma\), alors \(gx = g \lim g_np\), mais comme les \(g\) sont des isométries, ce sont des applications continues, donc \(gx = \lim gg_np\) qui est bien encore un point limite.

Maintenant, montrons que si \(\Lambda\subset X\) est stable par \(\Gamma\) et contient au moins deux points, alors \(L(\Gamma) \subset\Lambda\).
Soit \(x\in L(\Gamma)\), supposons \(x = \lim g_n p\). Soient \(x_1,x_2\in \Lambda\), alors les points de \({\rm géo}(x_1,x_2)\) convergent vers \(x\) par les \(g_n\). Donc \(g_n x_1\to x\) ou \(g_n x_2\to x\). Comme les \(g_n x_1, g_nx_2\) sont dans \(\Lambda\), \(x\) aussi. \(\square\)

Cette propriété de minimalité n’est pas sans rappeler celle des ensembles de Julia.
Si \(f\) est une fraction rationnelle non constante, alors elle opère naturellement sur \(S^2\) (qui est la sphère de dimension deux, bord de l’espace hyperbolique). L’ensemble de Julia de \(f\) est contenu dans toute partie d’au moins trois points stable par \(f\).

Minimalité de l’ensemble de Julia

Nous allons montrer l’énoncé suivant. Il n’existe qu’au plus deux compacts totalement invariants non triviaux : l’ensemble évité par \(f\) (définition à suivre) et l’ensemble de Julia de \(f\), noté \(J_f\). De plus, l’ensemble évité par \(f\) contient au plus deux points.

Nous allons admettre le fait classique suivant : si \(f(U)\) (\(U\) un ouvert de \(S^2\)) évite trois points, alors \(U\) n’intersecte pas l’ensemble de Julia. Cela provient du fait que \(f\) est normale sur \(U\) (théorème de Montel).

Pour \(U\) ouvert de \(S^2\), on appelle ensemble évité par \(U\) le complémentaire de \(\bigcup_{n\in \mathbf N} f^n(U)\).

On peut montrer que :

  • Si \(U_1\subset U_2\) alors \(E_{U_2}\subset E_{U_1}\).
  • \(E_U\) peut être vide (par exemple \(U=S^2\)).
  • Si \(U\cap J_f \neq \emptyset\) alors \(E_U\) a au plus deux points. Cela provient du théorème de Montel comme précédemment cité.
  • Soit \(z\in J_f\). Il existe un voisinage \(U\) de \(z\) tel que pour tout voisinage \(V\) assez petit de \(z\), \(E_U=E_V\). En effet, les \(E_U\) sont décroissants pour \(U\) croissant et \(E_U\) est de cardinal au plus deux. On appellera \(E_z\) cet ensemble \(E_U\) minimal.

À présent nous allons montrer la proposition suivante qui montre le résultat énoncé. L’ensemble \(E_z\) est disjoint de \(J_f\) et ne dépend pas de \(z\).

On a \(f^{-1}(E_z)\subset E_z\). Comme \(E_z\) est de cardinal fini et minimal, on a \(f^{-1}(E_z) = E_z\) qui est donc totalement invariant.

  • Si \(E_z\) est un singleton, alors on peut supposer que c’est le point à l’infini. Donc \(f\) stabilise l’infini, c’est-à-dire que c’est un polynôme. Mais alors l’infini est un bassin attractif, donc \(E_z\) n’est pas dans \(J_f\).
  • Si \(E_z\) contient deux points, alors on peut supposer que c’est \(0\) et \(\infty\) (pour rappel \(\mathbf CP^1\) est triplement simplement transitif). Si \(f\) laisse stable \(0\) et \(\infty\) alors c’est encore un polynôme. Si \(f\) échange \(0\) et \(\infty\) alors \(f(z) = \lambda z^{-d}\) et \(E_z\) est encore disjoint de \(J_f\).
Maintenant, montrons qu’il ne dépend pas de \(z\). Si une partie compacte \(E\) de \(S^2-J_f\) est totalement invariante, alors les itérées d’un voisinage assez petit de \(z'\in J_f\) évite encore \(E\). \(E_z\) est donc évité par tout voisinage assez petit de \(z'\in J_f\) et réciproquement, donc ne dépend pas de \(z\).\(\square\)

Dictionnaire de Sullivan

Il s’avère que cette comparaison d’ensembles limites et de minimalité est pertinente.
Sullivan à montré qu’il est possible d’établir un dictionnaire entre les sous-groupes du groupe des isométries de l’espace hyperbolique (désignant donc les variétés de dimension trois hyperboliques) et les ensembles de Julia de fractions rationnelles.

Cependant, si ce dictionnaire existe bien, il n’est pas du tout clair quelle est la correspondance exacte entre un sous-groupe et une fraction rationnelle.

Référénces

Pour les ensembles limites :
Matsumoto, Foundations of Flat Conformal Structures, Advanced Studies in Pure Mathematics 20, 1992.
Kapovich, Hyperbolic Manifolds and Discrete Groups, Birkhäuser.

Pour les ensembles de Julia :
Milnor, Dynamics in one complex variable, Princeton University Press.

Sur le dictionnaire de Sullivan :
Sullivan, Quasiconformal homeomorphisms and dynamics (I et II), Annals of Mathematics, 1985.
McMullen, The classification of conformal dynamical systems, Current Developpements in Mathematics, 1995.

1 réflexion sur « Limite et action de groupe par isométries »

Laisser un commentaire

Ce site utilise Akismet pour réduire les indésirables. En savoir plus sur comment les données de vos commentaires sont utilisées.