Mon domaine de recherche est la dynamique en temps discret. Un système dynamique topologique (X,T) est la donnée d'une transformation continue T de X dans X, l'espace X étant le plus souvent métrique compact. L'évolution du système est donnée par les itérations successives de la transformation, Tn désignant la transformation T composée n fois (Tn = T o T o ... o T ). On cherche à étudier le comportement du système pour des temps n tendant vers l'infini. La plupart de mes travaux concerne la dynamique en dimension 1 (transformations de l'intervalle ou de graphes topologiques) ; je m'intéresse également à la dynamique topologique abstraite, aux systèmes symboliques et aux rapports entre dynamique topologique et théorie ergodique.
Une des motivations pour étudier la dynamique en dimension 1, outre son intérêt propre, est d'essayer de comprendre certaines dynamiques en dimension supérieure. Dans un certain nombre de cas, on peut se ramener à étudier un système dynamique de dimension plus petite, notamment en considérant la section d'un flot ou l'action sur des fibres, ou en se restreignant à la partie « la plus intéressante » de la dynamique (par exemple, attracteur ou « squelette » représentant la dynamique).
Je présente ci-dessous un résumé de mes recherches, en présentant d'abord mes travaux récents. Les numéros entre crochets font référence à ma liste de publications.
On considère un graphe topologique G ayant une unique boucle S et une transformation continue f de G dans G. Comme pour les transformations du cercle, on peut définir le degré de f et, si son degré est 1, le nombre de rotation d'un point. Pour cela, on considère T le revêtement universel de G (qui est un arbre infini), p la projection canonique de T dans G et F un relèvement continu de f (c'est-à-dire p o F = f o p), qui est une application de T dans T ; pour simplifier, on suppose dans la suite que T est inclus dans le plan complexe et que p-1(S) coïncide avec la droite réelle IR, pour que les opérations arithmétiques ci-dessous n'aient pas besoin d'être définies. Le degré de f, ou de F, est l'entier relatif d tel que, pour tout x dans T, F(x+1) = F(x) + d. Si F est de degré 1, on définit le nombre de rotation (quand il existe) d'un point x de T par
Signalons que le cas de degré d avec |d|>1 a été traité récemment par Alba Málaga et donne des résultats analogues au cas du cercle : l'ensemble des périodes contient tous les entiers si d>1 et tous les entiers sauf un nombre fini si d < -1.
Nous avons également défini une famille de transformations F, appelées transformations peignées, dont l'ensemble de rotation a exactement les mêmes propriétés que celui d'une transformation du cercle de degré 1, notamment en ce qui concerne l'ensemble des périodes correspondant à un nombre de rotation donné et l'existence d'orbites bien ordonnées. Pour cela, nous utilisons la technique des « fonctions d'eau » introduite pour les transformations du cercle.
Pour étudier l'ensemble des périodes des orbites périodiques rencontrant la droite réelle, l'idée naturelle est d'essayer de suivre la même démarche que dans le cas du cercle, qui consiste à étudier l'ensemble des périodes pour un nombre de rotation p/q fixé, en se ramenant au cas du nombre de rotation 0. Mais cette démarche se heurte à plusieurs obstacles. Selon le cas général étudié dans [9], si p/q appartient à l'intérieur de RotIR(F), alors il existe N tel que, pour tout n>N, il existe un point périodique de période nq de nombre de rotation p/q. Mais N n'est pas borné, même dans le cas du graphe sigma : pour tout entier naturel N, il existe F avec 0 dans Int(RotIR(F)) et telle que l'ensemble des périodes de nombre de rotation 0 vaut {n > N}. Cependant, nous avons montré que, si 0 est dans Int(RotIR(F)), alors l'ensemble des périodes (mod 1) vaut IN* ou IN*\{1} ou IN*\{2} ; les trois cas sont réalisés. Le fait qu'il s'agisse des périodes (mod 1), et non des périodes de nombre de rotation 0, empêche d'en déduire un résultat pour un nombre de rotation p/q non entier. Concernant les extrémités de l'intervalle de rotation, on trouve, comme on s'y attend, que tout ensemble de périodes d'une transformation de l'étoile à 3 branches peut être réalisé comme ensemble de périodes de nombre de rotation 0 quand min RotIR(F) ou max RotIR(F) vaut 0. Cependant, deux phénomènes se produisent : d'une part, l'ensemble de périodes de nombre de rotation 0 peut être plus compliqué (des exemples montrent notamment qu'il peut correspondre à l'ensemble de périodes d'une transformation d'étoile à n branches avec n arbitrairement grand) ; d'autre part, des obstructions apparaissent pour passer à un nombre de rotation p/q non entier. La situation se révélant bien plus compliquée qu'escomptée, nous n'avons pas obtenu de caractérisation complète de l'ensemble des périodes. Ces travaux sont en cours de rédaction.
La question qui se pose alors est la suivante : qu'impliquent les différentes propriétés si on ne suppose pas la transitivité ? Pour certaines, comme la sensibilité, le chaos générique ou la densité des points périodiques, on a une réciproque partielle, à savoir qu'il existe une composante transitive composée d'un ou plusieurs sous-intervalles. D'autre part, les diverses périodes des points périodiques pouvant coexister sont régies précisément par l'ordre de Sharkovskii, et le type de points périodiques est lié à l'entropie topologique ; elle est non nulle si et seulement s'il existe un point périodique dont la période n'est pas une puissance de 2. De plus, une entropie non nulle est équivalente à l'existence d'un sous-système chaotique au sens de Devaney et implique le chaos au sens de Li-Yorke. Quant au chaos dense (densité des couples de Li-Yorke dans l'espace produit), j'ai montré qu'il implique une entropie supérieure ou égale à log 2/2 et l'existence d'un point périodique de période 6 [6].
Je me suis également intéressée à l'existence de sous-systèmes transitifs et sensibles aux conditions initiales [5]. Il est connu qu'une transformation de l'intervalle d'entropie non nulle a un sous-système transitif et sensible ; j'ai montré que la réciproque n'est pas vraie. De plus, j'ai démontré que pour une transformation de l'intervalle l'existence d'un tel sous-système entraîne le chaos au sens de Li-Yorke et j'ai construit un contre-exemple montrant que la réciproque est fausse.
Une chaîne de Markov topologique (ou shift de Markov) est un système symbolique défini par l'ensemble des chemins bi-infinis sur un graphe orienté dénombrable, muni de la transformation shift (décalage vers la gauche). Contrairement aux chaînes de Markov probabilistes, il n'y a pas de probabilité a priori. Outre leur intérêt propre, ces systèmes servent d'outil pour l'étude des mesure de probabilité d'entropie maximale (ou mesures maximales) car on connaît des conditions nécessaires et suffisantes pour l'existence et l'unicité de telles mesures ; nous en reparlerons dans la section suivante, dédiée aux mesures maximales pour les transformations de l'intervalle. Quand le graphe est fini, la situation est simple ; en particulier il existe toujours une mesure maximale, qui peut se calculer à partir d'une matrice. Nous ne nous intéressons qu'aux graphes infinis, plus complexes.
Vere-Jones a classé les graphes orientés connexes en trois catégories (transients, récurrents nuls, récurrents positifs) en fonction de critères combinatoires liés au nombre de chemins. En 1970 Gurevich a montré que cette classification est intimement liée à l'existence de mesures d'entropie maximale : si le graphe est connexe, la chaîne de Markov sur ce graphe admet une mesure maximale si et seulement si celui-ci est récurrent positif, et dans ce cas cette mesure est unique et c'est une mesure de Markov ergodique. Il est à noter que pour les graphes récurrents nuls, il existe une mesure infinie jouant le rôle de mesure d'entropie maximale mais dans cette situation l'entropie doit être définie différemment.
J'ai montré que si l'entropie d'une chaîne de Markov topologique sur un graphe connexe est strictement supérieure à son entropie locale alors le graphe est récurrent positif, si bien qu'il existe une mesure d'entropie maximale [3]. Étant donné les liens entre chaînes de Markov topologiques et transformations de l'intervalle, ce résultat conforte la conjecture de Buzzi énonçant que le même résultat est vrai pour les transformations de l'intervalle, mais cette question est toujours ouverte. Signalons que pour les systèmes dynamiques sur un espace métrique compact on sait qu'une entropie locale nulle entraîne l'existence d'une mesure maximale.
Salama a donné une approche géométrique de la classification transient/récurrent nul/récurrent positif en termes d'existence de sous-graphes ou de surgraphes de même entropie : un graphe connexe sans sous-graphe propre de même entropie est récurrent positif, et un graphe connexe est transient si et seulement s'il est strictement inclus dans un graphe transient de même entropie. J'ai complété ces travaux en montrant qu'un graphe transient G peut toujours être inclus dans un graphe récurrent de même entropie, qui est soit récurrent nul soit récurrent positif selon les propriétés de G [3].
Si f est une transformation de l'intervalle, on peut lui associer un graphe orienté, généralement infini, appelé diagramme de Markov. Cette construction, basée sur la dynamique des sous-intervalles de monotonie, a d'abord été faite par Hofbauer pour les transformations monotones par morceaux, puis généralisée par Buzzi. Sous certaines conditions, la chaîne de Markov topologique sur ce graphe représente l'essentiel de la dynamique de f. En particulier, Buzzi a montré que si f est C 1 et si son entropie est strictement supérieure à l'entropie topologique des points critiques (c'est-à-dire les points au voisinage desquels f n'est pas monotone), alors il y a une bijection entre les mesures maximales ergodiques de f et celles de son diagramme de Markov. Le problème de l'existence de telles mesures pour f se transpose alors sur le graphe.
Une transformation de l'intervalle f qui est soit monotone par morceaux soit admet au moins une mesure maximale, et cette mesure est unique si f est transitive (résultats de Hofbauer pour le cas monotone par morceaux, Newhouse et Buzzi pour le cas ). Ce résultat n'est pas vrai si on suppose seulement f continue, comme l'ont montré Gurevich et Zargaryan. La condition ne peut pas non plus être affaiblie : pour tout entier n, j'ai construit des transformations de l'intervalle Cn, transitives, mais sans mesure maximale [1]. Pour cela, j'ai utilisé l'approche géométrique de Salama présentée dans la section précédente pour montrer que le graphe de Markov associé à ces transformations est transient ; l'absence de mesure maximale pour le graphe se transporte alors sur l'intervalle.
J'ai déduit des résultats précédents que pour tout entier n il existe des transformations de l'intervalle Cn, transitives, qui ne sont boréliennement conjuguées à aucune transformation [4].
D'un autre côté, Jérôme Buzzi et
moi-même avons montré que la régularité de
la transformation permet de donner une condition suffisante
d'existence [7], en
combinant des résultats liés à la
dérivabilité et des propriétés des
chaînes de Markov topologiques. On considère f
une transformation C 1 de l'intervalle ; on note
C l'ensemble des points critiques, htop(C,f)
l'entropie de l'ensemble C et hloc(f)
l'entropie locale de f. Si l'inégalité
htop(f) > htop(C,f) + hloc(f)
est vérifiée, alors f a un nombre fini non nul de
mesures maximales ergodiques, avec unicité si f est
transitive. En utilisant une majoration de l'entropie des
zéros de la dérivée et de l'entropie locale, nous
obtenons une condition plus facile à vérifier pour les
transformations Cr : si
Soit T une transformation continue de X dans X,
où X est un espace métrique compact ; d
désigne la distance. Si x et y sont deux points
de X, (x,y) est appelé un couple de
Li-Yorke si
J'ai montré avec François Blanchard et Bernard Host qu'un système dynamique (X,T) d'entropie topologique non nulle possède nécessairement des couples asymptotiques propres [2]. Ce résultat répond par la négative à une question de Huang et Ye qui ont étudié les systèmes dont tous les couples de points distincts sont des couples de Li-Yorke et qui se demandaient si de tels systèmes pouvaient avoir une entropie topologique non nulle. Presque au même moment, Blanchard, Glasner, Kolyada et Maass ont montré qu'une entropie non nulle implique le chaos au sens de Li-Yorke. Par conséquent, dans un système d'entropie non nulle il y a cohabitation de couples «chaotiques» (Li-Yorke) et «non chaotiques» (asymptotiques).
Plus précisément, nous avons montré que, pour toute mesure ergodique d'entropie non nulle, presque tout point appartient à un couple asymptotique propre. Si de plus la transformation est inversible, pour presque tout point x il existe un ensemble non dénombrable de points y tels que (x,y) est un couple asymptotique pour T et un couple de Li-Yorke pour T -1, ce qui rappelle les feuilletages stables et instables des Anosov. Les preuves de ces résultats reposent presque exclusivement sur des arguments ergodiques.