Une question naturelle est de savoir si nous pouvons classer tous les types possibles de comportements à long terme des solutions de systèmes à deux dimensions. Nous avons vu deux types de comportements : quand $t\to+\infty$, des solutions qui tendent vers un point fixe, ou des solutions qui s’enroulent autour d’une trajectoire fermée (cycle limite). Existe-t-il d’autres types de comportements ?
Nous considérons un système à deux dimensions
$$ \begin{cases} \dot{x}=f(x,y)\\ \dot{y}=g(x,y) \end{cases} $$
où $f$ et $g$ sont des fonctions continûment différentiables.
Il existe une première dichotomie : une solution peut s’échapper à l’infini, ou rester dans une région bornée du plan. Dans les applications, le premier cas est évidemment inintéressant. Nous énonçons maintenant un théorème qui peut être vu comme une généralisation du théorème de Poincaré-Bendixson.
Théorème. Supposons qu’une solution du système se trouve dans une région bornée du plan dans laquelle il existe un nombre fini de points fixes. Alors, comme $t\to+\infty$, elle se rapproche soit- d’un seul point fixe ;- d’une seule trajectoire fermée ;- d’un graphique, c’est-à-dire un ensemble fini de trajectoires, chacune d’elles reliant l’un des points fixes lorsque $|t|$ à $+\infty$.
Donnons un exemple de la troisième possibilité. Considérons le système
$$ \begin{cases} \dot{x}= \sin(x) \big(-0.1 \cos(x)-\cos(y)\big)\\ \dot{y}= \sin(y) \big(\cos(x)-0.1 \cos(y)\big). \end{cases} $$
Il existe des points fixes qui sont des points-selles aux coins du carré $(0,0)$, $(0,\pi)$, $(\pi,0)$, et $(\pi,\pi)$, ainsi que de nombreux autres points fixes (en raison de la périodicité du champ de vecteurs). Il existe également une source spirale en $(\pi/2,\pi/2)$. Toutes les solutions émanant d’un point à l’intérieur du carré (sauf, bien sûr, $(\pi/2,\pi/2)$) s’accumulent à la frontière du carré. Chaque côté du carré est une trajectoire qui relie deux points fixes (il faut un temps infini pour faire la liaison).
La conclusion que l’on peut tirer du théorème précédent est que le comportement des solutions à long terme est assez simple. En particulier, aucun « chaos » n’est possible dans le plan de phase ! Nous verrons dans la partie suivante que cela change radicalement pour les systèmes de dimension supérieure : les solutions peuvent s’accumuler sur des ensembles compliqués pour le moins étranges.