Utilisation de l'analyse fonctionnelle en analyse en moyenne~: l'exemple de l'algorithme de r\'eduction de Gauss

\def\NP{\hbox{\it NP\/}} \def\R{{\bf R}} \def\Q{{\bf Q}} \noindent{\bf R\'esum\'e} : L'algorithme de Gauss se pr\'esente comme une g\'en\'eralisation formelle de l'algorithme d'Euclide~: il utilise une extension de l'op\'erateur de d\'ecalage $U$ r\'eel employ\'e dans les fractions continues. Nous \'etudions la variable al\'eatoire $L$ ``nombre d'it\'erations", lorsque les entr\'ees sont distribu\'ees suivant une densit\'e initiale et nous d\'ecrivons l'\'evolution de la distribution des donn\'ees au cours de l'algorithme. Nous obtenons deux r\'esultats principaux~: 1) La variable al\'eatoire $L$ a un comportement asymptotiquement g\'eom\'etrique\,; 2) La distribution des donn\'ees au fur et \`a mesure du d\'eroulement de l'algorithme admet une configuration limite. Nos r\'esultats utilisent les propri\'et\'es spectrales d'une famille ${\cal H}_s$ d'op\'e\-ra\-teurs de Ruelle-Mayer qui servent \`a ``inverser'' l'op\'erateur de d\'ecalage $U$. Les caract\'eristiques de distributions limites \'etudi\'ees dans l'analyse en moyenne de l'algorithme de Gauss correspondent exactement aux objets spectraux dominants de l'op\'erateur $H_{4+2t}$. La famille d'op\'erateurs ${\cal H}_s$ d\'efinit un cadre unique qui permet l'analyse commune des deux algorithmes, Euclide et Gauss.