Sur les représentations induites des groupes de Lie

Abstract

implique l'accord avec les conditions générales d'utilisation (http://www.numdam.org/conditions).Toute utilisation commerciale ou impression systématique est constitutive d'une infraction pénale.Toute copie ou impression de ce fichier doit contenir la présente mention de copyright.Article numérisé dans le cadre du programme Numérisation de documents anciens mathématiques http://www.numdam.org/F. BRUHAT.général où G n'est plus transitif sur M, et un lemme sur la décomposition de M dans le cas où il n'y a qu'une infinité dénombrable d'orbites.L'étude générale des représentations induites fait l'objet du chapitre II : au paragraphe ^, nous donnons tout d'abord la définition de la représentation différentiable U^ induite par une représentation différentiable /.° puis une définition très générale d'une représentation induite (notée U 1 ') par une représentation Z, unitaire ou non, d'un sous-groupe fermé F du groupe de Lie G. Nous étudions à quelle condition ^ peut être une représentation dans un espace de Banach ou une représentation unitaire.Notre définition a l'avantage de comprendre comme cas particulier aussi bien les représentations unitaires induites définies par M. MACKEY que les représentations unitaires de la « série complémentaire » des groupes de Lie semi-simples introduites par MM.GKLFAND et NAIMARK, représentations qui sont induites par des représentations non unitaires du sous-groupe T.MM. WIGNER, GELFAND et NAIMARK dans des cas particuliers, puis M. MACKEY dans le cas général, ont montré que l'existence dans un groupe G d'un sousgroupe abélien distingué F permettait de construire pour toute représentation unitaire de G un système d'imprimitivité et de déterminer dans certains cas toutes les représentations unitaires irréductibles de G; ces démonstrations reposent essentiellement sur le théorème de résolution spectrale de Stone-Ambrose-Naimark-Godement (voir par exemple [17]) et par suite sur le rôle joué dans la théorie des représentations unitaires par les fonctions de type positif et sur le théorème de Bochner.Nous avons pu obtenir des résultats analogues dans le cas de certaines représentations non unitaires (par exemple des représentations bornées dans des espaces de Banach) des groupes de Lie, en utilisant au lieu du théorème de Bochner, les résultats de M. L. SCHWARTZ sur la transformation de Fourier des distributions : ceci fait l'objet du paragraphe 5. Après avoir quelque peu généralisé la notion de représentation tempérée d'un groupe de Lie abélien, notion due à M. L. SCHWARTZ, nous construisons pour toute représentation de G dont la restriction à F est tempérée, une distribution P sur le groupe dual f de F, à valeurs dans L{E\E)^ qui possède des propriétés généralisant celles du système d'imprimitivité du cas classique.Moyennant certaines hypothèses de régularité sur la manière dont G opère sur f, on peut alors déterminer les distributions P qui correspondent à des représentations irréductibles, et obtenir une généralisation du théorème de M. MACKEY : les représentations irréductibles envisagées de G sont induites (au sens du paragraphe 4) par certaines représentations des stabilisateurs dans G des différents points de f.Nous abordons au paragraphe 6 l'étude des nombres d'entrelacement /(^, £7^) de deux représentations induites par les représentations L et M de deux sous-groupes I\ et Fa respectivement : nous en donnons une définition légèrement différente de celle donnée classiquement dans le cas unitaire, mais qui est mieux adaptée au passage aux représentations différentiables REPRÉSENTATIONS INDUITES DES GROUPES DE LIE.loi associées et à l'extension au cas non unitaire.Nous démontrons au n° 2 que ce nombre d'entrelacement est lié à la dimension d'un certain espace de distributions (vectorielles) sur 6r, quasi invariantes pour les translations à gauche par les éléments de fi et à droite par les éléments de I\.On voit donc s'introduire naturellement les classes d'intransitivité de G pour ces translations, c'est-à-dire les doubles classes module ri:I\.Au n° 3, nous donnons une condition nécessaire et suffisante d'irréductibilité pour une représentation unitaire induite par une représentation unitaire de dimension finie d'un sous-groupe distingué.Enfin, nous établissons au n° ^ une majoration de ^(î/^, U^) (donc un critère d'irréductibilité pour les représentations unitaires) dans le cas où il n'y a qu'une infinité dénombrable de doubles classes module ri:l\, cas très important dans la pratique, puisque, comme nous l'avons signalé plus haut, c'est celui qui se présente dans l'étude des groupes semi-simples.Cette majoration nous permet également de démontrer une généralisation (malheureusement imparfaite) du théorème de réciprocité de Frobenius, qui contrairement à celle de M. MACKEY dans [30], ne fait intervenir que les deux représentations envisagées et ne nécessite aucune hypothèse sur l'ensemble des représentations de G ou de F.Le chapitre III est consacré à l'application des théorèmes du paragraphe G à l'étude des groupes de Lie semi-simples réels ou complexes.Nous rappelons brièvement au n° 1 les principaux résultats d'E.CARTAN, II.WEYL et K. IWASAWA sur la structure des algèbres et groupes de Lie semi-simples et nous introduisons le sous-groupe T produit d'un sous-groupe résoluble « supplémentaire » d'un sous-groupe compact maximal AT et du centralisateur de ce sous-groupe résoluble dans K. Pour pouvoir appliquer les théorèmes 6; 3 et 6; 5, il nous faut démontrer qu'il n'y a qu'un nombre fini de doubles classes module r:r; cette démonstration, ainsi que celle de différents lemmes préliminaires, fait l'objet du n° 2 : nous y montrons que les doubles classes sont en correspondance biunivoque avec les éléments du groupe de Weyl de G. Les n^ 3 et 4 sont consacrés à la démonstration de l'irréductibilité de « presque toutes » les représentations unitaires de G induites par une représentation unitaire de dimension finie de F. Le n° 5 est relatif aux représentations de la « série complémentaire » et le n° 6 aux représentations de la « série dégénérée » : nous y étendons au cas général des définitions données par MM.GELFAND et NAIMARK dans le cas des groupes complexes classiques et y démontrons l'irréductibilité de « presque toutes » les représentations unitaires ainsi introduites.Je tiens à exprimer ici ma profonde reconnaissance à M. H. CARTAN, qui a bien voulu diriger mes recherches, à M. L. SCHWARTZ et à M. R. GODEMENT, qui m'ont constamment guidé de leurs conseils.Je suis heureux de pouvoir les remercier de toute l'aide qu'ils m'ont apportée par leurs remarques et leurs suggestions ainsi que par les encouragements qu'ils n'ont cessé de me donner.Je remercie également M. A. LICHNEROWICZ, qui a bien voulu se ioindre à eux pour constituer le Jury de cette Thèse.Io>

Locations

• French digital mathematics library (Numdam) - View - PDF
• Bulletin de la Société mathématique de France - View - PDF