FORMULES DE LOCALISATION

EN

COHOMOLOGIE EQUIVARIANTE

Paul-Emile PARADAN∗

1997

Contents

1 Introduction 2

2 Cohomologie equivariante - Definitions 72.1 Definitions . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 72.2 Classes de Thom et d’Euler equivariantes . . . . . . . . . . . . . . . . . 9

3 Procede de localisation 103.1 Localisation . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 103.2 Calcul de la forme Λ(1M ) . . . . . . . . . . . . . . . . . . . . . . . . . . 153.3 Exemples . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 16

4 Inversion de la classe d’Euler equivariante 174.1 Inversion de la forme d’Euler equivariante . . . . . . . . . . . . . . . . . 174.2 Inversion de la forme d’Euler equivariante dans A−∞

G(β)(M) . . . . . . . . 20

4.3 Etude de Eul−1β (E) lorsque ET = M . . . . . . . . . . . . . . . . . . . . 22

5 Formule d’Atiyah-Bott et Berline-Vergne 265.1 Formule de Localisation . . . . . . . . . . . . . . . . . . . . . . . . . . . 265.2 Polynomes de Duistermaat-Heckman . . . . . . . . . . . . . . . . . . . . 29

6 Localisation dans le cas d’une action hamiltonienne d’un tore 306.1 Points critiques . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 31

6.1.1 Les points critiques de la fonction moment . . . . . . . . . . . . 316.1.2 Les points critiques de la fonction ‖µε‖2

. . . . . . . . . . . . . . 336.2 Modification de la forme λε . . . . . . . . . . . . . . . . . . . . . . . . . 376.3 Calcul de la localisation avec λmod . . . . . . . . . . . . . . . . . . . . . 426.4 Etude de la forme Λ∆ . . . . . . . . . . . . . . . . . . . . . . . . . . . . 44

∗Cette recherche a ete partiellement financee par l’Organisation Scientifique Neerlandaise(NWO), pendant mon postdoctorat a l’universite d’Utrecht.

1

1 Introduction

E. Witten proposa dans [25] de localiser les formes equivariantes fermeessur les points critiques du carre de l’application moment (dans le cas d’uneaction hamiltonienne). Cette idee est la motivation principale de ce travail.Nous developpons dans cet article un procede de localisation en cohomologieequivariante qui va nous permettre de realiser le programme de Witten.

Soit G un groupe de Lie compact, d’algebre de Lie g, operant sur une varieteM . Notons par H∗

G(M) la cohomologie du complexe de de Rham G-equivariantsur M . Nous considerons dans cet article des objets cohomologiques plusgeneraux tels que l’algebre H∞

G (M) de cohomologie equivariante a coefficientsC∞, et l’espace H−∞

G (M) de cohomologie equivariante a coefficients generalisesqui est un module pour H∞

G (M) [11, 12, 19].

Le procede de localisation que nous etudions dans cet article correspond aune factorisation du morphisme naturel I : H∞

G (M) → H−∞G (M).

Cette factorisation apparait deja dans la formule cohomologique d’Atiyah-Bott [2] dans le cas ou le groupe G est un tore T et la variete M est com-pacte. Rappelons brievement ce resultat. L’espace de cohomologie H∗

T (M) estun module sur l’algebre S(t∗) des fonctions polynomiales a valeurs complexessur t. Notons R le corps de fraction de S(t∗) et considerons le morphismeI ′ : H∗

T (M) → H∗T (M) ⊗S(t∗) R. La formule d’Atiyah-Bott correspond a la

factorisation suivante

H∗T (M)

I′))T

T

T

T

T

T

T

T

T

T

T

T

T

T

T

T

T

Λ// H∗

T (MT ) ⊗S(t∗) Ri∗

H∗T (M) ⊗S(t∗) R,

(1.1)

ou MT designe la sous-variete des points fixes de l’action de T . Dans ce dia-gramme on note i : MT → M l’inclusion canonique et i∗ le morphisme “imagedirecte” associe. Decomposons M T en somme de composantes connexes F . No-tons Eul o(NF ) ∈ H∗

T (F ) la classe d’Euler equivariante du fibre normal NF deF dans M et Eul o(NF )−1 son inverse dans H∗

T (M) ⊗S(t∗) R.Le morphisme Λ est defini par l’equation

Λ(η) =∑

F

i∗F (η) Eul o(NF )−1,

pour toute classe η ∈ H∗T (M), ou i∗F : H∗

T (M) → H∗T (F ) est le morphisme de

restriction a la sous-variete F .

Dans un cadre analytique H−∞T (M) est l’analogue de H∗

T (M)⊗S(t∗)R. Con-siderons l’egalite P.α = β dans H∗

T (M), ou P est un polynome non nul surt. Dans H∗

T (M) ⊗S(t∗) R cette egalite devient α = 1P · β, tandis que dans

H−∞T (M) elle s’ecrira α = P−1.β, ou P−1 designe une fonction generalisee telle

que P−1.P = 1

2

Pour un groupe compact G, le morphisme I : H∞G (M) → H−∞

G (M) joue lerole de I ′ : H∗

T (M) → H∗T (M) ⊗S(t∗) R defini pour un tore T .

La section 2 est consacree a un rappel des definitions en cohomologie equivariante,et a l’introduction des classes de Thom et d’Euler equivariantes.

Dans la section 3, nous obtenons la forme generale de notre formule delocalisation. Le resultat principal est le theoreme suivant.

Theoreme 3.7 Considerons une sous-variete compacte C de M qui est G-invariante, et notons iC : C → M l’inclusion canonique. Supposons que lasous-variete C verifie les deux conditions suivantes:1) Il existe une 1-forme λ sur M , G-invariante, telle queC = m ∈M | 〈λm, v〉 = 0, ∀v ∈ Tm(G.m)1.2) Le fibre normal de C dans M , NC, est oriente.

Nous avons alors le diagramme commutatif suivant

H∞G (M)

I))R

R

R

R

R

R

R

R

R

R

R

R

R

R

Λ// H−∞

G (C)

(iC)∗

H−∞G (M) ,

(1.2)

ou Λ : H∞G (M) → H−∞

G (C) est defini par l’equation

Λ(η) = i∗C(η) Λ(1M ), η ∈ H∞G (M).

La forme Λ(1M ) ∈ H−∞G (C) verifie 1C = Eul o(NC) Λ(1M ), ou Eul o(NC) est la

classe d’Euler equivariante du fibre normal NC.

Pour demontrer ce theoreme, nous avons remplace le procede de limite deBismut-Witten [6, 25] par une partition de l’unite en cohomologie. Nous mon-trerons que ce procede de localisation implique a la fois les formules de lo-calisation “abelienne” (d’Atiyah-Bott, Berline-Vergne) et “non-abelienne” (deJeffrey-Kirwan-Witten).

Il sera important d’avoir une expression explicite de la classe equivarianteΛ(1M ), en fonction de λ. Nous le ferons dans les sections 5 et 6.

Si M est compacte et orientee, l’integration∫

M est une application deH−∞

G (M) dans l’espace des fonctions generalisees G-invariantes sur g. Cette ap-plication envoie H∞

G (M) dans le sous-espace des fonctions C∞ et G-invariantesde g.

Un corollaire immediat a ce theoreme est la formule integrale suivante.

Corollaire 3.10 Supposons la variete M orientee. Les orientations de Met des fibres de NC determinent une orientation de C. Au moyen du diagrammeprecedent, on voit que pour tout η ∈ H∞

G (M) a support compact sur M , on al’egalite de fonctions generalisees G-invariantes sur g suivante

∫

Mη =

∫

M(iC)∗(Λ(η))

=

∫

CΛ(η) =

∫

Ci∗C(η)Λ(1M ) .

1Tm(G.m) est l’espace tangent en m a l’orbite G.m.

3

Soit E → M un G-fibre vectoriel reel oriente. Supposons qu’il existe unelement β ∈ g tel que Eβ = M : le champ de vecteurs sur E engendre par βs’annule exactement sur M . Soit G(β) le sous-groupe de G stabilisateur de β.Nous definissons dans la section 3 une forme G(β)-equivariante a coefficientsgeneralises Eul −1

β (E) telle que Eul−1β (E).Eul o(E) = 1. Cet inverse de la classe

d’Euler est dans l’esprit du procede de polarisation des poids de Guillemin-Lerman-Sternberg et Guillemin-Prato [13, 14]: on “polarise” ici avec β ∈ g.

La forme Eul −1β (E) est utilisee dans les sections suivantes ou nous explicitons

notre procede de localisation. Dans le cas ou le groupe G est un tore tel queEG = M , nous montrons que la transformee de Fourier de Eul −1

β (E) est unemesure localement polynomiale, supportee par le demi-plan ξ ∈ g∗, 〈ξ, β〉 >0, et a valeurs dans les classes caracteristiques du fibre E .

Dans la section 4, nous obtenons une formulation du theoreme d’Atiyah-Bott et Berline-Vergne [2, 4] dans le cadre donne par Bismut [6] comme unerealisation du Theoreme 3.7.

Theoreme 5.1 Considerons l’action d’un groupe de Lie compact G sur unevariete compacte M . Pour β ∈ g, notons M β les points fixes du sous groupeengendre par β. Decomposons la sous-variete M β en somme de composantesconnexes F . Nous avons le diagramme commutatif suivant

H∞G(β)(M)

I**U

U

U

U

U

U

U

U

U

U

U

U

U

U

U

U

U

U

U

U

U

Λβ// H−∞

G(β)(Mβ) = ⊕FH−∞

G(β)(F )

(iβ)∗

H−∞G(β)(M)

(1.3)

ou iβ = ⊕F iF : Mβ →M est l’inclusion, et

Λβ(η) = ⊕F i∗F (η) Eul −1

β (NF ) ,

ou NF est le fibre normal de F dans M .

A la sous-section 5.2, nous appliquons ce theoreme au calcul de la mesurede Duistermaat-Heckman [10] dans le cas d’une action symplectique d’un tore.Notre resultat est similaire a celui de Canas da Silva-Guillemin dans [8] (voirTheoreme 2). Nous exprimons la mesure de Duistermaat-Heckman en termesde convolutions de mesures de Heaviside, et generalisons ainsi un resultat deGuillemin-Lerman-Sternberg [13].

Dans la section 6, nous utilisons notre procede de localisation pour mettreen oeuvre l’idee de localisation de Witten dans le cas d’une action hamiltonienne[25].

Considerons un groupe compact G munie d’une action hamiltonienne surune variete symplectique compacte (M,Ω). On note µ : M → g∗ l’applicationmoment. On munit l’espace vectoriel g∗ d’un produit scalaire G-invariant. SoitH le champ de vecteurs hamiltonien associee a la fonction ‖µ‖2.

4

Considerons en suivant Witten la 1-forme G-invariante λ := (H, .)M , ou(., .)M designe une metrique riemannienne G-invariante sur M . On a alors

m ∈M | 〈λm, v〉 = 0, ∀v ∈ Tm(G.m) = m ∈M | Hm = 0= m ∈M | d‖µ‖2

m = 0.

Pour effectuer la localisation une difficulte demeure: l’ensemble Cr(‖µ‖2)des points critiques de la fonction ‖µ‖2 ne forme generalement pas une sous-variete de M . Cette difficulte peut etre contournee dans le cas d’une actiond’un tore.

Nous supposons maintenant que le groupe G est un tore T , d’algebre deLie t, et on note j : t∗ → t l’isomorphisme associe au produit scalaire sur t∗.L’action de T sur t∗ etant triviale, les applications µε = µ− ε sont encore desapplications moment, et nous montrons que pour ε generique, Cr(‖µε‖2) estune sous-variete lisse de M .

Nous consacrons la premiere partie de cette section a l’etude de l’ensembleCr(‖µε‖2). Nous introduisons une collection B de sous-espaces affines de t∗ quiva parametrer une subdivision de cet ensemble (Definition 6.7). Pour chaque∆ ∈ B, notons T∆ le sous-tore d’algebre de Lie le sous-espace de t orthogonal ala direction du sous-espace affine ∆. Notons t∆ l’algebre de Lie de T∆.

D’apres [18], nous avons

Propositions 6.8, 6.9 Les points critiques de ‖µε‖2 se mettent sous laforme

Cr(‖µε‖2) =⋃

∆∈B

MT∆ ∩ µ−1(β(ε,∆)),

ou β(ε,∆) est le projete orthogonal de ε sur ∆. Pour ε generique, l’ensembleCr(‖µε‖2) est une sous-variete de M , l’union precedente est disjointe, et legroupe T/T∆ agit localement librement sur Cε

∆ = MT∆ ∩ µ−1(β(ε,∆)).

En appliquant notre procede de localisation dans ce contexte nous obtenonsle theoreme suivant.

Theoreme 6.16 Soit ε ∈ t∗ generique. Nous avons le diagramme commu-tatif suivant

H∞T (M)

I))S

S

S

S

S

S

S

S

S

S

S

S

S

S

S

Λ// ⊕∆H−∞

T (Cε∆)

i∗

H−∞T (M)

(1.4)

ou i = ⊕∆i∆ : ∪∆Cε∆ →M est l’inclusion. Le morphisme Λ est defini par

Λ(η) = ⊕∆∈B i∗∆(η)Λ∆ ,

avec Λ∆ ∈ H−∞T (Cε

∆).

La forme Λt∗ apparait deja dans la formule de Jeffrey-Kirwan [16]: ellesse placent sous l’hypothese d’une action libre de T sur µ−1(0), ce qui imposet∗ ∈ B.

5

La fin de la section 6 est consacree a l’etude des formes a coefficientsgeneralises Λ∆.

Comme le groupe T/T∆ agit localement librement sur la variete C ε∆, on peut

definir la V-variete quotient Mε∆ := Cε

∆

/

T/T∆ [17]. Nous avons le morphisme

de Kirwan [18] k∆ : H∞T (M) → H∞

T∆(Mε

∆), defini comme le compose du mor-phisme de restriction H∞

T (M) → H∞T (Cε

∆) et de l’isomorphisme de Chern-WeilW∆ : H∞

T (Cε∆)

∼→ H∞T∆

(Mε∆).

Notons m∆ : H−∞T∆

(Mε∆)

∼→ H−∞T (Cε

∆) l’isomorphisme compatible avec le

morphisme de Chern-Weil: pour α ∈ H∞T (Cε

∆) et β ∈ H−∞T∆

(Mε∆) nous avons

α.m∆(β) = m∆

(

W∆(α).β)

(voir [19], Theoreme 91).

Soient β∆ := j−1(β(ε,∆) − ε) ∈ t∆ et N∆ le fibre normal de MT∆ dans

M restreint a Cε∆. Notons E∆ = N∆

/

T/T∆ le V-fibre vectoriel T∆-equivariant

sur Mε∆. Pour ε generique, le champ de vecteurs sur E∆ engendre par β∆

s’annule exactement sur Mε∆. Ces donnees permettent de definir une forme T∆-

equivariante fermee a coefficients generalises sur Mε∆: Eul−1

β∆(E∆) ∈ H−∞

T∆(Mε

∆).

Proposition Nous avons, dans H−∞T (Cε

∆), l’egalite

i∗∆(η)Λ∆ = m∆

(

k∆(η) Eul −1β∆

(E∆))

, ∀ η ∈ H∞T (M).

Comme corollaire de ces resultats nous obtenons une formule integrale quicomplete l’expression obtenue par Vergne dans [23] (voir le Theoreme 19).

A chaque composante connexe F de Cε∆ on associe le groupe S∆(F ) qui

est le stabilisateur generique de T/T∆ sur F et on note |S∆|(F ) son cardinal.L’application F → |S∆|(F ) determine une fonction localement constante surMε

∆ qui sera notee |S∆|.Theoreme 6.22 Soient ε ∈ t∗ generique et η ∈ H∞

T (M). Pour toutefonction φ ∈ C∞(t) a support compact, nous avons

∫

M×t

η(X)φ(X)dX =∑

∆∈B

c∆

∫

Mε∆×t∆

1

|S∆|k∆(η.φ)(X1) Eul −1β∆

(E∆)(X1)dX1 .

avec c∆ = (2πi)dim∆ vol(T/T∆, dX2) et dX = dX1dX2 avec X1 ∈ t∆ et X2 ∈t/t∆.

Au moyen de ce theoreme et de l’etude effectuee sur la transformee deFourier des classes Eul −1

β∆(E∆), nous avons donne dans [21] une description du

comportement asymptotique des fonctions de partition introduites par Witten[25] qui precise les resultats de Jeffrey-Kirwan [16].

Remerciements. Je suis particulierement reconnaissant a M. Vergne pourles conseils et les encouragements qu’elle m’a prodigues depuis plusieurs annees.Je la remercie aussi pour l’aide apportee dans la redaction de ce manuscrit.

6

2 Cohomologie equivariante - Definitions

Les principales references pour cette section sont [3, 19, 20].Considerons un groupe de Lie compact G, d’algebre de Lie g, agissant de

maniere C∞ sur une variete differentielle M . On note A(M) l’algebre sur C desformes differentielles et d la derivation exterieure. Soit Acpt(M) la sous-algebredes formes a support compact sur M . Si ξ est un champ de vecteurs sur M , onnote c(ξ) : A(M) → A(M) la contraction par le champ de vecteurs ξ.

L’action de G sur M determine un morphisme X → XM de g dans l’algebredes champs de vecteurs de M .

2.1 Definitions

Rappelons les differents complexes de de Rham G-equivariants sur M . Nousavons trois espaces de formes differentielles equivariantes A∗

G(M) ⊂ A∞G (M) ⊂

A−∞G (M), respectivement a coefficients polynomiaux, C∞ et generalises. Le

modele des formes equivariantes a coefficients polynomiaux est du a H. Car-tan, tandis que les formes equivariantes a coefficients C∞ et generalises ont eteetudiees par Berline, Duflo, Kumar et Vergne [3, 4, 12, 19]. Rappelons leursdefinitions.

Soit C∞(g,A(M)) l’algebre des formes α(X) sur M dependant de maniereC∞ de X ∈ g. Nous noterons A∞

G (M) la sous-algebre de C∞(g,A(M)) formeedes elements G-invariants: ces elements sont appeles formes equivariantes a co-efficients C∞. Soit S(g∗) l’espace des fonctions polynomiales sur g. On noteA∗

G(M) := (S(g∗) ⊗A(M))G la sous-algebre de A∞G (M) des formes equivariantes

a coefficients polynomiaux. La differentielle D sur A∞G (M) et donnee par

l’equation

∀ α ∈ A∞G (M), (Dα)(X) := (d− c(XM ))(α(X)), X ∈ g.

On verifie que D laisse A∗G(M) stable et que D2 = 0 sur A∞

G (M). Les coho-mologies associees a (A∞

G (M),D) et (A∗G(M),D) sont appelees respectivement

la cohomologie G-equivariante a coefficients C∞ et polynomiaux de M , et sontnotees respectivement H∞

G (M) et H∗G(M).

L’algebre A∞G (M) admet une sous-algebre A∞

G,cpt(M) = C∞(g,Acpt(M))G,stable par rapport a la differentielle D. La cohomologie associee a (A∞

G,cpt(M),D)est appelee la cohomologie G-equivariante a support compact H∞

G,cpt(M).

L’operation de localisation que nous allons developper dans la prochainesection necessite l’utilisation des formes equivariantes a coefficients generalises.

Soit C−∞(g,A(M)) l’espace des fonctions generalisees sur g a valeurs dansA(M). C’est, par definition, l’espace des applications C-lineaire continuesHom(m(g),A(M)) de l’espace des densites C∞ a support compact m(g) deg dans A(M), ou m(g) et A(M) sont munis de la topologie C∞.

On note A−∞G (M) le sous-espace des elements G-invariants de C−∞(g,A(M)).

L’image de φ ∈ m(g) par α ∈ A−∞G (M) est une forme differentielle sur M notee

< α, φ >. On a une inclusion canonique A∞G (M) ⊂ A−∞

G (M) et la differentielle

7

D definie sur A∞G (M) se prolonge a A−∞

G (M). Soit E1, · · · , Er une base deg, alors pour tout η ∈ A−∞

G (M) on a

∀ φ ∈ m(g), < D(η), φ >:= d < η, φ > −r∑

k=1

c(EkM ) < η, φ.Xk > ,

ou X1, · · · , Xr sont les fonctions coordonnees sur g. On montre que D2 = 0 surA−∞

G (M) [19]. La cohomologie du complexe (A−∞G (M),D) est appelee la coho-

mologie G-equivariante a coefficients generalises de M , et est notee H−∞G (M).

Le sous-espace A−∞G,cpt(M) = C−∞(g,Acpt(M))G est stable par rapport a la

differentielle D, et on note H−∞G,cpt(M) la cohomologie associee a (A−∞

G,cpt(M),D).

Si M est un point, on voit d’apres la definition que H∗G(point) = S(g∗)G,

H∞G (point) = C∞(g)G et H−∞

G (point) = C−∞(g)G. L’algebre H∞G (M) est munie

d’une structure naturelle de C∞(g)G-module, tandis que l’espace H−∞G (M) est

un module pour H∞G (M).

L’inclusion A∞G (M) ⊂ A−∞

G (M) induit en cohomologie le morphisme naturelI : H∞

G (M) → H−∞G (M).

Remarque: Le morphisme I n’est pas injectif en general. A la section 5,on verra que si M est une variete munie d’une action libre d’un tore G, cemorphisme est nul.

Si ψ : M → N est une application G-equivariante entre deux G-varietes,l’image reciproque par ψ des formes differentielles sur N definit un morphismeψ∗ : A−∞

G (N) → A−∞G (M) qui commute avec la differentielle equivariante. On

note encore par ψ∗ le morphisme induit en cohomologie.Soit C−∞(g)G l’espace des fonctions generalisees sur g et invariantes par G.

Si M est une G-variete orientee, l’integration sur M determine une application∫

M: A−∞

G,cpt(M) −→ C−∞(g)G

α 7−→∫

Mα(X) ,

definie par l’equation <∫

M α(X), φ(X)dX >:=∫

M < α(X), φ(X)dX >, pourtoute densite a support compact φ(X)dX.

Cette application d’integration envoie le sous-espace A∞G,cpt(M) dans l’algebre

C∞(g)G des fonctions C∞ sur g qui sont G-invariantes. On verifie que cetteoperation d’integration annule toutes les formes exactes, et determine le mor-phisme

∫

M : H−∞G,cpt(M) → C−∞(g)G.

Nous avons le diagramme commutatif suivant

H∞G,cpt(M) I

//

R

M

H−∞G,cpt(M)

R

M

C∞(g)G // C−∞(g)G,

(2.5)

ou le morphisme C∞(g)G → C−∞(g)G correspond a l’inclusion canonique. Dansle reste de cet article on se servira implicitement de la commutativite de ce

8

diagramme qui peut se resumer par l’egalite:∫

M η =∫

M I(η) pour tout η ∈H∞

G (M).

2.2 Classes de Thom et d’Euler equivariantes

Considerons p : E →M un fibre vectoriel reel muni de l’action d’un groupe deLie compact G. Pour simplifier les notations, on suppose que la variete M estcompacte.

Le fibre vectoriel p : E → M est dit G-oriente si les fibres de p sont ori-entees, avec une orientation qui varie continument, et si l’action de G preservel’orientation des fibres.

Fixons une G-orientation o sur les fibres de E . On note indifferemment p∗ ou∫

E/M l’application de Acpt(E) dans A(M) d’integration le long des fibres. C’est

un morphisme de A(M)-module a gauche: pour tout α ∈ A(M) et η ∈ Acpt(E),on a

∫

E/M p∗(α) ∧ η = α ∧∫

E/M η. Cette integration peut etre etendue auxformes equivariantes, on verifie qu’elle commute avec la differentielle et induitun morphisme en cohomologie:

∫

E/M : H∞G,cpt(E) → H∞

G (M).Supposons le fibre vectoriel E → M G-oriente. Il existe une seule classe

u ∈ H∞G,cpt(E) telle que

∫

E/M u = 1M , ou 1M designe la fonction constante

egale a 1 sur M . Cette classe, notee Thomo(E), est appelee la classe de Thomequivariante du fibre E .

Un representant explicite de Thomo(E) est donne dans [20]. Notons i : M →E la section nulle. La multiplication par Thomo(E) induit l’application “imagedirecte” i∗:i∗(α) = Thomo(E) ∧ p∗(α) de H∞

G (M) dans H∞G,cpt(E). Puisque

Thomo(E) est a coefficients C∞, on peut definir de la meme facon l’applicationi∗ : H−∞

G (M) → H−∞G,cpt(E).

Rappelons l’isomorphisme de Thom en cohomologie equivariante a coeffi-cients C−∞ (Proposition 11 de [19]).

Soit G un groupe de Lie compact et soit p : E → Mun fibre vectoriel reelG-equivariant et G-oriente sur une base M compacte. Les applications

i∗ : H−∞G (M) → H−∞

G,cpt(E)

et ∫

E/M: H−∞

G,cpt(E) → H−∞G (M) ,

sont des isomorphismes, inverses l’un de l’autre.La classe d’Euler equivariante du fibre E → M , notee Eul o(E), est par

definition egale a la restriction aM de la classe de Thom equivariante: Eul o(E) :=i∗(Thom o(E)).

On se fixe pour la suite un produit scalaire (., .) sur les fibres et une connex-ion euclidienne ∇E , tous deux G-invariants. Ceci permet la construction d’unrepresentant explicite de Eul o(E) (voir [3], chapitre 7).

A partir du fibre E , on definit les fibres End(E) := E ⊗ E ∗, ΛE∗, et so(E):pour tout m dans M , so(E)m := A ∈ End(Em), (Ay, y) = 0 ∀y ∈ Em. Lesformes differentielles sur M a coefficients dans E , ΛE ∗ et so(E) seront notees,respectivement, A(M, E), A(M,ΛE ∗) et A(M, so(E)).

9

L’application det1/2o : Apair(M, so(E)) → A(M) est definie au moyen de

l’integrale de Berezin To : A(M,ΛE∗) → A(M). Considerons l’isomorphismej : so(E) → Λ2(E∗) tel que pour tout A ∈ so(Em) et y1, y2 ∈ Em, j(A)(y1, y2) =(Ay1, y2)m . On a alors deto

1/2 = To exp j .On note RE la courbure associee a la connection ∇E . Le moment d’un

element X ∈ g est l’endomorphisme µE(X) ∈ A0(M,End(E)) defini par µE(X) =LE(X) −∇E

XMou LE(X) represente l’action infinitesimale de X sur A0(M, E).

On definit la courbure equivariante du fibre E par l’equation RE(X) =RE + µE(X). Comme le produit scalaire et la connexion sont G-invariants,on constate que l’application X → RE(X) de g dans A(M, so(E)) est G-equivariante.

On definit la forme d’Euler equivariante par la formule

Eul o(E ,∇E )(X) = det1/2o

(−1

2πRE(X)

)

.

C’est un element de l’algebre A∞G (M) qui est D-ferme. De plus, sa classe de

cohomologie dans H∞G (M) ne depend pas de la connexion choisie initialement

(voir [3], chapitre 7) et est egale a la classe d’Euler equivariante [20].

3 Procede de localisation

Considerons un groupe de Lie compact G agissant de maniere C∞ sur une varieteM . Nous developpons dans cette section un procede general de localisation encohomologie G-equivariante.

3.1 Localisation

Considerons une 1-forme λ sur M , G-invariante et non nulle. On note Φλ :M → g∗ l’application G-equivariante definie par l’equation

〈Φλ(m), X〉 = λm(XM (m)), m ∈M, X ∈ g ,

ou 〈., .〉 designe le crochet de dualite entre g∗ et g.La forme equivariante Dλ se met sous la forme: Dλ(X) = dλ − 〈Φλ, X〉.

Dans cette section, nous “inversons” (dans un sens qu’il reste a preciser) laforme Dλ, et, moyennant quelques hypotheses, nous “localisons” les formesequivariantes sur l’ensemble

C := m ∈M, Φλ(m) = 0 .

Lemme 3.1 Pour toute forme χext ∈ A(M)G qui est nulle au voisinage deC, les formes equivariantes χext(

∫ a0 i e−itDλdt) convergent lorsque a → +∞

vers une forme equivariante a coefficients generalises χext

(∫∞0 i e−itDλdt

)∈

A−∞G (M) , qui verifie

χext

(∫ ∞

0i e−itDλdt

)

Dλ = χext dans A−∞G (M) . (3.6)

10

Demonstration: Considerons, pour f ∈ C∞(g) a support compact et m ∈M ,l’egalite

< χext

(∫ a

0i e−itDλ(X)dt

)

, f(X)dX >m=

∑

2k≤dimM

(−i)k−1(dλm)kχext|m

∫ a

0tkf(−tΦλ(m))dt ,

ou f designe la transformee de Fourier de f par rapport a dX. Puisque f est adecroissance rapide et que la forme χext s’annule au voisinage de Φλ = 0, lalimite de l’integrale χext|m

∫ a0 t

kf(−tΦλ(m))dt lorsque a → +∞, existe pourtout m ∈M , et definit une forme sur M .

On constate que, pour tout a > 0, χext (∫ a0 i e−itDλdt)Dλ = χext (1−e−iaDλ).

En utilisant les memes arguments que precedemment, on verifie que

lima→+∞

χext e−iaDλ = 0 dans A−∞

G (M) ,

ce qui demontre l’egalite (3.6).

Considerons un voisinage ouvert U de C. Les formes differentielles a supportcompact dans U sont de maniere canonique des formes differentielles surM . Ona donc une application IU : A−∞

G,cpt(U) → A−∞G (M) qui induit le morphisme

IU : H−∞G,cpt(U) −→ H−∞

G (M) .

Hypothese 3.2 L’ensemble C est une partie compacte de M .

Soit χo ∈ C∞(M)G egale a 1 au voisinage de C. Considerons la formeequivariante pλ ∈ A−∞

G (M) suivante:

pλ := χo + dχo

(∫ ∞

0i e−itDλdt

)

λ . (3.7)

Elle est bien definie car dχo = 0 au voisinage de C, et par definition on apλ = lima→∞ pa

λ avec

paλ = χo + dχo

(∫ a

0i e−itDλdt

)

λ

= χo e−iaDλ + D

(

χo

(∫ a

0i e−itDλdt

)

λ

)

. (3.8)

Proposition 3.3 1) La forme equivariante pλ est fermee, et pλ = 1M dansH−∞

G (M), ou 1M designe la fonction constante egale a 1 sur M . Plus precisement,

pλ − 1M = D(

(χo − 1)

(∫ ∞

0i e−itDλdt

)

λ

)

.

2) Supposons la fonction χo a support compact dans U (ce qui est possibled’apres l’Hypothese 3.2). La forme pλ est alors a support compact dans U , etsa classe de cohomologie dans H−∞

G,cpt(U) ne depend pas du choix de la fonctionχo.

11

Demonstration: Les points 1) et 2) se demontrent de la meme maniere;toutefois pour le premier point l’Hypothese 3.2 n’est pas utilisee.

Considerons deux fonctions χo et χ′o, G-invariantes, egales a 1 au voisi-

nage de C, et pλ, p′λ les formes equivariantes qui leur sont associees. La fonc-

tion χo − χ′o est nulle au voisinage de C, ainsi, d’apres le Lemme 3.1 (χo −

χ′o)(∫∞

0 i e−itDλdt)λ ∈ A−∞

G (M) et

D(

(χo − χ′o)

(∫ ∞

0i e−itDλdt

)

λ

)

=

d(χo − χ′o)

(∫ ∞

0i e−itDλdt

)

λ + (χo − χ′o)

(∫ ∞

0i e−itDλdt

)

D(λ) = pλ − p′λ .

Le point 1) est demontre en prenant χ′o = 1M . Pour le point 2), nous choisissons

des fonctions χo et χ′o a support compact dans U . Les formes pλ et p′λ sont dans

A−∞G,cpt(U) et leur difference est egale a la differentielle d’une forme de A−∞

G,cpt(U).

Pour la suite de cette section, on designe par χo une fonction G-invariante asupport compact dans un voisinage U de C, et on note pλ ∈ A−∞

G,cpt(U) la formeequivariante associee. Au moyen de la forme pλ nous definissons l’applicationde localisation

Θ : A∞G (M) −→ A−∞

G,cpt(U) (3.9)

η 7−→ η pλ .

Comme la forme pλ est paire et fermee, le morphisme Θ commute avecla differentielle D et induit donc un morphisme en cohomologie note encoreΘ : H∞

G (M) → H−∞G,cpt(U).

Remarque 3.4 L’egalite pλ = 1M + D(a) avec a ∈ A−∞G (M) (demontree a

la Proposition 3.3 ) montre que pour toute forme η ∈ A∞G (M) fermee et a

support compact dans U on a ηpλ = η + D(ηa) avec ηa ∈ A−∞G,cpt(U), c’est a

dire Θ(η) = η dans H−∞G,cpt(U).

Theoreme 3.5 Le diagramme suivant

H∞G (M)

I

&&L

L

L

L

L

L

L

L

L

L

L

L

L

L

L

L

L

L

Θ// H−∞

G,cpt(U)

IU

H−∞G (M)

(3.10)

est commutatif, ou I : H∞G (M) → H−∞

G (M) est le morphisme naturel.

Demonstration: La commutativite du diagramme precedent vient du fait que laclasse de la forme pλ est egale a la classe de 1M dans H−∞

G (M): on a IU (pλ) =I(1M ), ce qui implique IU (ηpλ) = I(η) pour toute classe η ∈ H∞

G (M).

12

Au moyen d’hypotheses supplementaires sur λ, nous allons preciser le dia-gramme (3.10).

Hypothese 3.6 L’ensemble C est une sous-variete compacte de M telle queles fibres du fibre normal NC de C dans M soient G-orientees.

Dans ce cas, quitte a restreindre U , on peut supposer l’existence d’unvoisinage G-invariant V de la section nulle dans NC , et d’un isomorphismeG-invariant ψ : V → U , tel que

ψ(m, 0) = m pour m ∈ CL’isomorphisme ψ determine un isomorphisme au niveau des formes equivariantes

ψ∗ : A−∞G,cpt(U) −→ A−∞

G,cpt(V) .

Les fibres de NC etant orientees, l’application∫

NC/C d’integration le long desfibres ∫

NC/C: A−∞

G,cpt(NC) −→ A−∞G (C)

induit un isomorphisme en cohomologie (cf. Proposition ??). En particulier,si s : C → NC est la section nulle, pour toutes formes α ∈ A∞

G (NC) et β ∈A−∞

G,cpt(NC), fermees, on a dans H−∞G (C) l’egalite

∫

NC/Cαβ = s∗(α)

∫

NC/Cβ . (3.11)

Notons Λ =∫

NC/C ψ∗ Θ le morphisme de A∞G (M) dans A−∞

G (C). Ilcommute avec la derivation, et on notera encore

Λ : H∞G (M) → H−∞

G (C)

le morphisme de C∞(g)G-modules.Soit iC : C → M l’inclusion canonique et i∗C : H∞

G (M) → H∞G (C) le

morphisme d’algebres associe. L’espace H−∞G (C) est munie d’une structure

de H∞G (M)-module a gauche en posant pour α ∈ H∞

G (M) et β ∈ H−∞G (C):

α× β := i∗C(α) ∧ β.

Considerons la classe de Thom equivariante Thom o(NC) ∈ H∞G,cpt(NC) as-

sociee a l’orientation o des fibres NC , et a support dans V. Nous noterons encoreThom o(NC) la classe (ψ−1)∗(Thom o(NC)) ∈ H∞

G,cpt(U). Cette classe realise le

morphisme “image directe” (iC)∗ : H−∞G (C) → H−∞

G (M), η 7→ IU (ηThom o(NC)).Nous pouvons preciser le diagramme (3.10) par le

Theoreme 3.7 1) Le diagramme suivant

H∞G (M)

I

&&L

L

L

L

L

L

L

L

L

L

L

L

L

L

L

L

L

L

Λ// H−∞

G (C)

(iC)∗

H−∞G (M)

(3.12)

13

est commutatif.2) Le morphisme Λ : H∞

G (M) → H−∞G (C) est un morphisme de H∞

G (M)-module, ou dit autrement

Λ(η) = i∗C(η) Λ(1M ) (3.13)

pour tout η ∈ H∞G (M). La classe Λ(1M ) ∈ H−∞

G (C) verifie

1C = Eul o(NC) Λ(1M ) . (3.14)

ou Eul o(NC) est la classe d’Euler equivariante du G-fibre vectoriel orienteNC → C.

Demonstration: Le diagramme (3.12) est une modification du diagramme(3.10) au moyen de l’isomorphisme

∫

NC/C ψ∗ : H−∞G,cpt(U) → H−∞

G (C): la com-mutativite du premier entraine celle du second. L’isomorphisme de Thom

H−∞G (C) −→ H−∞

G,cpt(U)

η 7−→ η.Thom o(NC)

est l’inverse du precedent isomorphisme. On voit finalement que IU(∫

NC/C ψ∗)−1

= (iC)∗. Le point 1) est ainsi demontre.L’egalite (3.11) donne immediatement (3.13). Appliquons l’egalite (3.13) a

la classe de Thom. Cette classe etant a support compact, on sait d’apres laRemarque 3.4 que Θ(Thom o(NC)) = Thom o(NC), ce qui entraine

∫

NC/CThom o(NC) = i∗C(Thom o(NC)) Λ(1M ) .

L’egalite (3.14) est demontree car par definition∫

NC/C Thom o(NC) = 1C et

i∗C(Thom o(NC)) = Eul o(NC).

Remarque 3.8 Pour ce theoreme, on peut remplacer l’hypothese de compacitede la sous-variete C par celle de l’existence d’un voisinage tubulaire G-invariantde C dans M .

Remarque 3.9 L’egalite 1C = Eul o(NC) Λ(1M ) peut etre triviale dans certaincas. Par exemple, si la classe d’Euler est nulle sur une composante connexe Ci

de C, ceci implique que la classe 1Ci= 0 dans H−∞

G (Ci), ou dit autrement quele morphisme canonique H∞

G (Ci) → H−∞G (Ci) est nul.

Corollaire 3.10 Supposons la variete M orientee. Les orientations de M etdes fibres de NC determinent une orientation de C. Au moyen du diagramme(3.12), on voit que pour toute forme fermee η ∈ A∞

G (M) a support compact, ona l’egalite de fonctions generalisees G-invariantes sur g suivante

∫

Mη =

∫

M(iC)∗(Λ(η))

=

∫

CΛ(η) =

∫

Ci∗C(η)Λ(1M ) .

14

3.2 Calcul de la forme Λ(1M)

Considerons deux 1-formes λ0 et λ1, G-invariantes surM , telles que C = Φλ0=

0 = Φλ1= 0, avec C compact. Soient U un voisinage de C et χ ∈ C∞(M)G

a support compact dans U , egale a 1 au voisinage de C. Notons pλ0, pλ1

lesformes equivariantes associees a ces donnees (cf. egalite (3.7)).

Proposition 3.11 Supposons qu’il existe une application f : M → g telle queles fonctions 〈Φλ0

, f 〉 et 〈Φλ1, f 〉 soient strictement positives sur M − C. Alors

pλ0= pλ1

dans H−∞G,cpt(U). Les localisations definies au moyen de λ0 et λ1 sont donc

identiques.

Demonstration: Posons pour u ∈ [0, 1], λu := uλ1 + (1 − u)λ0 : on aΦλu

= uΦλ1+ (1 − u)Φλ0

. La fonction f permet de s’assurer que pour toutu ∈ [0, 1], Φλu

= 0 = C. On peut donc definir les formes pλu:= χ +

dχ( ∫∞

0 ie−itDλudt)

λu et on verifie que

∂pλu

∂u= dχ

( ∫ ∞

0t e−itDλudt

)

D(λ1 − λ0)λu + dχ( ∫ ∞

0ie−itDλudt

)

(λ1 − λ0)

= D(

dχ(∫ ∞

0t e−itDλudt

)

λ0λ1

)

, (3.15)

puisque d’une part D(−dχ(

∫∞0 t e−itDλudt)(λ1 − λ0)λu

)= dχ(

∫∞0 t e−itDλudt)D(λ1−

λ0)λu −dχ(∫∞0 t e−itDλudt)Dλu(λ1−λ0), d’autre part dχ(

∫∞0 t e−itDλudt)Dλu =

−dχ(∫∞0 ie−itDλudt) et −(λ1 − λ0)λu = λ0λ1.

En integrant l’egalite (3.15) sur [0, 1], on trouve pλ1− pλ0

= D(δ), avecδ ∈ A−∞

G,cpt(U).

Dans les sections 5 et 6, nous modifions la forme λ au voisinage de la sous-variete C en une forme λmod, de telle facon que les conditions de la Proposition3.11 soient verifiees. La localisation effectuee avec λmod est donc identique acelle effectuee avec λ, mais a l’avantage de simplifier le calcul de la forme Λ(1M ).

Placons nous dans les conditions du Theoreme 3.7. Par definition du mor-phisme Λ, la forme Λ(1M ) ∈ H−∞

G (C) est definie par l’egalite:

Λ(1M ) =

∫

NC/Cpλ .

D’apres (3.8) on a Λ(1M ) = lima→+∞ Λa, avec pour a > 0

Λa =

∫

NC/Cχ e−iaDλ′

+ D(∫ a

0i

(∫

NC/Cχ e−itDλ′

λ′)

dt

)

,

ou la fonction χ est a support compact, egale a 1 au voisinage de la sectionnulle, et λ′ est une 1-forme sur NC egale a ψ∗(λ) sur le support de χ.

15

Dans les sections 5 et 6, nous verrons qu’apres modification de λ en λmod

les formes∫

NC/C χ e−itDλ′

λ′ sont nulles pour tout t > 0. On aura alors une

expression simple de la forme a coefficients generalises Λ(1M ) :

Λ(1M ) = lima→+∞

∫

NC/Cχ e−iaDλ′

.

3.3 Exemples

Exemple 1: Considerons un groupe de Lie G compact agissant sur une varietecompacte M . Soient β ∈ g et G(β) le sous-groupe de G stabilisateur de β.Munissons la variete M d’une metrique riemannienne (., .)M G-invariante.

Considerons la 1-forme λβ := (βM , .)M , ou βM designe le champ de vecteurssur M engendre par β. On a donc λ ∈ A1(M)G(β), et on verifie que

Φλβ= 0 = Mβ ,

ou Mβ designe la sous-variete des points ou le champ de vecteurs βM s’annule.Nous verrons a la section 5 que dans ce cas le Theoreme 3.7 est une generalisationde la formule d’Atiyah-Bott et Berline-Vergne dans le cadre donne par Bismut[6].

Exemple 2: Considerons l’action hamiltonienne d’un groupe de Lie compactG sur une variete symplectique (M,Ω). On note µ : M → g∗ l’application mo-ment associee. On munit l’espace vectoriel g∗ d’un produit scalaire G-invariant.Soit H le champ de vecteurs hamiltonien associee a la fonction ‖µ‖2.

Considerons en suivant Witten [25] la 1-forme G-invariante λ := (H, .)M ,ou (., .)M designe une metrique riemannienne G-invariante sur M . On a alors

Φλ = 0 = H = 0 = Cr(‖µ‖2) .

Pour effectuer la localisation dans ce cas une difficulte demeure: les pointscritiques de ‖µ‖2 ne forment generalement pas une sous-variete de M . Dansla section 6, nous pourrons effectuer la localisation lorsque l’on se restreint al’action d’un tore sur une variete symplectique compacte.

Voici un exemple d’action hamiltonienne d’un groupe compact non-abelienou les points critiques de ‖µ‖2 forment une sous-variete.

Considerons un groupe de Lie reel semi-simple G de centre fini, et K unsous-groupe compact maximal. Soit M une orbite coadjointe elliptique de Gmunie de la structure symplectique canonique ( l’action de K sur M est alorshamiltonienne). Notons µ : M → k∗ l’application moment et considerons leproduit scalaire K-invariant sur k defini comme la restriction de la forme deKilling de g. Nous avons

Cr(‖µ‖2) = M ∩ k∗ ,

et ce dernier ensemble est une K-orbite.

16

Soit FM la transformee de Fourier de la G-orbite M : c’est une fonctiongeneralisee G-invariante sur g qui admet une restriction a k qui s’ecrit FM |k(X) =∫

M eiΩk(X), ou Ωk est la 2-forme symplectique equivariante [11]. Duflo et Vergnemontrent que la fonction generalisee FM |k s’exprime comme l’integrale surM∩k∗

d’une forme K-equivariante a coefficients generalises. Si i : M ∩ k∗ → M estl’inclusion canonique, on a

FM |k(X) =

∫

M∩k∗i∗

(

eiΩk

)

Λ ,

avec Λ ∈ H−∞K (M ∩ k∗) qui est un inverse de la classe d’Euler equivariante du

fibre normal de M ∩ k∗ dans M .En fait, ce calcul correspond exactement a une formule integrale provenant

de la localisation dans le cadre symplectique. Le Corollaire 3.10 permet deretrouver l’expression de FM |k donnee par Duflo et Vergne (avec quelques mod-ifications car le support de la forme eiΩk n’est pas compact).

4 Inversion de la classe d’Euler equivariante

Soit E → M un fibre vectoriel reel muni d’une action d’un groupe de Liecompact G, d’algebre de lie g. La variete M est supposee compacte et connexeet le fibre E G-oriente.

On fait l’hypothese suivante:

Hypothese 4.1 Il existe un element β ∈ g tel que v ∈ E | βE |v = 0 = M .

On note G(β) le sous-groupe de G stabilisateur de β et g(β) son algebre deLie.

Nous introduisons dans cette section la classe G(β)-equivariante Eul −1β (E)

qui est un inverse, au sens generalise, de la classe d’Euler equivariante Eulo(E).En fait, l’inversion se fait directement au niveau des formes equivariantes (sanspasser a la cohomologie).

Supposons que le groupeG est un tore tel que EG = M . Nous montrons alors(Proposition 4.8) que la transformee de Fourier de Eul −1

β (E) est une mesurelocalement polynomiale, supportee par le demi-plan ξ ∈ g∗, 〈ξ, β〉 > 0, et avaleurs dans les classes caracteristiques du fibre E .

Nous verrons dans les sections 5 et 6 comment cette classe intervient na-turellement dans les formules de localisation en cohomologie equivariante.

4.1 Inversion de la forme d’Euler equivariante

On se fixe pour la suite un produit scalaire (., .) sur les fibres et une connexioneuclidienne ∇E , tous deux G-invariants. Pour simplifier les notations on note dela meme facon la forme d’Euler equivariante definie au moyen de la connexion∇E , et la classe d’Euler equivariante: Eulo(E)(X).

Dans le reste de cette section, on designera par Adec.rap.(E) la sous-algebrede A(E) des formes qui sont a decroissance rapide dans la direction des fibres.

17

La forme Eulo(E)(X) est une forme differentielle equivariante sur M dont

la composante de degre 0 est egale a det1/20 (−1

2π µE(X)). Considerons l’ouvert

UM ⊂ g defini par:

UM = X ∈ g ; ∀m ∈M det(µE (X))m 6= 0 . (4.16)

L’application X 7−→ Eulo(E)(X)−1 est definie et de classe C∞ sur UM , avaleurs dans A(M). On se propose d’expliciter cette inversion au moyen d’uneintegration le long des fibres de E .

Soit Uβ la composante connexe de UM ∩ g(β) contenant β. Pour tout X ∈Uβ, l’endomor- phisme µE(X) commute avec µE(β) et la forme quadratiquey → (µE (β).y, µE (X).y) est definie positive sur les fibres de E .

La connexion ∇E determine une decomposition de l’espace tangent TE =V E ⊕HE en espace tangent vertical et espace tangent horizontal. Le fibre V Eest isomorphe au fibre p∗E , image reciproque du fibre E a travers la projectionp : E → M : pour tout element v de E , VvE est canoniquement isomorphe aEp(v). La connexion ∇E se releve en une connexion ∇p∗E sur le fibre p∗E .

Soit y la section tautologique du fibre p∗E → E . La projection V : TE → V Edeterminee au moyen de la decomposition TE = V E ⊕HE verifie l’equation:

∀ Z ∈ TE , ZV = ∇p∗EZ y .

Pour tout X ∈ g, la partie verticale du champ de vecteurs XE verifiel’equation:

XE(y)V = −µE(X)m.y , pour tout y ∈ Em .

Pour “inverser” la forme d’Euler sur Uβ, nous avons besoin de la formuleintegrale suivante.

Soit V un espace euclidien oriente. On considere A,B ∈ so(V ) et R ∈so(V ) ⊗ a ou a est une algebre commutative nilpotente: an = 0 pour “n” assezgrand. On suppose de plus que B et R commutent avec A et que y → (Ay,By)est definie positive. L’espace V est donc de dimension paire et le calcul d’unegaussienne donne

∫

Ve−(Ay,(B+R)y) dy =

(π)dimV

2

det1/2o (A)det

1/2o (B +R)

, (4.17)

ou dy correspond a la mesure euclidienne sur V .

Definition 4.2 On designe par θβ la 1-forme G(β)-invariante sur E suivante: pour tout champ de vecteurs Z sur E, θβ(Z) = (βE , Z

V ).

L’expressionθβ = −(µE(β).y,∇p∗Ey) (4.18)

permet de voir que la forme θβ a une dependance quadratique le long de lafibre. Comme la 1-forme θβ est G(β)-invariante, la forme Dθβ ∈ A∞

G(β)(M) estune forme equivariante fermee sur E definie par l’equation:

Dθβ(X) = −(µE(β)(∇p∗Ey),∇p∗Ey) − (µE (β).y, µE (X).y +RE .y), X ∈ g(β),

18

ou RE = (∇E)2 est la courbure du fibre E . Dans ces formules les “fonctions”µE(β).y, µE(X).y sont des elements de A0(E , p∗E) tandis que les “formes”µE(β)(∇p∗Ey), ∇p∗Ey appartiennent a A1(E , p∗E) et RE .y ∈ A2(E , p∗E).

L’equation (4.17) nous permet d’avoir, sur Uβ, une formule integrale pourl’inverse de la classe d’Euler.

Proposition 4.3 Pour tout X ∈ Uβ, la forme eDθβ(X) ∈ Adec.rap.(E) et

∫

E/MeDθβ(X) =

1

Eulo(E)(X)· (4.19)

Demonstration: pour tout X dans Uβ, la fonction −(µE(β).y, µE (X).y) est,au niveau des fibres de E , une forme quadratique definie negative. Comme laforme edθβ possede un comportement polynomial sur les fibres, on voit que laforme eDθβ(X) = edθβe−(µE (β).y,µE (X).y) appartient a Adec.rap.(E).

Au voisinage d’un point m de M , on peut trouver une trivialisation de E ,orthonormee, dans laquelle ∇E = d+ Θ et telle que la 1-forme de connexion Θs’annule en m. Dans ce cas, pour y dans Em:

Dθβ(X)(y) = −(µE(β).dy, dy) − (µE (β).y, µE (X).y +RE .y) .

Apres avoir exponentie le terme Dθβ(X)(y), on ne garde (pour l’integration surla fibre) que la composante

(eDθβ(X)(y)

)

maxde degre maximum sur les fibres :

∀y ∈ Em,(

eDθβ(X)(y))

max= (−2)pdet1/2

o (µE(β)) e−(µE (β).y,µE (X).y +RE .y) dy1 · · · dy2p,

ou dy1 · · · dy2p represente la forme volume euclidienne sur la fibre Em. En util-isant l’egalite (4.17), on trouve:

(∫

E/MeDθβ(X)

)

m

= (−2)pdet1/2o (µE(β))

∫

Em

e−(µE (β).y,µE (X).y+RE .y) dy1 · · · dy2p

=(−2π)p

det1/2o (µE (X) +RE)m

·

Remarque 4.4 On verifie aisement que, pour tout nombre complexe z, laforme ez Dθβθβ n’a pas de composantes de degre maximum dans la directiondes fibres: (

ez Dθβθβ

)

max= 0 .

19

4.2 Inversion de la forme d’Euler equivariante dans A−∞G(β)(M)

Nous reprenons les notations de la section precedente. Dans les sous-sectionsqui suivent la compacite de M n’est pas requise (sauf pour le Corollaire 4.7). Laforme d’Euler qui initialement est une forme G-equivariante, est ici restreinteau groupe G(β): Eul o(E) ∈ A∞

G(β)(M), et nous determinons un inverse de cette

forme dans A−∞G(β)(M).

Definition 4.5 On note Eul −1β (E) la forme de A−∞

G(β)(M) definie par

Eul−1β (E) =

∫

E/Me−iDθβ .

La forme equivariante Eul −1β (E) verifie: ∀ φ(X)dX ∈ m(g(β))

< Eul−1β (E), φ(X)dX >=

∫

E/Me−idθβ

(∫

g(β)eiθβ(XE )φ(X)dX

)

.

En explicitant, on voit que

< Eul−1β (E), φ(X)dX >=

∫

E/Me−idθβ(y)φ

(

−l∑

k=1

ak(y)Ek

)

, (4.20)

ou les fonctions ak(y) = (µE(β).y, µE (Ek).y), y ∈ E sont definies apres le choixd’une base (E1, · · · , El) de g(β) telle que dX = dX1...dXl, et ou φ designe latransformee de Fourier de φ sur g(β) par rapport a la mesure dX.

Si β =∑

i βiEi , on voit que

∑

i |ai(y)| ≥ c.(µE(β).y, µE (β).y) avec c =(supi(|βi|))−1. Cette minoration assure la convergence de l’integrale (4.20).

De maniere generale, on a les relations de commutations suivantes surAdec.rap(E): dM

∫

E/M =∫

E/M dE et pour tout X de g(β), c(XM ) ∫

E/M =∫

E/M c(XE ) . La forme Eul −1β (E) est D-fermee car

D(Eul−1β (E)) =

∫

E/MD(e−iDθβ ) = 0 .

Pour etudier cette forme generalisee, on considere les applications parametreespar s > 0:

ψs : g(β) −→ A(M)

X 7−→∫

E/Me−iDθβ(X+isβ ) .

La convergence est assuree par le terme en β:

−iDθβ(X+isβ ) = i(

µE(β)(∇p∗Ey),∇p∗Ey)

−(µE(β).y , sµE(β).y − i(RE + µE(X)).y

).

20

Chaque forme ψs ∈ A∞G(β)(M) ⊂ A−∞

G(β)(M), et on verifie facilement que

lims→0+

ψs = Eul−1β (E)

en tant qu’applications generalisees sur g(β). D’autre part, un calcul identiquea celui de la Proposition 4.3 donne:

∀ X ∈ g(β), ψs(X) =(2πi)p

det1/2o (sµE(β) − i(µE(X) +RE))

=1

Eulo(E)(X + isβ)·

Proposition 4.6 Soit Eul −1β (E) la forme equivariante fermee de A−∞

G(β)(M)introduite a la Definition 4.5. Elle verifie

Eul−1β (E)(X) = lim

s→0+

1

Eulo(E)(X + isβ),

ce qui impliqueEulo(E) .Eul −1

β (E) = 1M ,

ou on designe encore par Eulo(E) la restriction de la forme d’Euler G-equivariantea une forme G(β)-equivariante, et 1M est la fonction constante egale a 1 surM .

Nous avons remarque au debut de cette section que la forme Eulo(E) ∈A∞

G (M) est inversible sur l’ouvert UM lorsque la variete M est compacte. Onobtient donc le

Corollaire 4.7 Supposons M compacte. La forme equivariante Eul −1β (E) est

C∞ sur l’ouvert UM ∩ g(β) et

∀X ∈ UM ∩ g(β), Eul−1β (E)(X) =

1

Eulo(E)(X)·

Supposons maintenant que le groupe G = T est un tore tel que E T = M .Dans ce cas, (meme dans le cas de M non-compacte) l’ouvert UM est dense danst et la forme Eul −1

β (E) est egale, sur UM , a une fraction rationnelle a valeursdans A(M).

Considerons l’exemple du fibre trivial E = M × C. L’action du tore T esttriviale sur M et definie sur E par un poids α ∈ t∗: eX . v := ei〈α,X〉v, pourX ∈ t

et v ∈ C. L’orientation “o” est celle de C et on choisit β ∈ t tel que 〈α, β〉 6= 0.Dans ce cas, on a Eul o(E)(X) = −1

2π 〈α,X〉 et

Eul−1β (E)(X) = −2π lim

s→0+

1

〈α,X + isβ〉 .

21

On polarise α en posant α+ = εβα, avec 〈α+, β〉 > 0 et εβ ∈ 1,−1. On verifie

que pour tout s > 0 et X ∈ t, on a∫∞0 ei〈α

+,X+isβ〉 tdt = i〈α+,X+isβ〉 . En passant

a la limite sur s, on obtient l’egalite de fonctions generalisees

Eul−1β (E)(X) = (2πi)εβ

∫ ∞

0ei〈α

+,X〉 tdt .

Cette egalite donne apres transformation de Fourier, l’egalite de mesures sur t∗

F(Eul−1β (E)) = (2πi)εβ Hα+ , (4.21)

ou Hα+ est la mesure de Heaviside associee a α+.

La section suivante est consacree a une generalisation de l’egalite (4.21) (cf. Proposition 4.8). Nous montrons en particulier que la forme equivarianteEul−1

β (E) possede une transformee de Fourier temperee qui, lorsque l’action deT sur E est effective, est une mesure polynomiale par morceaux.

4.3 Etude de Eul −1β (E) lorsque ET = M

On suppose dans cette section qu’un tore T , d’algebre de Lie t, agit sur le fibreE → M de telle facon que ET = M (et M n’est pas supposee compacte). Soitβ ∈ t tel que E(βE ) = M . Dans ce cas, la forme Eul −1

β (E) est un element de

A−∞T (M).

Voici les differentes notations que l’on utilise dans cette section. On noteA−∞

temp(t,M) les fonctions generalisees et temperees sur t a valeurs dans A(M).Les distributions temperees sur t∗ a valeurs dans A(M) constituent l’ensembleM−∞

temp(t∗,M). On notera C∞

d.r(t∗) l’espace de Schwartz des fonctions a decroissance

rapide sur t∗.

On designe par F : A−∞temp(t,M) → M−∞

temp(t∗,M) la transformation de

Fourier qui, a toute fonction generalisee et temperee φ, associe la distributiontemperee F(φ) telle que

∫

t∗ei(ξ,X)F(φ)(ξ) = φ(X) .

Par exemple, pour une forme η ∈ C∞(t,A(M)) a support compact sur t,nous avons pour tout m ∈M et ξ ∈ t∗

F(ηm)(ξ) =

(∫

t

e−i(ξ,X)ηm(X)dX

)dξ

(2π)dimT,

ou dξ et dX sont des mesures euclidiennes duales sur t∗ et t.

Cette section est consacree au calcul de la distribution temperee F(Eul −1β (E))

sur t∗.

A tout vecteur α ∈ t∗, α 6= 0, on associe la mesure de Heaviside, Hα, definiepar:

∀φ ∈ C∞d.r(t

∗), < Hα, φ >=

∫ +∞

0φ(uα)du .

22

Rappelons quelques proprietes generales de ces mesures. Le produit deconvolution Hα1

∗ · · · ∗Hαp est defini si les vecteurs α1, . . . , αp appartiennent aun meme demi-espace. Dans ce cas, il s’ecrit

∀φ ∈ C∞d.r(t

∗), < Hα1∗ · · · ∗Hαp , φ >=

∫ +∞

0· · ·∫ +∞

0φ

(p∑

i=1

uiαi

)

du1 · · · dup .

On voit par exemple que :

∀φ ∈ C∞d.r(t

∗), < Hα ∗ · · · ∗Hα︸ ︷︷ ︸

k + 1 fois

, φ >=

∫ +∞

0

uk

k!φ(uα)du . (4.22)

Lorsque les vecteurs α1, . . . , αp engendrent t∗, on a Hα1∗ · · · ∗ Hαp(ξ) =

P (ξ)dξ1 . . . dξr, avec P une fonction sur t∗ supportee par le cone ∑i uiαi , ui ≥0: cette fonction est continue et localement polynomiale sur ce cone [13].

Soit Ei, i = 1 . . . r une base de t et Ei , i = 1 . . . r sa base duale. Ladistribution temperee F(Eul −1

β (E)) sur t∗ a valeur dans A(M) est definie parl’equation: pour toute fonction φ ∈ C∞

d.r(t∗)

< F(Eul−1β (E)), φ >m=

∫

y∈Em

e−idθβ(y)φ

(r∑

i=1

(µE(β).y, µE (Ei).y)Ei

)

.

(4.23)Soient ±α1, . . . ,±αp les poids distincts de T dans la fibre de E : on les

polarise en posant α+k (β) > 0, ∀k = 1, . . . , p. On definit une structure complexe

J sur les fibres de E en posant J := µE(β)−1(−µE(β)2)1/2. Dans ce cas, le fibreE se met sous la forme: E = ⊕p

k=1Eα+

kavec

Eα+

k= v ∈ E | µE(X).v = α+

k (X)Jv, ∀X ∈ t.

Les sous-fibres Eα+

ksont T -invariants et J -stables, ils sont donc de rang pair et

orientes. La 2-forme RE laisse “stable” chacun des sous-fibres Eα+k: on note R+

k

la forme de A(M, so(Eα+

k)) definie comme la restriction de RE a Eα+

k.

En posant y =∑p

k=1 yk avec yk ∈ Eα+k

on trouve (µE(β).y, µE (Ei).y) =∑p

k=1 α+k (β)α+

k (Ei)‖yk‖2 et

r∑

i=1

(µE(β).y, µE (Ei).y)Ei =

p∑

k=1

α+k (β)‖yk‖2α+

k .

Pour calculer l’integrale (4.23) en un pointm, on considere une trivialisationde E au voisinage de m, orthonormee, dans laquelle on peut ecrire ∇E = d+Θ.On la choisit de facon a ce que la 1-forme de connexion Θ s’annule en m.

Sur Em on a l’egalite

dθβ = −p∑

k=1

((µE(β).dyk , dyk) + (µE(β).yk, R

E .yk)).

23

On exponentie la forme −idθβ, le terme de degre maximal sur la fibre s’ecrit

∀y ∈ Em,(

e−idθβ(y))

max= (2i)ndet1/2

o (µE(β))

p∏

k=1

(

ei(µE (β).yk, R

E .yk)dρk

)

,

ou 2n est le rang de E et dρk designe la forme volume euclidienne sur Ek |m.

On peut recrire pour tout φ ∈ C∞d.r(t

∗)

< F(Eul−1β (E)), φ >m= (2i)ndet1/2

o (µE(β))× (4.24)∫

y∈Em

φ

(p∑

k=1

α+k (β)‖yk‖2α+

k

)p∏

k=1

(

eiα+k (β)(J.yk, R

+k .yk)dρk

)

.

On note Sm(Eα+k) la sphere dans Eα+

k |mdes vecteurs de norme 1. Con-

siderons, pour k = 1, . . . , p, le changement de variable

ψk : R+ × Sm(Eα+

k) −→ Eα+

k |m

(z, vk) 7−→ (α+k (β))−1/2√z vk

dans l’integrale (4.24). On a ψ∗k(dρk)(z,v) = (α+

k (β))−nkznk−1dz ∧ dσk(v) oudσk est la forme volume sur Sm(Eα+

k) et 2nk est le rang du fibre Eα+

k. Ces

changements de variables permettent d’obtenir l’expression

< F(Eul−1β (E)), φ >= (2i)

rgE2 εβ

∫

(R+)p

P1(t1) · · ·Pp(tp)φ

(p∑

k=1

tkα+k

)

dt1 . . . dtp ,

ou εβ est le signe de det1/2o (µE(β)) et Pk le polynome sur R a valeurs dans A(M)

defini par l’equation

Pk(t) =1

2tnk−1

∫

S(Eα+k

)ei t(J.v,R

+k .v)dσk(v) .

Calcul du polynome Pk pour k ∈ 1, . . . , pPour trouver une expression simple du polynome Pk, on calcule de deux

facons la fonction κ(s) :=∫

R+ Pk(t)e−stdt definie pour tout s > 0.

En ecrivant Pk(t) =∑

i aiti, on obtient pour s > 0

κ(s) =∑

i

ai

∫

R+

tie−stdt =∑

i

ai

si+1i! . (4.25)

D’autre part

κ(s) =1

2

∫

R+×S(Eα+k

)tnke−st+ it(J.v,R+

k .v)dtdσk(v) ,

24

et en effectuant le changement de variable y =√tv on trouve, en utilisant (4.17)

κ(s) =

∫

Eα+k

e−s(y, y) + i(J.y,R+k .y)dy =

∫

Eα+k

e−(J.y, (sJ − iR+k ).y)dy

=πnk

det1/2o (J) det

1/2o (sJ − iR+

k )·

Soit V un espace vectoriel euclidien oriente muni d’une structure complexeJ . Soit End(VJ) les endomorphismes C-lineaires de V : ce sont ceux qui com-mutent avec J . Pour tout A ∈ so(V ) ∩ End(VJ), on a

det1/2o (J) det1/2

o (A) = detCVJ(−JA) .

Finalement

κ(s) =πnk

detCEα+k

(s−R+k )

.

On note que R+k est un endomorphisme hermitien de Eα+

ket un resultat classique

donne

1

detCEα+k

(s−R+k )

=1

snk

∑

i≤dimM/2

1

siTrSi

(Eα+

k)

((R+

k )⊗i). (4.26)

Dans cette formule, TrSi(Eα+

k)

est l’operateur “trace” sur les endomorphismes

complexes du fibre Si(Eα+

k), ce dernier etant compose des vecteurs de degre i

de l’algebre symetrique S(Eα+k).

En comparant les expressions (4.25) et (4.26) on obtient

Pk(t) = πnk

dimM2∑

i=0

TrSi(Eα+

k)

((R+

k )⊗i) tnk−1+i

(nk − 1 + i)!·

En utilisant l’egalite (4.22), on trouve

F(Eul−1β (E)) =

(2πi)rgE

2 εβ∑

I=(i1,...,ip)

TrSI(E )

((R+)⊗I

)(Hα+

1)i1+n1 ∗ (Hα+

2)i2+n2 ∗ · · · ∗ (Hα+

p)ip+np ,

avec pour I = (i1, . . . , ip)

S I(E) := S i1(Eα+1) ⊗ · · · ⊗ S il(Eα+

p)

(R+)⊗I := (R+1 )⊗i1 ⊗ · · · ⊗ (R+

p )⊗ip .

Si l’action de T sur E est effective les poids α+1 , · · · , α+

p engendrent t∗. Dansce cas, les mesures (Hα+

1)i1+n1 ∗ · · · ∗ (Hα+

p)ip+np sont localement polynomiales

et supportees par le cone R+α+

1 + . . .+ R+α+

p . On a demontre la

25

Proposition 4.8 Soit E → M un fibre euclidien oriente sur une variete Mconnexe. Soit T un tore qui agit sur ce fibre en preservant la structure euclidi-enne. On suppose que ET = M et on se donne un element β ∈ t tel que E(βE ) =M . Soit Eul−1

β (E) ∈ A−∞T (M) la forme T -equivariante fermee a coefficients

generalises introduite a la Definition 4.5. On polarise les poids ±α1, · · · ,±αpde l’action de T sur les fibres de E en posant: α+

i (β) > 0 ∀i = 1, . . . , p . Onnote Cβ := R

+α+1 + . . .+ R

+α+p .

La mesure temperee F(Eul −1β (E)) verifie

F(Eul−1β (E)) =

(2πi)rgE

2 εβ∑

I=(i1,...,ip)

TrSI(E)

((R+)⊗I

)(Hα+

1)i1+n1 ∗ · · · ∗ (Hα+

p)ip+np ,(4.27)

ou εβ est le signe de det1/2o (µE(β)) et 2nk est le rang du fibre Eα+

k. La mesure

F(Eul−1β (E)) est nulle en dehors du cone Cβ et, si l’action de T sur M est

effective, c’est une mesure continue, localement polynomiale de Cβ dans A(M).

5 Formule d’Atiyah-Bott et Berline-Vergne

5.1 Formule de Localisation

Considerons un groupe de Lie G compact et connexe agissant sur une varietecompacte M . Soient β ∈ g et G(β) le sous-groupe de G stabilisateur de β. SoitMβ est la sous-variete des points ou le champ de vecteurs βM s’annule. Si Fest une composante connexe de M β, et NF son fibre normal dans M , la formeEul−1

β (NF ) ∈ H−∞G(β)(F ) est bien definie.

Theoreme 5.1 Decomposons M β en somme de composantes connexes F . Nousavons le diagramme commutatif suivant

H∞G(β)(M)

I

((R

R

R

R

R

R

R

R

R

R

R

R

R

R

R

R

R

R

R

R

R

R

R

Λβ// H−∞

G(β)(Mβ) = ⊕FH−∞

G(β)(F )

(iβ)∗

H−∞G(β)

(M)

(5.28)

ou iβ = ⊕F iF : Mβ →M est l’inclusion, et

Λβ(η) = ⊕F i∗F (η) Eul −1

β (NF ) .

Le reste de cette sous-section est consacree a la demonstration de ce theoremequi est une realisation du procede de localisation explique a la section 3 en util-isant la forme λβ := (βM , .)M (voir l’exemple 1 de la sous-section 3.3). En fait,pour simplifier ce calcul nous allons modifier la forme λβ au voisinage de Mβ

26

en une 1-forme λmod et appliquer le procede de localisation avec cette 1-forme.Il nous restera ensuite a montrer que Λβ(1M ) =

∑

F Eul−1β (NF ).

Modification de λβ

On se place sur un voisinage tubulaire UF d’une composante connexe F deMβ. On peut supposer l’existence d’un voisinage WF de la section nulle dansle fibre normal NF et d’un isomorphisme G(β)-invariant, ψF , de WF sur UF ,tel que:

ψF (m, 0) = m pour m ∈ F .

On reprend les notations de la sous-section 4.2. On fixe sur le fibre normalNF un produit scalaire G(β)-invariant et on note θβ

F := (βNF, V ) la 1-forme sur

NF associee.

On se propose maintenant de modifier la forme de localisation λβ en λmod

sans changer l’endroit ou les formes equivariantes fermees sont localisees.Les ouverts UF ont ete definis precedemment. Quitte a les restreindre, on

peut supposer qu’ils sont disjoints.Soit U ′

F le voisinage de F dans M defini par: U ′F = ψF (1

2WF ) ou le terme12 represente une contraction de facteur 1/2 sur les fibres de NF .

Au moyen de l’ouvert Uext = M−∪FU ′F , on realise une partition de l’unite

(UF , χF )F , (Uext, χext)

de la variete M . Pour toute composante connexe F , les fonctions χF sontpositives, a support dans UF , G(β)-invariantes et egales a 1 sur U ′

F . La fonctionχF est positive, a support dans Uext, G(β)-invariante et elle verifie l’equation:

∑

F

χF + χext = 1 . (5.29)

On peut maintenant definir la forme λmod et montrer qu’elle localise encoreles formes G(β)-equivariantes fermees sur M β.

Proposition 5.2 Considerons la forme λmod definie par l’equation

λmod := χextλβ +∑

F⊂Mβ

χF (ψ−1F )∗(θβ

F ) ,

ou la somme est prise sur les composantes connexes F de M β. La forme λmod

est G(β)-invariante et determine la meme localisation que la forme λβ: en parti-culierΦλmod

= 0 = Mβ.

Demonstration: Soit F une composante connexe deM β : la forme (ψ−1F )∗(θβ

F )est definie sur l’ouvert UF , tandis que la fonction χF a son support dans UF .Les formes χF (ψ−1

F )∗(θβF ) sont donc definies et G(β)-invariantes sur M .

Considerons la fonction f : M → g(β) constante, egale a β. Montrons queλβ, λmod et f verifient les hypotheses de la Proposition 3.11: notre propositionsera demontree.

27

On voit tout d’abord que 〈Φλβ, β〉 = ‖βM‖2 est strictement positive M−M β

et que Mβ ⊂ Φλmod= 0.

D’autre part, la fonction 〈Φλmod, β〉 se decompose en somme de fonctions

positives

〈Φλmod, β〉 = χext‖βM‖2 +

∑

F⊂Mβ

χF‖βNF‖2 ψ−1

F . (5.30)

Supposons 〈Φλmod, β〉 nulle en m, alors

χext(m)‖βM‖2(m) = 0

χF (m)‖βNF‖2 ψ−1

F (m) = 0 pour tout F ⊂Mβ .

Considerons la premiere egalite:− Soit ‖βM‖2(m) = 0, ce qui implique m ∈M β.− Soit χext(m) = 0. Il existe donc, d’apres (5.29), une composante connexe

F de Mβ telle que χF (m) 6= 0. Ceci entraine m ∈ UF et ‖βNF‖2 ψ−1

F (m) = 0.Cette derniere egalite implique m ∈ F : dans tous les cas m ∈M β.

On a donc demontre que l’ application Φλmodest nulle sur Mβ, et que la

fonction 〈Φλmod, β〉 est strictement positive sur M −M β.

Nous effectuons maintenant la localisation avec la forme λmod. On a montredans la section 3 comment cette forme definit un morphisme Λβ : H∞

G(β)(M) →H−∞

G(β)(Mβ). Il nous reste a calculer Λβ(1M ). Nous avons Λβ(1M ) =

∑

F ΛF etΛF = lima→+∞ Λa

F avec

ΛaF =

∫

NF /FχF e

−iaDθβF + iD

(∫ a

0

(∫

NF /FχF e

−itDθβF θβ

F

)

dt

)

.

La Remarque 4.4 montre que∫

NF /F χF e−itDθβ

F θβF = 0 pour tout t ∈ R, et donc

que

ΛaF =

∫

NF /F χF e−iaDθβ

F pour tout a ∈ R. Considerons la contraction δa, a > 0sur NF definie par

δa(m, v) = (m,v√a) pour m ∈ F et v ∈ NF |m .

La forme θβF a une dependance quadratique dans les fibres: a (δa)

∗(θβF ) = θβ

F .

En effectuant le changement de variable δa dans l’integrale∫

NF /F χF e−iaDθβ

F ,on trouve ∫

NF /FχF e

−iaDθβF =

∫

NF /FχF δa e−iDθβ

F

et donc que

lima→+∞

∫

NF /FχF e

−iaDθβF =

∫

NF /Fe−iDθβ

F ,

car χF = 1 au voisinage de la section nulle.

Finalement nous avons ΛF =∫

NF /F e−iDθβ

F . La forme ΛF est egale a

l’inverse de la classe d’Euler, Eul −1β (NF ), definie a la sous-section 4.2.

28

5.2 Polynomes de Duistermaat-Heckman

Considerons l’action hamiltonienne d’un tore T sur une variete symplectiquecompacte (M,Ω). On note µ : M → t∗ l’application moment, et Ωt(X) :=Ω + 〈µ,X〉 la forme symplectique equivariante associee. Soit dmL := Ωn

n! lamesure de Liouville sur M (avec dimM = 2n). L’image directe µ∗(dmL) de lamesure dmL par l’application moment verifie

µ∗(dmL) =1

inF(∫

MeiΩt

)

,

ou F est la transformee de Fourier.Dans [10], Duistermaat et Heckman montrent que la mesure µ∗(dmL) se met

sous la forme µ∗(dmL) = f(ξ)dξ, ou f est une fonction localement polynomialesupportee par µ(M).

Soit β ∈ t tel que Mβ = MT . Appliquons le Corollaire 3.10, associe auTheoreme 5.1, au calcul de la fonction

∫

M eiΩt(X). Nous obtenons∫

MeiΩt(X) =

∑

F⊂MT

ei〈µ(F ),X〉

∫

FeiΩF Eul−1

β (NF )(X) , (5.31)

ou ΩF est la 2-forme symplectique induite par Ω sur la sous-variete F .Prenons la transformee de Fourier de l’egalite (5.31):

µ∗(dmL) =1

in

∑

F⊂MT

δµ(F ) ∗(∫

FeiΩF F(Eul−1

β (NF ))

)

,

ou δµ(F ) designe la mesure de Dirac en µ(F ) ∈ t∗ et “∗” est le produit deconvolution.

Nous gardons les notations de la sous-section 4.3. En appliquant la Proposi-tion 4.8 a chaque fibre NF , nous obtenons une expression de la mesure µ∗(dmL)similaire a celle donnee par Canas da Silva et Guillemin dans [8] (voir leTheoreme 2).

Proposition 5.3 La mesure µ∗(dmL) admet la decomposition

µ∗(dmL) = (2π)dimM

2

∑

F,I

cβF,I δµ(F ) ∗ (Hα+1,F

)i1+n1 ∗ · · · ∗ (Hα+pF ,F

)ipF+np

F ,

(5.32)

ou les constantes cβF,I ∈ C verifient

cβF,I =εFβ

(2πi)dimF

2

∫

FeiΩF TrSI

(NF )

((R+

F )⊗I).

Dans la premiere egalite, la somme est prise sur les composantes connexes Fde MT , et ensuite sur les multi-indices I = (i1, . . . , ip

F) ∈ N

pF . On note

α+1,F , . . . , α

+pF ,F les poids distincts pour l’action de T sur NF , “polarises” au

moyen de β, et 2nk le rang du fibre NF,α+

k,F. Dans la deuxieme egalite, le terme

εFβ est le signe de det1/2o (µNF (β)).

29

Remarque: la somme dans l’egalite (5.32) est finie puisque cβF,I = 0 si 2|I| >

dimF (avec |I| =∑

k ik).

Remarquons que chaque terme δµ(F ) ∗ (Hα+1,F

)i1+n1 ∗ · · · ∗ (Hα+p,F

)ipF+np

F est

une mesure “localement polynomiale” supportee par le cone µ(F ) + R+α+

1,F +

. . .+ R+α+

pF ,F .

Lorsque l’ensemble MT des points fixes est fini, on retrouve l’expression

µ∗(dmL) = (2π)dimM

2

∑

F

εFβ δµ(F ) ∗ (Hα+1,F

)n1 ∗ · · · ∗ (Hα+pF ,F

)npF

obtenue dans [13].

6 Localisation dans le cas d’une action hamiltoni-

enne d’un tore

Soit (M,Ω) une variete symplectique compacte connexe munie de l’action hamil-tonienne d’un tore T . On note t l’algebre de Lie de T et t∗ l’espace vectorieldual. Soit µ : M → t∗ l’application moment associee a cette action. C’est uneapplication T -equivariante determinee (a une constante pres) par l’equation

d〈µ,X〉 = c(XM )Ω ,∀ X ∈ t, (6.33)

ou 〈·, ·〉 correspond aux crochets de dualite entre t∗ et t. L’action de T sur t∗

etant triviale les applications

µε := µ− ε, ε ∈ t∗

sont encore des applications moment.Pour toute fonction C∞, f : M −→ R, on notera Cr(f) = m ∈M,dfm = 0

l’ensemble de ses points critiques.Nous faisons le choix d’un produit scalaire sur t∗ et suivant l’idee de Witten

[25], on applique le procede de localisation avec la forme λε definie ci-dessous.

Definition 6.1 Soit ε ∈ t∗. On designe par λε la 1-forme T -invariante suiv-ante

λε = (Hε, ·)M ,

ou Hε est le champ de vecteurs hamiltonien de la fonction 12‖µε‖2 et (·, ·)M est

une metrique riemannienne T -invariante sur M .

Considerons une base orthonormee E i, i = 1, · · · , r de t, et notons Ei, i =1, · · · , r la base duale. Nous avons

Hε =r∑

i=1

〈µε, Ei〉Ei

M et Φλε =r∑

i=1

(Hε, EiM )MEi . (6.34)

30

Comme j−1(µε) =∑r

i=1〈µε, Ei〉Ei, on voit que le champ de vecteurs Hε

verifie ‖Hε‖2M = 〈Φλε , j−1(µε)〉. Ainsi pour tout m ∈ M , Φλε(m) = 0 en-

traine ‖Hε‖M (m) = 0. L’egalite de droite dans l’equation (6.34) montre,reciproquement, que si Hε

m = 0 alors Φλε(m) = 0.

Comme Hεm = 0 ⇔ d(‖µε‖2)m = 0, on constate que

Φλε = 0 = Cr(‖µε‖2) .

On constate donc que la 1-forme λε va localiser les formes equivariantes surCr(‖µε‖2). Pour faciliter le calcul de cette localisation nous modifions λε enune 1-forme λmod et effectuons le calcul avec cette nouvelle 1-forme.

Nous montrons dans le premier paragraphe que pour ε ∈ t∗ generique, lespoints critiques de ‖µε‖2 forment une sous-variete (non-connexe) lisse de M .Nous effectuons le calcul de la localisation aux paragraphes suivants.

6.1 Points critiques

Dans une premiere partie nous rappelons la structure des points critiques de lafonction moment [1, 15], et definissons un ensemble d’indices B qui nous permetensuite, en suivant Kirwan [18], de definir une partition des points critiques de‖µε‖2.

Finalement, nous montrons l’existence d’un ouvert W dense de t∗ tel quepour tout ε dans W , les points critiques de la fonction ‖µε‖2 forment une sous-variete fermee de M .

6.1.1 Les points critiques de la fonction moment

Generalement, pour une fonction differentiable f : M → N , un pointm ∈Mest dit critique si l’application tangente Tmf : TmM → Tf(m)N n’est passurjective. Dans le cas de l’application moment, Tmµ n’est pas surjective s’ilexiste X ∈ t − 0 tel que 〈Tmµ,X〉 = 0: d’apres l’egalite (6.33) c’est le cas siXM (m) = 0. Ainsi l’element m ∈ M est un point critique de la fonction µ siet seulement si le stabilisateur de m, Stab(m), contient un sous-tore de T dedimension 1. Par exemple, lorsque l’action du tore n’est pas effective, tous lespoints de M sont des points critiques de µ.

Nous donnons, dans le cas de l’application moment, une definition modifiee.Le sous-groupe SM := ∩m∈M Stab(m) est appele stabilisateur generique. SisM est l’algebre de Lie de SM , on constate d’apres (6.33) que µ envoie Mdans un sous-espace affine AM qui a pour direction vectorielle (sM )⊥ := ξ ∈t∗| 〈ξ,X〉 = 0, ∀X ∈ sM. L’action de T sur la variete M est dite quasi-effectivesi SM est fini.

Definition 6.2 Les points critiques de l’application moment sont, par definition,les points critiques (pour l’ancienne definition) de l’application moment re-streinte µ : M → AM : ce sont les points m ∈M tels que le groupe Stab(m)/SM

n’est pas fini.

31

Voici les notations utilisees par la suite:

• pour A ⊂ t∗, on note Aff(A) (resp. conv(A)) le sous-espace affine de t∗

engendre par A (resp. l’enveloppe convexe de A) et−→A designe la direction

vectorielle de ce sous-espace affine.

• pour A ⊂ t∗, on note (−→A )⊥ ( ou plus simplement A⊥) l’ensemble des

vecteurs de t orthogonaux a−→A .

• pour P ⊂ t∗, TP est le sous-tore de T engendre par Exp(P⊥) .

L’ensemble des valeurs critiques de la fonction µ est (par definition) l’imagedes points critiques: c’est donc la reunion ∪SM⊂T ′µ(MT ′

) ou l’union est prisesur tous les sous-tores T ′ de T tels que T ′/SM n’est pas fini.

Soit a une valeur reguliere de µ. Dans ce cas, pour tout m ∈ µ−1(a) legroupe Stab(m)/SM est fini: µ−1(a) est une sous-variete de M sur laquelle legroupe T/SM agit localement librement.

Pour obtenir une description plus precise des points critiques nous avonsbesoin du theoreme de convexite d’Atiyah-Guillemin-Sternberg [1, 15].

Theoreme 6.3 (Atiyah-Guillemin-Sternberg) Soit (N,ΩN ) une variete sym-plectique compacte et connexe, munie de l’action hamiltonienne d’un tore G.Soit µ : N → Lie(G)∗ l’application moment. Alors

1. L’image de l’application moment, µ(N), est egale a l’enveloppe convexedu sous-ensemble µ(F ), F composante connexe de NG.

2. Pour tout a ∈ Lie(G)∗, la fibre µ−1(a) est connexe.

Notons que l’application moment est constante sur chaque composante con-nexe de MT , ainsi µ(MT ) est un ensemble fini de points de t∗.

Soit T ′ un sous-tore de T contenant SM et tel que T ′/SM ne soit pas fini.Chaque composante connexe Z de M T ′

est une sous-variete symplectique deM qui est munie de la 2-forme symplectique restreinte Ω|Z et de la restrictionµ|Z de l’application moment µ. En appliquant le Theoreme 6.3 a (Z,Ω|Z) onvoit que µ(Z) est un polytope convexe P de t∗ egal a l’enveloppe convexe deµ(F), F composante connexe de ZT . Soit X ∈ t, on a les egalites suivantes:

Exp(s.X); s ∈ R agit trivialement sur Z ⇔ 〈µ,X〉 est constant sur Z⇔ X ∈ P⊥ .

Ces equivalences permettent de voir que l’algebre de Lie de T ′ est inclusedans P⊥ et que l’algebre de Lie de TP est egale a P⊥: on a donc Z ⊂ MTP ⊂MT ′

. On en conclut que Z est une composante connexe de M TP sur laquelleT/TP agit quasi-effectivement, ou dit autrement, le stabilisateur generique deZ est un sous-groupe de T dont la composante connexe (de l’element neutre)est egale a TP . Notons que dimP = dim t − dim tP < dim t − dim(Lie(SM )) =dim(µ(M)).

32

Definition 6.4 On note B′ l’ensemble defini par

B′ = P polytope convexe de t∗ | ∃ Z composante connexe de MTP avec µ(Z) = P .

D’apres le Theoreme 6.3, chaque element de B ′ est une enveloppe convexede points de µ(MT ). La compacite de M impose que M T soit une reunion finiede sous-varietes de M . L’ensemble B ′ correspond donc a une collection finiede polytopes de t∗. On remarque, en particulier, que B ′ ne possede qu’un seulpolytope de dimension maximale, c’est a dire µ(M).

On note t∗reg l’ensemble des points de t∗ , reguliers pour l’application mo-ment. On vient de montrer l’egalite suivante:

t∗reg = t∗ −⋃

P∈B′

P 6=µ(M)

P . (6.35)

Proposition 6.5 1. Soit P ∈ B′ et Z une composante connexe de M TP telleque µ(Z) = P ; alors T/TP agit quasi-effectivement sur Z.

2. Si P ∈ B′, l’algebre de Lie de TP est egale a P⊥.

3. L’ensemble B′ contient toutes les faces du polytope µ(M). De manieregenerale, si P est un polytope de B ′ alors les faces de P sont encore dansB′.

Demonstration de 1. et 2.: Cela a ete demontre auparavant.Demonstration de 3.: Soit P une face du polytope µ(M). Dans ce cas

l’ensemble µ−1(P ) est une composante connexe de M TP . Pour s’en assurer,considerons le cone C := X ∈ t | 〈ξ − ξ ′, X〉 ≥ 0,∀ξ ∈ P,∀ξ′ ∈ µ(M). Onvoit que pour tout point β dans l’interieur du cone C la fonction 〈µ, β〉 prendson maximum sur µ−1(P ): on a donc µ−1(P ) ⊂ Mβ et µ−1(P ) = 〈µ, β〉−1(sβ)avec sβ = supM 〈µ, β〉. Ceci permet de voir que µ−1(P ) est une composanteconnexe de Mβ (cf. [7]). Comme C engendre P⊥, on conclut que µ−1(P ) estune composante connexe de MTP .

Dans le cas general d’un polytope P ∈ B ′, on procede de la meme faconavec la sous-variete symplectique Z de M telle que µ(Z) = P . Soit P ′ une facede P . On montre alors que Z ′ = (µ|Z)−1(P ′) est une composante connexe de

MTP ′ telle que µ(Z ′) = P ′, et donc que P ′ ∈ B′.

Dans la prochaine section nous etudions pour quelles valeurs de ε ∈ t∗ lespoints critiques de la fonction ‖µε‖2 forment une sous-variete de M .

6.1.2 Les points critiques de la fonction ‖µε‖2

Le produit scalaire sur t∗ induit un isomorphisme lineaire j : t → t∗.Dans la suite de cette section nous considerons deux formes d’orthogonalite:l’orthogonalite issue de la dualite entre t et t∗ et la j-orthogonalite definie aumoyen du produit scalaire.

33

Definition 6.6 Pour ε ∈ t∗ et A un sous-espace affine de t∗, β(ε,A) est leprojete orthogonal de ε sur A.

Introduisons un ensemble B qui sera par la suite l’ensemble des indices d’unepartition de l’ensemble Cr(‖µε‖2).

Definition 6.7 On notera B la collection de sous-espaces affines de t∗ donneepar

B := Aff(P ), P ∈ B′ .

Pour tout ∆ de B, nous noterons T∆ le sous-tore de T engendre par Exp(∆⊥).On sait d’apres le point 2) de la Proposition 6.5 que T∆ = Exp(∆⊥).

L’ensemble B nous renseigne sur les types d’orbites de M sous l’action deT . Soit T1 un sous-groupe ferme de T et MT1

:= m ∈ M | Stab(m) = T1 ⊂MT1 . Si Z est une composante connexe de M T1 telle que Z ∩MT1

6= ∅, lestabilisateur generique de Z est egal a T1. L’image µ(Z) est un polytope de B′

et ∆ := Aff(µ(Z)) est un sous-espace affine de B qui verifie

(−→∆)⊥ = Lie(T1) ,

c’est a dire que le sous-tore T∆ est egal a la composante connexe (de l’elementneutre) du sous-groupe T1.

Le champ de vecteurs hamiltonien Hε associe a la fonction 12‖µε‖2 verifie:

Hεm =

(j−1(µ(m) − ε)

)

|M(m) , m ∈M.

Voici une premiere description des points critiques de ‖µε‖2:

Cr( ‖µε‖2) = M(Hε) =⋃

β∈t∗

M(j−1(β − ε)) ∩ µ−1(β) . (6.36)

Demonstration: on a d(‖µε‖2)m = Ω(Hεm, .) et donc m ∈ Cr(‖µε‖2) si et

seulement si j−1(µ(m) − ε)|M (m) = 0, c’est a dire m ∈ M(j−1(β − ε)) avecβ = µ(m).

Dans la proposition suivante, nous rappelons le resultat de Kirwan [18] quimontre que l’union dans l’egalite (6.36) est en fait finie, mais nous indexonsdifferemment les composantes de Cr(‖µε‖2).

Proposition 6.8 (Kirwan) Pour tout ε ∈ t∗, on a

Cr(‖µε‖2) =⋃

∆∈B

MT∆ ∩ µ−1(β(ε,∆)) .

Demonstration de l’inclusion “⊂”: On utilise l’ egalite (6.36). Soientm ∈M(j−1(β − ε)) ∩ µ−1(β) et Zβ la composante connexe de M(j−1(β − ε))contenant m. Comme Zβ est une sous-variete symplectique de M , le Theoreme

34

6.3 assure que µ(Zβ) = P est un polytope convexe. De plus, pour tout vecteurX de P⊥, m 7−→ 〈µ(m), X〉 est constant sur Zβ; ce qui implique

Zβ ⊂MTP ⊂M(j−1(β − ε)) .

On voit alors que Zβ est en fait une composante connexe de M TP . Ceci montreque P ∈ B′, et notons ∆ := Aff(P ) le sous-espace affine de B associe. Commele vecteur β − ε est j-orthogonal a ∆ et β ∈ ∆, on a β = β(ε,∆) et finalementm ∈MT∆ ∩ µ−1(β(ε,∆)).

Demonstration de l’inclusion “⊃”: Elle est evidente puisqueM T∆ ⊂M(j−1(β−ε)) pour β = β(ε,∆).

On suppose maintenant que le produit scalaire (·, ·) est fixe et on chercheles valeurs de ε pour lesquelles les sous-ensembles M T∆ ∩ µ−1(β(ε,∆)), ∆ ∈ Bforment une collection de sous-varietes disjointes de M .

On note B′∆ := P ∈ B′, P ⊂ ∆ et dimP < dim∆. Soient ∆reg l’ouvert

de ∆ defini par

∆reg = ∆ −⋃

P∈B′∆

P , (6.37)

et MT∆

red = MT∆∩µ−1(∆) la reunion des composantes connexes Z de M T∆ tellesque µ(Z) ⊂ ∆.

Pour que MT∆ ∩ µ−1(β(ε,∆)) = MT∆

red ∩ µ−1(β(ε,∆)) soit une sous-varietede M , il suffit que β(ε,∆) soit une valeur reguliere de l’application momentrestreinte a MT∆

red:

µ|M

T∆red

: MT∆

red −→ ∆ .

Sim ∈MT∆

red est un point singulier de µ|M

T∆red

, alors m ∈MT ′

avec T∆ ⊂ T ′ et

dim(T∆) < dim(T ′). Dans ce cas µ(m) ∈ P ou P est un polytope de B ′ contenudans ∆, et de dimension strictement inferieure, autrement dit µ(m) 6∈ ∆reg.Ainsi, si β ∈ ∆reg, l’image reciproque µ−1

|MT∆red

(β) = MT∆ ∩ µ−1(β) est une sous-

variete (non necessairement connexe) de M sur laquelle le groupe T/T∆ agitlocalement librement.

Remarquons que l’egalite (6.37) coincide, dans le cas d’une action quasi-effective, avec l’egalite (6.35) en prenant ∆ = t∗.

Pour tout ∆ ∈ B, notons W∆ l’ouvert de t∗ defini par l’egalite W∆ =∆reg + j(t∆).

Proposition 6.91) Pour tout ε ∈ W∆, M

T∆ ∩ µ−1(β(ε,∆)) est une sous-variete (peut-etrevide) de M sur laquelle le groupe T/T∆ agit localement librement.

2) L’ouvert W := ∩∆∈BW∆ est dense dans t∗ et pour tout ε ∈W les sous-varietes

Cε∆ := MT∆ ∩ µ−1(β(ε,∆)), ∆ ∈ B,

forment une partition de Cr(‖µε‖2).

35

Demonstration: 1) Par definition, si ε ∈W∆ alors β(ε,∆) appartient a ∆reg

et donc MT∆ ∩ µ−1(β(ε,∆)) est une sous-varitete de M .2) Pour chaque ∆ ∈ B l’ouvert W∆ est dense dans ∆: l’ensemble B etant

fini, l’ouvert W est dense dans t∗.Fixons ε ∈ W . Soient ∆1,∆2 ∈ B et m ∈ Cε

∆1∩ Cε

∆2. Les groupes

Stab(m)/T∆1et Stab(m)/T∆2

sont tous les deux finis, ce qui donne Lie(T∆1) =

Lie(Stab(m)) = Lie(T∆2) et par suite T∆1

= T∆2. Comme β(ε,∆1) = β(ε,∆2) ∈

∆1 ∩ ∆2 on a pour finir ∆1 = ∆2. Les sous-varietes Cε∆, ∆ ∈ B sont donc dis-

jointes.

subsubsectionExempleSoit M une orbite coadjointe de dimension 6 de SU(3), et T le tore maximal

de SU(3). On identifie t∗ a R2 (muni de sa structure euclidienne usuelle), et

on note µ : M → R2 l’application moment associee a l’action de T sur M .

L’image de l’application moment est un hexagone ( voir Figure 1) ou les sommetA,B,C,D,E, F sont l’image par µ des points fixes M T .

A

B

D

E

F

C

Figure 1

On verifie que

B′ = faces de µ(M)⋃

[AD], [BE], [FC] .

Ici B ∼= B′ car les polytopes de B′ engendrent des sous-espaces affines distincts.Dans la Figure 2, l’ouvertW defini a la Proposition 6.9 est le complementaire

des droites (en traits pleins) et des segments (en traits pointilles).Considerons, comme dans la Figure 3, e = ε ∈W . Pour ∆ ∈ (AB), (CD), (EF ),

les composantes Cε∆ sont vides car les projections β(ε,∆) ne sont pas dans

l’image de µ. Pour ∆ = t∗, on a Cεt∗ = µ−1(ε), et si m ∈ A,B,C,D,E, F,

Cεm = µ−1(m) est un point de MT . Pour les autres ∆ ∈ B, on a represente

sur la Figure 3 les projections β(ε,∆) (notees en fait b(e,∆)).Dans cet exemple, on peut verifier que les V-varietes Mε

∆ sont pour tout∆ 6= t∗, soit vides, soit reduites a un point.

36

Figure 2

A

B

CD

E

F

e

b(e,DE)

b(e,BC)

b(e,AD)

b(e,FC)

b(e,EB)

b(e,FA)

Figure 3

6.2 Modification de la forme λε

Nous fixons pour le reste de cette section un element ε ∈W .Pour effectuer la localisation nous allons proceder de la meme facon qu’a la

section 5. Nous modifions la forme λε au voisinage de chaque Cε∆ et formons

une nouvelle 1-forme λmod qui localisera encore les formes equivariantes fermeessur Cr(‖µε‖2).

37

Pour chaque ∆ ∈ B, nous faisons le choix d’un supplementaire de t∆ dans t

que l’on note t/t∆, tel que l’on ait une decomposition T = T∆×T/T∆ ou T/T∆

designe le sous-tore de T d’algebre de Lie t/t∆.On sait, d’apres la Proposition 6.9, que le groupe T/T∆ agit localement

librement sur Cε∆. En consequence on peut choisir la structure riemannienne

de M de telle facon que, pour tout E ∈ t/t∆, la fonction m→ (EM , EM )M (m)soit constante au voisinage de Cε

∆, egale a ‖E‖2t .

Dans la suite de cette partie on se place sur un voisinage tubulaire U∆ deCε

∆ dans M .Soit N(Cε

∆ ⊂ M) le fibre normal de Cε∆ dans M . Il se decompose en la

somme de deux fibres: N 1∆ ⊕N2

∆ avec

N1∆ := Fibre normal de Cε

∆ dans MT∆

N2∆ := Fibre normal de MT∆ dans M, restreint a Cε

∆ .

On peut supposer (quitte a modifier U∆) qu’il existe un diffeomorphismeT -invariant, note ψ1

∆, d’un voisinage W ′∆ de la section nulle de N(Cε

∆ ⊂ M)sur l’ouvert U∆ de M tel que

ψ1∆(m, 0) = m pour m ∈ Cε

∆ (6.38)

Tψ1∆|Cε

∆= Id l’isomorphisme canonique TW ′

∆|Cε∆→ TM|Cε

∆.

Ensuite, nous remarquons que le fibre N 1∆ est trivial au dessus de Cε

∆. Aumoyen de l’application moment, nous realisons l’isomorphisme de fibre

ψ2∆ : N2

∆ ×N1∆ −→ N2

∆ ×−→∆ (6.39)

(m,w, v) 7−→ (m,w,Tµm(v)) ,

ou−→∆ est la direction vectorielle du sous espace affine ∆ de t∗.On note N∆ = N2

∆ ×−→∆, le fibre euclidien sur Cε

∆ ou le produit scalaire sur

les fibres de N 2∆ est induit par la metrique sur M , tandis que sur

−→∆ nous avons

le produit scalaire provenant du produit scalaire de t∗.On pose W∆ = ψ2

∆(W ′∆) et on note ψ∆ := ψ1

∆ (ψ2∆)−1 l’isomorphisme

T -invariant du voisinage ouvert W∆ de Cε∆ dans N∆ sur le voisinage tubulaire

U∆:ψ∆ : W∆ ⊂ N∆

∼−→ U∆ ⊂M . (6.40)

Nous allons definir sur N∆ une 1-forme T -invariante λ∆ que nous releverons,a travers l’isomorphisme ψ∆, en une 1-forme sur U∆. Nous avons besoin du

Lemme 6.10 Soient ε ∈ W et ∆ ∈ B. L’isomorphisme j : t → t∗ permet dedefinir le vecteur β∆ = j−1(β(ε,∆) − ε) de t∆. Le champ de vecteurs sur N 2

∆

engendre par β∆ s’annule exactement sur Cε∆, c’est a dire

Cε∆ = MT∆ ∩ µ−1(β(ε,∆)) = M(β∆|M) ∩ µ−1(β(ε,∆)) .

38

Demonstration: Supposons le contraire: N 2∆(β∆|N2

∆) 6= Cε

∆. Cela signifie

qu’au voisinage de Cε∆ nous avons l’inclusion stricte M T∆ ⊂M(β∆|M). Il existe

donc une composante connexe Z de M T∆ telle que µ(Z) = P, Aff(P ) = ∆ etune composante connexe Z ′ de M(β∆|M ) qui contient strictement Z. On voitalors que P ⊂ P ′ = µ(Z ′) ou P ′ est un polytope de B′ de dimension strictementsuperieure a celle de P : sinon Z ′ serait dans MT∆ et donc egal a Z, ce qui estexclu.

Le parametre ε est choisi dansW , ce qui implique a fortiori ε ∈W∆′ , Aff(P ′) =∆′: cette hypothese impose que β(ε,∆′) 6∈ P1 pour tout polytope P1 ⊂ P ′ de di-mension strictement inferieure a P ′. Nous aboutissons donc a une contradictionpuisque β(ε,∆′) = β(ε,∆) ∈ P .

Le groupe T/T∆ agit localement librement sur le fibre vectoriel N 2∆ → Cε

∆:

considerons, sur ce fibre, une connexion euclidienne T -invariante ∇N2∆ qui est

T/T∆-horizontale:

∀ Y ∈ t/t∆, µN2∆(Y ) = 0 .

On rappelle que cette connexion donne une decomposition de l’espace tan-gent TN 2

∆ en sous-espace vertical V N 2∆ et sous-espace horizontalHN 2

∆: TN2∆ =

V N2∆ ⊕HN2

∆. Cet decomposition induit une projection V : TN2∆ → V N2

∆.

Definition 6.11 Soit (·, ·)o la structure euclidienne sur le fibre vectoriel N 2∆.

On note θβ∆la 1-forme T -invariante et T/T∆-basique de A(N 2

∆) definie parθβ∆

(Z) := (β∆|N2∆, ZV )o pour tout champ de vecteurs Z sur N 2

∆.

La forme θβ∆est bien definie car le champ de vecteurs β∆|N2

∆est vertical.

Cette forme est T -invariante car le champ de vecteurs β∆|N2∆, la projection V

et le produit scalaire (·, ·)o sont T -invariants. De plus, elle est T/T∆-basiquecar pour tout Y ∈ t/t∆ nous avons:

θβ∆(YN2

∆)(m,w) =

(

µN2∆(β∆)|m.w, µ

N2∆(Y )|m.w

)

o= 0 .

Dans cette egalite on se sert du fait que pour X ∈ t, la partie verticale duchamp de vecteurs XN2

∆en (m,w) ∈ N 2

∆ est egale a −µN2∆(X)|m.w ∈ N2

∆|m.

L’espace quotient Mε∆ := Cε

∆

/

(T/T∆) possede une structure de V-variete

[22]. Soit F 1, . . . , F r2 une base orthonormee de t/t∆. La structure riemanniennesur M permet de definir une 1-forme de connexion σ∆ ∈ A1(Cε

∆) ⊗ t/t∆ sur leV-fibre principal Cε

∆ → Mε∆, comme restriction de

r2∑

i=1

(F iM , · )MF i ∈ A1(M) ⊗ t/t∆

sur la sous-variete Cε∆. On decompose la connexion σ∆ :=

∑

1≤k≤r2σk ⊗ F k

avec σk ∈ A1(Cε∆)T , et on definit une 1-forme γ∆ sur Cε

∆ ×−→∆ en posant

pour (m, ξ) ∈ Cε∆ ×−→

∆ , γ∆(m,ξ) =

r2∑

k=1

σk |m〈ξ, F k〉 . (6.41)

39

Les projections N∆ → Cε∆ × −→

∆ et N∆ → N2∆ definissent les injections

A(Cε∆ ×−→

∆) → A(N∆) et A(N 2∆) → A(N∆).

Les formes θβ∆et γ∆ introduites dans la Definition 6.11 et l’equation (6.41)

appartiennent a A1(N∆), et permettent de definir sur N∆ la forme λ∆ ∈A1(N∆):

Definition 6.12 On note λ∆ la 1-forme T -invariante sur N∆ definie par

λ∆ = θβ∆+ γ∆ .

C’est a dire: ∀ (m,w, ξ) ∈ N 2∆ ×−→

∆, λ∆(m,w,ξ) = θβ∆(m,w) + 〈ξ, σ∆|m〉 .

L’application Φλ∆admet la decomposition Φλ∆

= Φθβ+Φγ∆

, avec ∀ (m,w, ξ) ∈N2

∆×−→∆, Φγ∆

(m,w, ξ) = ξ et 〈Φθβ, X〉(m,w, ξ) =

(

µN2∆(β∆)|m.w, µ

N2∆(X)|m.w

)

opour X ∈ t.

L’application moment se releve a travers ψ∆ (cf. (6.40)) en une applicationµ∆ = µ (ψ∆)−1 definie sur W∆.

La proposition suivante est le point essentiel dans la modification de la formeλε.

Proposition 6.13 Il existe une constante A > 0 telle que

〈Φλ∆, j−1(µ∆ − ε)〉(m,w, ξ) ≥ A(‖ξ‖2 + ‖w‖2

o) (6.42)

pour tout (m,w, ξ) suffisamment proche de C ε∆. Cette minoration assure que la

fonction 〈Φλ∆, j−1(µ∆ − ε)〉 est positive sur un voisinage de C ε

∆ dans W∆.Dans la suite de cette section, nous supposerons − quitte a restreindre U∆

et W∆ − que la minoration (6.42) est verifiee sur tout l’ouvert W∆.

Demonstration: Effectuons le developpement limite au premier ordre del’application µ∆ au voisinage de m ∈ Cε

∆: comme Tψ1∆|Cε

∆

= Id on a Tµ∆|m =

Tµm T(ψ2∆)−1

m pour tout m ∈ Cε∆. On voit donc que

µ∆(m,w, ξ) = µ(m) + Tµm(w) + Tµm (Tµm)−1(ξ) +O(‖w‖2o + ‖ξ‖2)

= β(ε,∆) + ξ +O(‖w‖2o + ‖ξ‖2) .

Dans la deuxieme egalite on se sert du fait que 〈Tµm(w), X〉 = Ωm(XM , w) = 0car N2

∆ est Ω-orthogonal a TCε∆.

On a alors j−1(µ∆ − ε)(m,w, ξ) = β∆ + j−1(ξ) + O(‖w‖2o + ‖ξ‖2), ce qui

impose, sachant que Φλ∆est nulle sur Cε

∆,

〈Φλ∆, j−1(µ∆−ε)〉(m,w, ξ) = 〈Φλ∆

, β∆〉(m,w, ξ)+〈Φλ∆, j−1(ξ)〉(m,w, ξ)+o(‖w‖2

o+‖ξ‖2).

On verifie ensuite que 〈Φλ∆, β∆〉(m,w, ξ) = 〈Φθβ

, β∆〉(m,w, ξ) = ‖µN2∆(β∆)|m.w‖2

o,et que 〈Φλ∆

, j−1(ξ)〉(m,w, ξ) = ‖ξ‖2 + o(‖w‖2o + ‖ξ‖2).

40

On obtient finalement

〈Φλ∆, j−1(µ∆ − ε)〉(m,w, ξ) = ‖µN2

∆(β∆)|m.w‖2o + ‖ξ‖2 + o(‖w‖2

o + ‖ξ‖2).

Le Lemme 6.10 affirme que le champ de vecteurs sur N 2∆ engendre par

β∆ s’annule exactement sur Cε∆. En consequence l’endomorphisme µN2

∆(β∆)est inversible en tout point de Cε

∆, et on a alors une minoration de la forme

‖µN2∆(β∆)|m.w‖2

o ≥ A′‖w‖2o ou A′ > 0, qui est valable pour tout m ∈ Cε

∆ etw ∈ N2

∆|m.

On se propose maintenant de modifier la forme de localisation λε en λmod

sans changer l’endroit ou les formes equivariantes fermees sont localisees.Les ouverts U∆, ∆ ∈ B, ont ete definis precedemment. Quitte a les restrein-

dre, on peut supposer qu’ils sont disjoints.Soit U ′

∆ le voisinage de Cε∆ dans M defini par: U ′

∆ = ψ∆(12W∆) ou le terme

12 represente une contraction de facteur 1/2 sur les fibres de N∆.

Au moyen de l’ouvert Uext = M − ∪∆∈BU′∆ , on realise une partition de

l’unite(U∆, χ∆)∆∈B, (Uext, χext)

de la variete M . Pour tout ∆ ∈ B, les fonctions χ∆ sont positives, a supportdans U∆, T -invariantes et egales a 1 sur U ′

∆. La fonction χext est positive, asupport dans Uext, T -invariante et elle verifie l’equation:

∑

∆∈B

χ∆ + χext = 1 . (6.43)

On peut maintenant definir la forme λmod et montrer qu’elle localise encoreles formes equivariantes fermees sur Cr(‖µε‖2).

Proposition 6.14 Considerons la forme λmod definie par l’equation

λmod := χextλε +

∑

∆∈B

χ∆(ψ−1∆ )∗(λ∆) .

C’est une forme T -invariante qui effectue la meme localisation que λ: en par-ticulier Φλmod

= 0 = Cr(‖µε‖2).

Demonstration: Soit ∆ ∈ B. Si Cε∆ = ∅, le terme correspondant a ∆ dans

λmod est nul. Dans le cas contraire, la forme (ψ−1∆ )∗(λ∆) est definie sur l’ouvert

U∆ tandis que la fonction χ∆ a son support dans U∆. Les formes χ∆(ψ−1∆ )∗(λ∆)

sont donc definies sur M et T -invariantes.

Considerons la fonction f : M → t egale a j−1(µε) et montrons que leshypotheses de la Proposition 3.11 sont verifiees avec les formes λε, λmod et lafonction f. Notre proposition sera alors demontree.

On remarque tout d’abord que 〈Φλ, j−1(µε)〉 = ‖Hε‖2 est strictement pos-

itive en dehors de Cr(‖µε‖2). Soit m ∈ Cr(‖µε‖2), il existe alors ∆ ∈ B telque m ∈ Cε

∆. L’application Φλmodest nulle en m puisqu’au voisinage de C ε

∆ la

41

forme λmod est egale a (ψ−1∆ )∗(λ∆) et en m nous avons λ∆|m = 0. L’inclusion

Cr(‖µε‖2) ⊂ Φλmod= 0 est demontree.

La fonction 〈Φλmod, j−1(µε)〉 se decompose, d’apres la Proposition 6.13, en

une somme de fonctions positives

〈Φλmod, j−1(µε)〉 = χext‖Hε‖2 +

∑

∆∈B

χ∆〈Φλ∆, j−1(µ∆ − ε)〉 ψ−1

∆ .

Supposons que 〈Φλmod, j−1(µε)〉 est nulle en m, alors

χext(m)‖Hεm‖2 = 0

χ∆(m)〈Φλ∆, j−1(µ∆ − ε)〉 ψ−1

∆ (m) = 0, ∀ ∆ ∈ B .

Considerons la premiere egalite:− Soit Hε

m = 0, ce qui implique d(‖µε‖2)m = 0.− Soit χext(m) = 0. D’apres (6.43), il existe alors ∆ ∈ B avec χ∆(m) 6= 0.

Ceci entraine que m ∈ U∆ et 〈Φλ∆, j−1(µ∆ − ε)〉 ψ−1

∆ (m) = 0. D’apres laProposition 6.13, cette derniere egalite implique que m ∈ C ε

∆. Dans tous lescas m ∈ Cr(‖µε‖2).

On a finalement demontre que Φλmodest nulle sur Cr(‖µε‖2) et que 〈Φλmod

, j−1(µε)〉est strictement positive en dehors de Cr(‖µε‖2).

Dans la prochaine sous-section nous effectuons la localisation sur Cr(‖µε‖2)au moyen de la forme λmod.

6.3 Calcul de la localisation avec λmod

Considerons, pour chaque ∆ ∈ B, des fonctions χ′∆ ∈ C∞(M)T telles que le

support de χ′∆ soit inclus dans l’ouvert U ′

∆ defini precedemment, et egales a 1au voisinage de Cε

∆. Si Cε∆ = ∅ alors U ′

∆ = ∅ et la fonction χ′∆ est nulle.

Procedons de la meme maniere qu’a la section 3. On definit au moyen dela 1-forme λmod l’application de localisation

Θ : A∞T (M) −→ ⊕∆A−∞

T (U ′∆)

η 7−→ ⊕∆Θ∆(η)

avec

Θ∆(η) :=

(

χ′∆ + dχ′

∆

(∫ ∞

0i e−itDλmoddt

)

λmod

)

η .

Au moyen des isomorphismes ψ∆ on se ramene sur les voisinages W∆ de lasection nulle dans N∆. L’integration sur les fibres de chaque N∆ donne auniveau de la cohomologie un morphisme

Λ : H∞T (M) −→ ⊕∆H−∞

T (Cε∆)

η 7−→ ⊕∆i∗∆(η)Λ∆ .

42

On a vu a la sous-section 3.2 que Λ∆ = lima→+∞ Λa∆, avec

Λa∆ =

∫

N∆/Cε∆

χ′′∆e

−iaDλ∆ + iD(∫ a

0

(∫

N∆/Cε∆

χ′′∆e

−itDλ∆λ∆

)

dt

)

,

avec ψ∗∆(χ′

∆) = χ′′∆. Dans cette derniere identite on se sert du fait que ψ∗

∆(λmod |U ′∆) =

λ∆.

Pour conclure on a besoin du lemme suivant

Lemme 6.15

1)

∫

N∆/Cε∆

χ′′∆e

−itDλ∆λ∆ = 0 , ∀ t ∈ R .

2) lima→+∞

∫

N∆/Cε∆

χ′′∆e

−iaDλ∆ =

∫

N∆/Cε∆

e−iDλ∆ .

Demonstration 1): En utilisant la decomposition λ∆ = θβ∆+ γ∆ on obtient

∫

N∆/Cε∆

χ′′∆e

−itDλ∆λ∆ =

∫

N2∆

/Cε∆

e−itDθβ∆

(∫

~∆χ′′

∆e−itDγ∆γ∆

)

︸ ︷︷ ︸

1

+

∫

~∆e−itDγ∆

(∫

N∆/Cε∆

χ′′∆e

−itDθβ∆θβ∆

)

︸ ︷︷ ︸

2

.

Le terme 2 est nul d’apres la Remarque 4.4. De la meme facon, la formee−itDγ∆γ∆ ne possede pas de composante de degre maximum dans la directionde

−→∆: le terme 1 est donc nul.

Demonstration 2): Considerons la contraction δa, a > 0, effectuee au niveaudes fibres de N∆ → Cε

∆, definie par

δa : N2∆ ×−→

∆ −→ N2∆ ×−→

∆ (6.44)

(m,w, ξ) 7−→ (m,w√a,ξ

a) .

La forme λ∆ a une dependance lineaire par rapport a ξ ∈ −→∆ et une dependance

quadratique sur les fibres de N 2∆. On a donc aδ∗a(λ∆) = λ∆.On verifie aussi que

aδ∗a(λ∆(XN∆)) = λ∆(XN∆

), X ∈ t. Ainsi, en effectuant le changement devariable “δa” dans l’integrale

∫

N∆/Cε∆

χ′′∆e

−iaDλ∆ on trouve

∫

N∆/Cε∆

χ′′∆e

−iaDλ∆ =

∫

N∆/Cε∆

χ′′∆ δa e−iDλ∆ .

Comme la fonction χ′′∆ est egale a 1 au voisinage de la section nulle nous avons

lima→+∞ χ′′∆ δa = 1. En utilisant un argument “a la Lebesgue” on conclut

finalement que la forme∫

N∆/Cε∆

χ′′∆e

−iaDλ∆ converge vers la forme a coefficients

generalises∫

N∆/Cε∆

e−iDλ∆ .

43

Theoreme 6.16 Nous avons le diagramme commutatif suivant

H∞T (M)

I

&&N

N

N

N

N

N

N

N

N

N

N

N

N

N

N

N

N

N

N

Λ// ⊕∆H−∞

T (Cε∆)

i∗

H−∞T (M)

(6.45)

ou i = ⊕∆i∆ : ∪∆Cε∆ →M est l’inclusion. Le morphisme Λ est defini par

Λ(η) = ⊕∆∈B i∗∆(η)Λ∆ ,

avec, pour tout ∆ ∈ B,

Λ∆ =

∫

N∆/Cε∆

e−iDλ∆ .

6.4 Etude de la forme Λ∆

L’espace quotient Mε∆ := Cε

∆

/

T/T∆ possede une structure de V-variete [17].

On rappelle que les formes differentielles de Mε∆ sont definies comme les elements

T/T∆-basiques de l’algebre A(Cε∆). Ces elements forment une sous-algebre

A(Mε∆) qui est stable par rapport a la differentiation exterieure. On notera

H(Mε∆) la cohomologie associee.

La V-variete Mε∆ possede une 2-forme symplectique induite par la 2-forme

Ω [24]; elle est ainsi orientee. On a donc une operation d’integration sur H(Mε∆)

que l’on notera∫

Mε∆

.

Pour chaque composante connexe F de Cε∆, on appelle stabilisateur generique

de F le sous groupe S∆(F ) := ∩m∈F Stab(m). On rappelle qu’il existe un ouvertdense de F sur lequel Stab(m) = S∆(F ). Soit |S∆(F )| le cardinal de S∆(F ).L’application F → |S∆(F )| determine une fonction localement constante surMε

∆ que l’on note |S∆|.La structure riemannienne a ete choisie de telle maniere que pour tout F ∈

t/t∆, (FM , FM )M = ‖F‖2t sur Cε

∆. La 1-forme de connexion σ∆ =∑r2

k=1 σk⊗F k

sur le V-fibre principal Cε∆ → Mε

∆ a deja ete definie.Nous choisissons une orientation de C ε

∆, notee o(Cε∆), qui est donnee par la

relationo(Cε

∆) = o(Mε∆) ∧ σr2

∧ · · · ∧ σ1 . (6.46)

Dans la suite de cette section on note F1, · · · , Fr2 la base de

−→∆ ∼= (t/t∆)∗

duale de F 1, · · · , F r2. Le volume vol(T/T∆) est calcule avec la mesure de Haarcompatible avec la forme volume F1 ∧ · · · ∧ Fr2

. Ainsi, pour tout η ∈ A(Mε∆),

on a la relation

∫

Mε∆

1

|S∆| η :=1

vol(T/T∆)

∫

Cε∆

η ∧ σr2∧ · · · ∧ σ1 . (6.47)

44

On remarque que la forme differentielleσr2

∧...∧σ1

V ol(T/T∆) , bien que definie au moyen

de la base F 1, . . . , F r2, ne depend que de la connexion σ∆ et de l’orientationde Cε

∆.

Puisque le groupe T agit trivialement sur Mε∆, on a

A−∞T∆

(Mε∆) := Hom(m(t∆),A(Mε

∆)) et A∞T∆

(Mε∆) := C∞(t∆,A(Mε

∆)) ,

et de la meme facon A−∞T/T∆

(Mε∆) et A∞

T/T∆(Mε

∆).

On designe par S(t/t∆) l’algebre symetrique sur t/t∆. Pour tout element

P ∈ S(t/t∆), on note P ( ∂∂X2

∣∣∣0) l’application

P (∂

∂X2

∣∣∣0) : C∞(t) −→ C∞(t∆) (6.48)

definie pour f ∈ C∞(t) par(

P ( ∂∂X2

∣∣∣0)f)

(X1) =(

P ( ∂∂X2

)f)

(X1 +X2)∣∣∣X2=0

.

L’application (6.48) peut etre etendue aux formes equivariantes:

P (∂

∂X2

∣∣∣0) : A∞

T (Cε∆) −→ A∞

T∆(Cε

∆) .

Soit ω∆ := dσ∆ la courbure du fibre principal Cε∆ → Mε

∆: ω∆ ∈ A2(Mε∆)⊗

t/t∆ . Dans ce cadre, l’element eω∆ ∈ S(t/t∆) ⊗ Apair(Mε∆) definit une

operation

eω∆( ∂

∂X2

∣∣∣0)

: A∞T (Cε

∆) −→ A∞T∆

(Cε∆)

que l’on notera aussi η(X1 + ω∆) :=< eω∆( ∂

∂X2

∣∣∣0), η(X1 + X2) > ,∀η ∈

A∞T (Cε

∆).

Au moyen de la connexion σ∆, nous definissons une projection sur leselements horizontaux de A(Cε

∆): [ ]hor : A(Cε∆) −→ A(Cε

∆)hor.

L’application de Chern-Weil W∆ : A∞T (Cε

∆) −→ A∞T∆

(Mε∆) est determinee

par∀η ∈ A∞

T (Cε∆), W∆(η) := [η(X1 + ω∆)]hor .

Cette application commute avec les differentielles et definit un isomorphismeau niveau de la cohomologie [12] (que l’on note encore W∆).

Definition 6.17 On note k∆ le morphisme de Kirwan de H∞T (M) dans H∞

T∆(Mε

∆)qui correspond a la composee de l’operation de restriction i∗∆ : H∞

T (M) −→H∞

T (Cε∆) et de l’isomorphisme de Chern-Weil W∆ : H∞

T (Cε∆)

∼−→ H∞T∆

(Mε∆) .

L’espace vectoriel t se decompose, pour chaque ∆ ∈ B, en la somme des sous-espaces vectoriels t∆ et t/t∆. Cette decomposition permet d’associer a chaquecouple de fonctions sur t∆ et t/t∆ une fonction de t. On notera l’operation

C−∞(t∆) × C−∞(t/t∆) −→ C−∞(t)

( f , g ) 7−→ f g .

45

Elle est definie par la relation: ∀φ(X)dX ∈ m(t)

< f g, φ(X)dX >:=< f,< g, φ(X1 +X2)dX1 > dX2 >

avec X1 ∈ t∆ , X2 ∈ t/t∆ et la mesure de Lebesgue dX que l’on decompose(de maniere non canonique) en un produit dX = dX1dX2 de deux mesures deLebesgue sur t∆ et t/t∆.

Ce “produit” peut etre defini de la meme facon sur les formes a coefficientsgeneralises:

A−∞T∆

(Cε∆) ×A−∞

T/T∆(Cε

∆) −→ A−∞T (Cε

∆) (6.49)

( η , ν ) 7−→ η ν .

Nous allons maintenant donner une nouvelle expression de la fonction generaliseeΛ∆. On rappelle que

Λ∆ =

∫

N∆/Cε∆

e−iDλ∆ ,

avec la forme T -invariante λ∆ = θβ∆+ γ∆.

La forme θβ∆a ete definie au moyen d’une connexion T/T∆-horizontale:

θβ∆(XN∆

) = 0 pour tout X ∈ t/t∆, tandis que la forme γ∆ verifie γ∆(XN∆) = 0

pour tout X ∈ t∆. On voit donc que Dλ∆(m,w,ξ)(X1 +X2) = Dθβ∆(m,w)(X1) +

Dγ∆(m,ξ)(X2) pour (X1, X2) ∈ t∆ × t/t∆, m ∈ Cε∆, ξ ∈ −→

∆, et w ∈ N 2∆|m.

On peut donc ecrire Λ∆ sous la forme

Λ∆(X1 +X2) =

(∫

N2∆

/Cε∆

e−iDθβ∆

)

(X1) (∫

~∆e−iDγ∆

)

(X2) , (6.50)

avec (X1, X2) ∈ t∆× t/t∆. La forme X1 →∫

N2∆

/Cε∆

e−iDθβ∆(X1) est la restriction

a T∆ de la forme Eul −1β∆

(N2∆) ∈ A−∞

T (Cε∆). D’apres le Lemme 6.10 le champ

de vecteurs sur N 2∆ engendre par β∆ s’annule exactement sur Cε

∆. La formeEul−1

β∆(N2

∆) est donc bien definie puisque l’Hypothese 4.1 est verifiee.D’autre part, on constate que pour Y ∈ t/t∆

c(YCε∆) Eul−1

β∆(N2

∆) = −i

∫

N2∆

/Cε∆

c(YN2∆)(dθβ∆

)e−iDθβ∆ = 0 .

La forme Eul −1β∆

(N2∆) appartient donc a A−∞

T (Mε∆).

Definition 6.18 On note Eul −1β∆

(E∆) ∈ A−∞T∆

(Mε∆) la restriction de la forme

Eul−1β∆

(N2∆) a T∆.

Remarque: La notation E∆ est celle du V-fibre vectoriel N 2∆/(T/T∆) → Mε

∆.

Les formes∫

~∆ e−iDγ∆ associees a une action libre ont ete introduites par

Kumar et Vergne dans [19], Proposition 79. Dans le cas present, on a besoinde connaitre l’orientation de

−→∆.

46

Le fibre vectoriel N 1∆ est le fibre normal de Cε

∆ dans MT∆ : il est oriente parla forme symplectique Ω. Nous avons, grace a la trivialisation (6.39), identifieN1

∆ a Cε∆ ×−→

∆. L’orientation, o(Cε∆), de Cε

∆ a ete definie au moyen d’une baseF 1, · · · , F r2 de t/t∆ par l’egalite (6.46). Par un calcul soigneux, on verifie que

o(N1∆) ∼= o(Cε

∆) ∧ dF 1 ∧ . . . ∧ dF r2 . (6.51)

Nous pouvons donc integrer sur−→∆ qui est oriente par dF 1 ∧ . . . ∧ dF r2 .

Definition 6.19 Soit ω∆ la courbure du V-fibre principal Cε∆ → Mε

∆. Cettedonnee determine la forme equivariante δ(X2 − ω∆) ∈ A−∞

T/T∆(Mε

∆) par la for-mule

< δ(X2 − ω∆), φ(X2)dX2 >= φ(ω∆) vol(T/T∆, dX2),

pour toute fonction φ ∈ C∞(t/t∆). Dans cette expression dX2 est une mesureeuclidienne sur t/t∆ et vol(T/T∆, dX2) est le volume du groupe T/T∆ pour lamesure de Haar compatible avec dX2.

Les formes du type δ(X2 −ω∆) sont aussi introduites par Kumar et Vergnedans [19, 23], sans utiliser la forme lineaire dX2 → vol(T/T∆, dX2) . L’egalite

∫

~∆e−iDγ∆(X2) = (2πi)dim∆ δ(X2 − ω∆) ∧ σr2

∧ . . . ∧ σ1

vol(T/T∆)(6.52)

decoule de la Proposition 80 de [19].

Proposition 6.20 1) Nous avons l’egalite suivante dans A−∞T (Cε

∆) :

Λ∆(X) = (2πi)dim∆ Eul−1β∆

(E∆)(X1) δ(X2 − ω∆) ∧ σr2∧ . . . ∧ σ1

vol(T/T∆)·

2) Pour toute forme η ∈ A∞T (Cε

∆)

(

i∗∆(η)∧Λ∆

)

(X) = (2πi)dim∆(

k∆(η) Eul −1β∆

(E∆))

(X1)δ(X2−ω∆)∧σr2∧ . . . ∧ σ1

vol(T/T∆)·

Demonstration: Le point 1) decoule des egalites (6.50) et (6.52). Pour

demontrer le deuxieme point, il suffit de voir que η(X) ∧(

1t∆ δ(X2 −ω∆))

=

η(X1 + ω∆) δ(X2 − ω∆), et que pour toute forme α ∈ A(Cε∆) qui est T/T∆-

invariante, on a α ∧ σr2∧ . . . ∧ σ1 = [α]hor ∧ σr2

∧ . . . ∧ σ1.

Le Theoreme 91 de [19] montre que l’application

m∆ : H−∞T∆

(Mε∆) −→ H−∞

T (Cε∆)

definit par m∆(α)(X) = (2πi)dim∆α(X1) δ(X2 −ω∆)Πkσk/ vol(T/T∆), est unisomorphisme, et on voit que pour tout η ∈ H∞

T (M)

i∗∆(η)Λ∆ = m∆

(

k∆(η) Eul −1β∆

(E∆))

.

En modifiant le diagramme (6.45) avec les isomorphismes m∆, on obtient le

47

Theoreme 6.21 Notons Λ′ = ⊕∆m−1∆ Λ et j = ⊕∆i∗ m∆. Nous avons le

diagramme commutatif suivant qui precise (6.45):

H∞T (M)

I

''N

N

N

N

N

N

N

N

N

N

N

N

N

N

N

N

N

N

N

Λ′// ⊕∆H−∞

T∆(Mε

∆)

j

H−∞T (M),

(6.53)

avec Λ′(η) = ⊕∆k∆(η) Eul −1β∆

(E∆) pour tout η ∈ H∞T (M).

La variete M est orientee par sa forme symplectique. L’integration sur Mdes formes equivariantes definit un morphisme H−∞

T (M) → C−∞(t). En util-isant la formule d’integration (6.47) on obtient finalement l’expression suivantede∫

M η.

Theoreme 6.22 Soient ε ∈W et η ∈ A∞T (M) une forme fermee. Nous avons

dans C−∞(t) l’egalite∫

Mη =

∑

∆∈B

Iε∆(η),

ou Iε∆(η) est la fonction generalisee de support t∆ definie par

Iε∆(η)(X1 +X2) = (2πi)dim∆

∫

Mε∆

1

|S∆|k∆(η)(X1) Eul −1β∆

(E∆)(X1) δ(X2 −ω∆) .

Dans cette formule les variables X1 et X2 sont dans t∆ et t/t∆.

Pour toute forme η ∈ H∞T (M) a decroissance rapide sur t, nous avons

∫

M×t

η(X)dX =∑

∆∈B

(2πi)dim∆×(∫

Mε∆×t∆

1

|S∆|k∆(η)(X1) Eul−1β∆

(E∆)(X1)dX1

)

vol(T/T∆, dX2).

Exemple 1 Si ∆ = p est un sommet du polytope µ(M), alors C ε∆ = F =

µ−1(p) est une composante connexe de M T . Nous avons

X ∈ t, Iεp(η)(X) =

∫

Fi∗F (η)(X) Eul −1

βp(NF )(X) ,

ou NF est le fibre normal de F dans M et βp = j−1(p− ε).

Exemple 2 Si ∆ = t∗, alors Cε∆ = µ−1(ε) et Mε

∆ correspond a la varietereduite Mε := µ−1(ε)/T . D’apres le Theoreme 6.3 elle est connexe; ainsi |Sε|designe un entier non nul. Nous avons

X ∈ t, Iεt∗(η)(X) =

(2πi)dimT

|Sε|

∫

Mε

kε(η)δ(X − ωε) ,

ou kε : H∞T (M) −→ H(Mε) correspond a l’application de Kirwan.

48

References

[1] M. F. Atiyah, Convexity and commuting Hamiltonians, Bull. London.Math. Soc., 14, 1981, p. 1-15.

[2] M. F. Atiyah et R. Bott, The moment map and equivariant cohomology,Topology, 23, 1984, 1-28.

[3] N. Berline, E. Getzler et M. Vergne, Heat kernels and Dirac opera-tors, Grundlehren, vol. 298, Springer, Berlin, 1991.

[4] N. Berline et M. Vergne, Classes caracteristiques equivariantes. For-mule de localisation en cohomologie equivariante, C. R. Acad. Sci. Paris,295, 1982, p. 539-541.

[5] N. Berline et M. Vergne, Zeros d’un champ de vecteurs et classescaracteristiques equivariantes, Duke. Math. J., 50, 1983, p. 539-549.

[6] J.-M. Bismut, Localizations formulas, superconnections, and the indextheorem for families, Comm. Math. Phys., 103, 1983, p. 127-166.

[7] A. Bruguieres, Proprietes de convexite de l’application moment d’apresAtiyah, Guillemin-Sternberg et Kirwan, Sem. Bourbaki, 654, 1985.

[8] A. Canas da Silva et Guillemin, On the Kostant multiplicity formulafor group actions with non-isolated fixed points, Adv. Math., 123, 1996, p.1-15.

[9] J. J. Duistermaat, Equivariant cohomology and stationary phase,Utrecht preprint no. 817, 1993.

[10] J. J. Duistermaat et G. J. Heckman, On the variation in the cohomol-ogy in the symplectic form of the reduced phase space, Invent. Math., 69,1982, p. 259-268; addendum, ibid., 72, 1983, p. 153-158.

[11] M. Duflo et M. Vergne, Orbites coadjointes et cohomologieequivariante, The orbit method in representation theory. Birkhauser,Progress in math., 82, 1990, p. 11-60.

[12] M. Duflo et M. Vergne, Cohomologie equivariante et descente,Asterisque, 215, 1993, p. 5-108.

[13] V. Guillemin, E. Lerman et S. Sternberg, On the Kostant multiplic-ity formula, J. Geom. Phys., 5, 1988, p. 721-750.

[14] V. Guillemin et E. Prato, Heckman, Kostant and Steinberg formulasfor symplectic manifolds, Adv. Math., 82, 1990, p. 160-179.

[15] V. Guillemin et S. Sternberg, Convexity properties of the momentmap, Invent. Math., 67, 1982, p. 491-513.

[16] L. Jeffrey et F. Kirwan, Localization for non Abelian group action,Topology, 34, p. 291-327, 1995, p. 291-327.

49

[17] T. Kawasaki, The signature theorem for V-manifold, Topology, 17, 1978,p. 75-83.

[18] F. Kirwan, Cohomology of quotients in symplectic and algebraic geometry,Princeton Univ. Press, Princeton, 1984.

[19] S. Kumar et M. Vergne, Equivariant cohomology with generalized co-efficients, Asterisque, 215, 1993, p. 109-204.

[20] V. Mathai et D. Quillen, Superconnexions, Thom classes, and equiv-ariant differential forms, Topology, 25, 1986, p. 85-110.

[21] P-E. Paradan, Formule de localisation en cohomologie equivariante,These, Universite Paris 7 - Denis Diderot, 1996.

[22] I. Satake, On a generalization of the notion of manifold, Proc. Nat.Acad. Sci. U.S.A, 42, 1956, p. 359-363; the Gauss-Bonnet theorem forV-manifold, J. Math. Soc. Japan, 9, 1957, p. 464-492.

[23] M. Vergne, A note on the Jeffrey-Kirwan-Witten localization formula,Topology, 34, 1996, p. 243-266.

[24] A. Weinstein, Symplectic V-manifold, periodic orbits of Hamiltoniansystems, and the volume of certains Riemannian manifold, Comm. Pure.Appl. Math., 30, 1977, p. 265-271.

[25] E. Witten, Two dimensional gauge theories revisited, J. Geom. Phys. 9,1992, p. 303-368.

50