Theorie des fonctions holomorphes de plusieurs variables

Théorie des fonctions holomorphes

de plusieurs variables

CHEZ LE MÊME ÉDITEUR

Dans la même collection

Opérateurs pseudo-différentiels et théorème de Nash-Moser, par G. Alinhac. 1991, 192 pages.

Géométrie algébrique, par D. Perrin. 1995,316 pages.

Groupes quantiques. Introduction au point de vue formel, par A. Guichardet. 1995, 164 pages.

Photons et atomes. Introduction à l'électrodynamique quantique, par C. Cohen-Tannoudji, J. Dupont-Roc, G. Grynberg. 1987,422 pages.

Processus d'interactions entre photons et atomes, par C. Cohen-Tannoudji, J. Dupont- Roc, G. Grynberg. nouveau tirage, 1988,648 pages.

Hydrodynamique physique, par E. Guyon, J. P. Hulin, L. Petit. 1991,520 pages.

Éléments de chimie quantique à l'usage des chimistes, par J. L. Rivail. 1994, 2e édition, 456 pages.

Astrophysique : méthodes physiques de l'observation, par P. Léna. 1996, 2e édition, 528 pages.

Théorie des fonctions holomorphes

de plusieurs variables

Christine Laurent-Thiébaut Professeur à l'université Joseph Fourier (Grenoble 1)

S A V O I R S A C T U E L S

InterÉditions / CNRS Éditions

f DANGER I

PHOTOCOPILL AGE . TUELELIVRE

Ce logo a pour objet d'alerter le lecteur sur la menace que représente pour l'avenir de l'écrit, tout particulièrement dans le domaine universitaire, le développement massif du (t photocopillage >).

Cette pratique qui s'est généralisée, notamment dans les établissements d'enseignement, provoque une baisse brutale des achats de livres, au point que la possibilité même pour les auteurs de créer des œuvres nouvelles et de les faire éditer correctement est aujourd'hui menacée. Nous rappelons donc que la reproduction et la vente sans autorisation, ainsi que le recel, sont passibles de poursuites. Les demandes d'autorisation de photocopier doivent être adressées à l'éditeur ou au Centre français d'exploitation du droit de copie : 20, rue des Grands-Augustins, 75006 Paris. Tél. : O1 44 07 47 70.

O 1997, InterÉditions, 5, rue Laromiguière, 75241 Paris Cedex 05 et CNRS Éditions, 20/22, rue Saint-Armand, 75015 Paris.

Tous droits d e traduction, d'adaptation et de reproduction par tous procédés, réservés pour tous pays.

Toute reproduction ou représentation intégrale ou partielle, par quelque procédé que ce soit des pages publiées dans le présent ouvrage, faite sans l'autorisation de l'éditeur, est illicite et constitue une contrefaçon. Seules sont autorisées, d 'une part , les reproductions strictement réservées à l'usage privé d u copiste et non destinées à une utilisation collective, et d'autre part, les courtes citations justifiées par le caractère scientifique ou d'information de l'œuvre dans laquelle elles sont incorporées (art. L. 122-4. L. 122-5 et L. 335-2 du Code de la propriété intellectuelle). Des photocopies payantes peuvent être réalisées avec l'accord de l'éditeur. S'adresser au : Centre français d'exploitation d u droit de copie, 3, rue Hautefeuille, 75006 Paris. Tél. : O 1 43 26 95 35.

ISBN : 2-7296-0660-2

ISSN : 2-271-05501-6

Table des matières

Avant-propos . . . . . . . . . . . . . . . . . . . . . . . . . ix

Introduction . . . . . . . . . . . . . . . . . . . . . . . . . . xi

I Propriétés élémentaires locales des fonctions holomorphes de plusieurs variables complexes . . . . . . . . . . . . . 1 1 Notations et définitions . . . . . . . . . . . . . . . . . . . 1

2 Formule de Cauchy dans les polydisques . . . . . . . . . . . . 4

3 Théorème de l'application ouverte . . . . . . . . . . . . . . 8 4 Suites de fonctions holomorphes . . . . . . . . . . . . . . 10 5 Applications holomorphes . . . . . . . . . . . . . . . . 11 6 Quelques théorèmes d'extension holomorphe . . . . . . . . . 13

II Courants. structures complexes . . . . . . . . . . . . . . 21 1 Courants . . . . . . . . . . . . . . . . . . . . . . . 21 2 Régularisation . . . . . . . . . . . . . . . . . . . . . 28 3 Indice de Kronecker . . . . . . . . . . . . . . . . . . . 38 4 Variétés analytiques complexes . . . . . . . . . . . . . . . 43 5 Structures complexes . . . . . . . . . . . . . . . . . . . 46 6 Formes différentielles de type ( p . q ) . . . . . . . . . . . . . 47 7 Opérateur a. cohomologie de Dolbeault . . . . . . . . . . . 49 8 Espace tangent complexe au bord d u n domaine . . . . . . . . 51

III Noyau et formule de Bochner-Martinelli . Applications . . . 55 1 NoyauetformuledeBochner-Martinelli-Koppelman . . . . . . 55 2 Résolubilité du 8 pour une donnée à support compact . . . . . . 61 3 Régularité du 8 . . . . . . . . . . . . . . . . . . . . . 66 4 Phénomène de Hartogs . . . . . . . . . . . . . . . . . . 69

vi Table des matières

IV Transformée de Bochner-Martinelli et extension de fonctions CR . . . . . . . . . . . . . . . . . . . . . 73 1 Transformée de Bochner-Martineili . . . . . . . . . . . . . 73 2 Fonctions CR sur une hypersurface réelle . . . . . . . . . . 77 3 Théorème de Bochner . . . . . . . . . . . . . . . . . . 79 4 Formule de Stokes pour les fonctions CR . . . . . . . . . . . 83 5 Primitives du noyau de Bochner-Martinelli . . . . . . . . . . 85 6 Un théorème d'extension de fonctions CR . . . . . . . . . . 87

V Extension de fonctions holomorphes et de fonctions CR dans les variétés . . . . . . . . . . . . . . . . . . . . . 91 1 Cohomologie à support compact et phénomène de Hartogs . . . 91 2 Extension de fonctions CR de classe C" . . . . . . . . . . . 94 3 FormuledeCauchy-Fantappié-LemmedeDolbeault . . . . . . 96 4 Isomorphisme de Dolbeault . . . . . . . . . . . . . . . . 101 5 Théorème de Bochner et extension de fonctions CR

dans les variétés . . . . . . . . . . . . . . . . . . . . . 105

VI Domainesd'holomorphieetpseudoconvexité . . . . . . . 109 1 Domainesdholomorphieetconvexitéholomorphe . . . . . . . 109 2 Fonctions plurisousharmoniques . . . . . . . . . . . . . . 117 3 Pseudoconvexité . . . . . . . . . . . . . . . . . . . . 129

VI1 Problème de Levi et résolution du a dans les domaines strictement pseudoconvexes . . . . . . . . . . . . . . . 143 1 Résolution du d avec estimations holdériennes dans les ouverts

strictement convexes . . . . . . . . . . . . . . . . . . . 144 2 Approximation uniforme locale des formes d-fermées dans les

3 Finitude de la cohomologie de Dolbeault dans les domaines strictement pseudoconvexes . . . . . . . . . . . . . . . . 155

4 Invariance de la cohomologie de Dolbeault par les extensions strictement pseudoconvexes . . . . . . . . . . . . . . . . 157

5 Théorème d'annulation pour la cohomologie de Dolbeault dans les domaines strictement pseudoconvexes . . . . . . . . . . . 161

6 Formule intégrale pour résoudre le a avec estimation holdérienne danslesdomainesstrictementpseudoconvexes . . . . . . . . 163

7 Problème de Levi dans cc" . . . . . . . . . . . . . . . . . 170

domaines strictement pseudoconvexes . . . . . . . . . . . 153

8 Problème de Levi dans les variétés analytiques complexes . . . . 174

Table des matières vii

VI11 Caractérisation des singularités illusoires pour les fonctions CR sur un bord strictement pseudoconvexe . . . . . . . . 189

1 Réduction au cas des fonctions continues . . . . . . . . . . . 189 2 Cas de la dimension 2 . . . . . . . . . . . . . . . . . . 190 3 Caractérisationcohomologiqueendimensionn 2 2 . . . . . . 192 4 Caractérisationdessingularitésillusoiresfaibles . . . . . . . . 194

Annexe A . . . . . . . . . . . . . . . . . . . . . . . . . . 203 1 Variétés différentiables . . . . . . . . . . . . . . . . . . 203 2 Partitions de l’unité . . . . . . . . . . . . . . . . . . . 205 3 Espace cotangent en un point - Formes différentielles de degré 1 . 207 4 Espacetangentenunpoint-Champsdevecteurs . . . . . . . 208

5 Algèbre des formes différentielles . . . . . . . . . . . . . . 211 6 Intégration des formes différentielles . . . . . . . . . . . . 216 7 Formule de Stokes . . . . . . . . . . . . . . . . . . . . 220

Annexe B . . . . . . . . . . . . . . . . . . . . . . . . . . 223

Annexe C . . . . . . . . . . . . . . . . . . . . . . . . . . 231

Bibliographie . . . . . . . . . . . . . . . . . . . . . . . . 235

Index des notations . . . . . . . . . . . . . . . . . . . . . 239

Index terminologique . . . . . . . . . . . . . . . . . . . . 243

Avant-propos

L‘origine de cet ouvrage est un cours fondamental de 3e cycle donné à l’Institut Fourier en 1994-95. Son objet est d’initier à la théorie des fonctions holomorphes de plusieurs variables complexes dans C” et dans les variétés analytiques complexes. I1 s’adresse en priorité à des étudiants en DEA ou débutant une thèse. I1 suppose connus les fondements de la théorie des fonctions holomorphes d’une variable complexe. Par contre, les bases de géométrie différentielle et de théorie des courants nécessaires à l’étude de l’analyse pluricomplexe sont rappelées dans l’annexe A et le chapitre II de ce volume.

Nous utilisons la méthode des représentations intégrales couplée avec la technique des bosses de Grauert. Ce point de vue a l’avantage de proposer un prolongement naturel en plusieurs variables des techniques d’une variable complexe et de conduire rapidement à d‘importants résultats globaux tout en évitant l’introduction de trop nombreux outils nouveaux. Ayant acquis ces méthodes, pré- sentées ici dans le cadre de la pseudoconvexité, le lecteur pourra aborder sans trop de difficultés la théorie d’Andreotti-Grauert, tant dans les variétés analytiques complexes que dans les variétés CR (cf. [He/Le2] et [L-T/Lel). Pour les applications, l’accent est mis sur les problèmes globaux d’extension de fonctions CR : phé- nomène de Hartogs-Bochner, étude des singularités illusoires pour les fonctions CR.

La plupart des thèmes traités étant classiques, puisqu’ils font partie des fondements de l’Analyse Complexe, il est difficile d‘être original. Ce travail s’est donc largement inspiré d’ouvrages existants. Les sources utilisées ainsi que quelques re- pères historiques sont précisés à la fin de chaque chapitre. La bibliographie ne se propose pas d‘être exhaustive, c’est pourquoi de nombreux travaux fondamentaux en relation avec le sujet traité n’y sont pas inclus. Le lecteur intéressé par des notes historiques précises et une bibliographie beaucoup plus complète pourra consulter les notes de fin de chapitre et la bibliographie du livre de R.M. Range [Ra].

Une partie de ce livre (les paragraphes 5 et 6 du chapitre IV, le paragraphe 5 du chapitre Vet le chapitre VIII) doit beaucoup aux travaux de Guido Lupacciolu, disparu prématurément en décembre 1996.

X Avant-propos

Pour finir je voudrais remercier tous ceux qui m’ont aidée dans la rédaction de ce livre et plus particulièrement Alain Dufresnoy et Jürgen Leiterer. C’est grâce à leurs remarques, tant sur la forme que sur le fond, que ce livre a pu atteindre sa forme finale.

Un grand merci égaiement à Myriam Charles pour la saisie d’un texte particu- lièrement riche en formules mathématiques et à Arlette Guttin-Lombard pour ses conseils Tg-niques.

Introduction

Au début du siècle E Hartogs a mis en évidence les propriétes particulières d‘extension des fonctions hoiomorphes de plusieurs variables complexes en ex- hibant un domaine de C2 qui n’est pas le domaine d‘existence dune fonction holomorphe (de tels ouverts n’existent pas dans C). La compréhension de ce phé- nomène est alors devenue un des principaux problèmes d‘analyse pluricomplexe. I1 fallait trouver de bonnes caractérisations des domaines d’existence des fonctions holomorphes, appelés domaines dholomorphie.

Les premiers travaux sur ce sujet, dus à E Hartogs [Har] en 1906 et E.E. Levi [Lev] en 1910, montrent que les domaines d’holomorphie satisfont certaines propriétés de convexité, que nous appellerons génériquement pseudoconvexité. L‘équivalence entre les différentes notions de pseudoconvexité, qui sont apparues au !I du temps, a été prouvée par K. Oka [Okl dans les années 40. Les outils adaptés à l’étude de la pseudoconvexité sont les fonctions plurisousharmoniques introduites indépendamment par i? Lelong [Lell] et K. Oka [Ok]. Dans les années 30, H. Cartan et P. Thuilen [Ca/Th] ont trouvé une caractérisation intrinsèque globale des domaines dholomorphie en termes de convexité par rapport à l’algèbre des fonctions holomorphes sur le domaine. Cette “convexité holomorphe” est un des concepts fondamentaux de l’Analyse Complexe. La caractérisation des domaines dholomorphie en termes de pseudoconvexité, encore appelée solution du pro- blème de Levi, a été donnée indépendamment par K. Oka [Ok], H. Bremmermann [Brl] et E Norguet [No] au début des années 50 pour les domaines de Cn et par H. Grauert [Gr] en 1958 pour les variétés analytiques complexes. Elle a nécessité la mise en œuvre de la théorie des faisceaux analytiques cohérents, qui s’est avérée être un outil puissant pour l’étude des espaces analytiques. La solution du pro- blème de Levi, que nous présentons ici, suit les idées de Grauert mais s’appuie sur la théorie des représentations integrales pour résoudre les problèmes techniques.

La théorie des représentations intégrales en Analyse Complexe trouve son origine dans les travauxde H. Grauert, G.M. Henkin, I. Lieb et E. Ramirez [GrlLi, He1,2, Ram] au début des années 70. Depuis, cette théorie n’a cessé de se développer. Elle a permis de résoudre des problèmes inaccessibles par les méthodes antérieures et de retrouver, en les précisant, les principaux résultats de la théorie des fonctions

xii Introduction

holomorphes de plusieurs variables obtenus par d‘autres méthodes. I1 s’agit principalement de construire de bons opérateurs intégraux pour résoudre l’équation de Cauchy-Riemann. La résolution de cette équation est au cœur de la plupart des problèmes d’Analyse Complexe. Dans le cas de la résolution du problème de Levi, elle est à la base de la construction de la fonction holomorphe qui ne se prolonge pas.

Le résultat de Hartogs pose également le problème de l’extension des fonctions holomorphes définies au voisinage de tout le bord ou d’une partie du bord d’un domaine et plus généralement des fonctions CR (c’est-à-dire des traces de fonctions holomorphes) définies sur tout ou partie du bord d’un domaine d’une variété analytique complexe. Une démonstration rigoureuse du résultat de Hartogs a été donnée indépendamment par S. Bochner [Bo] et E. Martinelli [Ma21 vers 1940 à l’aide d‘une formule intégrale, appelée aujourd’hui “formule de Bochner-Martinelli”. Depuis cette époque, cette formule joue un rôle fondamental dans l’étude de l’extension des fonctions C R dans Cn , mais ne permet malheureusement pas de résoudre les problèmes globaux d‘extension dans les variétés analytiques complexes. Le lien entre le phénomène d‘extension de Hartogs-Bochner et la résolution de l’équation de Cauchy-Riemann avec condition de support a été remarqué par L. Ehrenpreis [Eh] en 1961. C’est un point clé de l’étude de l’extension des fonctions CR dans les variétés. Au milieu des années 80, G. Lupacciolu et G. Tomassini [Lu/To] ont étu- dié dans un cas particulier le problème de l’extension d’une fonction CR définie sur une partie du bord d u n domaine. De nombreux mathématiciens ont contribué à la résolution de ce problème d’extension au cours des dix dernières années. Les résultats que nous présentons ici sont principalement dus à G. Lupacciolu [Lu1,2].

Ces problèmes d‘extension globale sont bien sûr liés à la rcchcrche d’enveloppe d’holomorphie, mais également à un problème plus géométrique. I1 s’agit de la construction de chaînes holomorphes de bord donné. En effet si on considère le phénomène de Hartogs en termes de graphe, le graphe de l’extension holomorphe est une chaîne holomorphe dont le bord est la variété CR maximalement complexe définie par le graphe de la fonction CR donnée initialement.

Le livre est organisé comme suit :

Le chapitre I développe les propriétés élémentaires locales des fonctions holomorphes de plusieurs variables complexes qui se déduisent de la théorie des fonctions holomorphes dune variable.

Dans une première partie, le chapitre II introduit les courants. La notion d‘indice de Kronecker de deux courants permet d’obtenir une formule de Stokes dans un cadre assez général. La seconde partie est consacrée aux variétés analytiques complexes et à la définition des différentes notions liées aux structures complexes : formes différentielles de type ( p , q) , opérateur a et cohomologie de Dolbeault.

Dans le chapitre III, nous démontrons la première formule de représentation in- tégrale : la formule de Bochner-Martinelli-Koppelman. La démonstration donnée

... Introduction XII1

ici s’appuie sur la formule de Stokes pour l’indice de Kronecker. À l’aide de la formule de Bochner-Martineili-Koppelman nous commençons l’étude de l’équation de Cauchy-Riemann.

Le chapitre IV étudie le problème de l’extension des fonctions CR définies sur le bord d u n domaine borné de C” . Le théorème d’extension de Bochner est dé- montré et un cas particulier d’extension lorsque la fonction n’est définie que sur une partie du bord du domaine est également considéré.

Le chapitre V traite du problème de l’extension des fonctions CR définies sur tout ou sur une partie du bord d’un domaine relativement compact dune variété analytique complexe. Nous étudions la relation entre ces phénomènes d’extension et l’annulation de certains groupes de cohomologie de Dolbeault.

Dans le chapitre Vi nous définissons les notions de domaine dholomorphie, convexité holomorphe et pseudoconvexité pour les ouverts de Cn. Nous prouvons l’équivalence entre domaine dholomorphie et domaine holomorphiquement convexe et nous montrons que tout domaine dholomorphie est pseudoconvexe. La réciproque, appelée problème de Levi, est étudiée au chapitre ViI.

Le chapitre VI1 est consacré à la résolution du problème de Levi. La méthode s’appuie sur la résolution locale du a avec estimations holdériennes et sur l’étude de l’invariance de la cohomologie de Dolbeault par la technique des bosses de Grauert. L‘originalité de la démonstration donnée ici est l’utilisation d’un résultat dû à Laufer [Lau] qui permet de déduire l’annulation des groupes de cohomologie de Dolbeault des théorèmes de finitudes obtenus par la résolution locale du a. Le chapitre se termine par la résolution du problème de Levi dans les variétés analytiques complexes et l’énoncé de plusieurs théorèmes d’annulation pour la cohomologie de Dolbeault qui permettent de donner des conditions géométriques suffisantes pour les phénomènes d’extension de fonctions CR étudiés dans le chapitre V.

Le chapitre VI11 donne des conditions nécessaires et suffisantes pour l’extension des fonctions CR définies sur une partie du bord d u n domaine strictement pseudoconvexe.

-

Pour faciliter le travail du lecteur notons les faits suivants :

- Le chapitre III, les paragraphes 3 et 4 du chapitre Vet les chapitres VI et VI1 éla- borent l’ensemble de la théorie qui permet la résolution du problème de Levi, c’est- à-dire l’identité entre domaine dholomorphie et ouvert pseudoconvexe dans C” et l’identité entre variété de Stein et variété possédant une fonction dexhaustion strictement plurisousharmonique dans le cas des variétés.

- Le chapitre IV, les paragraphes 1, 2 et 5 du chapitre V, le paragraphe 8.3 du chapitre Vi1 et le chapitre VI11 sont consacrés à l’étude des phénomènes globaux d’extension des fonctions CR.

Chapitre I

Propriétés élémentaires locales des fonctions holomorphes de plusieurs

variables complexes

Ce chapitre est consacré à l'étude des propriétés locales des fonctions holomorphes de plusieurs variables complexes qui se déduisent directement de la théorie classique des fonctions holomorphes d'une variable complexe. L'élément de base de cette étude est une formule de Cauchy dans les polydisques qui généralise la formule de Cauchy classique. La plupart des théorèmes prouvés dans ce chapitre étendent au cas de plusieurs variables des résultats bien connus pour les fonctions holomorphes en dimension un (Théorème de l'application ouverte, Principe du maximum, Théorème de Montel, Théorème d'inversion locale). Néanmoins, dans le cadre de l'étude de quelques problèmes d'extension holomorphe apparaît un phénomène spécifique à la dimension n, n 2 2, c'est le phénomène de Hartogs dont un cas particulier est exposé à la fin de ce chapitre. Ce phénomène sera étudié en détail dans le chapitre III.

1. NOTATIONS ET DÉFINITIONS

On note N l'ensemble des entiers naturels, IR le corps des nombres réels et C le corps des nombres complexes. Si n E N est un entier strictement positif, l'ensemble Cn est muni de la structure d'espace vectoriel habituelle et si z = (z1, . . . ,z,) E cc", la norme de z est Iz( = (1.~11~ -+ . . . + On définit un isomorphisme de R-espace vectoriel entre Cn et R2" en posant, pour z = ( ~ 1 , . . . , z,,) E Cn, zj = xj + iyj s i j = 1,. . . ,n.

2 I . Propriétés élémentaires locales

Les opérateurs de dérivation holomorphe et antiholomorphe sont définis par

Si a = (a l , . . . ,an) E PP et ,8 = (pl,. . . ,&) E lV sont des multi-indices et si 2 = (51, . . . ,xn) est un point de R", on pose

JaJ = a ~ + ' ~ ~ + a n , ( Y " ~ ! " . a , ! , x a =x"l . . 'x:" , 1

On écrira D" à la place de Dao et Dp à la place de 0'0 lorsqu'il n'y aura pas de risque de confusion.

Si D est un ouvert de R", l'espace vectoriel des fonctions continues sur D à valeurs complexes est noté c'(O) ouC(D), celui des fonctions k fois continûment différentiables ( I C E N,k > O) est noté Ck(D). La réunion des espaces Ck(D), IC E N, est l'espace C"(D) des fonctions indéfiniment différentiables sur D. On vérifie aisément que f E c ' C ( D ) si et seulement si ~ a p f E C ( D ) pour tout couple (a,/?) E lV x iV tel que I C I ] + 101 5 k. Si k E N, l'espace vectoriel des fonctions f contenues dans Ck(D) et dont les dérivées Da f ,lal<IC, sont continues sur n e s t noté Ck (n) et C" (D) désigne l'espace des fonctions indéfiniment différentiables sur D dont toutes les dérivées sont continues sur E.

Si D CC R" et si f E Ck (D) , k E N, on définit la norme C k de f sur D par

Définition 1.1. Soit D un ouvert de cc" . Une fonction f définie sur D à valeurs dans C est dite holomorphe sur D si f E C1 ( D ) et si f vérifie

8.f -(z) = O pourtout z E D et tout j = 1 , . . . ,n. (1.3) azj Le système d'équations aux dérivées partielles (1.3) s'appelle le système de Cauchy- Riemann homogène.

Remarque: il est clair que si f est holomorphe, alors f est holomorphe séparément par rapport à chaque variable. Plus précisément, si t = (z1) . . . ,zn) E D est fixé, posons

Di = { t E C 1 (21,. . . , ~ j - l , t , ~ j + l , . . .,.z,) E D},

I. Notations et définitions 3

alors la fonction fj : Dj + @ définie part ++ f (XI,. . . , z j - l , t , z j+l , . . . ,zn) est holomorphe.

On note O ( D ) l'ensemble des fonctions holomorphes sur l'ouvert D de Cn . Le résultat suivant est une conséquence directe de la Définition 1.1.

Théorème 1.2. Soit D un ouvert de cc", O( D ) est une algèbre sur C et si f E O( D ) satisfait f ( z ) # O pour toutz E D alors f E O(D).

Si D est un ouvert de Cn = R2" et f une fonction de classe C' dans D , notons df ( a ) sa différentielle en a E D ; c'est l'unique application R-linéaire IR2" + R2 telle que f ( z + a ) = f ( a ) + df (a)(.) + O( 1x1) lorsque z tendvers O dans Cn.

Par un calcul simple on obtient

Une fonction f E C ' ( I l ) est donc holomorphe sur D si et seulement si

pour tout a E D.

Théorème 1.3. Une fonction f E C' ( D ) satisfait le système de Cauchy-Riemann homogène en un point a E D si et seulement si sa différentielle df ( u ) au point a est C-linéaire. En particulier f E O ( D ) si et seulement si sa différentielle en chaque point de D est C-linéaire.

Démonstration. Soient f E C1(D) et a E D. D'après (1.4), on peut décomposer l'application IW-linéaire df ( a ) de @" dans C en

df ( a ) = Sa + T a

L'application Sa est clairement @-linéaire et Ta est la conjuguée de l'application n -

C-linéaire Ta définie par Ta = $$(u)dzj(a). Comme toute application R- j=l

linéaire de @* dans C posséde une décomposition unique de ce type, d f (u ) est @-linéaire si et seulement si Ta = O, c'est-à-dire si f satisfait le système de Cauchy- Riemann homogène. O

4 I. Propriétés élémentaires locales

2. FORMULE DE CAUCHY DANS LES POLYDISQUES

Un sous-ensemble P de Cn est un polydisque ouvert, (respectivement : fermé), s'il existe des disques ouverts, (respectivement: fermés), Pl, . . . ,P, de C tels que P = Pi x . . . x P,. Si <j est le centre de Pj, le point [ = ( C I , . . . ,Cn) est appelé centre de P et si rj est le rayon de Pj alors T = ( T I , . . . ,T,) est appelé muftirayon de P. L'ensemble d0P = aPl x . . . x aP, est le bord distinguéde P. Remarquons que doP n'est pas égal à la frontière de P dès que n > 1. On note P = P(<,T) le polydisque de centre et de multirayon T .

Soit P = P(< ,T) un polydisque de Cn et g E C(d0P) une fonction continue sur le bord distingué de P. L'intégrale de g sur ûoP = aP1 x . . . x aP, est définie Par

g(C(û))eisl . . . eiendûl . . . dû, s lop g(C)dCl. . . dCn = inr1 . . . T, [ 0 , 2 K l "

o ù ~ ( û ) = (Cl(e) ,..., <,(e)) etCj(û) = s j + rjeieJ pourj = 1 , . . .,n.

1,. . . ,n. Si T et T' E R" on dira que T < T' si et seulement si, rj < T; pour tout j =

Le théorème suivant donne une formule de Cauchy pour les fonctions holomorphes de plusieurs variables complexes qui généralise la formule de Cauchy classique. C'est un outil fondamental qui permet de généraliser au cas de plusieurs variables les propriétés élémentaires locales des fonctions holomorphes dune variable complexe.

Théorème 2.1. Soient P = P(u,r) un polydisque de C" et f E C(P) une fonction holomorphe séparément par rapport à chaque variable dans P , alors

Démonstration. Montrons tout d'abord par récurrencesur le nombre de variables que la formule (2.1) est vraie pour tout polydisque P = P(u,T),O < T < T ,

contenu dans P.

Considérons l'assertion

(Cn) soit P un polydisque de Cn et f une fonction continue et séparément holomorphe au voisinage de P, alors la formule (2.1) est valide.

Pour n = 1, (CI) est la formule de Cauchy classique que l'on suppose connue. Supposons que, si n > 1, (Cn-l) est satisfaite. Fixons z = (21,. . . ,z,) E P et appliquons (C,- 1) relativement aux (n - 1) dernières variables pour le polydisque P' = P2 x . . . x Pn de CY-'. On obtient alors

2. Formule de Cauchy dans les polydisques 5

Pour (Cz,. . . ,Cn) fixédansdoP',lafonctiong définieparg(<)=f (<&, . . . ,<,) est holomorphe au voisinage de Pl, on peut donc lui appliquer la formule de Cau- chy. On a alors

L'assertion (C,) se démontre en substituant (2.3) dans (2.2) et en appliquant

Si f satisfait aux hypothèses du Théorème 2.1 pour le polydisque - P = P(u,T), elle vérifie les hypothèses de l'assertion (C,) pour tout polydisque P = P(a,T), O < T < T et la formule (2.1) est valide pour P, soit

le Théorème de Fubini après avoir paramétré aP1 et &PI.

f ( C ) étant continue sur P\ { z ) on peut appliquer LafonctionC - (cl-zi)...(c n - z n )

le Théorème de Lebesgue après avoir paramétré &P et faire tendre T vers T pour obtenir (2.1). O

-

Corollaire 2.2. Soit D un ouuert de C" et f E C(D) une fonction holomorphe sépa- rément par rapport à chaque variable, alors f est de classec" dans - D et par consé- quentf E O ( D ) . Depluspourtouta E W, D"'f E O ( D ) etDaflf Odèsque lBl # 0.

Démonstration. Pour tout a E D, soit Pa un polydisque tel que Pa CC D. On peut alors appliquer le Théorème 2.1 à f et au polydisque Pa. La fonction ( ( , z ) M

étant continue sur doPa x Pa et de classe C" par rapport à z, f (O ( C i - z i ) . . . ( C n - Z n )

il suffit de dériver sous le signe dans la formule (2.1) (ce qui est possible) aussi O souvent que nécessaire pour obtenir le corollaire.

Théorème 2.3. Inégalités de Cauchy. Soient P = P(u,T) un polydisque de C" et f E O(P(a, r ) ) une fonction holomorphe sur P. Alors pour touta E W , on a

où 2 désigne le multi-indice (2,2, . . . ,2) E W

Démonstration. Fixons p tel que O < p < T et appliquons la formule de Cauchy (2.1) à f et au polydisque P(a,p). Après dérivation sous le signe on obtient


où 1 désigne le multi-indice (1,1, . . . ,1) E IV. On a alors la majoration

et on en déduit la formule (2.4) en faisant tendre p vers T .

En multipliant les deux membres de (2.6) par pa+n et en intégrant par rapport à p, on obtient

P a f (.)I / pafndpi . . . d p n - < [ O , l - i ] x . . . x [O,rnl

dpi.. 'dpn / If(c(o))lpi.. 'pndei . * *den & io ,.il x ... x [OITn] [ O J T I "

d où T"+2

< -/ If(<)ldV (ai + 2) . . (an + 2) - (2~)" p(a,.)

lD"f (.)I

en utilisant le Théorème de Fubini et un passage en coordonnées polaires. O

Corollaire 2.4. Pour tout (Y E W, p tel que 1 5 p 5 cc et tout ouvert R CC D, il existe uneconstantec = C(cw,p,R,D) telleque

Ilo"fllf2 5 cllf IILP(D) p0urtout.f E o ( D ) Lp(D).

Démonstrarion. Fixons 6 tel que O < 6 < dist(0,bD) et soit T = 6 alors pour tout a E Cl,P(a,r) CC D et on aïestimation (2.5). Comme de plus

Jn

llfllL1(P(a,r)) 5 C p l l f l I ~ P ( ~ ( a , r ) ) i C p l l f l I ~ P ( ~ ) le corollaire est démontré. o

Une des applications principales de la formule de Cauchy (2.1) est l'analyticité des fonctions holomorphes de plusieurs variables. Pour prouver ce résultat nous avons besoin de la notion de convergence pour une série indexée par IV.

Soit ( u , ) , ~ w " une famille de nombres complexes, on dira que la série a , ,EN("

est absolument convergente si

laal = sup { laal : F c w finie < +cc. 1 ,EN" f f E F

Sous cette condition il existe un élément unique A de C tel que

On écrit alors A =

(T est une permutation de IV, la série

a, et A est appelée somme de la série ,EN" aEW

a,. De plus, si

an(,) est convergente et sa somme est ,EN"

2. Formule de Cauchy dans les polydisques 7

indépendante de la permutation (T. On a également a , = c ( c a,). OEM" kEM Icrl=k

Si ( f,),Epqn est une famille de fonctions continues sur un ouvert D de Cn et K un compact de D. On dira que la série f a converge normalement sur K si la série

sup I f a (2) I est convergente. a E N n

,EN" z E K

Considérons plus particulièrement le cas où f a ( 2 ) est un monôme, c'est-à-dire f , ( 2 ) = a,za = a,zyl . . . 2:". Comme dans le cas dune variable on a le Lemme d'Abel :

Lemme 2.5. Supposons que pour < E Cn, avec & # O pour tout j , la série a,<, soit absolument convergente. Alors la série aaza converge nor-

,EN" a E W malementsurlepolydisque{z 6 Cn 1 lzjl 5 I& / } .

Théorème 2.6. Soient D c Cn un ouvert et f E Q ( D ) une fonction holomorphe sur D, alors f est développable en série entière au voisinage de chaque point de D, Le. si< E D, il existe un voisinage V de< dansCn tel que, pour toutz E V , on a

De plus la série du second membre converge normalement vers la fonction f sur tout polydisque f e r m é p C D centré en<.

Démonstration. Soit < E D et P CC D un polydisque centré en <. Pour tout z E P e t< E doP

Le second membre converge normalement par rapport à < sur doP. On peut alors intégrer terme à terme dans la formule de Cauchy (2.1) appliquée à f et au polydisque P. Si z E P, on a donc

De plus en dérivant sous le signe dans la formule (2.1), on obtient

La deuxième assertion du théorème est une conséquence du Lemme 2.5. O

Corollaire 2.7. Principe du prolongement analytique. Soit D C @" un ouvert connexe. Si f E O ( D ) et s'il existe a E D tel que D a f ( a ) = O pour tout Q E W , alors f ( z ) = O pour tout z E D. En particulier, s'il existe un ouvert non vide U C D tel que f (2) = O pour toutz E U alors f _= O sur D.


Démonstration. D’après le Théorème 2.6, l’ensemble

R = { z E D I D ” f ( z ) = Opourtouta E W }

est ouvert. Par continuité des fonctions D” f , 0 est aussi fermé. L‘ouvert D étant O

On déduit aisément de la Définition 1.1 et des Théorèmes 2.1 et 2.6 la caractéri-

connexe et R # 0, on a R = D.

sation suivante des fonctions holomorphes de plusieurs variables :

Corollaire 2.8. Soient D un ouvert de Cn et f une fonction de D dans @. Les assertions suivantes sont équivalentes.

u f E O ( D ) , 2) f E C( D ) et f est séparément holomorphe en z1, . . . ,zn, 3) pour tout polydisque P cc D, f vérifie la formule de Cauchy (2. i), 4) pour tout z E D, f est développable en série entière au voisinage de z.

En fait l’hypothèse f E C(D) peut être supprimée dans 2). L‘équivalence entre 1) et 2) ne nécessite aucune régularité par rapport à l’ensemble des variables, c’est le théorème de Hartogs [Har].

Théorème 2.9. Soit D un ouvert de a?, f E O ( D ) si et seulement si f est holomorphe séparément par rapport à chaque variable.

Un tel résultat est faux pour les fonctions de plusieurs variables réelles comme le prouve le contre-exemple suivant :

Soit f : R2 + R définie par

La fonction f est analytique réelle séparément par rapport à chaque variable mais eiie est non bornée au voisinage de O.

3. THÉORÈME DE L‘APPLICATION OUVERTE

Le théorème de l’application ouverte et le principe du maximum qui s’en déduit s’étendent sans difficulté aux fonctions holomorphes de plusieurs variables.

Théorème 3.1. Soit D un ouvert connexe de Cn et f une fonction holomorphe sur D. Si f n’est pas constante alors l’application f : D -+ @ est ouverte (i.e. l’image d u n ouvert de D est un ouvert de Cl.

Démonstration. Soient a E D et U un voisinage convexe de a, contenu dans D. D’après le principe du prolongement analytique flu $ f ( a ) car f n’est

3. Théorème de l’application ouverte 9

pas constante et D est connexe. Soit b E U tel que f ( b ) # f (a) , considérons R = {z E C I a + z(b - a ) E V } etposonsg(z) = f ( u + z(b - a ) ) pourz E R. L‘ouvert R est convexe et contient O et 1, de plus g(0) = ! (a) # f (b) = g(1). D’après le théorème classique en dimension 1, g(R) est un voisinage de f(u).

O Comme f ( U ) 3 g(R) le théorème est démontré.

Corollaire 3.2. Principe du maximum. Soient D un ouvert connexe borné de Cn et f une fonction holomorphe dans D et continue dans D. Si f n’est pas constante, on a pour tout z E D

Démonstration. La continuité de f sur D et le théorème de l’application ouverte impliquent que f ( D ) = U est un ouvert borné. Soit w E dU, alors w = lim f (z,,) où ( Z , , ) , , ~ N est une suite de points de D dont on peut extraire une sous-suite qui converge vers un point de dD, car f est ouverte. Par consé-

,,-io0

Corollaire 3.3. Soit f une fonction holomorphe sur un ouvert connexe D de C” . Si I f 1 possède un maximum relatifen zo E D alors f est constante sur D.

Démonstration. Soit V un voisinage ouvert connexe de zo dans D tel que pour tout z E V , I f (.)I 5 I f (.O)[. Supposons que f ne soit pas constante sur V , alors d’après le Théorème 3.1, f ( V ) est un ouvert contenu dans le disque fermé de centre O et de rayon I f (zo) 1 , il est donc nécessairement contenu dans le disque ouvert, ce qui est absurde. Par conséquent f est constante sur V et D étant connexe f est

O

Terminons ce paragraphe par une version du Lemme de Schwarz pour les fonc-

constante sur D par le principe du prolongement analytique.

tions holomorphes de plusieurs variables.

Théorème3.4. Soitf unefonctionholomorphesurB(0,R) = { z E C” I IzI < R}. On suppose que f admet l’origine comme zéro d’ordre I C , i.e. le développement de Taylor de f en O ne comporte pas de termes d’ordre strictement inférieur à I C , et que I f I estbornépar uneconstanteM surB(0 ,R) . Alors

Démonstration. Pour z # O fixé dans B(0,R) et u E C tel que lu1 < R on pose cp(u) = f ( u 6 ) . La fonction cp ainsi définie est holomorphe sur le disque D(0,R) de C et IqI est borné par M sur ce disque. De plus cp s’annule à l’ordre k en O. On peut dors considérer la fonction 9(u ) = 9, elle est holomorphe sur D(0,R) et


si O < T < R, on a 1Q(u)1 5 9, si lu1 = T . D'après le principe du maximum appliqué à q, on a encore IQ(u)I 5 $, si lu1 5 T . En particulier si on choisit

T 2 1x1 e t u = IzI onobtient lQ( lz l ) l 5 $ ouencore I f ( . ) [ 5 Ml:l . Cette inégalité étant valable pour tout T tel que IzI 5 T < R, en passant à la limite on

O obtientdonclf(z)l 5 M I % [ .

k

k

4. SUITES DE FONCTIONS HOLOMORPHES

Soit D un ouvert de C". On dit qu'une suite ( f J ) 3 E ~ c C ( D ) converge unifor- mément sur tout compact de D s'il existe une fonction f E C ( D ) telle que, pour tout compact K de D, la suite ( f j ) j G N converge uniformément sur K vers f .

Nous allons définir une structure d'espace vectoriel topologique métrisable sur C( D ) pour laquelle la convergence des suites est équivalente à la convergence uniforme sur tout compact. Un système fondamental de voisinages de O pour cette to- pologieest donnéparles ensembles V K , ~ = {f E C ( D ) 1 supzEK l f ( z ) I < E } , où K décrit la famille des compacts de D et E varie dans Et;. Comme D est réunion dénombrable de compacts, la topologie ainsi définie est métrisable. Plus précisé-

w

ment, soit ( K j ) j E ~ une suite exhaustive de compacts de D , i.e. D = u Kj et j=i

O

Kj CKj+i (avecparexempleKj = { z E D 1 d ( z , d D ) 2 +,Iz/ 5 j } ) . Pour

la topologie ci-dessus.

L'espace C ( D ) muni de cette topologie est complet, c'est un espace de Fréchet. On munit le sous-espace vectoriel O ( D ) de C(D) de la topologie induite par celle deC(D).

Théorème4.1. O ( D ) est un sous-espace fermédeC(D) etpour touta E IV lesopé- rateurs Da sont continus de O ( D ) dans lui-même. Plus précisément si ( f j ) j E N C O( D) converge uniformément sur tout compact de D vers une fonction f E C( D), alors f E O ( D ) et pour toutcu E W, la suite ( D a f j ) j E N converge uniformément sur tout compact de D vers D a f .

Démonstration. Elle est analogue à la démonstration dans le cas de la dimension 1. I1 suffit de remplacer la formule de Cauchy classique par la formule de Cauchy dans les polydisques. O

Définition 4.2. Un sous-ensemble S de O ( D ) est borné si et seulement si pour tout compact K c D on a

5. Applications holomorphes 1 1

Nous donnons maintenant une caractérisation des parties compactes de O(D) qui s'apparente à ceile des compacts des espaces vectoriels topologiques de dimension finie.

Théorème 4.3. Théorème de Montel. Un sous-ensemble S de O ( D ) est compact si et seulement s'il est fermé borné.

Dérnonstra tion

1) Condition sufisante: supposons que S est fermé borné, O ( D ) étant métri- sable il suffit de montrer que de toute suite d'éléments de S on peut extraire une sous-suite convergente. Soit ( fv)vEN une suite d'éléments de S. Puisque pour tout v E N, f v E O ( D ) , on déduit des inégalités de Cauchy que les dérivées premières des fv sont uniformément bornées sur tout compact de D. Le Théorème d'Ascoli permet alors de conclure.

2) Condition nécessaire: soit K un compact de D , alors l'application II . I I K de C(D) dans B, qui à f fait correspondre supzEK I f (.)I est continue. Puisque S est compact, l'ensemble {II f l l ~ , f E S } est un compact de B et par conséquent sup{ II f l l ~ , f E S } < +mû, ce qui prouve que S est borné. De plus S étant com-

O pact, il est naturellement fermé.

5. APPLICATIONS HOLOMORPHES

L'étude des applications holomorphes va nous conduire à la définition des sous variétés analytiques complexe de C" . Nous verrons au chapitre II qu'une sous va- riétés analytiques complexe de C" est une variété analytique complexe au sens abs- trait.

Définition 5.1. Soit D un ouvert de <c", une application f , f = (fi,. . . , f m ) : D + Cm est holomorphe dans D , si les fonctions fi , . . . , fm E O ( D ) . On note O ( D , P ) , l'espacedesapplications holomorphesdeD dans?. Si f E O ( D , P ) et a E D, la matrice

est appeléematrice jacobienne de f au pointa.

Proposition 5.2. SoientD c C? un ouvertet f = ( f i , . . . ,fm) E O(D,Cm), pour tout a E D

(5.1) f ( a + .) = f ( a ) + Jf (a). + 4 4 ) lorsque t tend vers O dans C" .


Démonstration. D'aprèsleThéorème 1.3, si f E O ( D , P ) , ladifférentielie de f en a, df ( a ) est une application C-linéaire de C" dans Cm dont la matrice relativement aux bases canoniques de C" et Cm est donnée par J f ( a ) . Par définition de @ ( a )

O on a donc la formule (5.1).

Théorème 5.3. Soient f : D C C" + R c Cm et g : R c Cm Ce deux applications holomorphes. Alorsg O f : D -+ Ce est une application holomorphe et pour tout a E D on a

( 5 4 J s o f W = J d f (.))JI(.).

Démonstration. D'après les résultats classiques du calcul différentiel, la différen- tielle de g O f au point a vérifie

(5.3) d(g O f)(a) = & ( f ( a ) ) O df ( a ) . Mais puisque f et g sont des applications holomorphes leurs différentielles d f ( a ) et dg( f ( a ) ) sont des applications C-linéaires dont les matrices relativement aux bases canoniques sont respectivement J f ( a ) et Jg( f ( a ) ) . Par conséquent d(g O

f) ( a ) est C-linéaire pour tout a E D, ce qui signifie que g O f est une application O holomorphe, et la formule (5.2) résulte de (5.3).

Définition 5.4. Soient D un ouvert de Cn, f une application holomorphe de D dans C" et a un point de D. On dira que f est biholomorphe au voisinage de a s'il existe un voisinage U de a tel que f I soit une bijection de U surf ( U ) et que (f I u) -' soit une application holomorphe de f ( U ) sur U .

Théorème 5.5. Inversion locale. Soient U un voisinage de a E Cn et f E O( U , P ). Alors f est biholomorphe au voisinage de a si et seulement si det ( J f ( a ) ) # O.

Démonstration. L'hypothèse det(Jf(a)) # O implique que df ( a ) est inversible. D'après le théorème d'inversion locale classique f est un C1-difféomorphisme local au voisinage de a et df -'( f (y)) = (df(y))-l pour tout y assez voisin de a. Comme df (y) est C-linéaire car f est holomorphe son inverse (d f (y))-' est égale- ment C-linéaire ce qui implique que f -' est holomorphe au voisinage de f ( a ) car df -Yf (Y)) = (df(d)-'.

Corollaire 5.6. Si X est un sous-ensemble de Cn et si kE{ 1,2, . . . ,n- 1}, les conditions suivantes sont équivalentes :

E X , il existe une application biholomorphe f = (f 1, . . . , fn) définie sur un voisinage U de 5 telle que

i) Pour tout point t

X n U = { z E f k + l ( ~ ) = " ' = f n ( ~ ) = O } .

ii) Pour tout point t E X , il existe un voisinage V de E dans Cn et une application holomorpheg V -+ telleque

rgJ,(J) = n - k et X n V = { z E V I g ( z ) = O } .

6. Quelques théorèmes d'extension holomorphe 13

iii) Pour tout point ( E X , il existe un voisinage W de 5 dans C", un ouvert R dans Ck et une application h : R -+ C" holomorphe telle que

rgJh(E) = k et X n W = h(R).

Dérnonstrarion. il + ii) et iiil est immédiat.

Prouvons maintenant iil + i). Soient V et g satisfaisant iil, notons G l'applica- tionlinéaire cc" + définie par Jg(E). Puisque r g J g ( [ ) = n- I C , l'application G est surjective et il existe A : C" -+ Ck telle que A @I G : Cn -+ C" définie par A @ G(z) = (A(z),G(z)) soit bijective (on peut définir A comme la projection de C" sur ker G après identification de ker G et Ck par le choix d'une base). Posons f ( z ) = (A(z),g(z))pourz E V.Alorsdet J f ( E ) = det(A@G) # 0,doncdaprès le Théorème 5.5, f est biholomorphe sur un voisinage U de ( contenu dans V. De plus par définition de f on a

x n U = {Z E U I fk+l(~) = . . . = fn(z) = O } .

Montrons pour terminer que iii) + ii]. Soient W et h satisfaisant iii), notons H l'application linéaire Ck -+ C" définie par Jh( ( ) . Puisque rgJh(() = k , l'application H est injective. Si z E C" = ck x Cnpk on pose z = (z'"''), alors l'application Q> définie par @ ( z ) = H ( z ' ) + ( 0 , ~ " ) est une bijection de C" dans C".~osonscp(z) = h ( d ) + ( ~ , z " ) p o u r z E R x C n - k . ~ o r s ~ ~ ( h - l ( ( ) , ~ ) = Q> est inversible, donc d'après le Théorème 5.5, cp et biholomorphe au voisinage de (h-'(c),O). Posons f = cp-', f est définie et biholomorphe sur un voisinage V de ( contenu dans W et vérifie f ( h ( z ' ) ) = (z',O). I1 suffit alors de poser g = p O f où

O p est la projection de C" sur qui envoie z sur z".

Définition 5.7. Soit D un ouvert de C". Un sous-ensemble X de D est une sous- variété analytique complexe de Cn si les conditions équivalentes i), ii) etiii) du Co- rollaire 5.6 sont remplies. Si de plus X est fermée dans D , alors X est une sous-variété fermée de D.

6. QUELQUES THÉORÈMES D'EXTENSION HOLOMORPHE

A. Théorème d'extension de Riemann

Nous voulons généraliser au cas de plusieurs variables le résultat d'extension holomorphe des fonctions holomorphes bornées d'une variable complexe dans un disque pointé. Dans C un point peut être considéré comme l'ensemble des zéros dune fonction holomorphe. Nous allons nous intéresser ici à l'extension des fonctions holomorphes bornées sur un ouvert de C" privé de l'ensemble des zéros d u n nombre fini de fonctions holomorphes.

Définition 6.1. Soient D un ouvert de C" et A c D. On dit que A est un ensemble analytique si pour tout a E D, il existe un voisinage U de a et un nombre fini de


fonctions holomorphes fi, . . . , f p sur U telles que A n U = { z E U I f l (z ) = . . . = f&) = O}.

Proposition 6.2. Soient D un ouvert connexe de û? et A C D un ensemble analytique alors

i) A est fermé dans D, i i ) si A # D, D \ A est dense dans D,

iii) D \ A est connexe.

Démonstration

i) Par définition tout point a E D possède un voisinage U tel que A n U soit fermé car les fonctions fj j = 1, . . . ,p, sont continues. Par conséquent A est fermé dans D.

O

ii) Raisonnons par l’absurde. Supposons que B = A est non vide. On va prouver que B est fermé dans D et comme B est ouvert, non vide et D connexe on aura A = D.

Soient a E B, U un voisinage ouvert connexe de a dans D et fi, . . . , fp des élémentsdeO(U)telsqueAnU= { Z E U I fl(z)=...= f,(z) =O}.Chaque fonction fj , j = 1, . . . ,p s’annule sur l’ouvert B n U ; U étant connexe, d’après le principe du prolongement analytique, chaque fj j = 1, . . . ,p, est identiquement

nulle sur U et donc U c A. De plus U étant ouvert, U CA= B et puisque a E U , o n a a E B e t d o n c B = B .

O

iii) Supposons que D \ A # 0 et montrons tout d’abord :

(*) tout point a E D a un voisinage connexe U tel que U \ A est connexe.

Fixons a E D. Soit U un voisinage convexe de a sur lequel il existe des fonctions holomorphes fi,. . . , f p telles que U n A = { z E U I f l (z ) = . . . = f,(z) = O}. Soient ~ 0 ~ x 1 E U \ A et V = {A E C I AZO + (1 - A)x1 E U } ; V est une partie convexe de C car U est convexe et il existe j E (1, . . . ,p} tel que la fonction gj(A) = fj(Ax0 + (1 - A)zl) ne soit pas identiquement nulle sur V et qu’en particulier g j ( 0 ) # O. La fonction gj étant holomorphe, l’ensemble de ses zéros A’ est discret dans V . Donc V \ A’ est connexe. Mais A’ contient l’ensemble {A E C I (Ax0 + (1 - A)x1) E A n U } . Supposons que fj(x1) # O, alors O et 1 sont dans V \ A’, qui est connexe, et par conséquent il existe un arc yx : [0,1] I+ C joignant O à 1 dans V \ A’. Si fj (XI) = O, alors 1 E A’, mais puisque A’ est discret il existe E > O tel que le segment [ill + E] n A’ = { 1). On construit alors un chemin y joignant O à 1 contenu dans (V \ A’) U { 1) en joignant O à 1 + E par un arc y1 : [O,;] + V \ A’ puis 1 + E à 1 par72 : [;,il -+ (V \ A’) ü {1} avec y2( t ) = -2~ t + 1 + 2 ~ . L‘application y : t I+ y(t)zo + (1 - y(t))xl est alors un arc joignant xo à x1 dans U \ A et donc U \ A est connexe.

Montrons maintenant que (*) implique iii). Raisonnons par l’absurde. Suppo- sons que D \ A = Ui ü Uz où les Uj, j = 1,2, sont des ouverts non vides disjoints.


D'après ii) D = D \ A = Ü, ü Ü2. Comme D est connexe Ü1 n Ü2 # 0. Soit a E Ü1 n u2 et U un voisinage de a tel que U \ A soit connexe (il en existe d'après (*)).Alors U \ A = (U n U1) U ( ( U n U2). L'ensemble U \ A étant connexe et A fermé, l'un des (U n U j ) , j = 1,2 est vide, par exemple (U n U1) = 0, ce qui est

O impossible puisque U est un voisinage de a E u1.

Corollaire 6.3. SoientD un ouvert connexedep et f etg des fonctions holomorphes sur D. Si f et g coïncident sur une partie S de D pour laquelle il existe un ouvert connexe V de D tel que V \ S ne soit pas connexe, alors f etg coïncident sur D.

Démonstration. Soit A l'ensemble des zéros de f - g dans D . Supposons que A soit distinct de D . D'après la Proposition 6.2, V \ A est connexe et V \ A est dense dans V donc dans V \ S. Par conséquent V \ S doit être connexe ce qui contredit

O l'hypothèse. On a donc A = D.

Exemple: si S est une hypersurface réelle de D, c'est-à-dire S = f - l ( O ) avec V f # O sur S et f E C'(D,R), par exemple, S satisfait la condition du Corol- laire 6.3. En effet D \ S = {x E D I f (x) > O} ü {x E D I f (x) < O}.

Théorème 6.4. Théorème de Riemann. Soient D un ouvert de Cn et A un ensemble analytique distinct de D . Soit f une fonction holomorphe sur D \ A. Supposons que tout pointa E A possède un voisinage U dans D tel que f (U\A soit bornée. Alors il existe une unique fonction F sur D tellequeFID\A = f .

Démonstration. L'unicité est une conséquence immédiate du principe du prolongement analytique.

Etudions tout d'abord le cas n = 1. I1 suffit de prouver que si f est bornée et holomorphe dans le disque pointé { z E C I O < IzI < R}, alors f se prolonge holomorphiquement au disque { z E @. I 1x1 < R}, car en dimension 1 les ensembles analytiques sont discrets. Considérons le développement de Laurent de f sur le disque pointé { z E C I O < (21 < R }

Si v < O, aw -+ O quand T + O car f est borné et puisque a, est indépendant d e r , a , = O. On a donc le résultat en posant F ( z ) = a,z".

,>O

Passons au cas général. Pour a E A, soit V un voisinage connexe de a tel que f I V \ A soit borné et sur lequel il existe des fonctions holomorphes fi, . . . , f p telles que A n V = { z E V I fi(.) = . . . = f p ( z ) = O}. On peut supposer que h = f i $ O et après un éventuel changement de coordonnées affine de Cn que a = O et h(0, . . . ,O,z,) $ O dans un voisinage de z, = O. I1 existe alors 6 > O tel


que h(0, . . . ,O,z,) # O pour O < Iznl I 6. Posons z' = ( ~ 1 , . . . ,zn-l). Soit E > 0 tel que h(z',z,) # O si lz'l 5 E et Iz, I = 6. On considère la fonction

Remarquons que pour Iz'I I E et It1 = 6, le point (z ' , t ) E V \ A et que g est holomorphe pour Iz'( < E et Iz, I < 6. De plus pour z' fixé avec Iz'I < E , la fonction t +-+ f ( z ' , t ) possède une extension holomorphe au disque { t E C I It1 < 6). En effet, puisque h(z',z,) # O si Iz,I = 6, la fonction z, H h(z',z,) n'a qu'un nombre fini de zéros sur { z , E C I Iz,I < S} et f étant bornée au voisinage de ces zéros, il suffit d'appliquer le cas n = 1. Grâce à la formule de Cauchy en une variableonag(z) = f ( z ) s i z E V\A,lz'l < E , I z , I < 6.Lafonctionfadmetdonc une extension holomorphe au voisinage de chaque point de A et grâce à l'unicité le théorème est démontré. O

B. Théorème de Rad0

Théorème 6.5. Théorème de Rado. Soit f une fonction continue sur un ouvert D de C" . Si f est holomorphe sur { z E D I f ( z ) # O } alors f est holomorphe sur D.

Démonstration. La fonction f étant continue, il suffit, d'après le Corollaire 2.8, de prouver que f est séparément holomorphe. De plus la notion d'holomorphie étant locale, il suffit de montrer le théorème pour une fonction dune variable sur le disque unité A de @.

Supposons que f est une fonction continue sur a et que f est holomorphe sur U = { z E A I f ( z ) # O}. Nous allons prouver que U est dense dans A et que f est de classe C" dans A, ce qui nous donne aisément le résultat cherché. En effet, est alors une fonction continue sur A qui est nulle sur une partie dense de A (l'ouvert U ) et donc identiquement nulle sur A, ce qui signifie que f est holomorphe dans A tout entier.

Lemme 6.6. Si g est une fonction continue sur Ü et holomorphe sur U , pour tout z E uj 19(z) I I SupCEaanau b ( C ) I.

Démonstration. Considérons pour n E M*, fixé, la fonction gn(z)f(z) . C'est une fonction holomorphe sur U , donc d'après le principe du maximum

pour tout z E U , car f s'annule sur A n dU. En prenant la racine nième des deux membres de la dernière inégalité et en faisant tendre n vers l'infini on obtient le résultat. O


Lemme 6.7. L'ouvert U est dense dans A.

Démonstration. Raisonnons par l'absurde. Supposons que U n'est pas dense dans A. I1 existe dors a E A n ûU et une suite ( a u ) v E ~ de points de A \ u qui converge vers a. Considérons la suite de fonctions ( & ) v E ~ . Ces fonctions sont holomorphes sur U et continues dans Ü. De plus, grâce au Lemme 6.6, si z E U et si v est assez grand

1 2 sup ~ < ~

1 ' CEaAnau IC - avl - d ( a , d A )

Mais comme a E Ü, la suite (=),,!gq 1 ne peut pas être uniformément bornée sur U , d'où la contradiction. O

Lemme 6.8. Les fonctions Re f et Im f sont harmoniques sur A et par conséquent f est de classec" sur A.

Démonstration. D'après le Théorème de Stone-WeierstraR, toute fonction continue f sur dA est limite uniforme sur dA de polynômes trigonométriques :

P n

f = lim Qn(0) où Qn = ck,neiks n+m

k=- P n

a k , n cos k0 + bk,, sin k0 avec ak,n,bk,n E R et si on pose

(ak,n - ibk,,)zk, on obtient Re(Pn(z)) = ReQn(0) pourz = eis et

P n Alors Re Q n ( 0 ) =

Pn(z) =

Re( f - P,) converge uniformément vers û sur ûA.

Soit E > O, fixé, alors il existe IC0 tel que si IC 2 ko

k=O P n

k=O

lepk-fl 5 eE et lef-"k I - < eE

sur dA. Les fonctions ef-Pk et ePk-f étant continues sur V et holomorphe sur U , on peut leur appliquer le Lemme 6.6 et on obtient pour k 2 ko

lePk-fl 5 eE et l e f - P k I - < eE

sur u. Par conséquent 1 Re(Pk - f ) l 5 E sur u et puisque u est dense dans A, I Re(Pk - f ) I est majoré par E sur A car f et les P k sont continues sur A.

On a donc prouvé que Re f est limite uniforme sur A des fonctions Re Pk qui sont harmoniques. Le Théorème de Harnack implique alors que Re f est harmonique sur A. En remplaçant f par if on montrerait de même que Im f est harmonique sur A. La fonction f est donc harmonique sur A et en particulier de classe C". O


C. Phénomène de Hartogs

Dans ce paragraphe nous donnons un cas particulier du phénomène de Hartogs dans @" ,n 2 2. Le cas général du phénomène de Hartogs dans un ouvert de @" , n 2 2, sera étudié en détail au chapitre IV

Théorème6.9. SoientD unouvertconnexede@", et& = {w E @ I T < lwl < R}, O 5 T < R . Soit f une fonction holomorphe sur D x Q. On suppose qu'il existe un point a E D tel que f se prolonge holomorphiquement à un voisinage de { u } x A, A = { w E @ I /w I < R } . Alors f se prolonge holomorphiquement à D x A .

Démonstration. Notons (z,w) les points de D x Q. Remarquons que sil'extension F de f à D x A existe, pour z E D et p E]T,R[

par la formule de Cauchy en une variable.

Pour tout p , tel que T < p < R, considérons la fonction

Elle est continue sur D x { w E @ I 1wI O tel que f ( z , w ) s'étend en une fonction holomorphe, que nous noterons encore f ( z , w ) , à l'ouvert {Iz - al < E , I w I < T O } . Choisissons p tel que T < p < T O alors f (z,w) = f f (z ,w) si Iz - al < E et IwI < p , d'après la formule de Cauchy en une variable. L'ouvert D x {w E @ 1 T < IwI < p } étant connexe, on peut appliquer le principe du prolongement analytique à f et ff et donc f et f p coïncident sur D x {w E @ I T < IwI < p } . Par conséquent F définie par F ( z , w ) = f (z,w) sur D x Q et par F ( Z , W ) = fp (z ,w) sur D x {w E c I I W / < p } est l'extension cherchée. O

Exemples 1) Soient D un ouvert de @" ,n 2 2, et u un point de D , toute fonction holo-

morphe sur D \ { u } s'étend en une fonction holomorphe sur D . 2) Soient K un compact de @",n 2 2, et f une fonction holomorphe dans

@" \ K alors f admet une extension holomorphe à C" tout entier. 3) Soient P le polydisque {(zi,. . . ,zn) E @" I lzil < r,l 5 i 5 n} et Q =

{(XI,. . . ,zn) E P I 1zil < f , l 5 z 5 n - 1 ou Iz,I 2 f } , n 2 2. Toute fonction holomorphe sur Q s'étend en une fonction holomorphe sur P.

Ces résultats sont faux si n = 1, il suffit, par exemple, de considérer la fonction


Corollaire 6.10.

zéros de f ne contient pas de points isolés.

n'est pas borné.

a) Soit f une fonction holomorphe sur un ouvert D de @" , n 2 2. L'ensemble des

b) Si f est une fonction holomorphe dans @" , n 2 2, l'ensemble des zéros de f

Démonstration. On raisonne par l'absurde et on applique à la fonction $ les situa- O tions décrites dans les exemples 1) et 2).

Commentaires. L'origine de la théorie locale des fonctions holomorphes de plusieurs variables se trouve dans les travaux de K. Weierstrass, H. Poincaré et E! Cousin, qui ont étudié les fonctions dans les domaines produits de C" à la fin du siècle dernier. En 1906, Hartogs [Harl a découvert des domaines de C2 pour lesquels toute fonction holomorphe s'étend holomorphiquementà un domaine plus grand, ce qui ne se produit jamais en une variable.

Les résultats que nous venons d'exposer sont très classiques. Ils sont donnés dans la plupart des volumes relatifs à lu théorie des fonctions de plusieurs variables complexes. Le lecteur intéressé pourra consulter les livres suivants : [HO2], [Krl, [Nall, [Ra]. Le Théorème de Hartogs sur l'analyticité séparée est démontré dans [HO21 (Th. 2.2.8).

Chapitre II

Courants, structures complexes

Ce chapitre introduit deux notions : l’une de nature différentiable, la notion de courant, et l’autre de nature analytique, la notion de variété analytique complexe et les structures complexes associées, que nous utiliserons abondamment dans la suite de ce volume. Nous définissons tout d’abord les courants, qui sont l’équivalent pour les formes différentielles des distributions pour les fonctions, puis nous nous intéressons au problème de la régu- larisation des courants définis sur une variété différentiable de classe c”. Ce problème, qui a une solution simple dans le cas de IR” grâce à la convolution, nécessite I’introduction de noyaux ayant des propriétés voisines de celles des noyaux de convolution. Nous étudions égaiement l’indice de Kronecker de deux courants qui est la généralisation de l’accouplement d’un courant et d’une forme différentielle, ce qui nous permet de prouver une formule de Stokes assez générale qui sera utilisée dans les chapitres III et IV. Ensuite nous introduisons la notion de variété analytique complexe et nous décrivons les structures complexes naturelles qui apparaissent sur l’espace tangent de telles variétés, ce qui nous conduit à définir la notion de forme différentielle de type (p, 4 ) . l’opérateur a ainsi que le complexe de Dolbeault et les groupes de cohomologie associés. Les phénomènes d’extension holomorphe que nous étudierons au chapitre V sont liés à l’annulation de certains de ces groupes de cohomologie. Des théorèmes d’annulation seront donnés au chapitre VIL Nous terminons par la définition de l’espace tangent complexe au bord d’un domaine d’une variété analytique complexe qui interviendra dans la définition des fonctions CR (chap. IV) et dans la définition de la pseudoconvexité (chap. VII).

1. COURANTS

On désigne par X une variété différentiable de classe Cm, de dimension n, orientable et orientée et on note V ( X ) l’espace vectoriel des formes différentielles de classe C”, de degrép, O 5 p 5 n, à support compact dans X. Nous aiions défi- nir une topologie localement convexe sur DP(X) , puis nous étudierons son dual.

22 I I . Courants, structure complexe

A. Topologie de D p ( x )

vectoriel des fonctions de classe C" sur X . Supposons tout dabord que X est un ouvert de R" et notons &(X) l'espace

Si K est un compact de X et a E W , on pose, pour f E &(X)

Les p ~ , , sont des semi-normes sur E ( X ) . Considérons la topologie de € ( X ) défi- nie par ces semi-normes. Un système fondamental de voisinages de zéro pour cette topologie est donné par les ensembles

VK,m,E = {f E E(X) I va,lal I m , ~ ~ , a ( f ) < E ) .

Puisque X est un ouvert de R", il possède une suite exhaustive de compacts ( K p ) p E ~ et la famille (VK,,,,~,,)~,~~N,~~N. forme une base dénombrable de voisinage de O. La topologie que nous avons définie est donc métrisable. On vérifie aisément qu'une suite d'éléments de E(X) converge vers O pour cette topologie si elle converge uniformément vers O sur tout compact de X ainsi que toutes ses dérivées. Muni de cette topologie & ( X ) est un espace de Fréchet (espace vectoriel topologique localement convexe, métrisable et complet).

Si cp est une forme différentielle de classe C", de degrép dans X, cp s'écrit

c p = cprdxi IIl=p

i l < a z < . . . < i ,

oùcp~ E E ( X ) e t s i I = (il , . . . , ip) E (1 , . . . , n}P,dx~ = d z i , A . . . A d x i p . O n pose alors pour K compact de X et a E W

PK,,(cp) = sup{pK,,(cpI),I = (il,. . . ,iP) E (1,. . . , n } P , i 1 < 22 < . ' . < ip}. Les semi-normes fi,,a, K compact de X , a E W , définissent une topologie d'espace de Fréchet sur l'espace vectoriel &p(X) des formes différentielles de classe C" et de degré p sur X.

Si Y est un autre ouvert de R" et f un difféomorphisme de classe C" de X sur Y , l'application

f* : E P ( Y ) -4 P ( X )

cp - f*cp est un homéomorphisme linéaire.

Considérons maintenant le cas où X est une variété. Soit A un atlas de X. On définit la topologie de EP(X) par les semi-normesju,K,, définies pour U domaine de la carte (U,h) E A, K compact de U et a E W par

au,K,a(cp> = PK,a((h- l )*cplu) pourcp E E(X). Cette topologie est indépendante du choix de l'atlas A, c'est la moins fine qui rende continueles applications ( k - l ) * : E ( X ) -+ E ( k ( V ) ) pourtoutecarte (V,k) de X. Puisque X est dénombrable à l'infini, on peut supposer que l'atias A est formé d u n

I . Courants 23

nombre dénombrable de cartes et donc la topologie que nous venons de définir est métrisable. De plus on vérifie aisément que EP(X) muni de cette topologie est un espace de Fréchet.

Si K est un compact de X, on note Vg(X) le sous-espace vectoriel de E p ( X ) formé des formes différentielles de classe Cw, de degrép, à support dans K . C’est un fermé de E P (X) et donc si on le munit de la topologie induite par ceiie de P ( X ) on obtient un espace de Fréchet. On met alors sur VP(X) = U 2): (X) la topologie

d’espace vectoriel localement convexe la plus fine qui rende continues toutes les inclusions

Vg(X) ’+ Vp(X) , K compact de X .

K

Remarques: Une suite de formes différentielles ( c p j ) j G w c DP(X) converge vers cp E vp(x) pour la topologie que nous venons de définir si et seulement si

1) les supports des formes cpj sont tous contenus dans un même compact K de X.

2) ( c p j ) j G w convergevers cp dansVg(X) .

B. Courants

Définition 1.1. On appelle courant de dimensionp sur X toute forme linéaire conti- n u e s u r V P ( X ) . On noteDL(X) l’ensembledes courantsdedimensionp surX, c’est un @-espace vectoriel, le dual topologique de VP( X).

Soit T E Vp( X ) , T est une forme linéaire sur VP (X) donc pour toutes formes pi. p2 E VP(X) on a

T(cpl+ 9 2 ) = T(cp1) + T(cp2)

T(Xcp) = XT(cp).

et pour tous X E @ et cp E VP(X)

T est continue sur DP (X), ce qui signifie que pour tout compact K de X, TI ( D o K ) ( x )

est continue. C’est également équivalent à l’assertion suivante : Pour toute suite ( c p 3 ) 3 E ~ d‘éléments de P ( X ) qui converge vers O, la suite T(cpj) converge vers O dans @.

Dans toute la suite on écrira (T, cp) à la place de T ( cp) .

Exemples de courants

un courant de dimension O.

définit un courant T, de dimension n - q par

1) La masse de Dirac 6,, IC E X, définie par &,(y) = cp(x) si cp E v o ( X ) , est

2) Si w est une forme différentielle localement sommable de degré q sur X, elle

(Tu, y ) = / w A p s i cp E DnPq(X). X

24 I l . Courants, structure complexe

Dans cette identification, on utilise de façon essentielle que X est orientée.

elle définit un courant [Y] de dimensionp sur X par 3) Si Y est une sous-variété fermée orientée de classe C” de X de dimensionp,

où i est l’injection Y L) X . Le courant [Y] s’appelle courant d’intégration sur Y .

Si K est un compact de X et k E N un entier, on note (Ck)P(X) l’espace des formes différentielles de classe C k , de degré p , à support dans K . On le munit de la topologie définie par les semi-normes I ~ K , ~ , I < Y I 5 k. On définit (Cc)P(X) comme la réunion, pour K compact de X , des (C&).( X ) , c’est l’espace des formes différentielles de classe Ck, de degré p , à support compact dans X . On le munit de la topologie d‘espace vectoriel localement convexe la plus fine qui rende continues toutes les inclusions

(CK)”(X) - (cc)p(x). Considérons l’inclusion D p ( x ) ~ ) ( C c ) p ( X ) , c’est une application continue d‘image dense. On note (Cc)L(X) le dual topologique de (C,k)P(X), c’est un sous-espace vectoriel de DL(X) . Ses éléments sont appelés courants d’ordre k, de dimensionp s u r X .

Exemple: Si Y est une sous-variété fermée orientée de classe C 1 de X , le courant d‘intégration sur Y est un courant d‘ordre nul.

C. Support d’un courant

Nous allons voir que de la connaissance locale d u n courant, on peut déduire une connaissance globale de ce courant par recollement.

Si R est un ouvert de X et si T E D ; ( X ) , on peut définir TI, (on devrait dire TIDp(,)) par (Tl,,cp) = (T,?) pour toute cp E Dp(R), où (p E D p ( X ) est définie par? = cpsurRetG = OsurX\R.

Proposition 1.2. Soient(R,),EI un recouurementouuertdeX etpour touti E I , des courantsT, E VP(R,) telsqueT,I,,nR, = TJl,,n,, p our tout (i,j). Alors il existe ununiquecourantT E V k ( X ) telqueTl,? = T, pourtouti E I .

Démonstration. Considérons une partition de l’unité, ( c y i ) i € ~ localement finie su- bordonnée au recouvrement ( R i ) i E ~ . Si cp E DP(X),cp = c aicp et la somme

du second membre n’a qu’un nombre fini de termes non nuls. Si T existe, il doit vérifier pour cp E P ( X )

i E I

i E I

car le support de ai est contenu dans Ri.

1 . Courants 25

Réciproquement cette formule définit une forme linéaire sur V p ( X ) et elle est continue. En effet, soit ( ( P , ) , ~ N une suite d'éléments de V * ( X ) , qui converge vers O, il existe alors un compact K tel que supp 'p, c K pour tout J E Di et pour tout z E I , la suite (cY,(P,),~N convergevers O dans (C&suppa,)p(X). Donc T,(cr,cp,) converge vers O et comme sur K seul un nombre fini de az'p, sont non nulles pour chaque J , T('p,) = T,(a,'p,) tend vers zero quand J tend vers l'infini. La formule (1.1) définit donc bien un courant T de dimension p sur X . Vérifions que TIot = T,. Pour cela soit 'p E V(R,),

( T z , ~ ) = c(Tz>ak(P) k € I

Corollaire 1.3. Si T est un courant de dimension p sur X , il existe un plus grand ouvert R contenu dans X tel que T I = O.

Définition 1.4. SiT Ç 'D;(X), on appellesupport d e T le complémentaire du plus grand ouvert sur lequel T est identiquement nul.

Exemple : Si Y est une sous-variété fermée orientée de classe C" de X , le support du courant [Y] est Y .

Remarque: Notons que si T E Vb(X) est un courant à support compact on peut donner un sens à (T,$) pour toute forme différentielle 1c, de classe C" sur X et de degré p . En effet il suffit de considérer une fonction x de classe C" sur X à support compact telle que x soit égale à 1 sur un voisinage du support de T et de poser (T,$) = (T,XQ).

Écriture locale d'un courant

Soient (U,h) une carte de X et ( X I , . . . ,xn) les coordonnées locales associées. Considérons l'expression

IIl=p

où TI est un courant de dimension n sur U et, si I = (il, . . . ,ip) E { 1, . . . , n } P ,

on a posé dxI = dxi, A . . . A dxip. Elle définit un courant de dimension (n - p ) sur U , de la manière suivante: si 'p dans VD"-p(U) s'écrit 'p = 'pJdzJ, on

pose IJI=n-p

(T,P) = E(I,CI)(Tr,'pC&i A . . . A dx,) IIl=p

26 II. Courants, structure complexe

< . si I = ( i l , . . . , i p ) , CI = (j1, . . . ,jnPp) sont tels que { i l , . . . , z p , j l , . . . , jn -p} = { 1, . . . ,n} et &(I,CI) est la signature de la permutation qui envoie (1, . . . ,n) sur ( i l , ’ . . , i p , j l , ’ . ‘ , j n - p ) .

Réciproquement si T est un courant sur X , le courant TI peut-être représenté par une expression de la forme (1.2). En effet si on pose, pour I = (il, . . . ,ip),

(T~,cpdzl A . . . A d z n ) = &(I,CI)(T,cpdqI)

où cp est une fonction C” à support compact dans U , on définit des courants de dimension n,TI, à l’aide desquels T est représenté par l’expression (1.2).

Définition 1.5. Si T est un courant de dimension p sur une variété différentiable de dimension n, le nombre ( n - p ) est appelé degré du courant T . On note D’q(X) l’ensemble des courants de degré q sur X .

Nous venons de prouver qu’un courant de degré q sur X s’écrit localement comme une forme différentielle de degré q dont les coefficients sont des courants de degré O.

Exemple ; Dans IR”, les distributions sont les courants de degré n, ils s’identifient naturellement aux courants de degré O.

D. Opérations sur les courants

Nous allons étendre aux courants les opérations classiques existant sur les formes différentielles et définir de nouvelles opérations.

Produit extérieur par une forme différentielle de classe C”

T A Qpar Soient T E D’P(X) et a E &Q(X),O 5 p+q 5 n, on définit le produit extérieur

(T A (Y,(P) = (T,a A cp), pour toute cp E Dn-p-q (X) ,

c’est un courant de degré p + q sur X . Si T = T, est le courant défini par une forme différentielle de classe C“ de degré p alors

Tu A Q = T U A a = (-l)pqTaAu.

OnposealorssiT E D’p(X)e ta E D q ( X ) ,

(Y AT = (-l)pqT A (Y.

Si T est un courant d‘ordre I C , on définit de manière analogue le produit extérieur par une forme différentielle de classe Ck.

Bord et différentielle d’un courant

Soit T E D’p(X), on définit le bord bT du courant T par

(bT,cp) = (T,dp), pourtoute cp E D D n - p - l ( X ) ,

I . Courants 27

c’est un courant de degrép + 1 sur X. La différentielle d T du courant T E D’P(X) est alors définie par la relation

d T = (-l)”-’bT.

Exemples

On note [Dl le courant de degré O &fini par I) Soit D CC X un ouvert relativement compact dans X à bord de classe C1.

alors d’après la formule de Stokes on a b[D] = [bD]. 2) Soit w E EP(X), calculons dTw. Pour ‘p E Dn-P-’(X) on a

(dTw, ‘p) = (-l)”-’(bT“, ’p) = (-1)”-’(Tw,d’p) = (-l)p-l w A d‘p L or

d(w A 9) = dw A ‘p + ( - 1 ) ” ~ A d’p

donc

(a,, ‘p) = / d u A ‘p - s, d(w A ‘pl. X

Mais puisque w A ‘p est une forme à support compact, d‘après la formule de Stokes, on a sx d(w A ‘p) = O et donc dTw = Tdw.

Remarque:SiT E D’P(X), d ( d T ) = O.

Image directe d’un courant par un morphisme propre

Soient X et Y deux variétés différentiables de classe C” orientées et f une application C” de X dans Y . On dit que f est propre si et seulement si pour tout compact K de Y , f -‘(IT) est un compact de X . Si T E D p ( X ) , on appelle image directe de T par l’application propre f le courant f+T défini par

( f , T , ‘p) = (T, f’cp), pourtoute ‘p E D’”(Y) (cette définition a un sens car supp f *’p c f -’ (supp ‘p) est compact lorsque f est propre). Le courant f +T est un courant de dimension p sur Y . On déduit de la défi- nition de l’opérateur f+ et de la Proposition 5.4 ii) de l’annexe A que si Tappartient

f ,dT = df+T. à q x )

Image réciproque d’un courant par une projection

Soient Y et 2 deux variétés différentiables de classe c” orientées et f la projection de X = Y x 2 sur 2. Si ‘p E D’(Y x Z), on définit l’intégrale sy ‘p comme la forme différentielle sur 2 vérifiant pour toute 1c, E P ( 2 )


Si T = T, est le courant défini par une forme différentielle cp de classe C“ à support compact dans X , le courant f,T, est le courant défini par la forme différen- tielle $ ( z ) = sy cp, qui est de classe C” à support compact dans Z. (Cela résulte de la définition de f+ et du Théorème de Fubini). Soit T E D’P(Z), on définit l’image réciproque du courant T par la projection f par

( f * ~ , c p ) = (T,~,T,) , pour toute cp E ~ ~ ~ ~ ~ - p ( m l

c’est un courant de degré p sur X . I1 est clair que si T = T, est le courant défini par une forme différentielle de classe C” sur Y , f*Tw = Tf.,, où f *w est l’image réciproque de la forme différentielle w.

2. RÉGULARISATION

Soit X une variété différentiable de classe C”, de dimension n, orientée. On

note D ” ( X ) = @ D’p(X), l’espace vectoriel des courants sur X , c’est le dual

topologique de l’espace vectoriel D * ( X ) des formes différentielles de classe C” à support compact dans X . On munit traditionnellement D ’ * ( X ) de deux topologies :

1) la topologie faible, c’est-à-dire la topologie de la convergence simple sur P ( X ) ; plus précisément une famille ( T E ) E E ~ + c D’*(X) converge faiblement vers T E D” ( X ) , quand E tend vers O, si pour toute cp E Do ( X )

n

p=o

2) la topologie forte, c’est-à-dire la topologie de la convergence uniforme sur les parties bornées de D‘(X) . Rappelons qu’une partie B de D * ( X ) est bornée si les éléments cp de B sont tous à support dans un même compact K et si pour tout Q E iT et tout domaine de carte U d u n atlas A, sup { I ju ,~ ,~ (cp ) } < +cc où les

V E B I j u , ~ , ~ sont les semi-normes définies au

faible.

l.A.

On remarque facilement que la topologie forte est plus fine que la topologie

n

p = o L‘objet de cette section est de prouver que &‘(X) = @ & P ( X ) est dense dans

V ’ * ( X ) muni des topologies faibles et fortes et de donner un moyen de construction de familles de formes différentielles de classe C“ qui approchent un courant donné pour ces topologies.

On appelle distribution sur X un courant de degré O sur X .

A. Régularisation des distributions dans R”

On considère une fonction 8 positive de classe C” à support compact au voisinage de O dans IRn et vérifiant h,, 8(z)dz = 1. On peut prendre par exemple la

2. Régularisation 29

fonction définie par - 1

û(z) = ce1-IIzI12 pour 11x11 5 1 e ( x ) = O pourllzll 2 1

la constante c étant choisie de telle sorte que s,,, û ( z ) d z = 1. Pour E > O, fixé, on pose e&) = &e( :) et ~ , ( x , y ) = e& - y) pour tout x , y E R". Si u est une fonction continue sur Rn , on définit les régularisées u, de u par

r

La proposition et le corollaire suivants qui sont classiques seront démontrés dans un cadre plus générai au paragraphe B.

Proposition 2.1. Si u E Vo(Rn) est une fonction de classe C" à support compact dans R", la famille (u,),~,+ des régularisées de u converge vers u dans Vo(R") lorsque E tend vers O. De plus il y a équiconvergence sur les bornés de V o ( R" ) .

Définition 2.2. Soit T E V"(Rn) une distribution sur R", on définit la famille ( T E ) E E ~ + des régularisées de T de la manière suivante: pour toute cp E Vo(Rn) on pose

(T,,cpdxl A ' . . A dx,) = (T,cp,dxl A . . . A dx,)

oùcpE(z) = J," K E ( X , Y ) ( P ( Y ) d Y .

Corollaire 2.3. La famille des régularisées (TE),€,+ de la distribution T est une famille de fonctions de classe C" sur R" qui converge fortement et faiblement vers T quand E tend vers O.

Pour des compléments sur la régularisation dans IR" le lecteur pourra consulter [Sc, chap. 61.

Exhibons les principales propriétés de la fonction K, définie sur R" x Rn : 1) K, est une fonction de classe C", 2) K, est à support dans une bande d'ordre E contenant la diagonale de R" x

IR" 9

3) ./R* K,(z,?l)dy = JRn K , ( z , y ) d z = 19 4) JR,, (E + (-l)lal+lE K, ( z , y )dy = Opourtouta E W. Ce sont ces propriétés qui sont les clés de la Proposition 2.1. et du Corollaire 2.3.

1 B. Régularisation des distributions dans une variété

Soit X une variété différentiable de classe C", orientée de dimension n.

Une variété n'étant pas, en général, munie dune loi de groupe, nous ne pouvons plus utiliser la convolution pour régulariser, contrairement à ce que nous avons fait au paragraphe A. L'idée est d'utiliser des noyaux (KE)EER+ qui seront des fonctions


définies sur X x X et qui vérifieront des propriétés analogues aux quatre propriétés citées au paragraphe A.

Définition 2.4. Soient 7r1 et 7 r p les deux projections de X x X sur X . On dira qu'un sous-ensemble A de X x X est propre si pour tout compact K de X les ensembles 7r1(7rT1(K) n A) et7rp(n;'(K) n A) sontrelativementcompactsdansX.

On considère sur X x X une famille de voisinages emboîtés de la diagonale A de X x X que l'on note (UE),EW+ et que l'on construit de la manière suivante : considérons un recouvrement U localement fini de A par des ouverts Ü = (U x U ) tels que U soit le domaine dune carte (U,h) de X ; on définit alors u, par

U€ = u { (w) E 6 I IF(.) - h(!l)ll < E } .

G,,

On note w une forme différentielle de classe C", de degré n, ne s'annulant pas sur X , qui définit l'orientation de X .

Définition 2.5. On appelle famille de noyaux régularisants sur X x x, toute famille (K,(x,y)),,W+ de fonctionsc", positivessurx x X , tellesquepour tout& > O , le support de K, soit propre, contenu dans U, et contienne la diagonale A de X x X , que la famille de fonctions (x ++ sx K , ( x , y ) ~ ( y ) ) , ~ ~ + converge uniformément sur tout compact de X vers la fonction constante égale à 1 quand E tend vers O dans R+ .

Définition 2.6. Soit f une fonction continue sur X . On appelle famille des régulari- sées de f la famille des fonctions ( f,)EER+ définies par

Définition 2.7. Soit T E V " ( X ) une distribution sur la variété X , on définit la famille ( T E ) E E ~ + des régularisées de T de la manière suivante: pour toute cp dans Do ( V ) on pose

La Définition 2.7 a un sens car K, étant de classe C" sur X x X , cp, est de classe C" sur X et de plus le support de cp, est contenu dans l'ensemble 7r1 (KY' (supp cp) n supp K,) qui est compact puisque K, est supposé à support propre.

Proposition 2.8. Soit T E V'O(X) une distribution sur X , les régularisées T, de T sont des fonctions de classeCm surX et de plus pour tout y E X

T€(Y) = (T>K, (~ ,Y )4X) ) .


La fonction z K,(z,y) est une fonction C" à support compact dans X pour chaque y fixé et dépend de y de manière Coo, de plus w est une forme différentielle de classe C" sur X et donc (T,KE(z,y)w(z)) est bien définie et c'est une fonction de classe C" sur X . En utilisant la densité de l'espace vectoriel engendré par les fonctions du type u(z)v(y),u,v E C " ( X ) dans D o ( X x X ) on obtient

etdoncparladéfinitiondeT, onaT,(y) = (T,KE(z1y)w(z)). O

Nous allons maintenant étudier la convergence de la famille TE)€€^+ pour les topologies faibles et fortes de D ' ( X ) . Soit II, E Dn(X) une forme différentielle de classe C" à support compact de degré n sur X . Puisque par hypothèse w ne s'annule pas sur X , il existe cp E D O ( X ) telle que II, = 'pw. On a alors

(T - T E , $ ) = (T - T,,cpw) = (T,(cp - c p € b ) .

Pour obtenir la convergence faible de la famille TE)€€^+ vers T quand E tend vers O, il suffit donc d'étudier la convergence de la famille ( ( P ~ ) ~ ~ W + vers cp dans D o ( X ) . Pour prouver la convergence forte de la famille TE)€€^+ vers T quand E

tend vers O, il suffira de montrer l'équiconvergence de la famille ( q E ) € € ~ + vers cp lorsque 'p décrit un sous-ensemble borné de D o ( X ) .

Définition 2.9. On appelle opérateur différentiel (linéaire) à coeficients C", d'ordre fini une application linéaire P : C " ( X ) 4 C " ( X ) telle que, pour toute carte (U,h) de X , il existe un opérateur différentiel P(u,h) à coeficients C" sur l'ouvert h( U ) de R" vérifiant pour toute fonction f E Cm ( X )

( P f ) O h-' = P(u,h)(f O h-l) dansh(U).

On notera P* 1'adjointformeldeP pour leproduitscalairesurD'(X) défini par

Dans la suite le terme opérateur différentiel désignera toujours un opérateur (fig) = J, f(Y)g(Y)w(Y).

différentiel à coefficients C" d'ordre fini.

Remarque 2.10: Soient et f des fonctions de D o ( X ) à support dans un même compact de X . La famille ( f E ) E E l i g + converge vers f dans D o ( X ) quand E

tend vers O si et seulement si pour tout opérateur différentiel P = P(z,D) on a

lim SUP IP(z,Dz)f(z) - P(z,Dx)f,(s)I = o. € + O X E X

Proposition 2. I 1. Soit f E Do ( X ) , on pose


1 ) Pour que la famille ( f E ) E E R + converge vers f dans D o ( X ) quand E tend vers O ; il faut et il suffit que pour tout opérateur différentiel P sur X

2) Pour qu'il y ait équiconvergence de la famille ( f E ) € € R + vers f lorsque f décrit un sous-ensemble borné d e D o ( X ) il faut et il suffit que

Pour tout opérateur différentiel P sur X

quand E tend vers O uniformément par rapport à f dans tout borné de Do ( X ) .

SUPZEX I Jx ( ( P ( Z 7 OZ) - P*(Y, ~ , ) ) K € ( Z c , Y ) ) f ( Y M Y ) l + 0

Démonstration

a) Conditions nécessaires: on suppose que ( f E ) E E R + converge vers f dans Do (V) quand E tend vers O ou bien qu'il y a équiconvergence lorsque f décrit un sous-ensemble borné de Do ( X ) .

Grâce à la convergence de ( f E ) E E R + vers f dans D o ( X ) et à la continuité de P sur D o ( X ) , on a

Si de plus il y a équiconvergence des ( f E ) € € R + vers f lorsque f décrit un sous- ensemble borné de Do (X), la limite ci-dessus est uniforme par rapport à f sur tout borné de Do ( X ) .

Pour conclure il suffit alors de prouver le lemme suivant que l'on appliquera à la fonction P ( x , DZ) f.

Lemme 2.12. Soit f une fonction continue à support compact dans X . On pose f E ( x ) = Jx K E ( z , y) f (y)w(y), alors ia famille ( f E ) E E R + converge uniformé- ment vers f sur X quand E tend vers O. Si de plus B est une partie équiconti- nue de C ( X ) formée de fonctions à support dans un même compact et telle que sup{ I l f l l m , f E B} soitfini, on a équiconuergence des familles ( f E ) € € R + lorsque f décrit B.


Démonstration. Par définition de f E nous avons

La fonction f étant continue à support compact, elle est uniformément continue et donc

(va > 0)(3&0 > o ) ( v E < EO)(( . , Y) E UE =$ If(.) - f ( Y ) l < a) .

Notons que EO est indépendant de f pour f E B, car les éléments de B sont unifor- mément équicontinus. Donc si E < EO on a

r

où rnL,€ = supXEL ( sX ~ ~ ( 2 , ~ ) w ( Y ) ) , L étant uncompact contenant supp f u n1(7r21(supp f)). Par hypothèse sur K,, mL,E est borné indépendamment de E et si L' est un compact de X contenant le support de f, il existe €0 > O tel que si E < EO on ait

II s, ~ E ( . 7 Y ) w ( Y ) - 1ll00,L~ < Q.

Observons que si f E 8, les compacts L et L' peuvent être choisi indépendamment de f . On aura par conséquent, pour E < min(e0, €0)

Ilf - fEllm I M Q + IlfllmQ. Ce qui prouve la convergence de ( f E ) E E W + vers f quand E tend vers O et l'équi-

n convergence sur B car sup{ I l f l l o o , f E B } est fini.

Fin de la démonstration de la Proposition 2.11

b) Condition suffisante : pour obtenir la convergence de la famille ( f,)EEllg+ vers f dans D o ( X ) quand E tend vers O il suffit de démontrer que, pour tout opérateur différentiel P sur X, on a


or d'après le Lemme 2.12 supzEx IP(z,D,) f (x) - (P(y,Dy) f (y))€(x) I tend vers O quand E tend vers O et

tend vers O quand E tend vers O par hypothèse, d'où le résultat. Si (**) est satisfaite on obtient aisément l'équiconvergence sur tout fermé en reprenant les étapes ci- dessus. O

Considérons une carte (U,h) de X et < = (<I , . . . ,&) les coordonnées locales associées. Soit P un opérateur différentiel sur X alors il existe un opérateur P(u,h) sur h ( U ) tel que pour tout f E D o ( V )

P(f 1 O h-l = + , I L ) (f O h- = Ca,(<)o;(f O h-7 a

où a E lai", les a , sont des fonctions C" sur h ( U ) , nulles sauf un nombre fini d'entres elles et DE" =

diQI ,,.at;,, .

Proposition 2.13. Soit ( K , (z , I / ) ) ,~w+ une famille de noyaux régularisants surX x X , alors les conditions suivantes sont équivalentes

( Pour toute fonction f E V o ( X ) à support dans un domaine

Démonstration. La condition (*) implique trivialement la condition (*'). Récipro- quement, soit (Ui)iEr un recouvrement localement fini de X par des domaines de carte et (x i ) ic~ une partition de l'unité subordonnée à ce recouvrement. Soit f E D o ( X ) et P un opérateur différentiel sur V ; puisque le support de f ne rencontre qu'un nombre fini d'ouverts Ui : (Uik)k=~,. . . , t , on a

I1 suffit donc puisque xik f est à support dans le domaine de carte Ui, de prouver (*) pour toute fonction g E D o ( X ) à support dans un domaine de carte de X . De plus par linéarité, il suffit de montrer que (*) est vérifiée pour toute carte (U,h) de


X, toute fonction g E V o ( X ) à support dans U et tout opérateur différentiel P sur X tel que P(u,h) = u([)D$. Pour ailéger l’écriture dans la suite des calculs nous identifierons U et l’ouvert h(U) de IRn, P s’écrit alors P(z,D,) = u ( z ) D z et

Sx((P(.,D.) - P*(Y,Dy))K,(z:,Y))g(Y)d?/

est la somme de trois termes

(ri = a(.) J,[(D,Q + (-i)lal+l~a y )K(w)lg(Y)dY

(W = ( - 1 ) lai a Jx (0,” K, (. ,Y) )LI (Y) dY (Hi) = - Jx KE(x,g)(P(y,Dy)g(y))dy (par définitionde P*).

D’après (*’), (I) converge uniformément vers O quand E tend vers O car la fonction a étant continue elle est bornée sur le support de l’intégrale de (I) (ce dernier est compact puisque le support de K, est propre).

En intégrant par partie on obtient (II)=a(z)(D,”g(y)),(z) et daprès le Lemme 2.12, cette quantité converge uniformément sur X vers u(z)Dgg(z).

Finalement (III) = -(a(y)D,”g(y)),(z) et cela converge uniformément vers O -a(z)D,”g(x) grâce au Lemme 9.2.9, ce qui termine la démonstration.

Proposition 2.14. Soit (K,(IC,Y)),~R+ une famille de noyaux régularisantssurx x X , alors les conditions suivantes sont équivalentes:

( Pour tout opérateur différentiel P sur X

sur toutbornédeVo(X).

( Pour tout domaine de carte et pour tout multi-indice CY

((DZ + (-l)lal+lDa y )KE(z,Y))f (Y)W(Y) l + 0 (**’I quand E tend vers O uniformément par rapport à f

sur tout borné d e V o ( X ) dont les fonctions sont à support I dans un domaine de carte.

Démonstration. I1 suffit de reprendre la démonstration de la Proposition 2.13 en remarquant que l’on peut encore utiliser une partition de l’unité car les fonctions d u n borné sont toutes à support dans un même compact et en utilisant la conclu-

O sion du Lemme 2.12 sur l’équiconvergence.

On a donc prouvé le résultat suivant :

Théorème 2.15. Soit (K,(X,~)),~~+ une famille de noyaux régularisants sur X x X .


Si les conditions équivalentes (*) et (*') sont satisfaites, la famille ( T E ) E E ~ + des

Si les conditions équivalentes (**) et (**') sont satisfaites, la famille (TE)EER+

Pour terminer ce paragraphe nous allons construire des opérateurs régulari- sants dont les noyaux sont des noyaux régularisants au sens de la Définition 2.5 qui vérifient les conditions (*) et (**). Cette construction est due à de Rham ([Rh], 3 15).

Considérons un recouvrement localement fini dénombrable de X par des domaines de carte (Ui)iEn homéomorphes à R". Notons hi l'homéomorphisme de Vi sur R" . On peut alors trouver un recouvrement de X par des ouverts V, CC Ui et des fonctions fi de classe C" à support compact dans Vi et telles que fi = 1 sur vi ( c f Annexe A, Lemmes 2.1 et 2.2). Si T est une distribution sur X on pose Ri,€T = &,fiT + ( 1 - f i )T où Ri,, = hrr,hi* et T, est la convolution sur R" par la fonction flE du paragraphe 2.A. Au voisinage de tout compact de X la suite des opérateurs Ri(€) = Ri,c O . . . O RI,€ est stationnaire et on pose RE = lim Ri(&).

Nous appellerons opérateurs régularisants de de Rham, des opérateurs régula-

régularisées de T converge faiblement vers T dans V'O ( X ) .

des régularisées de T converge fortement uersT dans VIo ( X ) .

-

a d o z

risants construits par cette méthode.

Regardons par exemple le cas dune variété munie d'un atlas à deux cartes :

RET = Ri,ER2,ET = Ri,,fiR2,Ef~T + Ri,,fi(l - f2)T + ( I - fl)RZ,€f2T + ( 1 - f l ) ( 1 - f2)T

où le dernier terme de la somme est nul.

Le noyau associé à l'opérateur R, s'écrit

+Kl,E(Z,Z)fl(Z)(l - fi(.)) + ( 1 - fl(~))KZ,E(Z,Z)f2(Z).

avec Ki,E, le noyau associé à l'image par hi de la convolution par O c , .

Le théorème suivant a été prouvé par de Rham (Théorème 12, [Rh], 5 15).

Théorème 2.16. Soient (R,)€>o une famille d'opérateur régularisant de de Rham et T E D'O ( X ) une distribution sur X .

1) RET est une fonction de classeCm sur X . 2) Le support de R,T est contenu dans un voisinage arbitraire du support de T si

2) RET converge faiblement et fortement vers T quand E tend vers O.

Le lecteur pourra vérifier que les noyaux K, ,E E R+ , associés aux opérateurs R, forment une famille de noyaux régularisant satisfaisant les conditions (*) et

E est assez petit.

(**).


C. Régularisation des courants

Pour régulariser les courants sur X , il suffit de remplacer les noyaux du paragraphe B par des formes différentielles doubles sur X x X,Cw à support dans un système fondamental d’entourages (U,),>O de la diagonale A de X x X . Soit

une telle famille. Si cp E DP(X) est une forme différentielle de classe C” à support compact dans X et si 7r1 et 7r2 désignent les deux projections X x X + X , on pose

Si de plus le support de ‘p est contenu dans un domaine de carte U et si E est choisi assez petit pour que 7rT1 ( U ) nu, soit contenu dans un domaine de carte de X x X ,

alors

, . . I U J = { l , ..., n }

où O(.) est la signature de la permutation ( I J ) ct ( 1 , . . . ,n) et dy la forme diffé- rentielle dyl A . . . A dy,.

On peut faire une étude analogue à celle du paragraphe B et l’on obtient

Théorème 2.17. Soit ( $ E ) E > ~ une famille de formes différentielles sur X x X de classe c”, à support propre contenu dans un système fondamental de la diagonale A de X x X telle que dans toute carte de X x X on ait

&(GY) = ~,,I,J(x,y)dxI A ~ Y J I U J={ l,.. .,n}

1 n ~ = 0

où les fonctions K E , l , j vérifient la condition (**‘) de la Proposition 2.13 etsont telles que les fonctions (x C) sx K,,I,J(x,y)dy) convergent uniformément sur tout compact du domaine de carte où elles sont définies vers la fonction constante égale à 1 quand E tend vers O dans R+ . Si T E W ( X ) est un courant de degrép sur la variété X , la famille ( T E ) E E ~ + des régularisées de T , définies par (T,,cp) = (T,cp,) pour toute cp E Dn-P(X), où cpE est la régularisée de cp par $,, converge vers T pour les topologies faibles et fortes de D’P(X) quand E tend uers O dans R+ .

Démonstration. Par définition de la topologie forte de D’P(X), il sufiit de prouver l’équiconvergence de la famille des régularisées de (O vers cp lorsque cp dé- crit un borné de Dn-p(X). Soit (Vi)iE1 un recouvrement de X par des domaines de cartes de X et (xi)iE1 une partition de l’unité subordonnée à ce recouvrement. Si B est un borné de Dn-p(X) et si cp E B, posons cpi = xicp. Puisque les fonctions


'p sont toutes à support dans un même conipact dans X , on peut écrire 'p = E, 'pi où I' est un sous-ensemble fini de I indépendant de 'p E t?. Par linéarité, on obtient le résultat cherché en appliquant la Proposition 2.1 1 à chacune des 'pi. O

i € I

Définition 2.18. Si (~+/I',),~R+ est une famille de formes différentielles doubles satisfaisant aux hypothèses du Théorème 2.1 7, on appelle opérateur régularisant, les opérateurs RE de V ' * ( X ) dans lui-même définis par (RET, 'p) = (T, ' p E ) pour T E V " ( X ) et 'p E P ( X ) où les 'pE sont les régularisées de 'p obtenues à l'aide des noyaux

3. INDICE DE KRONECKER DE DEUX COURANTS

On désigne par X une variété différentiable de classe C" et de dimension n.

Définition 3.1. Si T et S sont deux courants sur X tels que d"T + d"S=n, nous dirons que l'indice de Kronecker de T et s, K (T , s) est défini au sens de de Rham si quelles que soient les familles d'opérateurs régularisants ( R E ) E > ~ et (R:,).,>o qui commutent avec l'opérateurd, la quantité (RET A R:,S, 1 ) possède une limite in- dépendante des familles d'opérateurs choisies, lorsque E etEl tendent vers O, on note K(T, S ) cette limite.

Si X = <c", on peut prendre pour régulariser les opérateurs associés aux noyaux de convolution définis au paragraphe 2.A. Si X est une variété, les opérateurs régu- larisants de de Rham commutent avec l'opérateur d (cf. [Rh], 5 15, prop. 1).

Remarques 1) L'application (T , S ) H K ( T , S ) est bilinéaire. 2) Si l'un des deux courants T ou S est une forme différentielle de classe C" et si

le support de T ou le support de S est compact alors l'indice de Kronecker K(T, S ) de T et S existe et vaut (T A S, 1). (Cela résulte des propriétés de convergence des régularisées dans Do (X) et dans V" ( X ) pour la topologie forte des courants).

3) Si les supports de T et S ne se rencontrent pas et si T ou S est à support compact, K ( T , S ) a un sens et est nul. En effet pour E et E' assez petit RET et R:,S seront à supports disjoints et donc RET A RÉ,S = O.

Nous allons donner maintenant des conditions suffisantes d'existence pour l'indice de Kronecker de deux courants.

Définition 3.2. On appellesupport singulier d'un courant le complémentaire de l'ensemble des points au voisinage desquels il est défini par une forme différentielle de classeC". On notera S S ( T ) lesupportsingulierdu courantT.

Si T E 73'' ( X ) est un courant sur X et U un voisinage du support singulier de T , on peut écrire T = T' + T" où T' est un courant dont le support est contenu

3. Indice de Kronecker de deux courants 39

dans U et T” une forme différentielle de classe C” sur X . I1 suffit de poser 7’’ = pT et T” = (1 - p)T où p est une fonction de classe C“ , positive, à support dans U et égaie à 1 au voisinage du support singulier de T .

Proposition 3.3. Si T et S sont deux courants sur X tels que doT + d”S = n dont l’un est à support compact et dont les supports singuliers ne se rencontrent pas, alors l’indice de Kronecker K ( T , S ) de T et S a un sens.

Démonstration. Sous les hypothèses de la proposition il existe des décompositions T = T’ + T” et S = SI + S” où T” et S” sont des formes différentielles de classe C” et où les supports de TI et SI ne se rencontrent pas. On peut alors appliquer I) ,

O 2) et3) delaremarqueet K ( T , S ) = K(T’,S”) + K(T”,S’) + K(T”,S”).

Proposition 3.4. Soient T et S deux courants sur X tels que d”T + d”S = n - 1 et dont l’un est à support compact. Si K (bT,S) ou K ( T , d S ) existe l’autre existe aussi et ils sont égaux, i.e.

K(bT ,S ) = K ( T , d S ) .

Démonstration. Puisque les opérateurs régularisants R, et Ri, commutent avec d et donc également avec b on a

(R,bT,R:,S) = (bR,T,R:,S) = (R,T,dR:,S) = (R,T,R:dS)

d’où le résultat. O

Application : La Proposition 3.4 permet détendre la formule de Stokes au cas d u n domaine D CC X à bord de classe C1 et dune forme différentielle w E C,-1 (D) telle que dw, calculée au sens des courants, soit continue sur B. En effet, posons T = [ D ] e t S = w,alorsK(bT,S)existeetvautSbDwetonadoncSbDw = SDdw.

Théorème 3.5. Soient T et S deux courants sur X tels que d”T + d”S = n et dont l’un est à support compact. Pour que l’indice de Kronecker K(T,S) des courantsT et S existe il sufi t que

SS (T) n SS(bS) = 0 e t S S ( b T ) n S S ( S ) = 0.

Remarque : On déduit du Théorème 3.5 que l’indice de Kronecker de T et S existe dès que T est fermé à support compact et S est fermé.

Pour prouver le Théorème 3.5, nous avons besoin dune parametrix pour l’opé- rateur d qui n’augmente pas le support singulier. Celle que nous présentons ici est due à J.B. Poly.

Proposition 3.6. Si T est un courant sur X , il existe des opérateurs A et R tels que l)T - RT = d A T f A d T


2) A n'augmente pas le support singulier et R est régularisant.

Démonstration. Commençons par le cas où X = R". Notons 6 l'opérateur sur D'(Rn) défini de la manière suivante: si T E D'(Etn), considéré comme forme différentielle à coefficients distributions, s'écrit T = 'TIdxI, où ' signifie

I I ,onpose

I = ( i i ,... ,ik) i l < . . . L-2 si n 2 3, E = & log T

s i n = 2 e t E = : s i n = l o ù r = (xf+...+x~)1/2etsnl'airedelasphèreunité de Rn .

Pour tout courant S à support compact dans R" , on pose GS = -E * S , puis KS = 6GS. Si S , considéré comme forme différentielle à coefficients distributions, a pour expression S = ' SIdxI le produit de convolution GS = E * S

s'écrit GS = - I

'E * SIdxI d'où l'expression de KS I

L'opérateur K : €'(IRn) -+ D'(Etn) ainsi défini a les propriétés suivantes : a) S = dKS + KdS, car S = -AGS = d6GS + GdGS = dGGS + GGdS. b) K n'augmente pas le support singulier. En effet A est elliptique et par suite

GS est C" en dehors du support singulier de S.

Revenons au cas où X est une variété. Puisque X est réunion dénombrable de compact, il existe un recouvrement dénombrable et localement fini de X par des domaines de carte Wi CC X. D'après les Lemmes 2.3 et 2.1 de l'annexe A, on peut alors trouver un recouvrement de X par des ouverts V, tels que V, CC Wi et des fonctions vi de classe C" à support compact dans Wi telles que vi = 1 au voisinage de V,. Pour tout courant T sur X , on pose

AiT = qiK(qiT)

(où par abus de notation on considère Wi comme un ouvert de R"), et

RIT = T - dAiT - AidT = T - ( T , I ~ ) ~ T + viK(d7i A T ) - dvi A K(viT).

(Pour être parfaitement rigoureux il faudrait considérer la carte ( Wi , hi) de X et dé- finir l'opérateur Ai par AIT = qi (h;') * ( K (hi) * ( viT)). Le lecteur pourra vérifier facilement que le fait d'avoir identifié Wi et son image par hi dans IRn ne modifie pas les propriétés de Ai mais permet seulement d'avoir des écritures plus simples.)

3. Indice de Kronecker de deux courants 41

Les opérateurs Ai et Ri ont les propriétés suivantes : a) T = dAiT + AidT + RiT par construction, d'où résulte dRiT = RidT. b) Ai et Ri n'augmentent pas le support singulier. De plus, RIT est C" sur V, ;

en effet RIT et K(dqi A T ) coïncident sur E, et puisque K n'augmente pas le support singulier, K(dqi A T ) est C" sur V, car dvi A T est nul sur V,.

On pose Ak = AkRkPl. . . Ri et Rk = RkRk-1.. . R I . Le recouvrement (Wi) étant localement fini, on montre facilement que

RT = lim RkT et AT = lim AkT

existent, car au-dessus d u n ouvert U CC X,RkT devient stationnaire et AkT s'annule dès que k est assez grand. Les opérateurs A et R ont les propriétés souhai- tées :

k + m k+m

a) On a k-iT R"'T - RkT = ( 1 - Rk)R

= (dAk + Akd)Rk-lT = dAkT + AkdT

car Ri et d commutent, d'où par sommation

T - RT = dAT + AdT.

b) A n'augmente pas le support singulier car il en est ainsi de Ak. L'opérateur R O est régularisant car RkT est C" sur V, dès que IC 2 a.

Démonstration du Théorème 3.5. D'après la Proposition 3.6, T et S admettent les décompositions suivantes :

T = RT + dAT + AdT S = RS + dAS + AdS.

Posons Ti = RT, T2 = dAT, T3 = AdT Si = RS, S2 = dAS, S3 = AdS.

Par linéarité K(T,S) sera défini si chacun des K(Ti,sk), z ,k = 1,2,3, existe. Re- marquons que Ti,i = 1,2,3, est un courant à support compact. Le courant Ti est une forme de classe c" car R est régularisant. Par conséquent K(T1 ,sk) est défini pour tout k = 1,2,3. Le courant S1 étant une forme de classe C", K(Ti,S,) existe pour tout i = 1,2,3. Pour i=k=2, on peut appliquer la Proposition 3.4 et on obtient K(T2,S2)=0. Les cas i = 2 et k = 3,i = 3 et k = 2,i = IC = 3, se déduisent de la Proposition 3.3 car les opérateurs d et A n'augmentent pas le support singulier. ü

Corollaire 3.7. Formule de Stokes pour l'indice de Kronecker. Soient T et s deux courants sur X tels que doT + dos = n - 1 et dont l'un est à support compact. Si

SS(bT) n SS(bS) = 0


les indicesde KroneckerK(bT,S) etK(T,bS) existenteton a

K(bT,S) = (-l)doS-lK(T,bS).

Démonstration. C'est une conséquence immédiate du Théorème 3.5 et de la Pro- position 3.4. u

Exemple d'application : Formule de Cauchy-Green dans @. Soit D un ouvert borné de Cà bordCl contenant l'origine. Si $ est une fonction de classe C" dans @. Après identification de Cc avec IR2 on définit les formes différentielles de degré 1, dz et dZ par d z = dx + idy et dZ = dx - idy.

Si $ est une fonction de classe C" dans @. on pose T=$[D] où [DI désigne le courant d'intégration sur D. Alors S S ( T ) = bD.

Si S = & $ alors dS = [O],où [O] est le courant d'intégration sur la variété réduite au point O. En effet, si cp E Do (@), par définition de d on a

car S est défini par la forme différentielle localement intégrable & e. Pour E > O, notons BE = { z E Qi I IzI < E } , alors

En appliquant le Théorème de Stokes, on obtient

car cp est à support compact. De plus

-dz = L B , ".)

Comme la fonction cp est de classe C" donc en particulier de classe C1 la première intégrale du second membre tend vers O quand E tend vers O. D'autre part, par la formule de Cauchy on a, pour tout E > O, & saBc $ = 1. Par conséquent

( G c p ) = 4 0 ) = ([OI>cp).

Par ailleurs bT = -d$ A [O] + $ A [bD] et donc SS(bT) = S S ( T ) = bD, de plus SS(bS) = {O}, par conséquent SS(bT) n SS(bS) = 0 puisque O E D.

On peut donc appliquer le Corollaire 3.7 : 1 d z

22lT z K(bT,S) = K ( - d$ A [DI + 11, A [bD] ,y - - )

4. Variétés analytiques complexes 43

Interprétation géométrique de l'indice de Kronecker

Nous donnons les résultats suivants sans démonstration ; le lecteur intéressé pourra consulter [Rh, 201 et IL-Tl] pour plus de précisions et de meilleures conditions suffisantes d'existence de l'indice de Kronecker de deux courants.

Si Y et Z sont deux sous-variétés fermées orientées de dimension p et n - p de X qui se coupent transversalement et telles que Y ou 2 soit une sous-variété compacte de X, alors les courants d'intégration [Y] et [Z] sur Y et Z sont fermés, ils satisfont donc aux hypothèses du Théorème 3.5 et on a

~ ( [ Y I , [ Z l ) = ([Y Z1,l). Ici Y n 2 est constitué d u n nombre fini de points et ([Y n Z],l) est égal au nombre de points de Y n Z en lesquels les orientations de Y et Z coïncident diminuée du nombre de points en lesquels elles diffèrent. Plus généralement, si Y est Z sont deux sous-variétés fermées orientées de X de dimension respective p et q qui se coupent transversalement et telles que Y n Z soit une sous-variété de X et si cp est une forme différentielle de classe C", de degré p + q - 76, à support compact dans X o n a

~ ( [ Z I l [ Y l A cp) = ([Z n Yllcp).

4. VARIÉTÉ ANALYTIQUE COMPLEXE

Dans le cadre de l'étude des fonctions holomorphes, il est naturel d'introduire des objets ayant, pour le calcul holomorphe, des proporiétés analogues à celles des variétés différentielles pour le calcul différentiel, c'est-à-dire qui ont hérité localement des propriétés analytiques des ouverts de @".

Définition 4.1. SoitX un espace topologique, on appelle atlas complexe un ensemble de cartes (U,cp) tel que les domaines U forment un recouvrement ouvert de X et les applications cp soient des homéomorphismes de U sur un ouvert de cc", qui vérifient la condition de compatibilité holomorphe: si U n U' # 0, l'application

cp' O 9-l : cp(u n u') -i cp'(u n u') est une application biholomorphe entre ouverts de Cn. On dira que deux atlas complexes sont compatibles si leur réunion est un atlas complexe. On définit ainsi une relation d'équivalence.

44 II . Courants, structure complexe

Définition 4.2. On appelle variété analytique complexe un espace topologique sé- paré, réunion dénombrable de compacts, muni d’une classe dëquivalence d’atlas complexes.

Si X est une variété analytique complexe, x un point de X et (U,cp) une carte au voisinage de x , cp est un homéomorphisme de U sur un ouvert de @” et n est appelé la dimension complexe de X en x (comme dans le cas des variétés différentiables n est bien sûr indépendant de la carte (U,cp) au voisinage de 2). On dira que X est une variété analytique complexe de dimension n si pour tout x E X la dimension complexe de X en x est égale à n. Si X et Y sont deux variétés analytiques complexes, une application f : X -+ Y est dite holomorphe si elle est continue et si pour tout couple de cartes (U,cp) et (V,9) de X et Y tel que f ( U ) c V , l’application 1c, O ( f i , ) O cp-’ : p ( U ) -+ $(V) est holomorphe. Lorsque Y = C on parlera de fonction holomorphe. Comme dans le cas des applications de classe C Q , il suffit bien sûr de le vérifier pour toutes les cartes d u n atlas. On notera O ( X ) l’espace vectoriel des fonctions holomorphes sur X à valeurs dans @.

Définition 4.3. Soit (U,cp) une carte d’une variété analytique complexe, alors cp est uneapplication holomorphedeU dansCn, etsicp(x) = (zl(x), . . . ,z,(z)), où les z j : U + C, j = 1, . . . ,n, sont des fonctions holomorphes sur U , les fonctions (z1, . . . ,zn) s’appellent les coordonnées holomorphes de X sur U définies par la carte (U,cp).

Remarque: I1 est clair qu’une variété analytique complexe X de dimension n est naturellement munie d’une structure de variété différentiable de classe C” de dimension 2n. Les espaces tangent T,X et cotangent T,X à X en x sont donc bien définis. Considérons en particulier l’espace @T: X des 1-formes différentielles en x E X à valeurs complexes qui est le dual du complexifié CTz X de T,X (cf. An- nexe A, $ 4). Explicitons ce qui se passe dans une carte (U,cp) au voisinage de x où les coordonnées locales sont (z1, . . . , zn) avec zj = xj + i y j , j = 1, . . . ,n. La famille {(d~l)~,(dy1),, . . . ,(d~,)~(dy,)~} est une base de CT,X et la base duale

I1 est souvent plus intéressant de considérer pour CT: X la base correspondante dans @TzX est {(K)z,(&), , . a . . ,(,)z,(&),}. a

{ (dzï)z,(dzï)i1. . . ,(dzn)zl(dzn)z} et pour CTz X la base duale associée que l’on note

On a par définition

4. Variétés analytiques complexes 45

Si f est une fonction à valeurs complexes de classe C1 sur un voisinage de z dans X , sa différentielle dfz définit un élément de T,X qui s’écrit

n

i=l Ou bien ( d f ) z = %(z)(dz,), + ~ ( ~ ) ( C t z , ) , suivant la base choisie, par

définition des bases dudes.

Un calcul simple montre que

ce qui correspond à la définition donnée au chapitre I.

Remarquons encore une fois que le fait d’associer à T,’X et à T,X leurs com- plexifiés, c’est-à-dire de considérer des formes à valeurs complexes, ne fait pas in- tervenir la structure de variété analytique complexe de X mais que cela peut être fait pour n’importe quelle variété différentiable. Nous n’avons utilisé la structure de variété analytique complexe de X que lors de l’écriture en coordonnées locales.

Terminons ce paragraphe en prouvant qu’une variété analytique complexe est orientable. Soit X une variété analytique complexe de dimension n. D’après la Pro- position 6.2 de l’Annexe A, X est orientable si elle possède un atlas c”, (Vi, hi)iEl, tel que pour tout i, j E I

d i j ( z ) = det [J (h i O hjl)(hj(z))] > Osiz E Vi f l U j .

Considérons un atlas complexe (Vj, ‘ p j ) j E ~ de X . Si ‘pj = hj + i k j , l’ensemble (Uj , (h j , k j ) ) j E ~ est un atlas C” de X quivérifie pour z E Vi fl Vj

Une variété analytique complexe X est donc orientable et dans la suite de ce volume nous la munirons de l’orientation définie de la manière suivante lorsqu’un atlas complexe (Vi, ‘pi)iEl de X est fixé : si ( z l , . . . , 2,) sont des coordonnées holomorphes associées à la carte (Vi, ‘pi) nous choisirons l’orientation associée à la 2n-forme différentielle

dZ1 A . . . AdZn A d 2 1 A ’ . . A d Z n

ce qui correspond à l’orientation défini par

d x l A . ‘ . A d z n A d y i A . . . A dy ,


5. STRUCTURE COMPLEXE

Soit X une variété analytique complexe de dimension n. On va montrer que pour tout point x E X , l'espace vectoriel réel T,'X possède une structure naturelle d'espace vectoriel sur C.

Examinons tout d'abord le cas où X = Cn . Comme variété Coo, C? s'identifie à R21n de manière naturelle, donc T,Cn = TXR2ln = R21n = C2" en reprenant l'identification naturelle de C" avec IR2". En identifiant ainsi T,Cn avec <c" , on a mis une structure de C-espace vectoriel sur T,Cln. Explicitons un peu cette identification. Notons J : T , P -+ T,Cn l'application de multiplication par z. C'est une application IR-linéaire qui vérifie J 2 = - Id. Dans la base usuelle de T,C" = T,R21n,

o n a J ( ( L ) , ) = ("1, etJ(("),) = -("),, 15 j 5 n.Aiors ax , aY3 aY, ax,

pour tout v E T,C" et tout nombre complexe a + ib E C

(df), si f est un germe de fonction holomorphe en x, s'écrivent ( d f ) , ( J v ) = i(df),(v) pourtoutv E T,C".

( a + ib)v = av + bJ(v ) .

Les équations de Cauchy-Riemann homogènes, qui traduisent la @-linéarité de

Remarque :Cette relation entre la structure complexe sur T,Cn et les fonctions holomorphes, montre que J est indépendante du choix des coordonnées sur Cn . On peut donc définir J pour des variétés analytiques complexes.

Théorème 5.1. Soit x une variété analytique complexe. Pour tout x E x , il existe une uniqueapplicationR-linéaire J = J , : T,X + T,X telleque pour toutgerme de fonction holomorphe en x, on ait

(d f ) , (Jv) = i ( d f ) , ( v ) pourtoutv E T , X .

DepIus,J2 = - I d e t ( a + i b ) v = a v + b J ( v ) p o u r a + i b E C e t v ET,Xdélfinit une structure d'espace vectoriel complexe sur T, X .

Démonstration. Prouvons tout d'abord l'unicité de l'application J .

Soient (21, . . . ,zn) un système de coordonnées holomorphes au voisinage de z € X et (21,y1,zz,y2,. . . ,xn,yn) les coordonnées réelles sous-jacentes, pour tout j = 1,. . . ,n ona (dz j ) , = (dx j ) , + i(dyj), soit (dz j ) , = Re(dzj), et ( d y j ) , = Im( dzj ), .

Calculons J ( &), pour k = 1, . . . ,n

6. Formes différentielles de type (p ,q ) 41

Puisque z j est holomorphe et dzj ( &), = b j k , on a

Par conséquent J( &), = ( %), a et de même J ( ")% = -( =),, a d'où l'uni- aYk

cité.

Définissons J par les relations ci-dessus pour des coordonnées holomorphes (21 , . . . ,z,) fixées. D'après l'étude du cas de CY, J a les propriétés voulues et l'uni-

O

Étudions maintenant la relation entre les structures complexes de T,X et CT,X. L'application J : T,X + T,X est IR-linéaire et satisfait J2 = - Id, elle ne possède donc pas de valeurs propres réelles et pour la diagonaliser on est amené à considérer l'extension naturelle de J en une application @-linéaire, notée encore J, de CT, X dans lui-même. Cette extension possède alors deux valeurs propres i et -2. On notera T,ioX, le sous-espace propre associé à +i et T:l1X le sous-espace propre associé à -2. On a

@T,X = T,>OX @ T,O>'X

Si ( z l , . . . ,z,) est un système de coordonnées holomorphes au voisinage de x, les

une base de T;i1X.

cité de J assure l'indépendance du choix des coordonnées.

vecteurs (( -)z, a . . . ,( &),) forment une base de T,ioX et (( &),, . . . ,( =),) a 821

Remarquons que T,X muni de la structure de @-espace vectoriel définie par J et X sont naturellement isomorphes par l'application qui à v fait correspondre f (v - i J( v)). Cette application envoie la famille (( &),, . . . , ( &),) qui est une

de T i , o X ; c'est donc un isomorphisme.

note p la projection naturelle de T'>O(X) sur X .

base de T,X en tant que @-espace vectoriel sur la base ((&)z,. . . ,(=),) a

On définit T'>O(X) comme la réunion disjointe pour x E X des T,)O(X) et on

Définition 5.2. Soient X une variété analytique complexe et A un ouvert de X . Un champ de vecteurs holomorphe sur A est une application V : A -+ T ' io (X) telle quep O V = Id.

6. FORMES DIFFÉRENTIELLES DE TYPE ( p , q )

Soient X une variété analytique complexe de dimension n, et x un point de X . L'existence d'une structure d'espace vectoriel complexe sur T,X nous invite à considérer plus particulièrement les éléments de @T, X qui sont @-linéaires pour cette structure.


On définit l’espace des 1-formes différentielles de type (1 ,O) en z par

A1lO(T,*X) = { W E CT,*X I w ( J v ) = iw(v ) ,Vv E CT,X}.

Exempie: Par définition de J , les différentielles (df), de germes de fonctions holomorphes en z sont de type (1 ,O).

Si (21, . . . ,zn) sont des coordonnées locales holomorphes au voisinage de z, la famille ( (dz l ) , , . . . , ( d z n ) z ) forme une base de A1yo(T:X). L‘espace conjugué AoilT:X = A1>oT,X, dont une base dans les mêmes coordonnées est donnée par ( (&I),, . . . ,(&Yn),), est l’espace des formes de type (0, l ) en z. On ala décompo- sition en somme directe

CT,*X = A1’OT,*X CB Aol’T,*X. (6.1)

Considérons maintenant les formes de degré supérieur. Si w est une forme diffé- rentielle de degré T à valeurs complexes, c’est une combinaison linéaire d’éléments de la forme w1 A . . . A wr où w j E CTZX. D’après (3.1), chaque w j , l 5 j 5 T ,

s’écrit w; + wy avec w; E A1ioT,X et wy E AoilT,*X. Donc w est une combinaison linéaire d‘éléments qui s’écrivent q1 A . . . A qr où qj est soit de type ( O , l ) , soit de type (1,O).

On dira que w est une forme différentielle de type ( p , q ) ou de bidegré ( p , q ) en z, si w est combinaison linéaire d‘éléments de la forme wi i A . . . A wi, AGj, A . . . AGjq où les w, sont des 1-formes de type ( 1 , O ) en z.

On note C:,,(X) le sous-espace de C:+q(X) formé des ( p + q)-formes diffé- rentielles qui sont de type ( p , q ) en chaque point. On a alors la décomposition en somme directe

C3X) = @ cp,q(x). p+q=r

Notons queC;,,(X) = {O} s ipouq > n = dimê X.

Si (z1, . . . ,zn) sont des coordonnées holomorphes sur un domaine de carte U de X, alors dzj E CTo(U) pour j = 1,. . . ,n et toute (p,q)-forme w E C:,,(U) s’écrit de manière unique

w = aIJdz I A &J

I4=P IJI=q

où les UI J sont des fonctions de classe C k sur U et où la sommation est faite sur les multi-indices I = ( i l , . . . ,ip) et J = (j1, . . . , jq) strictement croissants.

7. Opérateurd et cohomologie de Dolbeault 49

7. OPÉRATEUR d ET COHOMOLOGIE DE DOLBEAULT

La décomposition des 1-formes différentielles sur une variété analytique complexe en formes de type (0,l) et de type ( 1 , O ) va induire naturellement une décom- position de l’opérateur d de différentiation extérieure en un opérateur de différen- tiation holomorphe et un opérateur de différentiation antiholomorphe.

de classe C1 sur X, pour tout z E X on a Soit X une variété analytique complexe de dimension n. Si f est une fonction

On peut donc écrire df = d f + 8 f où d f est une forme différentielle de type

Remarquons que la condition f E O ( X ) est alors équivalente à 8 f = O.

La décomposition d = d + 8 s’étend aux formes de degré quelconque de la manière suivante : si w E Cp’,q(X) est donnée, dans un système de coordonnées

holomorphes (21 , . . . ,zn) au voisinage de z E X, par w = a I J d z I A d Z J , on

( 1 , O ) s u r X e t d f uneformedetype (0, l ) surX.

lIl=p IJI=q

a, par définition de d ,

d w = d ( a I j ) A dzI A d z j = III=p IIl=p I JI=q IJI=q

(da1 J + ~ C L I J ) A dzr A d z J

On pose alors

“ a dw = d ( a 1 J ) d z I A dZJ =

IIl=p lJI=q IJI=q

--aIJdz, A d z l A dZJ I I l=p k=l 82,

et

IJI=q

On a ainsi défini des opérateurs d et 8 sur Ci,q(X) tels que d(Ci,q( X)) soit contenu dans Cp+l,q(X) et d(Cp’,q(X)) soit contenu dans Cp,q+l(X).

Proposition 7.1. Les opérateurs d et 8 ont les propriétés suivantes a ) d = d + dsurC, ’ (X) , b) d O d = Old O d = 0,d O 8 + a O d = O surCS,,(X), c) d e t d commutent avec l’image réciproque.


Démonstration. La propriété al est une conséquence immédiate de la définition des opérateurs d et a.

Soitw E Ci , , (X) , puisque d O d = O et d = d + a o n a

O = (8 +d) O ( a + a ) W = (do a ) w + (aod+doa)w + ( a 0 a ) w Or (8 O S ) w est de type ( p + 2 , q ) , ( 3 O 8 + 8 O û)w est de type ( p + 1,q + 1) et (8 0 3)w de type ( p , q + 2), par conséquent chacun de ces termes est nul puisque leur somme est nulle.

Soit F : X t Y une application holomorphe. Observons que si (cl,. . . ,&) sont des coordonnées holomorphes au voisinage d’un point y E Y , F*CJ = cJ O F est une fonction holomorphe au voisinage de z = F-’(y) et donc P*(d(,) = rl(<goF) estuneformedetype(1,O) etF*(ctcJ) = d ( G 0 F ) estuneformedetype (0, l ) . On prouve donc en utilisant des coordonnées locales que F*(C;,,(X)) C

( X ) pour tout p ,q 2 O et k 2 O. Puisque d’après la Proposition 8.4 de l’Annexe A o n a d F * = F*d, onpeutécrirepourw E C,,,(Y)

d(F*w) + d ( F * w ) = d(F*w) = F * ( d w ) = F*(dw) + F*(EL)

la dernière égalité provenant de la linéarité de F*. En comparant les bidegrés, on O

L‘opérateur a que nous venons de définir s’appelle l’opérateur de Cauchy-

On note EP,q(X) l’espace des (p.q)-formes de classe C” sur X pour O 5 p 5 7~ et O 5 q 5 n. Ces espaces sont munis d’une topologie d‘espace de Fréchet qui peut être caractérisée de la manière suivante : une suite ( w J ) J c ~ d‘éléments de EP)q(X) converge vers O si et seulement si pour tout domaine de carte U de X dans lequel wg s’écrit wg = w : J d z ~ A ~ Z J les suites ( w ; J ) 3 E ~ convergent

obtient d(F*w)=F*(ûw) etd(F*w) = F*(dw) .

Riemann.

lIl=p IJI=q

vers zéro uniformément sur tout compact de U ainsi que toutes leurs dérivées.

et son noyau que l’on note Z p i Q ( X ) est donc fermé. L’opérateur 3 : E ~ , Q ( x ) t E P > ~ + ’ ( X ) est aiors un opérateur linéaire continu

Définition 7.2. On appelle groupes de cohomologie de Dolbeault les espaces

HP>P(X) = z”~“x)/a€P~q-’(X).

Ces espaces sont naturellement munis de la topologie quotient qui n’est en générai pas séparée car d ~ q - ’ ( ~ ) n’est pas toujours fermé. si ~ E P > ~ - ’ ( X ) est fermé, H p > q ( X ) est alors un espace de Fréchet.

Ces groupes caractérisent le défaut de résolubilité de l’équation de Cauchy- Riemanndu = f pour f € z p > q ( X ) .

Terminons par la définition des groupes de cohomologie de Dolbeault avec condition de support. On notera c la famille des compacts de X et si K est un

8. Espace tangent complexe au bord d'un domaine 51

compact dune variété M , @ désignera la famille des fermés de X = M \ K dont l'adhérence dans M est compacte et Q la famille des fermés de M qui ne rencontrent pas K . Pour simplifier notons O l'une de ces trois familles. E O q ( X ) est alors l'espace des (p,q)-formes de classe C" dans X dont le support appartient à la famille O. Si 8 E O, on note E;,'(X) le sous-espace de Epiq(X) formé des (p,q)-formes à support dans 8, on a alors E g 4 ( X ) = U &;>'(X). Remarquons

que si O est l'une des trois famiiles e, ou Q, X possède une suite exhaustive

(8i)iEw composée d'éléments de O (ie. X = U 8i,& c 8i+l). Les espaces

E;"(X) sont fermés dans &P)q(X) , ce sont donc des espaces de Fréchet et la topologie de E;'(X) est la topologie la plus fine rendant continues les injections E;;'(X) LJ E g q ( X ) . L'opérateur a est un opérateur linéaire continu de E g q ( X ) dans E g q + l ( X ) . On pose Z g q ( X ) = ZPiq(X) n E e q ( X ) .

@ € O

O

i € W

Définition 7.3. On appelle groupes de cohomologie de Dolbeauit à support dans O les espaces

H g q X ) = zgy x)/aEgq- ( X ) .

On munit ces groupes de la topologie quotient qui n'est pas séparée en général. Ils caractérisent le défaut de résolubilité de l'équation de Cauchy-Riemann dans la classe des formes à support dans la famille O.

8. ESPACE TANGENT COMPLEXE AU BORD D'UN DOMAINE

Pour introduire la notion de fonction CR (Chap. IV) et celle de domaine pseudoconvexe (Chap. Vi), nous aurons besoin des propriétés de l'espace tangent au bord d'un domaine à bord lisse dune variété analytique complexe. L'objet de ce paragraphe est l'étude analytique de cet espace. Nous considérons en particulier l'influence de la structure complexe de la variété ambiante.

Dans un premier temps nous allons supposer seulement que x est une variété différentiable de classe C".

Définition8.1. SoitD unouver tdex , ondi tqueD a un borddeclasseCk,l 5 IC 5 oû, au voisinage de p E d D s'il existe un voisinage ouvert U de p dans X et une fonction r E C k ( U ) de clmseCk, à valeurs réelles telle que

U n D = {z E U I r ( z ) < O } d r ( z ) # O, z E u.

OndiraquedD estdeclasseCk, s'ilestdeclasseCk au voisinagedechacundeses points. Une fonction r E C k ( U ) qui satisfait (8.1) est appelée fonction définissante pour D en p. Si U est un voisinage de dD, T est une fonction définissante globale.

52 Il. Courants, structure complexe

Lemme 8.2. Soient r1 et 7-2 deux fonctions défnissantes pour D, de classe C‘ sur un voisinage U de p E dD. Alors il existe une fonction strictement positive h E C“l ( U ) telle que

(8.2) r1 = hr2 surU drl(z) = h(z)dr2(z) pourz E U n BD.

Démonstration. Remarquons que h est unique puisqu’elle est continue sur U et qu’eile coïncide avec 2 sur U \ dD.

On peut supposer, sans perte de généralité, que U est contenu dans un domaine de carte de X . Soit q E U n dD fixé. Choisissons des coordonnées sur U pour que q = O et U n d D = {z E Rn I z, = O} et supposons que r2(x) = IC,. Pour z’ = (xi , . . . , z,-l)voisindeO,onarl(x’,O) = Oetdonc

Posons h(z ) = 1: $(x’,tz,)dt, c’est une fonction de classe Ck- l sur U qui satisfait 7-1 = hr2 sur U .

Si IC 2 2, on a drl(z) = r2(z)dh(z) + h(z)drZ(z) = h(z)dr~(x) si z E

Si IC = 1, q ( x ) = h(z)r~(z) = (h(z) - h(x1,0))r2(z) + h(z1,0)r2(z) et donc r1(z) = h(z’,O)drz(z’,O) + o(x,) lorsque x, tend vers O, car h est continu sur U et r2(z’,0) = O. On en déduit donc que drl(z) = h(z)drz(z) si z E U n dD.

il reste à prouver que h est strictement positive sur U . Comme h = 2 sur U\ D, h est strictement positive sur U \ D car 7-1 et r-2 sont des fonctions définissantes. Puisque drl(z) # O sur U et drl(z) = h(z)dr2(x) sur U n dD, h ne s’annule pas sur U n dD. La fonction h étant continue sur U , elle est donc strictement positive sur U . O

Si D est un domaine à bord Ck au voisinage de p E dD, d D est alors une va- riété différentiable de classe Ck au voisinage de p . On peut donc considérer l’espace tangentTp(dD) e n p à d D .

u n dD.

Proposition 8.3. Si T est une fonction défnissante pour D enp, on a

(8.3) Tp(dD) = {I E T u ( X ) I dT(P)(I ) = 0).

Si ( 2 1 , . . . ,xn) sont des coordonnées locales de X au voisinage de p , alors < E Tp ( d o ) si et seulement si

Démonstration. Soit U un voisinage de p tel que

d D n U = {z E U I . (E) < O} et dr(z) # O s i z E U.

8. Espace tangent complexe au bord d’un domaine 53

Notons i l’inclusion de d D n U dans X , elle induit une application injective d i : T p ( d D ) T p ( X ) telle que si a est une courbe dans d D passant par p repré- sentant le vecteur v E Tp(dD),E = di(v) est la classe de i 0 a. Puisque l’image de a est contenue dans dD, on a r O i O a O et donc

d d t

d r (p ) (<) = -(T O i O a)(O) = O

ce qui prouve que après identification de Tp(dD) avec di(Tp(ûD))

(8.4)

de dimension n - 1, l’inclusion dans (8.4) est une égalité.

T P ( W c { E E T P ( X ) I dr (p ) (E ) = 0). Comme de plus les deux membres de la relation (8.4) sont des espaces vectoriels

O

Remarque : La relation (8.3) montre que l’on peut identifier Tp(dD) avec les déri- vées directionnelles en p qui sont nulles sur r.

Supposons maintenant que X est une variété analytique complexe de dimension n et D un ouvert de X à bord Ck au voisinage de p E dD. La structure complexe de X induit une structure supplémentaire sur Tp ( d o ) .

Comme nous venons de le voir on peut identifier T p ( d D ) à un sous-espace vectoriel réel de dimension réelle 2n - 1 de T p ( X ) . Si J est la structure complexe sur Tp ( X ) , on peut considérer JT, ( d o ) , c’est également un sous-espace vectoriel réel de dimension réelle 2n - 1 de Tp ( X ) et donc

T ; ( ~ D ) = T , ( ~ D ) n J T , ( ~ D ) est un sous-espace vectoriel réel de dimension réelle 2n - 2 de T p ( X ) stable par J ; c’est donc un sous-espace vectoriel complexe de T p ( X ) de dimension complexe n - 1. Remarquons que T:(dD) # {O) si et seulement si n 2 2. L‘espace TF(dD) est appelé espace tangent complexe en p à dD. Si l’on identifie Tp(X) muni de la structure complexe J avec T,’,o(X),T:(ûD) est un sous-espace vectoriel de T’>O(X).

Proposition 8.4. Sir est une fonction déjînissante pour D enp E dD, on a

T ! ( d D ) = {t E T,”O(X) I dr(p)(t) = O). Si ( z1 , . . . , zn) sont des coordonnées holomorphes locales de X au voisinage de p alors t E T: ( d o ) si et seulement si

Démonstration. Puisque la fonction r est à valeurs réelles on a

d r ( p ) = d r ( p ) + dr(p) = 2 Re dr(p). Par définition de TF(dD) = Tp(dD) n JTp(dD) et d‘après (8.3)

T Z ( d D ) = {t E T,”O(X) I dr(p)(t) = dr(p)(Jt) = O).


Mais d r ( p ) étant une (1 ,O) -forme différentielle en p on a dr ( p ) ( J t ) = idr ( p ) ( t ) et donc

Re (dr(p)(Jt)) = - Imdr(p)( t ) .

On en déduit que

T:(dD) = { t E T,’l0(X) I R e d r ( p ) ( t ) = Imdr(p)(t) = O}

= { t E T,’>O(X) I d r ( p ) ( t ) = O}. O

Soit CTP ( d o ) le complexifié de T,(dD),Tf(dD) est un sous-espace vectoriel de dimension n - 1 de CTp ( d o ) .

Définition 8.5. L‘espace vectoriel Til1 ( d o ) = TF(dD) , le sous-espace conjugué de Tf ( d o ) dans CTp ( d o ) , est appelé espace des opérateurs de Cauchy-Riemann tangentiels enp E dD.

Remarquons que, si T est une fonction définissante pour d D en p et si on note (z1, . . . ,zn) des coordonnées locales holomorphes sur X au voisinage de p , un vecteur T E Tp”>’ ( d o ) si et seulement si

Exemple: Si n = 2, Ti>’(dD) est un C-espace vectoriel de dimension 1 engendré

Commentaires. La théorie des courants est développée dans les livres de Schwartz [SC] et de de Rham [Rh]. La régularisation dans les variétés et la théorie de l’indice de Kronecker sont traitées également dans le livre de de Rham [Rh]. Des précisions sur l’indice de Kronecker peuvent être trouvées dans IL-TU. Pour écrire les paragraphes 4 à 8 de ce chapitre j’ai utilisé l’exposé des notions correspondantes du paragraphe 2 du chapitre III et du paragraphe 2 du chapitre II du livre de M. Range [Ra]. Pour un exposé plus complet, le lecteur intéressé pourra consulter le livre de R. Narasimhan iNd1.

Chapitre III

Noyau et formule de Bochner-Mar tinelli-Koppelman

Applications

Nous définissons dans ce chapitre un des outils fondamentaux de la théorie des repré- sentations intégrales en analyse complexe : le noyau de Bochner-Martinelli-Koppelman. Ce noyau est une généralisation du noyau de Cauchy à en. II nous permet de démon- trer une formule de représentation intégrale, la formule de Bochner-Martinelli-Koppelinan, qui étend la formule de Cauchy aux formes différentielles de type ( p , q ) dans en. Cette formule joue un rôle important dans l’étude de l’opérateur 8. Elle nous pennet d’obtenir nos premiers résultats sur la résolubilité de l’équation de Cauchy-Riemann dans e” en considérant le cas où le second membre est à support compact. Le phénomène de Hartogs, dont nous avons prouvé un cas particulier au chapitre I, est une conséquence de l’existence d’une solution à support compact de l’équation de Cauchy-Riemann si ??, 2 2 et si le second membre est de bidegré (0 , l ) et à support compact. Les relations entre l’annulation des groupes de cohomologie de Dolbeault à support compact en bidegré (0,I) et le phé- nomène de Hartogs seront précisées au chapitre V. Nous utilisons également la formule de Bochner-Martinelli-Koppelman pour étudier la régularité de l’opérateur 8 en prouvant un théorème d’hypoellipticité holdérienne.

-

1. NOYAU ET FORMULE DE BOCHNER-MARTINELLI-KOPPELMAN

n Pour (<,q) E en x en, on pose (<,q) = &qJ. On considère l’ensemble E

défini par E = ( ( 6 , ~ ) E en x en I (<,77) # O}, et sur l’ouvert E on définit la forme différentielle ,LL par p(<,q) = ( < , ~ ) - ~ w ’ ( < ) A ~ ( 7 1 ) avec

w ( q ) =d711A. . .Adqn

j=1

n

et w’(<) = C ( - l ) S - ’ E , d < l A . . . A d ~ j ~ . . . ~ d ~~~, j = 1

56 I l l . Noyau et formule de Bochner-Martinelli-Koppelman

h

où d& signifie que l'on a supprimé le terme d t j .

Lemme 1.1. Laformedifférentiellep vér@edp = O surE .

Démonstration. Calculons dp.

dP = nK,v)- "w(E) A 477) - n(t>v)-"-1d((t,77)) A 4) A 477). Comme d( (<,q)) A w'(<) A w ( q ) = (<,q)w(E) A w ( ~ ) , on a bien d p = O.

On note A la diagonale de @" x Cn. L'application d de @" x C" \ A dans Cn x @" définie par S(<,z) = (c -Z ,< - z ) a donc son image dans E. On considère alors la forme différentielle S*p, eile est de classe C" sur @" x û? \ A et fermée puisque p est fermée.

Définition 1.2. On appelle noyau de Bochner-Martinelli-Koppelman la forme diffé- rentielle sur Cn x en \ A définie par B = m d * p . On a (n- i ) !

On pose B =

On pose également BPI = O .

B i , où BC est de type ( p , q ) en z et ( n - p ,n - q - 1) en <. O l P l n

O l q i n - 1

Lemme 1.3. Pour tout(z,<) E C" x C" \ A, on a - - dB(z ,<) = O et û,BQ(z,<) = -d<B;+,(z,<).

En particulierd<Bt(z,<) = O .

Démonstration. Notons ~ B M (z) la forme différentielle de classe C" sur @" privé de O définie par k g ~ ( z ) = k p ( T , z ) . ( Z i T ) C'est une (n,n - 1)-forme et par consé-

quent d k ~ ~ = dkBM. Remarquons que B = kg^ où r est l'application holomorphe de Cn x Cn dans C" ,(z,<) I-+ < - z . On en déduit donc que dB = d B . Comme B = - j*pe tdp ( 2 i ~ ) = O o n a d o n c d B = d B = O. Onobtientla

O

On peut donner une autre écriture de B en utilisant la notion de déterminant sur une algèbre. Si d est une algèbre quelconque (par exemple l'algèbre des formes différentielles) et si A = ( a i j ) l l i l n est une matrice d'ordre n à coefficients dans

d, on pose

"-l)!

(n-l)!

seconde relation en comparant les bidegrés.

l l j i n

det A = W a o ( l ) , l . . 'a<r(n),n UE8"

I. Noyau et formule de Bochner-Martinelli-Koppefrnan 57

où G, est le groupe des permutations de { 1, . . . ,n} et € ( a ) la signature de la permutation o. Ce déterminant a les propriétés suivantes :

(il det A dépend linéairement des colonnes de A pour des combinaisons li- néaires à coefficients dans le centre de d.

(ii) Si pour des entiers IC et C, 1 5 k < C 5 n, = bkci et aie = beci pour tout z E { 1, . . . ,n}, où bk et be sont des éléments quelconques de A et où les ci sont dans le centre de A, alors det A = O.

On peut alors écrire

ti d t i . . . d t i 1

( n - l)! w'(<) = ~ det -

ce que l'on notera encore 1

w'(<) = ~ det(6, 4 1. (n - l)! v n-1

On en déduit l'écriture suivante du noyau de Bochner-Martinelli-Koppelman n-1 -

det(T - Z, dC - &) A u ( < - z ) 1

IC - zIZn

Remarque : Observons que pour n = 1, on a BOO(z,C) = & &. C'est le noyau de Cauchy usuel.

Proposition 1.4. Le noyau de Bochner-Martinelli-Koppelman B est une forme dif- férentielle localement intégrable sur Cn x Cn qui définit un courant que l'on note encore B satisfaisant

(1.2) dB = dB = [A] où [A] est le courant d'intégration sur la diagonale A de Cn x 67'.

Démonstration. Soient T : @" x forme différentielle de classe C" sur Cn \ {O} définie par

--+ <cn l'application (z ,<) I+ c - z et ~ B M la

J T " j=l \ Y " "

Les coefficients de I C B M sont localement intégrables dans Cn car ce sont des O( I x I - ~ ~ + ' ) et par conséquent ICBM définit un courant sur C". Remarquons que

58 III. Noyau et formule de Bochner-Martinelli-Koppelman

et donc

(n-Z)! 1 On reconnaît alors la solution fondamentale du Laplacien E ( z ) =

z E C", d'où

(1.3) d k B M = d k ~ ~ = [O] où [O] est le courant d'intégration en O, c'est-à-dire la masse de Dirac en O. Ob- servons que B = T* ICBM et B est donc localement sommable sur Cn x Cn et définit un courant que l'on note encore B. En considérant les images réciproques des courants ~ B M et [O] par la projection 7 , on déduit de (1.3) le résultat suivant

1213n-2, -

dB = dB = d ( ~ * k g ~ ) = ~ * ( a k g ~ ) = T * [ O ] = [ T - ' ( O ) ] = [A]. O

Nous allons prouver maintenant que si K est un courant sur C" x C" défini par une forme différentielle localement intégrable et de classe C" sur Cn x C" \ A qui satisfait dK = [A], on peut lui associer une formule de représentation inté- grale. En choisissant K = B, nous obtiendrons la formule de Bochner-Martinelli- Koppelman.

Théorème 1.5. Soit K un courant sur C" x C" dé.fini par une forme différentielle localement intégrableetdeclassec" sur@" x @" \ A , qui vérifiedK = [A]. Soient D un domaine borné de C" à ffontière de classe C 1 et f une forme différentielle de degrér, de classeCm sur). Alors

où d , est calculé au sens des courants.

Démonstration. Nous allons appliquer la formule de Stokes pour l'indice de Kro- necker de deux courants (Chap. II, Cor. 3.7) aux deux courants T = [D x D] et S = f(<) A K(z,C) A g(z) où g est une (271 - r)-forme différentielle à support compact dans D.

Remarquons que SS(bT) = ( d D x D ) U ( D x a D ) et que SS(dS) est contenu dansSS(S) = AnT;l(suppg), o ù ~ c estlapremièreprojectionde@" xCn dans C". Par conséquent, puisque g est à support compact dans D, SS(bT) et SS(dS) ne se rencontrent pas et nous avons K(bT,S) = K(T,dS). Calculons chacun des membres de cette égalité :

K(bT,S) = q [ a D x Dl + [D x a D ] , f ( c ) A K(z,C) A g ( 4 ) r

1. Noyau et formule de Bochner-Martinelli-Koppelrnan 59

car g est à support compact dans D. D'autre part

dS=dc f (C) A K ( z , C) A g(z)+(-l)'f(C) A [Al A d z ) +(-q'+lf(C) A K ( z , C) A d C d 4

on a donc

U T , dS) = LXD d c f ( C ) A K ( z , C) A 9 ( z )

+(-1)'K([D x DI, f ( C > ~ [ A l ~ 9 ( z ) ) + ( - l ) r + 1 / f(CNK(z7 C)Adzg(z) D x D

car K est localement intégrable sur D x D et (A n nF1 (supp 9 ) ) ne rencontre pas

De plus, par définition de [A] et puisque le support de f(<) A [A] A g ( z ) est

S S ( [ D x O]).

relativement compact dans D x D ,

Finalement

d'où l'égalité au sens des courants sur D

Si z $! D, la forme différentielle f(<) A K ( z , C) est de classe C"" sur et on a d K ( z , C) = d z K ( z , C) +dcK(z , C) = O. Onobtient alorsle résultat en appliquant

O la formule de Stokes classique (cf Annexe A, Th. 7.1).

Remarques 1.6

1) Observons que grâce au Théorème de Fubini la formule (1.5) s'écrit encore

(1.6)

pour toute forme différentielle g de degré (2n-r), de classe C" à support compact dans D.

60 1II. Noyau et formule de Bochner-Martinelli-Koppelman

2) Le Théorème 1.5 reste vrai si D est un domaine à bord de classe C1 par mor-

[ S:].

3) Puisque pour tout < E Cn , la forme différentielle z ct K(z,<) est localement

e ceaux comme dans la Remarque 7.2 2) de l'annexe A. On pose alors [all] =

i= l

intégrable et continue sur Cn \ {<} les formes différentielles

sont continues sur Cn . La formule (1.6) a donc encore un sens dans le cas où f est une forme différentielle continue sur D telle que df soit encore continue sur D. Nous allons la prouver dans ce cadre. Si f est une forme différentielle continue sur D telle que df soit encore continue sur D, nous allons construire une famille ( f E ) ~ < E < E O de formes différentielles continues à support compact dans Cn telles que les formes dfE soient aussi continues à support compact dans C" et les familles ( f E ) O < E < E O et (dfE)O<E<Eo convergent uniformément sur D vers f et df respectivement.

Pour tout i E dD, on note B(J , r ) la boule de centre < et de rayon T et uc la normale extérieure en E à dD. Choisissons T et EO assez petits pour que ( d D n B(<,T)) - tvc soit contenu dans D pour tout t E]O,E]. Notons U1,. . . ,Up un sous recouvrement fini de d D par de telles boules et UO un ouvert relativement compact dans D tel que (Uo,Ul,. . . ,Up) forme un recouvrement de D. Soit (xj)osjsp une famille de fonctions de classe C", à support compact dans Cn , à valeurs positives,

-

P telles que supp xj c Uj et xj = 1 sur D. On définit f E par

j = O

P

f E ( 2 ) = xo(z)f(-z) + x j (z ) f ( z - E V j ) . j=i

Si E € ] O , E O [ , f E est une forme continue à support compact dans un voisinage de D et grâce à la continuité uniforme de f sur D, la famille ( f E ) ~ < E < E O converge uniformément vers f sur D. De plus

P

d f E ( 4 = xo(z)df(z) + Xj(4df(Z - E V j ) + dxo(z) A f ( z ) j - 1

P

j=l

Les formes différentielles dfE sont continues à support compact au voisinage de D pour E ~ ] O , E O [ et grâce à la continuité uniforme de f et df sur D, la famille (dfE)o<E<Eo converge uniformément vers df sur D.

En régularisant les formes différentielles f E par convolution, on obtient une famille ( f E ) ~ < E < E o de formes différentielles de classe C" dans C* telles que ( f E ) O < E < E O converge uniformément vers f sur D et (dfE)O<E<EO converge uni- formément vers df sur D quand E tend vers O. Les courants ( [ d o ] A f E ) O < E < E o t

-

2. Résolubilité du 3 pour une donnée à support compact 61

([DI A dfE)O<E<EO et ([DI A f E ) ~ < E < E O convergent dors respectivement vers [aD] A f , [ D ] A df et [Dl A f pour la topologie faible des courants d’ordre nul. Par conséquent la formule (1.6) et donc la formule (1.4) s’étend au cas où f et df sont seulement continues sur 0.

Théorème 1.7. Formule de Bochner-Martinelli-Koppelman. Soient D un domaine borné de Cn à bord de classel‘, f une ( p , q ) -forme différentielle continue surD telle quedf soitaussicontinuesurn ( O 5 p 5 n,O 5 q 5 n) . Alors

r r

où 8, est calculé au sens des courants.

Démonstration. C’est une conséquence immédiate du Théorème 1.5 et de la Remarque 1.6, où l’on a remplacé K par le noyau B de Bochner-Martinelli- Koppelman. Des considérations de bidegré permettent de remplacer l’opérateur d

O par 8 et le noyau B par les BC.

2. R~SOLUBILITÉ DU 3 POUR UNE DONNÉE À SUPPORT COMPACT

Soit D un ouvert de IRn. Pour tout réel a,O < a < 1, et pour toute fonction f:D+C on définit la norme holdérienne d’ordre a de f sur D par

xfx’

L‘ensemble A a ( D ) = {f : D + C I if la,^ < +a} est l’espace vectoriel des fonctions holdérienne d’ordre a sur D. C’est un espace de Banach. Toute fonction f de Aa(D) est bornée et uniformément continue sur D. On note Ca(D) , l’espace des fonctions continues dans D telles que if la,^ < +oo pour tout compact K de D et si k est un entier, Ck+a(D) désigne l’espace des fonctions de classe C k dans D dont toutes les dérivées partielles d’ordre k sont dans Ca ( D ) .

( D ) l’espace des formes différentielles de type ( p , q ) dont les coefficients sont dans Ck+Q(D). Si f E CF,,(D) s’écrit

Si D est un ouvert de û? , on notera

f = fIjdZI A dZj où I = ( i l , . . . ,ip), 21 < . . . < i,, et J = (jl,. . . , jq), I , J

j, < . . . < jp, on définit la norme holdérienne d‘ordre a de f sur D par if la,^ =

S ~ P I , J I ~ I , J ~ ~ , D . Soit B le noyau de Bochner-Martinelli-Koppelman défini au paragraphe 1 et D

un domaine borné à bord de classe C’. Si f est une forme différentielle bornée

62 I l l . Noyau et formule de Bochner-Martinelli-Koppelrnan

définie sur ôD, on pose, pour z E D ,

La forme différentielle E a D f est de classeCm dans D. Notons que pour des raisons de bidegré, si f est de type (p ,q) avec O 5 p 5 n et 1 5 q 5 n - 1, aiors

- et B a D f = O si q = n.

Si f est une forme différentielle bornée définie sur D, on pose, pour z E D,

- Puisque B a une singularité intégrable en C = z , la forme différentielle BD f est bien définie sur D.

Remarquons égaiement que si f est de type ( p , q ) , on a

- et en particulier Bof = O si q = O.

Proposition 2.1. Soit D un ouvert borné de CG" . Alors

de classeCa dans D pour touta,O < (Y < 1.

forme différentielle f bornée sur D , on ait

1) pour toute forme différentielle f bornée sur D, la forme différentielle B D f est

De plus, pour tout Q ,O < Q < 1, il existe une constante Ca telle que pour toute

I

l B D f la,D 5 calf I0,D

2) si f est une forme dflérentielle bornée de classe ck , alors E D f est de classe Ck+a dans D pour toutcu, O < Q < 1.

Démonstration. Par définition du noyau B (cf formule (1.1)) il existe une constante C telle que

où ozn désigne la mesure de Lebesgue sur R2".

Lemme 2.2. Soient n 2 1, un entier et R un réel strictement positif Il existe une constante C telle que pour tous s et t E IRn tels que Is1 5 R et It1 5 R

2. Résolubilité du a pour une donnée a support compact 63

Démonstration du lemme. Pour s et t E R" fixés tels que ( S I 5 R et It1 5 R, considérons les ensembles suivants :

I C'lt - SI

en intégrant en coordonnées sphériques. De manière analogue on a

Par conséquent, puisque It/ I R et Is1 5 R, on a

Fin de la démonstration de la proposition. Grâce au lemme on a donc

I&f(z) - &f(I)I I clf l0,Dlz - Cl1 b l z - I l l . Comme pour tout (Y E ] o , ~ [ , on a sup,,EED Iz - I I ' - ~ ( log Iz - II résultat de i) est démontré.

< + q l e


Supposons que f est bornée dans D et de classe C k , fixons z E D et prouvons que BD f est de classe Ck+a au voisinage de z. Soit x E D ( D ) telle que x = 1 sur un voisinage U, de z. Alors 5, (1 - x ) f est de classe C" dans U, car B est de classe C" sur Cn x Cn \ A. I1 suffit donc de prouver que B D ~ f est de classe C k + a dans U,. Supposons que f soit une (p,q)-forme, alors B D X f (e) = JCED x(<) f (C) A

-

B;-l(<lC). Posonsf (0 = f I J ( C ) d C I A d'TJ lIl=p IJI=q

B;-~(<,<) = B K L M N K K A CM A &L A d < N . lKl=n-q-2

IMI=n-p IL 1=q- 1

INI=P

On a alors B D ~ f ( E ) = C L , N h L , N d f L A d<N où

Puisque x est à support compact dans D

A d c K A d C M .

Comme B = r * k B M les fonctions BKLMN(<,< + <) sont indépendantes de < et localement intégrable en C. On peut alors dériver k fois sous le signe s, puisque f est de classe C k , ce qui prouve que Box f est de classe C k et on a pour [ V I = k

D ' h ~ , ~ ( E ) =

On déduit alors de la définition de BKLMN qu'il existe une constante C telle que pour tout t 1 w E D

I D ' h L N ( < ) - D " h L N ( W ) I < CSuP I c D U ( x f I J ) ( C ) I CED I , J

et on conclut comme dans la preuve de 1). O

Théorème 2.3. Soit D un domaine borné de C?' à bord de classe C' et f une (plq) - formedifférentiellecontinuesurD tellequedf soitaussicontinuesurD,û 5 p 5 n,

2. Résolubilité du 8 pour une donnée à support compact 65

- - O 5 q 5 n. Alors les formes d@érentielles Ba0 f , Bod f , E D f et a i i D f sont continues dans D et on a

(2.5) ( - l ) p + ' f = EaDf - E D 8 f +aBDf dansD.

- - Démonstration. La régularité des formes différentielles E a D f , Bod f et E D f ré- suite de la Proposition 2.1. D'après le Théorème 1.7 l'égalité (2.5) est vraie au sens des courants, mais puisque les formes différentielles i i a ~ f ,BDd f et f sont Conti- nues, aiors dBD f est continue. O

I -

Corollaire 2.4. Formule de Bochner-Martinelli. Soient D un domaine borné à bord C' dans U? et f une fonction de classeCl surD alors

8~ f (0 A B;(z,[) = f (2) S ~ Z E D. lEaD f (0 A m.,o - L D

Si f est holomorphe dans D et continue dans D /.

f (<) A BE(z,<) = f ( z ) siz E D. J,,aD

Observons que si n = 1, le Corollaire 2.4 n'est autre que la formule de Cauchy- Green et la formule de Cauchy dans C.

Corollaire 2.5. 1) Soient q un entier tel que 1 5 q 5 n - 1 et f E C i , q ( C ? ) une (p,q)-forme

différentielle de classe C k , k 2 O , a-fermée, à support compact dans C? . Alors il existe une (p ,q - 1)-formedifférentielleu de classeCk++a, pour tou ta ~]0 ,1 [ , telle que au = f dans C".

2) Si D est un domaine borné à bord C1 de C" , pour toute ( p , n ) -forme f dans Ci,"@), il existe une ( p , n - 1)-forme différentielle u de classe sur D, pour touta E]O,l[, tellequedu = f dansD.

Démonstration. Prouvons l'assertion 1). Soit D un domaine borné à bord C' de C" tel que D contienne le support de f. Appliquons le Théorème 2.3, on a alors

( - i ) p + q j ( z ) = diiD f (z) si z E D

car Bao f = - BDd f = O puisque f est d-fermée a support compact dans D . Po- sons u ( z ) = BD f ( z ) = JCEcn f (<) A B:-l(zl<), u est une forme de classe pour tout a E ] o , ~ [ , cïaprès ia Proposition 2.1 et satisfait au = f sur P .

conséquent il résulte de la formule de Bochner-Martinelli-Koppelman que Prouvons l'assertion 2). Observons que BE = O pour tout p E {O, . . . ,n} et par

- (-l)p+"f(z) =ô, f ( < ) ~ B n - , ( z , < ) s i z ~ D

L D

66 III. Noyau et formule de Bochner-Martinelli-Koppelrnan

cette égalité étant prise au sens des courants si f est seulement continue. Posons u ( z ) = scED f (C) A B ~ _ , ( z , C ) , u est la solution cherchée et u E pour tout

O Q ~ ] 0 , 1 [ , d'après la Proposition2.1.

Exemple : Supposons que n = q = 1. Si D est un domaine borné à bord C1 de C et f une fonction de classe Ck ,k 2 O, sur D, l'équation aux dérivées partielles

a -u= f az possède une solution uo de classe pour tout Q E]0,1[, donnée par

Pour obtenir ce résultat, il suffit d'appliquer l'assertion 21 du Corollaire 2.5 à la (0,l)-forme différentielle f(z)&. La solution générale de l'équation (*) est alors donnée paru = u~ + h où h est holomorphe dans D.

3. RÉGULARITÉ DU 8

Nous allons étendre la formule de Bochner-Martinelli-Koppelman aux courants à support compact et nous en déduirons un résultat d'hypoellipticité holdérienne pour l'opérateur a.

On note toujours B(z,C) le noyau de Bochner-Martinelli-Koppelman dans C" . Si f est une forme différentielle continue à support compact dans C" on pose pour z E C"

Lemme 3.1. L'application &n est linéaire continue de V. (a?) dans C F (C"). De plus si f est une ( p , q ) -forme différentielle, Ecn f est de bidegré ( p , q - 1).

Démonstration. On déduit aisément de la Proposition 2.1 que Bp f est une forme différentielle de classe C", si f est de classe C". Remarquons que si f est de type (p ,q ) , f ( z ) = ScEcn f ( C ) A Bq_,(z,C) et donc &n f est de bidegré ( P A - 1).

Soit f E Ds(Cn), nous noterons D"Pf la forme différentielle obtenue en remplaçant les coefficients f I J de f par leur dérivée Dao f I J . En reprenant la démonstration de la Proposition 2.1 on montre facilement que D a p ( E p f ) =

B C n ( D a p f ) . Comme de plus (Bcn f lo,@ 5 C(supp f ) l f l o , p cela prouve la continuité de &, car une suite de formes différentielles à support compact converge vers O dans VD,(Cn) si tous les termes de la suite sont à support dans

-

-

3. Régularité du a 67

un même compact et si elle converge uniformément vers O ainsi que les suites de ses dérivées. o

Si T est un courant à support compact dans C* on peut définir S'T en posant

(B'T,cp) = (T,& 'p) = ( T , 1 cp(C) A B(.,<)) C E P

( 3 . 1 )

pour toute 'p E D , ( C ) ; c'est un courant sur Cn. Remarquons que si T est de bidegré (p ,q ) , B'T est de bidegré ( p , q - 1).

Proposition 3.2. Soit f une ( p , q ) -forme différentielle continue à support compact dans e", notons T f le courant défini par f . Alors

B'Tf = ( - l )P+"-'Bp f . -

Proposition 3.3. Pour tout courant T à support compact dans C" , le courant B'T est de classeCm sur C" \ supp T . Plus précisément il existe une forme différentielle f à coeficients de classeCm dans C" \ supp T telle que

"TIC" \supp T = T f .

Démonstration. I1 suffit de trouver une telle forme f pour tout ouvert U relativement compact dans C* \ supp T . Fixons un tel U . Soit x une fonction de classe C" dans Cn telle que x = 1 dans un voisinage de supp T et x = O dans un voisinage de Ü. Si cp E De (V) , par définition de B'T on a

68 Ill. Noyau et formule de Bochner-Martinelli-Koppelman

carx(z)(l-x(C))B(z,Ç) est uneformedifférelitielle declassec” surunvoisinage de supp T x Cn . Par conséquent Ê?T coïncide sur U avec la forme différentielle

O ( ct ( T , X ( z ) ( l - x ( C ) ) B ( z , < ) ) qui est de classe C”.

A l’aide de l’opérateur B I , nous pouvons prouver une formule de Bochner- Martinelli-Koppelman pour les courants à support compact.

Théorème 3.4. Pour tout courant T à support compact dans Cn, on a la formule de représentation suivante :

(3.2) T = - (B‘dT + dB‘T) .

Démonstration. Supposons que T est de bidegré ( p , q ) et considérons une forme cp E 2>n-,,n-,(Cn). D’après la formule (2.5) on ala représentation

(3.3) (-1)p+qp = dEp p - Bcndp

car cp est à support compact. Appliquons T aux deux membres de (3.3), on obtient

d’où le théorème. O

On peut alors déduire de cette formule un résultat de régularité pour l’opérateur de Cauchy-Riemann.

Théorème 3.5. Soient X une variété analytique complexe et T un courant de degré O sur X . Si dT = T f , où f est une (O,l)-forme diflérentielle de classe Ck sur X , IC = O , 1 , . . . ,CO, alors

T = T,, oùg E n P+*(x). O<a<l

En particulier sidT = O alors T = Th où h est une fonction holomorphe sur X .

Démonstration. Puisque l’assertion est locale on peut supposer que X est un ouvert de C“ . II suffit alors de prouver que pour tout ouvert U CC X , il existe une fonction g E Ck+Q(U) telle que T = Tg sur U . Soit x une fonction C” à support

compact dans X telle que x = 1 sur un voisinage de Ü. Appliquons la formule (3.2) à xT, on obtient

(3.4) -xT = B ’ ( d ( x T ) ) = B’(Tdx) + B’(xTf)

car T est de degré O. Puisque supp(Tdx) CC U , il résulte de la Proposition 3.3 que g’(Tdx) = T,, oùg1 E C””(U). De plus g’(xTf) coïncide avec 6, ( x f ) d’après la Proposition 3.2, par conséquent B’(xTf) E 0 Ck+”(C?) d‘après

n O < a < l

I _

O<a<l

4. Phénomène de Hartogs 69

la Proposition 2.1. Posons g = g1 + B'(xTf)I U ' On déduit alors de (3 .4) que TIu = Tg. O

Remarques 3.6

1) Le Théorème 3.5 est encore vrai lorsque T est un courant de bidegré ( p , O), car une ( p , 0)-forme différentielle d-fermée est à coefficients holomorphes donc de classe C".

2) Si on remplace le courant T de degré O du Théorème 3.5 par un courant de bidegré ( p , q ) , q 2 1, on montrera au chapitre V, 3 5, le résultat suivant : il existe g E C,",z*(X) telle que dT = dTg, c'est-à-dire que si l'équation du =

O<a<l f , f E CP,,+,(X), possède une solution au sens des courants elle possède une solution de classe

n

pour tout (Y ~ ] 0 , 1 [ .

4. PH~NOMÈNE DE HARTOGS

Le but de ce paragraphe est de prouver que si D est un ouvert de @" , n 2 2, et K un compact de D tel que D \ K soit connexe, toute fonction holomorphe dans D \ K se prolonge holomorphiquement à D tout entier. Au chapitre I nous avons prouvé ce résultat dans le cas où D est un polydisque de @" , n 2 2.

Commençons par préciser le Corollaire 2.5 lorsque f est une (O, 1)-forme.

Théorème 4.1. Soit f E Cg,l(ccZ) une (O , 1)-formedifférentiellede classeCk, k 2 O, d-fermée, à support compact dans Cn, n 2 2 . Alors il existe une fonction u de classeCk+", pour tou ta E]O,l[, à supportcompact telle que& = f sur(Cn. De plus u est donnée par la représentation intégrale

Démonstration. Nous avons déjà prouvé dans le Corollaire 2.5 que la fonction u donnée par (4.1) est une solution de classe Ck+a de l'équation du = f sur @,. I1 reste donc à montrer que u est à support compact dans P. Remarquons que u est holomorphe en dehors du support de f car du = f. De plus si u est donnée par la relation (4. I)

ce qui implique que u( z ) 4 O quand IzI tend vers l'infini.

Pour z E P, n 2 2, posons z = (2, z,) où z' E @"-l et z, E @. Puisque le support de f est compact il existe R > O tel que si Jz'J > R, l'ensemble (2 ) x C ne rencontre pas le support de f . Fixons un tel z', alors la fonction z, C ) u(z', z,)


est holomorphe et tend vers O quand 12, I tend vers l'infini. D'après le Théorème de Liouville elle est donc identiquement nulle. Nous avons donc montré que u est nulie sur l'ouvert { z' E Cn I 12'1 > R} x C du complémentaire de supp f. Puisque u est holomorphe sur C" \ supp f, elle est donc identiquement nulle sur la composante connexe non bornée de Cn \ supp f, ce qui prouve que IL est à support compact. O

Remarque : Le Théorème 4.1 est faux pour n = 1. Cela résulte du fait plus général suivant : si f est une (0,n)-forme différentielle continue, d-fermée, à support compact dans Cn , l'équation du = f n'a en général pas de solution à support compact. En effet si uo est une solution de l'équation du = f à support compact dans Cn et si D est un ouvert de C" contenant le support de uo et à bord de classe C1, on a

Mais en appliquant la formule de Stokes, on obtient

1~0 A dzl A . . .Adzn = d(Uo A dzl A . . .Adz,) = f A dzl A . . .Adzn k D s, et ce dernier terme n'est pas nul en général.

Théorème 4.2. Soit D un ouvert borné deCn tel queCn \ D soit connexe. Supposons n > 1, alors pour toute fonction f holomorphe sur un voisinage d e d D , il existe une fonction F holomorphe au voisinage de D qui coïncide avec f sur d D .

Démonstration. Notons U a D le voisinage de aD sur lequel f est définie et holomorphe et choisissons x une fonction C" à support dans U a D et égale à 1 au voisinage de d D . Alors la fonction f = x f est définie dans Cn et coïncide avec f au voisinage de dD. Posons

On a ainsi défini une (0,l)-forme différentielle de classe C" sur Cn à support dans D , car df = df = O au voisinage de d D . De plus g est d-fermée dans C", on peut donc considérer l'équation d u = g. D'après le Théorème 4.1, cette équation possède une solution uo à support compact donc nulle sur un ouvert de C" \ D car D est borné. Puisque duo = g,uO est holomorphe sur cc" \ D et comme C" \ D est connexe ~ par hypothèse, uo est identiquement nulle sur cc" \ D . Par conséquent

O F = f - uo est la fonction cherchée.

Corollaire 4.3. Soient D un domaine de cc" et K un compact de D tel que D \ K soit connexe. Alors toute fonction holomorphe sur D \ K s'étend en une fonction holomorphe sur D .

Démonstration. Sans perte de généralité on peut supposer que K est connexe. Soit D' un domaine borné de cc" tel que C" \ D' soit connexe contenu dans D et

4. Phénomène de Hartogs 71

contenant K . Un tel ouvert existe car D \ K est connexe, il suffit de prendre D' = { z E D I dist(z, K ) < E } , E assez petit, si D # @" et D' = B(0, R) , R assez grand, si D = C" . Si f est holomorphe dans D \ K , eiie est holomorphe au voisinage de ûD' et par le Théorème 4.2 il existe F holomorphe au voisinage de D telle que f l a D , = FI ao,. Puisque dD' est une hypersurface réelle de @" et que f et F sont holomorphes au voisinage dD' et coïncident sur dD', elles coïncident sur la composante connexe de leur domaine de définition commun qui contient

-I

F sur D' f s u r D \ K est l'extension cherchée. do'. La fonction F = O

Commentaires. La formule dite de Bochner-Martinelli, qui étend la formule de Cau- chy à un domaine borné à bord lisse de @" , a été découverte indépendamment par E. Martinelli [Ma 11 en 1938 et S. Bochner [Bo] en 1940. Ces deux auteurs l'ont utili- sée pour donner une démonstration rigoureuse du phénomène de Hartogs ([Ma 21 et [Bo]). La généralisation au cas des formes différentielles a été obtenue par W Koppel- man [KO] en 1967.

Des démonstrations de la formule de Bochner-Martinelli-Koppelman, différentes de celle presentée ici, peuvent être trouvées dans [HelLel] et [Ra]. Les propriétés de régularité données au paragraphe 2 sont également exposées dans ces deux volumes. Le théorème de régularité pour le 5 est démontré dans le paragraphe 1 du premier chapitre du livre de Henkin et Leiterer IHelLe21 et une démonstration du phénomène de Hartogs, d'un esprit un peu différent, est donnée par Range dans le paragraphe 2 du chapitre N d e [Ra]. Dans [HO2], Hormander donne une autre démonstration du Théorème 4.1, basée sur la formule de Cauchy-Green en dimension I, pour en déduire le phénomène de Hartogs.

Chapitre IV

Extension de fonctions C R

En étudiant le phénomène de Hartogs au chapitre III, nous avons prouvé que si D est un domaine borné simplement connexe de (??, n 2 2, toute fonction holomorphe au voisinage du bord de D s'étend en une fonction holomorphe sur D. Par conséquent, la trace sur dD d'une fonction holomorphe au voisinage de d D est la valeur au bord d'une fonction holomorphe sur D et continue sur D. Nous nous intéressons ici à la caractérisation des valeurs au bord des fonctions holomorphes définies sur un domaine borné D de cn et continues sur D. Le résultat principal de ce chapitre est le théorème d'extension de Bochner pour les fonctions CR définies sur le bord du domaine. Sa démonstration utilise la transformée de Bochner-Martinelli que nous étudions au paragraphe 1 . Nous prouvons également une première généralisation du théorème de Bochner au cas des fonctions CR définies seulement sur une partie du bord d'un domaine. Cette généralisation s'appuie elle aussi sur les propriétés de la transformée de Bochner-Martinelli mais nécessite l'utilisation d'une formule de Stokes pour les fonctions CR et la connaissance de primitives du noyau de B ochner-Martinelli.

1. TRANSFORMÉE DE BOCHNER-MARTINELLI

Soient U un ouvert de Cc" et V une hypersurface réelle lisse de classe C1 dans U (i.e. V est une sous-variété réelle de classe C1 de dimension réelle 2 n - 1 contenue dans l'ouvert U de CC" Y telle que U \ V ait exactement deux composantes connexes U+ et U - . On suppose que V est orientée et que son orientation coïn- cide avec celle de du+.

Définition 1.1. Soit f une fonction continue à support compact définie sur V . On définit la transformée de Bochner-Martinelli de f par

74 IV Extension de fonctions CR

Remarquons que F est une fonction de classe C" et même analytique réelle sur U \ siipp f car @(a,<) est une forme différentielle à coefficients analytiques réels sur CT' x @" \ A.

L'objet de ce paragraphe est l'étude de F au voisinage des points de supp f .

Remarque 1.2 : Soit D CC U un domaine à bord C1 par morceaux tel que D C U+ e t d D n V 3 supp f.Alorssiz E U\ ( V r i d D )

I1 est facile de construire un tel domaine D. On peut toujours supposer que V est définie par V = {z E U I ~ ( z ) = O}, où T est une fonction de classe C1 sur U telle que d r ( z ) # O pour tout z E V. Soit D' un domaine à bordCl de V contenant le support de f . I1 existe alors une fonction C',p, définie sur un voisinage de D' telle que D' = { z E V n I p ( z ) < O } , i3D' = {z E U D ~ I p(z) = ~ ( z ) = O}etdp(z)Adr(z) # Osiz E dD' .Pour~ > OonposeV, = { z E U I ~ ( z ) = E } ,

si U+ = { z E U I ~ ( z ) > O} et V, = {z E U I ~ ( z ) = - E } , si U+ = { z E U I r ( z ) < O } . Pour E suffisamment petit d r ( z ) # O, si z E V, n { p 5 O}, et d p ( z ) A & ( z ) # O, si t E V, n { p = O}. Supposons que l'on a choisi T tel que U+ = { z E U I T ( Z ) < O} et dors si

D = {z E U I -E < ~ ( z ) < O} n {z E U D ~ I p ( z ) < O } .

D est un domaine à bord C1 par morceaux satisfaisant les conditions de la Re- marque 1.2.

Théorème 1.3. Soit f une fonction de classeC",O < a 5 1, àsupportcompactdans V . Alors les fonctions FI u+ et F I ci- ont des prolongements continus F + et F - à U+ ü V et U - ü V et sur V, ces extensions satisfont la formule de Plemelj

F+I, - F-1. = f .

Démonstration. Soit D un domaine à bord C1 par morceaux vérifiant les hypo- thèses delaRemarque 1.2, alors F ( z ) = JcEaD f (( ')Bt(z,C).

Notons f une extension de classe C" de f à U . On peut construire f de la ma- nière suivante. Soit ( U 2 ) , E ~ un recouvrement de V par des ouverts tels que pour

chaque z E I , il existe h, : U, + IR2" satisfaisant h,(V) = {x E IR2" I x1 = O} et si U, n suppf # 0 alors U, n (i3D \ V ) = 0. On définit f, par f a ( z ) = f ohL'(O,(h,)z(z) , . . . , (hz)2n(z))pourz E U,;f,estdeclasseCasurU, et satisfait f, l u , n v = f. Posons UO = C" \ v et soit ( x ~ ) ~ ~ I ~ ( O ) une partitionCm de l'unité relative au recouvrement ( I ! Y , ) , ~ I ~ ~ ~ } . Alors f = xzfz est l'extension

cherchée.

C'

z E I

I. Transformée de Bochner-Martinelli 75

Posons Fo(z ) = F ( z ) - f ( z ) , si z E D et Fo(z) = F ( z ) , si z # D. D’après la formule de Bochner-Martinelli (Chap. III, Corollaire 2.4 et Remarque 1.6 2))

Fo(z) = JItoD (f (0 - f(z))B,O(z,C).

Puisque f est de classe C a et que fi,, = f on a (f (0 - f ( z ) ) B i ( z , < ) =

O ( , c - z ,~n - l - y ) . La forme différentielle ( f ( 0 - f ( z ) ) B g ( z , < ) est donc à coefficients localement intégrables sur dD. Par conséquent FO est continue sur U et l’existence de F+ et F - vérifiant F+Iv-F-Iv=f se déduit aisément de la définition de Fo. O

Remarque : Sous les hypothèses du Théorème 1.3, on peut en fait prouver que F+ et F - sont de classe Co respectivement sur U+ U V et U - U V (cf [Cil).

Théorème 1.4. Soit zo E V fixé. On pose A, = V B(z0,r) pour T > O et on note n, le vecteur unitaire normal à V en z dirigé vers U+. Pour r assez petit, si f une fonction continue à support compact dans V , alors F ( z + tn,) - F ( z - tn,) converge uniformément par rapport à z sur A, vers f ( z ) lorsque t tend vers O par valeurs positives.

Démonstration. Choisissons r > O tel que B(zo,2r) C U et décomposons f en f = f O + fi, où supp fi c B(zo,2r) et f o E O sur B(z0 ,r ) n V . La transformée de Bochner-Martinelli Fo de fo est évidemment continue sur B(z0,r) et il suffit donc d’étudier la transformée de Bochner-Martinelli Fi de fi.

Sans perte de généralité on peut supposer que zo = O et que r est suffisamment petit pour que

1) ûB(0,2r) soit transverse à V . On notera dors D un domaine à bord C’ contenu dans B(0,2r) n U+ et tel que d D n V contienne le support de fi.

2) Si n, est la normale unitaire en z à V dirigée vers U+, il existe C < 1 tel que I (< - z,n,)1 5 CIc - z J pourtout z,( E B(0,2r) n V .

D’après la formule de Bochner-Martinelli, si z E A,.

f ( z ) pour t > O assez petit

Donc si It1 5 t o assez petit on a

G(z , t ) = F l ( z + tnz ) - F I ( Z - tn,) - f ( z )

Lemme 1.5. Il existe une constante c telle que

IBO(z + tn,,<) - B,O(z - tn,,C)lda(C) 5 C, pourz E A,,O < t 5 to. A D


Démonstration du Lemme 1.5. Posons

A ( t , < , ) = IB,Ob + tn,,(') - B,O(z - tn2,OI.

Par des calculs analogues à ceux de la démonstration du Lemme 2.2 du chapitre III, on obtient l'estimation

A(t,<) i

1. C I I t l ( max ( I< - ( z - tnz) 12n I(' - ( z + tn,) p + I< - ( 2 - tn,) 12n 1 1

Maispourz,< E B(0,2r) n V , ona I(' - z f tn,I2 2 (1 - c)[l( - 21' + t 2 ] carr a été choisi tel que I(< - z I n,)l 5 cl< - zI. Par conséquent

Pourz E A,etyteiqueO < y < r , o n a

s,, A(t ,C)da(<) = J A(t,( ')WC) + J A(t,C)WC). aD\B(z,r) aDnB(z,r)

La première intégrale du second membre est clairement bornée uniformément par rapport à z dans A,. Après paramétrisation de V n B(z,y), la seconde intégrale est majorée par

t dV(x).

xEWZn-' (1x12 + t 2 )n J M I R

I ( t ) =

En faisant le changement de variable y = tz , on obtient

ce qui termine la démonstration du lemme. O

Fin de la démonstration du Théorème 1.4. Fixons E > O et choisissons q > O tel que I f ( < ) - f ( z ) l < 3 pour I< - zI < q. Découpons alors d D en deux parties dDnB(z ,q ) etdD\B(z,q) . Ondéduitalorsde (1.1) etduLemme 1.5l'estimation

Sur ûD \ B(z,q),A(t,<) = I BE(z +tn,,<) - BE(z - tn,,<) I dépend continûment de (t,<) et d'après (1.2) on a

Par conséquent l'intégrale du second membre de (1.3) tend vers O lorsque t tend vers O de plus cette convergence est uniforme par rapport à z dans A, car Bg(z,<) ne dépend que de z - <. I1 existe donc th tel que si O < t < th, pour z E A,, alors IG(z,t)I < 2 ~ . O

2. Fonctions CR sur une hypersurface réelle 77

Corollaire 1.6. Si f est continue à support compact sur V et si FI u- admet une extension continue F - à U - U V alors FI,, admet une extension continue F+ à U+ ü V e t o n a

F+I, - F-1, = f .

Démonstration. Soit zo E V fixé et w E U+ assez proche de ZO. On note z la projection orthogonale de w sur V , on a alors w = z + tn, où n, est la normale unitaireenz àV. NousallonsmontrerqueF(w) tendvers F-(zo)+ f (zo),lorsque w tend vers 20, ce qui prouvera le corollaire

(1.4)

Fixons E > O. Si w est assez proche de zo, on déduit du Théorème 1.4 que le premier terme du second membre de (1.4) est majoré par 5 . De plus si w est assez proche de zo, z est proche de zo et par continuité de f , le second terme est égaie- ment majoré par :. Finalement si w tend vers zo, z - tn, tend aussi vers zo et la continuité de F - sur U - ü V implique que le troisième terme est majoré par 5 . ü

IF(w) - F-(zo) - f (z0)l 5 IF(z + tn,) - F ( z - t n z ) - f (.)I + I f (2) - f (.O)[ + IF(z + in,) - F-(zo)l .

Exemple : Soit D un domaine borné à bord C1 et f E C(aD). Supposons que JaD f(<)Bg(z,<) = Opourz # D, alors F ( z ) = saD f (<)Bg(z,C), quiest définie sur D , s'étend continûment à D et on a F ( z ) = f (z ) si z E 30.

2. FONCTIONS CR SUR UNE HYPERSURFACE RÉELLE

On désigne par V une hypersurface réelle orientée de classe C1 dans Cn . L'objet de ce paragraphe est de définir une classe de fonctions sur V qui contient les traces des fonctions holomorphes au voisinage de V et qui coïncide, lorsque V est le bord d'un domaine D, avec les valeurs au bord des fonctions holomorphes dans D.

Définition 2.1. Une fonction f continue sur V est dite Cauchy-Riemann (CR) si pour toute formedifférentielleX de bidegré (n,n - 2), de classeCm sur un voisinage de V et telle que supp X n V soit compact, on a

Jv fax = O.

Remarque :En terme de courant f CR sur V signifie que f [VIo>', où [VIo>' est la partie de bidegré (0,l) du courant d'intégration sur V , est d-fermé.

Exemple : Si F est une fonction holomorphe au voisinage de V , alors f = FI, est CR sur V . En effet, soit X une (n,n - 2)-forme différentielle de classe C" au


voisinage de V telle que supp X n V soit compact et soit D un domaine borné à bord C1 par morceaux contenu dans les domaines de définition de F et A, tel que d D n V 3 s u p p X n V et que l'orientation sur V coïncide avec celle de dD. Alors

Jv fax = JaD FaX par définition de D et car f = FI car F est holomorphe d'après la formule de Stokes puisque X est de type (n,n - 2).

= saD d(FX) = SOD d(FX) = O

Définition 2.2. Une fonction f E C1 ( V ) est dite Cauchy-Riemann (CR) sur V si pour toutp E V etpour toutu E T i i l ( V ) on a v ( f j = O

Remarque : Si V est définie par { z E U I ~ ( z ) = O}, où U est un ouvert de Cn et T

une fonction C1 de U dans R telle que d r ( z ) # O si z E U , la fonction f E C'(V) est CR si et seulement si pour tout p E V , on a

n

j = l pour t E cn tel que e ( p ) t j = O.

Nous allons prouver que, si f est une fonction de classe C' sur V , les deux défi- nitions que nous venons de donner coïncident.

Lemme 2.3. Supposons que V est de classe C k , l 5 IC 5 00. Si f E C k ( V ) est une fonction CR au sens de la DéBnition 2.2, il existe un voisinage U de V et une extension f E Ck-l ( U ) de f telle que

(il J I v = f . (il) Toutes les dérivées d'ordre k - 1 de f sont dérivables en tout point z E V

(iii) df(z) = O pour toutz E V . et Daf est continue sur V pour [al = k .

Démonstration. Pour pEV, soient L l ( p ) , . . . ,Ln- l (p ) une base de T k i o ( V ) et L n ( p ) # O un vecteur tel que T;>O(<cn) = T;io(V) @ CL, ( p ) . D'après la Défini- tion 2.2, f CR signifie Lj ( p ) f = 0 , j = 1, . . . ,n - 1, pour tout p E V.

On cherche une extension f de f qui vérifie -$ ( p ) = O, pour tout p E V , et

donc z n ( p ) f = O, pour tout p E V . Vérifions q i e cette condition détermine le développement de Taylor de f jusqu'à l'ordre 1 en tout point de V . Si V est définie par { z E U 1 T ( Z ) = O } , où U est un ouvert de cc" et T une fonction de classe Ck de U dans R telle que d î ( z ) # O , si t E U , on peut choisir

3. Théorème de Bochner 79

- On a alors ( L , - L,) ( r ) = O et donc L, (2) - En (2) est un élément de CTz (V) pour tout z E V. Par conséquent si z,(z)f = O, pour z E V ; on obtient

si 2 E V, car f l v = f . De plus L j ( z ) f = L j ( z ) f et Ej(z)f = O si z E V,l 5 j 5 ri - 1. CommeCT2Cn estengendrépar ( L i ( z ) , E i ( ~ ) ) ~ < i l , , s i z - E V, vfest donc entièrement déterminé pour tout v E CT2 C" , z E V.

On peut supposer que E,T(z) = 1, si z E V, et que f est la restriction d'une fonction encore notée f de classe Ck sur U . On pose alors f ( z ) = f ( z ) - r ( z ) ( E n f ) ( z ) pour z E U. I1 est clair que f est de classe C"' et que SIv = f . Puisque T 1 a. O et T est de classe C" on montre facilement (iil.

Par définition df(z) = O, si z E V, si et seulement si Zj(z)f = O pour tout z E V et tout j = 1, . . . ,n. Or zj (z)f = zj ( z ) f = O, si z E V, car f est CR et

O

Nous pouvons maintenant montrer que les deux définitions coïncident lorsque

Supposons que f E C1(V) est CR au sens de la Définition 2.2 et soit f une extension de f à un voisinage de V satisfaisant aux conclusions du Lemme 2.3. Si X est une (n,n - 2)-forme différentielle de classe C" au voisinage de V telle que supp X n V soit compact, on a

L M f = [Ln(z ) - L(4l f = [ L ( z ) - Ldf)If,

- ~ , ( z ) f = Z, ( z ) f - (En(z)r)(En(z)f) = O, carE,(z)r = 1, siz E V .

f est de classe C1 sur V.

Jv f a x = Jv fax carfi" = f

= Jv à(f~) = Jv d ( f X ) = O

caràf = O sur v car X est de type (n,n - 2) d'après la formule de Stokes.

Réciproquement, si f E C'(V) est CR au sens de la Définition 2.1 et si f est une extension de classe C1 de f à un voisinage de V on a 8(f[V]'l1) = O ce qui implique (df) A [VI'>' = O car [VI est un courant fermé. si T est une fonction définissante de V on a alors = 6% et donc df A [VIoi1 = O équivaut à (-- ar ûf - --) ûr ûf = Opour1 5 j < k. 5 n. Lesvecteurs(&(p)(q)P a - azk ûzJ a?, azk

toutp E aD, et donc v(f) = O, pour tout v E T j > l ( V ) , p E V .

aF, ar ( p ) ( & ) p ) , 1 5 j < k 5 n, forment une famille génératrice de T:"( V), pour

3. THÉORÈME DE BOCHNER

Soit D un domaine à bord C' , borné dans C" . On s'intéresse au problème suivant : étant donné une fonction f continue sur aD, à quelles conditions sur f et sur D peut-on étendre f en une fonction F continue sur D et holomorphe sur D.

On sait par le Théorème d'extension de Hartogs (chap. III, th. 4.2) que le pro- blème a une solution pour n >. 2 si le bord de D est connexe et si f est la restriction dune fonction holomorphe au voisinage de dD.

80 I V . Extension de fonctions C R

Déterminons tout d'abord des conditions nécessaires pour que le problème ait

1) il faut que f soit CR.

En effet soit cy une forme différentielle de classe C" de bidegré (n,n - 2) définie au voisinage de dD. Supposons que f s'étende en une fonction F continue su rD et holomorphe sur D. Notons x une fonction C" à support compact dans le domaine de définition de cy et égale à 1 sur un voisinage de dD. On a dors

une solution :

faCY = F d ( X c y ) par définition de F et x par la formule de Stokes car cy est de bidegré (n,n - 2) car F est holomorphe dans D.

= JD d (Fa(xa ) ) = JD '( F d ( X c y ) ) = sD d F A d(xa) = O

2) I1 faut que d D soit connexe ou bien que sa, f (<)BD(z,<) = O si z $! D. Supposons que d D possède deux composantes connexes ri et r2. Notons ri

la composante qui borde la composante connexe non bornée de C" \ D et fi la restriction de f à ri,i = 1,2. Si le problème a une solution, ii existe F continue sur D, holomorphe sur D et telle que FI r, = f i , i = 1,2. Si K est la composante connexe bornée de C" \ D, d'après le Théorème de Hartogs F s'étend en une fonction holomorphe F sur D ü K . D'après la formule de Bochner-Martinelli on a

O

si z E K et donc

f ( < ) ~ g ( z , < ) = O si z $! D car cette intégrale est clairement nulle si z est dans la composante connexe non bornée de C" \ D dans ce cas.

Théorème 3.1. Théorème de Bochner. Soient D un domaine relativement compact à bord C1 de @" ,n 2 2, tel que C" \ D soit connexe. Si f est une fonction CR continue sur dD, il existe une fonction F continue sur D, holomorphe sur D, telle queFlaD = f . D e p l u s F ( z ) = J c t a D f ( < ) B g ( z , < ) s i z E D .

Démonstration. Prouvons tout d'abord l'unicité de F . Si Fi et Fz sont deux extensions holomorphes de f à D , Fi - F2 est une fonction holomorphe sur D, continue sur D et telle que F I - F2 l a D = O. D'après le principe du maximum FI - F2 = O sur D.

D'autre part si F existe, d'après la formule de Bochner-Martinelli

F(C)B,O(Z,<) = J f (<Mxz,<) si E D , F ( z ) = J(EZiD CEaD

car F l a D = f . (On a ainsi prouvé de nouveau i'unicité de FI.

3. Théorème de Bochner 81

Montrons maintenant l'existence de F . Considérons la fonction

Elle est de classe C" sur cc" \ dD. D'après l'étude de la transformée de Bochner- Martinelli ( c f . Cor. 1.6) il suffit de prouver que F est holomorphe sur @" \ d D et identiquement nulle sur C" \ D. Calculons 3 F sur C" \ D. On a a F ( z ) = SrEaD f (C)d,Bg(z, C) maisd,Bg(z, <) = - d ~ B y ( z , () sur @" x @" \ A et donc pour z E C" \ d D fixé, d F ( z ) = - SrCao f (C)a~By(z , C) = O car f est une fonction CR sur le compact dD. La fonction F est donc holomorphe sur C" \ dD. Remarquons que F ( z ) tend vers O quand IzI tend vers l'infini car IF(.)[ 5 <list(:,aD) . Puisque F est holomorphe sur @" \ D, n 2 2 et Qin \ D est connexe, F est alors identiquement nulle sur @" \ D ( c f . démonstration du Théorème 4.1 dans le chapitre IV). o

Théorème 3.2. Soient D un domaine relativement compact à bord C1 de @" et f est une fonction continue sur dD. Pour qu'il existe une fonction F holomorphe dans D continue surD telle que F I = f il faut et il sufit que pour toute (n , n - 1) -forme différentiellea! de classec", ô-fermée définie sur un voisinage de D on ait

ao

f a ! = o.

Démonstration

1) Condition nécessaire : supposons qu'il existe F continue sur D et holomorphe sur D telle que F l a o = f et considérons une (n, n - 1) forme a! de classe Cw, d-fermée au voisinage de D. Alors

. h D f a = S a D F a par définition de F = SD d ( F a ) = SD d F A a + F3ja = O

par la formule de Stokes car F et a! sont 3-fermées.

2) Condition suffisante : montrons tout d'abord que f est CR. Soient A une forme différentielle C", de bidegré (n, n - 2) définie sur un voisinage de d D et x une fonction C" à support compact dans le domaine de définition de X et égale à 1 au voisinage de d D alors

- car ~ ( x X ) est une (n, n - 1)-forme différentielle de classe C", d-fermée, définie au voisinage de D.

Considérons la fonction F(z )= ScEaD f (<)Bg(z, C). Elle est holomorphe sur @" \dD d'après la démonstration du théorème précédent. Si z E @" \ D, Bg(z , .)


- est une (n,n - 1)-forme différentielle de classe Cm,d-fermée sur Cn \ { z } qui est un voisinage de D. L'hypothèse faite sur f implique que

F ( z ) = f (C)Bg(z , ( ) = O si z E Cn \o. On déduit alors du Corollaire 1.6 que f est l'extension cherchée. O

Terminons ce paragraphe en étudiant la régularité de l'extension F lorsque f est de classe C'".

Théorème 3.3. Soient D un domaine borné de Cn, à bord de classe C" et f une fonctionCR, declasseCk,l 5 k 5 m, surdD. Supposonsque:

- soit Cn \ D est connexe et n 2 2, soit saD fa = O , pour toute (n,n - 1) -forme dflérentielle a de classe C" ,d-

fermée au voisinage de D. Il existe alors une fonction F de classec'" s u r n , holomorphe dans D , telle que

= f '

Démonstration. L'existence et l'unicité de l'extension F résultent des Théorèmes 3.1 et 3.2. I1 ne reste plus qu'à étudier la régularité de F . Rappelons que

Montrons tout d'abord que F est de classe C1 sur 0. En dérivant sous l'inté- grale, on obtient

Comme B: est de type (n,n - 1) en ( et 8c-fermée, on peut écrire, pour J E (1,. . . ,n} fixé,

BO = dc3 A B, où B3 est une forme différentielle de type (n - l ,n - 1) telle que dcB3 = O. De plus les coefficients de B, sont des fonctions de < - z . Par conséquent

Notons f " une extension de f satisfaisant aux conclusions du Lemme 2.3. On a alors pour z E Cn \ d D

4. Formule de Stokes pour les fonctions CR 83

Puisque F = O sur C" \ D, il en est de même de laire 1.6 que E I D s'étend continûment à D.

Le cas générai se démontre par récurrence sur I C . Supposons que le résultat est vrai pour k 2 1. Soient f E ( d o ) une fonction CR sur d D et June extension de f satisfaisant aux conclusions du Lemme 2.3. Nous venons de prouver que si F ( z ) = JcEaD f (Ç)Bg(z,<) pour z E C" \ d D alors pour tou t j = 1,. . . ,n

et on déduit donc du Corol- a23

Puisque est holomorphe dans D et continue sur D et FI,, = f , l a D est E l a D -ai. - ac, laD E C'(do). On déduit alors de l'hypothèse de récurrence

O

a Z 3

que E E C'((D), j = 1,. . . ,n, c'est-à-dire F E Ck+'(D).

4. FORMULE DE STOKES POUR LES FONCTIONS CR

On désigne par V une hypersurface réelle de classe C' de C" ,n 2 2.

Soit D un domaine à bord C' relativement compact dans V. Si f est une fonction CR de classe C' sur V , il résulte de la formule de Stokes que pour toute (n,n - 2)-forme différentielle a de classe C1 au voisinage de V on a

Le but de ce paragraphe est détendre la formule (4.1) au cas où f est seulement continue.

Lemme 4.1. S i D est un domaine à bord C' relativement compact dans V , il existe un domaine D borné dans C" , dont le bord est de classe C1 au voisinage de V , tel que 6 n V = D et V coupe d D transversalement.

Démonstration. Puisque d D est une sous-variété de classe C', de codimension 2 de C" , il existe des fonctions T et p à valeurs réelles telles que

a) T est définie et de classe C' sur un voisinage UV de V dans C" ,V = {t E UV I ~ ( z ) = O} et d r ( z ) # O pourtout t E UV.

b) p est définie et de classe C' sur un voisinage UaD de d D dans C", d D = { z E V n UaD 1 p(z ) = O}, dp(z) # O, pour tout z E UaD et D n U a ~ = { z E

v n ut30 I p(z)<o} . c) d r ( z ) A dp(z) # O, pour tout z E UV fl U ~ D .

On définit aiors 6 de la manière suivante : 5 c { z E UV I -E < T ( Z ) < E } ,

6 n V = D et 6 f i 1730 = { z E U ~ D I p(z ) < O}, E étant choisi assezpetit pour O queUaDn{z E UV I - E < ~ ( z ) < E } # 0.


Lemme 4.2. Soient D un domaine à bord C’ relativement compact dans V et 5 un domaine associé à D par le Lemme 4.1. Si cp est une (2n - 1) -forme différentielle continue sur V et (e une extension continue de cp à Cn on a

où K (. , .) désigne l’indice de Kronecker.

Démonstration. NOUS aiions prouver que K([D],[v]O~’ A (e) existe et qu’il est égal à s ~ , , ~ (e ce qui coïncide avec so cp par définition de D et (e. En utilisant une partition de l’unité on peut supposer que le support de (e est suffisamment petit pour que l’on soit dans la situation suivante : quitte à faire unchangement de coordon- nées de classe C’, V est définie par l’équation x1 = O et D par 2 2 < O au voisinage du support de (e.

-

Soient (e,),,, et CY,^)^,,^ deux familles de fonctions régularisantes. On a alors

5. Primitive du noyau de Bochner-Martinelli 85

La fonction cp étant continue à support compact, elle est donc uniformément continue et donc cp(0,u - x2 + 7 ~ 2 , ~ ” ) tend vers cp(O,u,z”) uniformément par rapport à (u,z”), lorsque E et E” tendent vers O, si x E supp 0, et y E supp a,!. On en déduit que

O

Théorème 4.3. Soit D un domaine relativement compact à bord C i de V. Pour toute fonction f continueCR sur V et toute (n,n - 2)-forme différentiellea de classeCl au voisinage de V on a

Démonstration. Soient 5 un ouvert de Cn associé à D par le Lemme 4.1, f une extension continue de f à C? et 6 une (n,n - 2)-forme différentielle de classe C1 dans C” qui coïncide avec CY au voisinage de V. I1 résulte du Lemme 4.2 que

car a est de bidegré (n,n - 2). Mais la fonction f est CR et le courant [VIoi1 A f& de bidegré (n,n - l), par conséquent

d([VIo>’ A f&) = d([V]o>l A f&) = [VI”’ A faa. On obtient donc finalement

faa = K([D],d([V]O” A f&)). ID

et par la formule de Stokes pour l’indice de Kronecker (Chap. II, Corollaire 3.7)

f d a = IC(b[D],[V]OJ A fa) = / fa. = / fa. L aDnv aD

5. PRIMITIVE DU NOYAU BOCHNER-MARTINELLI

Rappelons que le noyau de Bochner-Martinelli

est une forme différentielle de classe C” dans C” x Cn \ A qui satisfait pour tout z E Cn fixé,dcB!(z,<) = o s i < E \ { z } .

Dans ce paragraphe nous allons déterminer explicitement des formes différen- tielles solutions de l’équation au = B;(z,.) sur certains ouverts de C” \ { z } .

86 iV Extension de fonctions CR

Soit z E C" fixé, on pose pour k = 1, . . . ,n

Démonstration. La fonction & étant holomorphe sur C" \ { C E C" I <k = Z k } ,

on a

Un calcul direct donne alors - a c f i k ( z , < ) = BO(z,<).

La forme f l k ( z , . ) est de bidegré (nln - 2), donc d R k ( z , . ) = dRk(z,.). O

Pour toute fonction cp holomorphe dans e" et pour tout z E Cn fixé, on pose N, = {< E C" 1 cp(C) = cp(z)}. Nous allons déterminer des primitives du noyau de Bochner-Martinelli sur les ouverts de la forme u, = @" \ N,. Ces primitives nous seront utiles pour prouver le théorème d'extension du paragraphe 6. Le Lemme 5.1 résoud ce problème pour l'application coordonnée cp(z) = z k .

Lemme 5.2. Si cp est une fonction holomorphe dans Cn , il existe n fonctions holomorphes(hl, . . . JL") sur(Cn x @" tellesquepourtout(z,C) E Cn x cc"

n

( 5 . 2 ) q(C) - v ( z ) = h k ( z , < ) ( C k - Zk). k = l

Démonstration. Posons, pour k = 1, . . . ,n,

6. Un théorème d'extension pour les fonctions CR 87

la fonction hk est holomorphe sur @" x @" \ { (z ,<) I z k = < k } elle se prolonge par continuité à @" x @" car la fonction cp est holomorphe par rapport à la variable z k . Le Théorème de Riemann (Chap. I, Th. 6.4) implique que h k est holomorphe sur @" x @" . La relation (5.2) est une conséquence immédiate de la définition des fonctions h k . O

Remarque : Le Lemme 5.2 n'est plus vrai si cp est seulement définie sur un ouvert fl de @" . Nous verrons au chapitre VI11 des conditions sur fl pour que le Lemme 5.2 soit encore valide.

Nous pouvons définir maintenant

La forme différentielle @(xi.) est de classe C" sur Cn \ N,.

Proposition 5.3. La forme différentielle @(z, . ) vérifie

d@(z , . ) = 34>(z,.) = B:(Z,.) sur @" \ N,.

Démonstration. La forme différentielle @(z, . ) est de type (n,n - 2) et par consé- quent d@(z,.) = d@(z?.). D'autre part puisque les fonctions cp,hk,k = 1,. . . ,n sont holomorphes et ( < k - zk)flk(z,<) est définie sur C" \ { z }

pour tout < E @" \ N,. On déduit alors du Lemme 5.1 et de (5.2) que dç@(z,.) = O BO(z,.) sur @" \ N, en prolongeant par continuité.

6. UN THÉORÈME D'FXTENSION POUR LES FONCTIONS CR

Considérons la situation géométrique suivante : soient V une hypersurface réelle, fermée, orientée de classe C' de @" ,n 2 2, et I? un domaine à bord C' dans V . On suppose que :

(i) d r est contenu dans M = { z E @" I Re cp(z) = O}, où cp est une fonction holomorphe dans @" .

(ii) r c { z E @" I Recp(z) > O}. (iii) d r est le bord d u n domaine borné A de M . On notera D l'ouvert borné

de @" dont le bord est ü 2. On suppose que l'orientation sur V coïncide avec celle de dD.

Dans ce paragraphe nous allons prouver que si f est une fonction CR continue sur r, il existe une unique fonction F continue sur DU r et holomorphe sur D telle que FI,= f .


Ce résultat est un cas particulier du problème d'extension des fonctions C R à partir dune partie du bord d u n domaine que nous pouvons formuler ainsi. Soient D un domaine borné de C" , K un compact de dD tel que dD \ K soit une hypersurface réelle connexe de classe C' de @" \ K . A quelles conditions sur K toute fonction CR continue sur dD \ K s'étend-elle en une fonction holomorphe sur D continue sur D \ K? Si K = 0, le problème est résolu par le Théorème de Bochner. Ici nous résolvons le cas où K est contenu dans l'ensemble des zéros de la partie réelle dune fonction holomorphe dans C" . Nous donnerons de nouvelles conditions cohomologiques et géométriques sur K à la fin des chapitres V, VI1 et dans le chapitre VIII.

Théorème 6.1. Soit f une fonction CR continue sur r, il existe une unique fonction F holomorphe dans D, continue sur D ü I' telle que F I = f.

Démonstration. Commençons par montrer l'unicité de F . Pour tout zo E D fixé, on choisit E > O assez petit pour que zo E D, = D n {< E C" I Re cp(() > E } et o n n o t e r , = r n { ( E C " I R ~ ~ ( C ) > E } ~ ~ A , = D ~ { ( E C " IRecp( ( )=~} , alors dD, = CE ü A,. Supposons que F existe, elle est alors holomorphe sur D, et continue sur DE, on peut donc lui appliquer la formule de Bochner-Martinelli :

Posons N, = {< E C" I y(<) = cp(z)} pour tout z E @" et remarquons que N,, n {( E QIn I Re cp(C) = E } = 0 car zo E DE. I1 existe donc un voisinage de A, qui ne rencontre pas N,, et si @ est la forme différentielle associée à cp définie par la formule ( 5 . 3 ) on adC@(zo, () = B:(zo, () sur ce voisinage. Comme F est holomorphe et @@O, .) de bidegré (n , n - 2) sur D, en appliquant la formule de Stokes on obtient

car FI, = f et d r , c r, ce qui prouve l'unicité de F .

Prouvons maintenant l'existence de F . Dans un premier temps nous supposons que la donnée f est continue sur F. En faisant tendre E vers O dans (6.1) on montre que si F existe alors

(6 .2 ) F ( z ) = s, f(<)BO(z, Cl - s,, f ( O @ ( z , C) pour tout z E D. Considérons la fonction F définie par la formule (6.2). C'est une fonction de classe C" sur @" \ ( M ü r) car B:(z, .) est défini et C" sur C" \ { z } et @(z, .) est de classe C" sur C" \ N,, où N, = {C E C" I ' p (z ) = cp(C)}. Nous ailons montrer que F est l'extension cherchée et pour cela nous avons besoin du résultat suivant qui sera prouvé au chapitre VI1 : si 'p est une fonction holomorphe

6. Un théorème d'extension pour les fonctions CR 89

dans C" ,n > 2, on définit U, = { z E C" I -E < Re cp(z) < E } , & > O. C'est un domaine dholomorphie (cf Chap. VI, Prop. 1.16) et toute (n,n - 2)-forme différen- tielle C" sur U, est a-exacte sur U,, c'est-à-dire H " J - 2 ( U E ) = O (cf Chap. VII, Th. 7.4).

ire étape : F est holomorphe sur C" \ ( M U r) En dérivant sous le signe J dans la formule (6.2), on a pour z E C? \ (r U M )

-

d F ( z ) = s, f(<)dzB,O(z1<) - s,, f (oaz@(z l<)

W z ) = - s, f (<)dcB?(z,<) - / f(<)az@(zl<).

- et puisque a, BO = -de BY sur C" x C" \ A,on obtient donc

-

ar Si n = 2, un calcul direct donne d F ( z ) = O pour tout z E D car BY(z;) est de classe C" au voisinage d e r si z E D. Si n > 2, la proposition 5.3 implique

- - - ac(d,@ + BY) = a,(ac@) + dcB? = aZB,O + acB1 = O

pour tout (z ,<) E C" x C" tel que < $! N,. Fixons z E D et choisissons E > O assez petit pour que z $! U, = {< E û? I -E < Rev(<) < E } . La forme différentielle d,@(z;) + BY(z; ) est une (n,n - 2)-formed-fermée de classe C" sur U, car N , n U, = 0. Comme Hn,n-2(U,) = O, il existe une (n,n - 3) forme différentielle 6 , de classe C" sur U, telle que 36, = a,@(z,.) + BY(z;) sur U,. Soit 8, une (n,n - 3)-forme de classe C" dans C" qui coïncide avec 6, au voisinage de aï. On a alors

-

En appliquant le Théorème 4.3, on obtient encore a F ( z ) = O.

Ze étape: F estidentiquementnulie sure" \ (D ü I?) Considérons l'ouvert U = { z E C" I Re cp(z) $! [O, supDRe 91). Pour

z E U,N, ne rencontre pas D et par conséquent @(z, . ) est de classe C" au voisinage de F. ComrneaC@(z,.) = BO(z,.) sur C" \ N,, la formule (6.2) et le Théo- rème 4.3 impliquent que F(z)=O si z E U . De plus l'ouvert U rencontre toutes les composantes connexes de C" \ (D ü M ) et F est holomorphe sur C" \ (DU M ) , donc par le principe du prolongement analytique F est identiquement nulle sur C" \ ( D U M ) .

se étape: FI, = f

PosonsFl(z) = Jr f(<)B;(z,<) etFz(z) = Jar f(<)@(z,<).Pardéfinitionde F on a F = Fi - F 2 . La fonction F 2 est de classe C" sur C" \ M car l'ensemble N , des singularités de a(.,.) ne rencontre pas d î si z $! M . La fonction Fi est la transformée de Bochner-Martinelli de f sur r, elle est de classe c" sur a? \ r.


On pose FT = Fj I D et FJT = Fjlc,,\(EuM), j = 1,2. Remarquons que

FC se prolonge continûment en FC à (Cn \ (D ü M ) ) ü r. En effet FT = F IC,, \(DUM) + F; et, d‘après la Ze étape, F est nulle sur Cn \ (D ü M ) . La conti- nuité de Fz sur Cn \ M permet alors de conclure. Le Corollaire 1.6 nous dit qu’alors F,’ se prolonge continûment en FT à D U r et F,’ 1 - & I r = f , donc F 1 se prolonge continûment à D u r en F et FIr = f car F2 est continue sur Cn \ M .

est alors terminée. Si f est seulement continue sur r, f est continue sur FE pour tout E > O et l’on peut appliquer ce que nous venons de démontrer à D,. On obtient ainsi une famille (F,),>O de fonctions holomorphes qui vérifient FE = F,, I D , u r , si E’ > E à cause de l’unicité. La fonction F définie par F I D,ur, = F, est l’extension cherchée. O

-

-

La démonstration du théorème dans le cas où f est continue sur

Remarque : Quitte à utiliser un résultat qui ne sera démontré qu‘au chapitre VII, nous avons préféré inclure le Théorème 6.1 dans ce chapitre plutôt que dans le chapitre VI11 où il aurait pu également se trouver car la méthode de démonstration que nous utilisons est du même type que celle du Théorème de Bochner.

Commentaires. Une lecture précise de la démonstration du Théorème d’extension de Hartogs dans l’article de Bochner [Bo] montre que pour obtenir l’extension il sufi t que la donnée soit une fonction CR sur le bord du domaine. La démonstration du Théorème d’extension de Bochner que nous donnons ici est celle de Harvey et Lawson [HalLa] et de Cirka [Ci]. Le cas où le bord du domaine n’est pas supposé connexe est dû à Weinstock [We]. Le théorème d’extension du paragraphe 6 a été prouvé par Lupac- ciolu et Tomassini [LulTo] pour une donnée localement lipschitzienne. La démons- tration de la formule de Stokes pour les fonctions CR continues qui permetd’étendre le résultat de Lupacciolu et Tomassini aux fonctions C R continues se trouve dans [L-T2]. La plupart de ces résultats sont rassemblés dans le livre de Kytmanov [Ky].

Chapitre V

Extension de fonctions holomorphes et de fonctions C R dans les variétés

L‘objet de ce chapitre est l’étude du phénomène de Hartogs-Bochner dans les variétés analytiques complexes. Nous commençons par étudier la relation entre le phénomène de Hartogs et l’annulation du groupe de cohomologie de Dolbeault à support compact de bide- gré (O, 1). Nous donnons ensuite des conditions cohomologiques qui permettent d’étendre une fonction CR de classe c” définie sur une partie du bord d’un domaine en une fonction holomorphe sur ce domaine tout entier. Cela généralise la situation géométrique étudiée à la fin du chapitre IV. Pour obtenir des résultats analogues pour les fonctions CR de classe ck nous avons besoin d’une part d’un résultat sur la résolution locale du 8 et d’autre part d’un théorème d’isomorphisme entre les différents groupes de cohomologie Ha9q ( X ) qui résulte de la résolution locale et d’éléments de théorie des faisceaux qui seront donnés dans l’annexe B. Le résultat local est prouvé en résolvant le a dans les domaines convexes à bord de classe c2 à l’aide d’une nouvelle formule intégrale, la formule de Cauchy-Fantappié.

1. COHOMOLOGIE À SUPPORT COMPACT ET PHÊNOMÈNE DE HARTOGS

Dans ce paragraphe nous allons étudier le lien entre le phénomène d‘extension de Hartogs dans une variété analytique complexe et l’annulation de certains groupes de cohomologie de Dolbeault de cette variété.

Soit X une variété analytique complexe de dimension n. Nous dirons que le phénomène de Hartogs se produit dans X si pour tout domaine D relativement compact dans X tel que X \ D soit connexe et pour toute fonction f holomorphe sur un voisinage Uao du bord de D, il existe une fonction F holomorphe dans un voisinage de D qui coïncide avec f sur un voisinage de dD.

Nous avons prouvé au chapitre III, Théorème 4.2, que le phénomène de Hartogs se produit dans <cn dès que n 2 2.

92 V. Extension de fonctions holomorphes et de fonctions CR

Théorème 1.1. Soit X une variété analytique complexe non compacte. Supposons que pour toute (0 , l ) -forme différentielle u de classe Coo, à support compact dans X et 8-exacte au voisinage de son support, il existe une fonction u de classe C" à support compact dans X telle que 8u = u dans X , alors le phénomène de Hartogs se produit dans X .

Démonstration. Soient D un domaine relativement compact de X tel que X \ D soit connexe et f une fonction holomorphe sur un voisinage U ~ D du bord de D. Considérons une fonction x E D ( X ) telle que supp x CC Va0 et x = 1 sur un voisinage Va0 c U ~ D de d D et posons f = xf. La fonction f est de classe C" dans X et holomorphe sur V ~ D . Posons u = df sur D U Va0 et u = O sur X \ D. Grâce à l'holomorphie de f sur V ~ D , u est de classe C" dans X et son support est contenu dans D. De plus, u = df sur D U V ~ D , elle est donc 8-exacte au voisinage de son support. Par hypothèse il existe une fonction u de classe C", à support compact dans X telle que du = u dans X . La fonction u est donc holomorphe dans X\supp u, en particulier dans un voisinage de X\ D. D'autre part u étant à support compact, elle est nulle sur un ouvert de X \ D et par prolongement analytique sur un voisinage de X \ D car X \ D est connexe. I1 suffit alors de poser F = f - u. En effet, F = f = f auvoisinagede d D e t 8 F = d f - du = O sur D U Vao. O

Définition 1.2. SoitX une variétédifférentiabledeclasseCk, O 5 k 5 m. Ondéj?nit le nombre e ( X ) de bouts de X comme la borne supérieure du nombre de composantes connexes non relativement compactes de X \ K lorsque K décrit l'ensemble des compacts de X .

Nous allons considérer des variétés à un bout, c'est-à-dire telles que e ( X ) = 1. I1 résulte de la définition que, dans ce cas, pour tout compact K de X on peut trouver un compact L de X contenant K tel que X \ L soit connexe.

Exemples 1) Un ouvert U de Cc a un bout si et seulement s'il est simplement connexe. 2) X est une variété compacte si et seulement si e ( X ) = O. 3) Si X possède une fonction dexhaustion, c'est-à-dire une fonction cp : X +

R telle que {x E X I cp(x) 5 c} CC X pour tout c E R, qui vérifie de plus la condition suivante : il existe CO tel que {x E X I cp(x) = c } est connexe dès que c 2 CO, alors X possède un seul bout.

Théorème 1.3. Soit X une variété analytique complexe possédant un seul bout. Sup- posons que le phénomène de Hartogs se produit dans X , alors pour toute ( O , 1) -forme différentielle u de classeC", à support compact dans X etd-exacte au voisinage de son support, il existe une fonction u de classe C" à support compact dans X telle quedu = u d a n s X .

Démonstration. Soit u une (0,l)-forme différentielle de classe C" à support compact dans X , telle que u = aw sur un voisinage U du support de u. La fonc-

1. Cohomologie à support compact et phénomène de Hartogs 93

tion w est holomorphe sur U \ supp v. En vertu du phénomène de Hartogs, w se prolonge holomorphiquement à chacune des composantes connexes relativement compactes de U \ supp v en une fonction que nous noterons encore w. Puisque X possède un seul bout, il existe un domaine D relativement compact contenu dans la réunion de U et des composantes connexes relativement compactes de X \ supp v et contenant supp v tel que X \ D soit connexe. La fonction w est alors définie au voisinage de D et holomorphe au voisinage de d D et par le phéno- mène de Hartogs sa restriction à un voisinage de d D se prolonge en une fonction w holomorphe au voisinage de D. Posons u = w - w au voisinage de D et u = O sur X \ D. La fonction u est de classe C" sur X , car w - W = O, au voisinage de dD, de plus d u = dw = v au voisinage de D, car 6 est holomorphe, et d u = O = v sur X \ D, car supp v c D.

Remarque : L'hypothèse sur le nombre de bouts de X dans le Théorème 1.3 est indispensable. En effet, considérons le cas où X = C" \ { O } , n 2 2. Le phénomène de Hartogs se produit dans X , car X est un ouvert de e", n 2 2. Soit x E D ( X ) telle que x ( z ) = 1 si i < Izl < i, x ( z ) = 2 si a < Iz( < 9 et le support dex ne rencontre pas { z E Cn I IzI < $} u { z E Cn I $ < IzI < i} u { z E

C" I < IzI < :, et v = O sinon. C'est une (0,l)-forme différentielle de classe C" dans X , à support compact et d-exacte au voisinage de son support, mais il n'existe pas de fonction u à support compact telle que d u = v. Si u existait, u serait holomorphe sur X \ { z E C" I i < IzI < :}, nulle si IzI < T , pour T assez petit, et si IzI > R, pour R assez grand, donc nulle sur x \ { z E C" I f < IzI < $} par prolongement anaiytique et x - u serait holomorphe sur { z E @" 1 2 < 1x1 < i}, constante égaie à 1 au voisinage de IzI = 1 et constante égale à 2 au voisinage de 1x1 = 2, ce qui est impossible.

Comme conséquence immédiate du Théorème 1.1, on obtient le résultat suivant reliant la cohomologie de Dolbeault à support compact dans X et le phéno- mène de Hartogs.

lzl > g}, posons v = dx si

Corollaire 1.4. Soit X une variété analytique complexe non compacte. Si

H,OJ(X) = O,

alors le phénomène de Hartogs se produit dans X .

du Théorème 1.3. Énonçons pour terminer une réciproque partielle du Corollaire 1.4, qui résulte

Corollaire 1.5. Soit X une variété analytique complexe non compacte. Supposons que X possède un seul bout et que toute (0,l)-forme différentielle de classeCm, a- fermée, à support compact dans X est a-exacte dans x. Alors, si le phénomène de Hartogs se produit dans X, on a

-

94 i! Extension de fonctions holomorphes et de fonctions CR

Remarques

1) Si X = cc" , les conditions du Corollaire 1.5 sont satisfaites, il y a donc équi- valence entre le phénomène de Hartogs et l'annulation du groupe de cohomologie de Dolbeault Hz>'(cc").

2) Si X est un ouvert connexe de C" dont le complémentaire n'a pas de composante connexe bornée et pour lequel Ho>'( X ) = O , alors H:i' ( X ) = O car le phénomène de Hartogs se produit dans tous les ouverts de Cn .

2. EXTENSION DE FONCTIONS CR DE CLASSE c"

Dans tout ce paragraphe X désignera une variété analytique complexe non compacte.

Définition 2.1. Soit V une sous-variété de classeCm de X , une fonction f de classe C" sur V est dite CR de classe C" si f admet une extension f de classe C" à un voisinage de V telle q u e d f s'annule à l'ordre infini sur V .

Définition 2.2. Soient X une variété analytique complexe non compacte et K un compact de X . Nous dirons que le couple ( X , K ) possède la propriété de Hartogs- Bochner C" si pour tout domaine D relativement compact dans X tel que

1) d D \ K soit une sous-variété de classeCm de X \ K , 2) D \ K = Int(D \ K ) , 3) X \ ( D ü K ) soit connexe

et toute fonction f CR de classe C" sur d D \ K , il existe une fonction F de classe C" surD \ K , holomorphedansD \ K tellequeF/aD\K = f .

dont l'adhérence dans X est compacte. Comme dans le chapitre III, nous noterons @ la famille des fermés de X \ K

Théorème 2.3. Soient X une variété analytique complexe non compacte et K un compact de X . On suppose que

H:l(X \ K ) = O

alors ( X , K ) possède la propriété de Hartogs-Bochner C".

Démonstration. On considère un domaine D relativement compact dans X satisfaisant les conditions 1), 2) et 3) de la Définition 2.2 et f une fonction CR de classe C" sur d D \ K . Par définition des fonctions CR de classe C", f se prolonge en une fonction f de classe C" sur X \ K telle que df s'annule à l'ordre infini sur ûD \ K . Posons g = (x- )(df), où xD\K est la fonction caractéristique de D \ K , g est une (0,l)-forme différentielle de classe C" sur X \ K dont le support est contenu dans D \ K . Puisque D \ K est un élément de @, on déduit de

- D\K

2. Extension de fonctions CR de classe c" 95

l'hypothèse H:l(M \ K) = O qu'il existe une fonction h de classe C" sur X \ K dont le support appartient à et qui vérifie ah = g. La fonction h est holomorphe dans X \ (DU K) et nulle sur un ouvert de X \ (DU K ) car X n'est pas compacte. Comme X \ (ou K) est connexe, par le principe du prolongement analytique h est nul lesurX\(DUK) etparcontinuitésurX\(DUK). LafonctionF = f- hest alors l'extension cherchée. En effet dF = df - 8 h = O sur D \ K et FlaD,K = f

O car h est nulle sur X \ (D U K ) .

Corollaire 2.4. Soit X une variété analytique complexe non compacte telle que H:>l ( X ) = O , alors (X,@) possède la propriété de Hartogs-Bochner C", c'est-à- dire pour tout domaine D relativement compact dans X à bord C" tel que X \ D soit connexe et toute fonction f CR de classeCm sur d D il existe une fonction F de classe C" dans D et holomorphe dans D telle que FI aD = f .

l'annulation du groupe de cohomologie H:l(X \ K). Terminons ce paragraphe en donnant des conditions sur K et X assurant

Théorème 2.5. Soient X une variété analytique complexe de dimension n, n 2 2, et K un compact de X tel que X \ K n'ait pas de composante connexe relativement compacte. On suppose que

i) H Z i l ( X ) = O , ii) le compact K possède une suite décroissante de voisinages ( Un)nE~ telle

que n U, = K et, pour tou tn E N, l'application HZ,2(Un) --+ H $ 2 ( X ) in- n E N

duite par inclusion est injective, alorsH:l(X \ K) = O.

Ce théorème est une conséquence du lemme suivant :

Lemme 2.6. Soient X une variété analytique complexe, K un compact de X et U un voisinage relativement compact de K. On suppose que

i) H ; ? l ( X ) = O , ii) l'application HZ)2(U) + H ; i 2 ( X ) induite par inclusion est injective.

Alors pour toute forme différentielle f E COS; ( X \ K ) , 8-fermée, nulle en dehors d'un compact de X , il existe g E C" ( X \ Ü), nulle en dehors d'un compact de X telle queay = f dans X \ Ü.

Démonstration. Soit x une fonction de classe C" sur X telle que x = O au voisinage de K et x 1 au voisinage de X \ U . La forme différentielle d(x f ) est alors de classe C", d-fermée à support compact dans U , donc d'après iil il existe une forme différentielle h E C r 1 ( X ) , à support compact dans U telie que dh = d(x f ) dans X . Considérons la forme différentielle x f - h. Elle est de classe C" à support compact dans X et 8-fermée. L'hypothèse j) implique qu'il existe g E D ( X ) telle que x f - h = 8.4. La fonction g Ix,v convient car x f - h = f sur X \ Ü. O

-

96 V Extension de fonctions holomorphes et de fonctions C'R

Démonstration du Théorème 2.5. Soit f E COS; ( X \ K ) une forme différentielle d-fermée, nulie en dehors d u n compact de X . Notons gn la solution de l'équation dg = f dans X \ ÜnJonnée par le Lemme 2.6. La fonction gn+l - gn est alors holomorphe dans X \ U n et nulle en dehors d u n compact de X. Par prolongement analytique, elle est donc nulle sur toutes les composantes non relativement compactes de X \ Un. La fonction g définie par g = gn sur les composantes connexes non relativement compactes de X \ Un convient car la réunion des composantes

O

- -

connexes non relativement compactes des X \ Un est X \ K .

Théorème 2.7. Soient X une variété analytique complexe et K un compact de X . On suppose que H,P>q(X) = O pour un entier p 2 O et un entier q 2 1 alors l'application naturellei : H g q ( X \ K ) + HP>q(X \ K ) est injective. En parti- culiersi Hp>Q(X \ K ) = O , alors H g q ( X \ K ) = O .

Démonstration. Il faut prouver que si f E C,S(X \ K ) est une forme différentielle d-fermée, nulle en dehors d u n compact de X telle que f = 8g dans X \ K où g E C,q),-,(X\K) alorsonpeuttrouvergo E CEq-,(X\K) nulleendehorsd'un compact de X telle que f = ago dans X \ K . Soit x E D ( X ) telle que x 1 sur un voisinage de K U supp f . Posons 9 = xg alors a9 = ax Ag + xag = a x A g + f et la forme différentielle ax Ag se prolonge par O à X en une (p,q)-forme d-fermée - à support compact. Puisque H,Piq(X) = O, il existe h E DP>q-'(X) telle que d h = ax A g sur X et par conséquent = ah + f. La forme différentielle

O

-

go = ij - h convient alors car h est à support compact dans X.

3. FORMULE DE CAUCHY-FANTAPPIÉ. LEMME DE DOLBEAULT

L'objet de ce paragraphe est de construire de nouvelles formules intégrales qui permettront de résoudre le a sur des domaines de Cn lorsque la donnée n'est plus à support compact.

Définition 3.1. Soit D un domaine borné de Cn. Une application w(z,<) = ( q ( z , < ) , . . . ,w,(z,C)) de classe C' pour z E D et < dans un voisinage Va0 de d D à valeurs dans Cn est une section de Leray pour D si

(w(z,<),< - z ) # O pourtout (z,<) E D x dD.

Exemple :L'application w( z,<) = 3 - Z est une section de Leray pour tout domaine borné D de cc". En effet

-

(w(z,<),< - z ) = (< - Z,C - z ) = I< - zI2 # O si z # <.

3. Formule de Cauchy-Fantappié. Lemme de Doibeault 97

Dans toute la suite D désignera un domaine borné à bord de classe C1 de U? et w(z,c) une section de Leray pour D. On pose alors pour A E [ O , l ]

pour z E D et K V " ' ( ~ , ~ , A ) = ~ ~ ~ , z , c , x ( ~ ~ ( z , c , ~ ) A w(< - z ) , si z E D , C E U ~ D satisfont (w(z,<),< - z ) # O. Onnoteégaiement

n

et pour z E D et E UaD tels que (w(z ,c) ,< - z ) # O.

- Remarquons que Kc-' est le noyau de Bochner-Martinelli B défini au cha-

pitre III. Le noyau Kqw (z,<,A) est une forme différentielle continue de degré 2n - 1 sur {(.,<,A) E D x Uao x [ O , i ] 1 (w(z ,c ) ,< - z ) # O} . Le noyau K"(z,<) est une forme différentielle continue de bidegré (n,n - 1) sur { ( z ,c ) E D x I ( " ( z>O,c - 4 # 0 ) .

Démonstration. Puisque la fonction ( e - z ) est holomorphe en (z ,<) et indépen- dante de A, (aZ,< + d x ) w ( c - z ) = O et par conséquent

(at,< + & ) K q z , < J ) =

+a.,< (227r)n + dx)$Yz,C,A) A ' . . A (at,< + dx)V:(.,c,N A w(< - 2).

n

Mais sur D x UaD x [0,1] on a (v"(z,C,A),< - z ) = 1, ce qui implique (<j -

zj)(d,,ç + dx )~ ; ( z ,C ,X) = O. On en déduit que pour z E D, < E U ~ D \ { z } et

(at,< + dx)#(z,<,A) A . . . A (at,< + dx)$'(z,<,A) = 0

j=l

A E [ O J I

98 V. Extension de fonctions holomorphes et de fonctions C R

ce qui prouve que (aZ,{ + d x ) ~ ~ " ( z , c , ~ ) = O.

B = KC-? et du résultat général suivant L'assertion ii) se déduit des définitions des formes différentielles KqW ,KW et -

qui s'obtient par un calcul direct (cf chapitre III, 1 pour la définition de p). 0

Théorème3.3. SoientD un domaine bornédeCn à bordde classeCl e t w ( z , c ) une section de Leray pour D. On suppose que w est de classeC2 par rapport à z et que les dérivées partielles de w d'ordre inférieur ou égal à 2 par rapport à z sont continues sur D x U ~ D . Alors pour toute forme différentielle f continue sur D, on définit l'opérateur T par

f (0 A K q W ( z , c , 4 + / f (0 A B ( 4 ) CED

T f k ) = (J (CJ)€aDx[O,lI

i) Si f E Cp",,(D) n CP,¶(D), s iw estdec1asseCk+' parrapportàz etsiles dérivées partielles de w d'ordre inférieur ou égal à k + 1 par rapportà z sont continues sur D x U ~ D , alors T f E Ci,¶- ( D ) .

ii) Si f est une (p ,q) -forme différentielle continue surD telle quedf soitaussi continuesur D, O I. p,q 5 n, alors

(3.1) ( - l ) p + q f = 1 f(c) AKW(.,C) - Tdf +dTf sur D. CEaD

Démonstration. Si w satisfait l'hypothèse de il, le noyau KqW (z,c,X) est de classe C k par rapport à z. I1 résulte alors du théorème de dérivation sous le signe s que s(C,x)EaDx[o,il f (C)AKqW(z,C,X) estdeclasseCk surD dèsque f estcontinuesur ûD. Par ailleurs d'après la Proposition 2.1 du chapitre III, si f E Cp",q (0) nC,,,(D), la forme différentielle 5, f = sCED f ( e ) A B(.,c) est de classe Ck+a dans D pour touta ~ ] 0 , 1 [ . ParconséquentTf estdeclasseCk. S u r D x û D x [ O , l ] seulelapartie de bidegré (p,q - 1) en z de KQw (z,<,X) donne une contribution non nulle dans le produit extérieur f (c) A Kqw(.zz,<,X) et comme ED f est de bidegré ( p , q - 1), la forme T f est elle aussi de bidegré (p,q - 1).

obtenir la formule (3.1) il suffit de prouver que Grâce à la formule de Bochner-Martinelli-Koppelman (chap. III, th. 2.31, pour

(3.2) 3, J f(<) A K ~ ~ ( ~ L J ) = it,, f (0 A B(zt,C)- (C,A)€aDx [0,11

- a f ( 0 A K"w(z lC IX) .

3. Formule de Cauchy-Fantappié. Lemme de Dolbeault 99

Fixons z E D et appliquons la formule de Stokes à la forme différentielle f (C) A KqW(z,C,X) sur d D x [0,1] :

Corollaire 3.4. Soient D un domaine borné de C", à bord de classe C' et w(z,C) une section de Leray pour D qui dépend holomorphiquementde z et telle que toutes ses dérivées partielles par rapport a z soient continues sur D x UaD. Alors pour - toute ( p , q ) -forme différentielle continue sur D telle que af soit aussi continue sur D,O 5 p 5 n , l 5 q 5 n , o n a

( 3 4 f = aT: f + T;+,df dans D

où TpP = (- l ) P + q T et T est l'opérateur défini dans le Théorème 3.3. Si af = O , alors u = Tq f est une solution continue de l'équation au = f dans

D. De plus cette solution u est de classe Ca dans D pour tout a E]0,1[ et si f est de classe Ck dans D, 1 5 IC 5 +CO, alors u est de classe dans D pour tout a €]0,1[.

1 O0 VI Extension de fonctions holomorphes et de fonctions CR

Démonstrarion. D'après la formule (3.1), il suffit de prouver que, sous les hypo- thèses du corollaire, JcEaD f (() A K"(z,<) = O si z E D pour obtenir la relation

(K"): est la partie de bidegré (p ,q) en z de K", car dim d D = n - 2. Puisque q 2 1, par définition de K", (K"): = O, car w est holomorphe en z , i.e. d,w = O , d'où le résultat. Si df = O, (3.6) implique f = dT: f dans D , donc u = T:f est solution de du = f sur D. La régularité de u résulte de la Proposition 2.1 du cha- pitreIIIetdufaitquewétantdeclasseC" enz, ~ ~ C , x ~ E a D x , o , l l f ( ( )AKqU ' (z , ( ,X ) est de classe C" sur D. O

Lorsque le domaine D est convexe à bord C2, il est facile de construire une section de Leray pour D , holomorphe en la variable z . Soit T une fonction dé- finissante de classe C2 pour D , on pose, pour < au voisinage de dD, w ( z , ( ) = (& (<), . . . & (0). L'application w est de classe C1 sur @" x U ~ D et indé- pendante de z donc en particulier holomorphe en z. Si ( E dD, la condition (w(z,<),( - z ) = O caractérise l'espace tangent complexe T t d D à d D en < qui ne rencontre pas D car D est convexe. Par conséquent (w(z ,<),< - z ) # O si z E D , < E d D et w est donc une section de Leraypour D.

On déduit alors immédiatement de cette construction et du Corollaire 3.4 que l'on peut résoudre l'équation au = f, sur un ouvert convexe, borné D à bord C2, lorsque f est une (p,q)-forme différentielle, O 5 p 5 n,l q 5 n, a-fermée de ciasse C1 sur D. On a plus précisément le résultat suivant :

(3'6). Mais si ' E D , &ao f (<) A K"(z ,c) = &aD f (() A ( K " ) g ( z > ( ) , Où

Théorème 3.5. Soient D un ouvert convexe borné de @" à bord de classeC2 etr une fonction définisante de classeC2 pour D. Alors pour toute (p,q) -forme différentielle f continue suri7 telle que df soit aussi continue sur D, O 5 p 5 n, i 5 q 5 n, on a

f = dT:f + T,+,df sur D

OÙT:f (.) = (-l)'+'( J (C ,x )~aDx[o , i ] f (I')AK',w(z,C,X)+&D f ( ( )AB(z , ( ) )

etw(z1C) = (&(O,. . .,$<O). En particulier, si df = O , on a f = dT: f . De plus si f est de classe Ck dans D

alorsu = T: f estdeclasseCk+a dansD pourtoutrr E]O,I [ .

Ce théorème prouve en particulier que l'on peut toujours résoudre localement le d avec amélioration de la régularité (il suffit de considérer des petites boules par exemple). Ce résultat s'appelle un Lemme de Poincaré pour le d ou Lemme de Doi- beauit.

Terminons ce paragraphe en prouvant le Lemme de Dolbeault pour les courants.

Théorème 3.6. Soient D un ouvert conuexe borné de Cn et T un courant de bidegré (p ,q ) , O 5 p 5 n, 1 5 q 5 n, d-fermé sur D. Alors pour tout ouuertU cc D, il

4. Isomorphisme de Dolbeault 101

existe un courant S sur U tel que dS = T sur U

Démonstration. Soient x une fonction c” à support compact dans Cn telle que x 1 au voisinage de Ü et suppx CC D. Alors d’après le Théorème 4.4 du chapitre III, on a la représentation

XT = - (B’d(xT) + dB’(xT)) = - (B’(dx A T) + dB’(xT)) cardT = O. Il suffit, pour conclure, de résoudrel’équationdu = ~?’(&AT) sur U . D’après la Proposition 4.3 du chapitre III, l?’($y A T) est de classe C“ au voisinage de Ü. Sans perte de généralité on peut supposer que U est convexe à bord C2 et on

O

- - - -

- - résout du = l?’(dx A T) sur U en appliquant le Théorème 3.5.

4. ISOMORPHISME DE DOLBEAULT

Soit X une variété analytique complexe de dimension n. On note RP le faisceau des germes de p-formes holomorphes sur X et Hq(X,Rp) les groupes de cohomologie de Cech de Rf’ sur X . (Les éléments de théorie des faisceaux utilisés dans ce chapitre sont rappelés dans l’annexe B.)

On désigne par ZF,,cX), O 5 Q 5 00, le sous-espace des formes différentielles f E CF,,(X) telles que df = O et par E;,,(X) le sous-espace des formes différen- tielles f E Z;,,(X) telles que f = dg où g E C:,,-,(X). On pose HQiq(X) = Z&(X) /EF , , (X) . Avec ces notations HG,(X) n’est autre que le groupe HP>q((X) de cohomologie de Dolbeault défini au chapitre II. Pour déterminer si Z i r ( X ) dé- signe le sous-espace de DLG ( X ) des courants d-fermés et ( X ) le sous-espace de Z ; r ( X ) des courants 6’-exacts, onpose H ! ’ & ( X ) = Z ; r ( X ) / E i r ( X ) . On note @ l’application Z & ( X ) + Z&F ( X ) qui a une forme différentielle f associe le courant Tf défini par f .

Théorème 4.1. Soit X une variété analytique complexe de dimension n. Alors (4.1) H q ( X , R p ) = O si p,q 2 n + 1 et pour tout couple (p,q), O I: p,q 5 n, il existe des isomorphismes (4.2) : HE>q(X) + H q ( X , R p ) , O 5 Q 5 CO

tels que, pour touta E [O, + 001, lediagramme

6 P , q . HP’q (4.3) - a 3 ( X ) + H q ( X , R p )

(4.4) J

102 i! Extension de fonctions holomorphes et de fonctions C R

soit cornmutatg En particulier, pour0 5 (Y 5 oû e t0 5 p,q 5 n, l'homomorphisme

(4.5) cp* : HZ'"X) -+ H ? Z ( X )

induit par est un isomorphisme.

Démonstration. On considère les faisceaux ZpS, des formes différentielles 8- fermées de classe C a sur X, DL,q des courants sur X , Zp77 des courants d-fermés sur X et cr>.4 des formes différentielles de classe C a dont le d est aussi de classe C a (ie. si u c x est un ouvert, C;,,(U) = {f E c;,,(u) I df E C;,q+l(u)}.).

Remarquons que ces faisceaux sont des faisceaux de €-module, où € désigne le faisceau des germes de fonction C" sur X . Par conséquent, d'après la Proposition 3 de l'annexe B,

(4.6) H'(x,?&) = O si T 2 i

et

(4.7) H'(X,Dh,q) = 0 si T 2 1.

I1 résulte de la régularité du d (chap. III, Th. 3.5 et Remarque 3.6) que l'application

cp : W ( X ) + Z i F ( X )

est un isomorphisme et, si O 5 (Y 5 CO, W ( X ) = Z;,,(X). Le théorème est donc vrai pour q = O .

Supposons q 2 1. Grâce au Lemme de Dolbeault pour les formes différentielles, pour tout s = 1, . . . ,n la suite

- a -

O - Zpss-1 -+ c;,,-i + z;,, 4 0

est exacte. Considérons la suite exacte longue de cohomologie associée à cette suite ( c f annexe B, Théorème 5)

- 6: (P s)

- 0 - Z,q,-l(X) - C,q,-l(X) 3 Z,q,(X) 4

...........................................................

I1 résulte de (4.6) que les morphismes de connexion

(4.8) % , ( p , s ) : H'(X,Z&) - HP+l(X,Z;,s-l)

sont des isomorphismes si T 2 1 et que le morphisme de connexion ~5&,,~ induit un isomorphisme

(4.9) : H g S ( x ) + H1(X,Zpqs-l) , 1 I s I n .

4. Isomorphisme de Dolbeault 103

Si q 2 n + 1, les isomorphismes (4.8) pour T 2 1, impliquent que

HQ(X,Z,q,) HQ-"(X,Zpqn).

H ~ ( X , R P ) Y Hq-"(X,ëF,,) si q 2 n + 1

- Puisque Z;,, = C;,, et Z;,, = RP on a donc

et d'après (4.6) cela prouve (4.1).

Supposons 1 5 q 5 n et posons p J , P = 69-1 1 a a,(p,i) O . . . O 4 4 P . q - l ) O b a , ( P d

Puisque les applications (4.9) et (4.8) sont des isomorphismes pour T 2 1 et Z;,, = OP, on obtient un isomorphisme

dg19 I HPz4 a ( X ) --+ H q ( X , R p ) .

Le Lemme de Dolbeault pour les courants (Théorème 3.6) nous donne les suites exactes

- a

O + z,,,Oo_, + vp,s-l 4 z,,; + O 1 5 s 5 n

Grâce à la régularité du a, c'est-à-dire l'isomorphisme entre @ ( X ) et Z ; F ( X ) , et a la relation (4.7) on peut itérer la démonstration ci-dessus et on obtient un isomorphisme

f5?& : H y J X ) + Hq(X,RP) .

De plus on a le diagramme commutatif de suites exactes courtes

- a -

0 + Z&-i + cp,s-l 4 Z& 4 O

@I I. - I. O -$ zizi + V& 5 Z,lJ + o.

D'après la seconde assertion du Lemme du serpent (cf. annexe B, Lemme 7) chacun des diagrammes

6: ( P .) H'(X,Z,q,) 'i HT+l(X,Zpqs- l )

T 2 0 , 1 < s s n

1 I @ *

H'+l(X,Z-" P,S-l

1 @ * H'(X,Z;,") hL-3s)

est commutatif et par conséquent par définition de @)q et b?': le diagramme (4.4) est commutatif. O

Les isomorphismes du diagramme (4.4) sont appelés isomorphismes de Dol- beauit.

104 V Extension de fonctions holomorphes et de fonctions CR

Remarques : On déduit du Théorème 4.1, les résultats suivants : i) Si f est une forme différentielle de classe C a , O 5 Q 5 00, et s'il existe

un courant T tel que dT = T f alors il existe une forme différentielle g de classe C a telle que dg = f (c'est l'injectivité de (4.5)).

ii) Pour tout courant T , 8-fermé il existe un courant S tel que T - dS soit une forme différentielle de classe Cw (c'est la surjectivité de (4.5) pour (Y = 00).

On a plus précisément le corollaire :

Corollaire 4.2. Soit X une variété analytique complexe. i) Pour tout courant T , d-fermé sur X et tout voisinage U du support de T ,

il existe un courant S sur X telle que T - dS soit une formed-fermée de classe C" etsupp S c U .

ii) S i f estuneformedeclasseCk s u r X , k = û,1, . . . , m e t T uncourantsur X tels quedT = T f , alors pour tout voisinageU du support deT, il existe une forme différentielleg E 0 C k + + * ( X , E ) tellequedg = f surX etsuppg c U .

O<a<l

Démonstration. Prouvons 0. Choisissons un voisinage V du support de T tel que V C U et soient x o et X I des fonctions de classe C" sur X telles que xo = 1 sur un voisinage de X \ V et x o = O au voisinage du support de T , x i = 1 au voisinage de X \ U et x i = O sur un voisinage de v.

Puisque T est d-fermé et que le morphisme (4.5) est surjectif, - il existe un courant SO sur X et une forme différentielle fo de classe C", 8-fermée sur X tels que T - dSo = Tfo sur X . Alors Tfo = -aSo sur X \ supp T et comme le morphisme (4.5) est injectif, il existe une forme C", g o , sur x \ supp T telle que fo = dg0 sur X \ supp T . Sur X \ v o n a alors d(S0 + Txoso) = T- fo+a,O = O . La surjectivité du morphisme (4.5) implique alors l'existence - d'un courant R sur X - \ v et dune forme différentielle g1 de classe C", 8-fermée - tels que SO + Txogo - 8R = T,, sur X \ V. Le courant S = SO + Txo,o-xisi - û(x1R) satisfaitl'assertion i).

Maintenant montrons id. Notons F le faisceau sur X défini de la manière suivante :

Si V est un ouvert de X, F ( V ) est l'espace vectoriel des formes différen- tielles g E n Cf+a(V) telles que dg E 0 Cf+O(V). C'est un faisceau de

€-modules et par conséquent d'après la Proposition 3 de l'annexe B

-

O<a<l O<a<l

(4.10) H l ( X , F ) = o.

Soient V = (V,)iEl et W = (Wi)iEl des recouvrements ouverts de X tels que, pour tout a , V, CC Wi, V, et Wi sont biholomorphes à la boule unité de C" . Soit f E Cf ( X ) , d-fermée, daprès le Lemme de Dolbeault pour les formes (Théo- rème 3.51, on peut trouver une famille de formes gi E n Cffa (Wi) telles que

a g i = f sur Wi. Si T est un courant sur X tel que 8T = T f , ïinjectivité du morphisme (4.5) implique qu'il existe une forme différentielle u de classe C k sur

O a < l -

5. Théorème de Bochner et extension de fonctions C R dans les variétés 105

X telle que au = f sur X . Posons h, = g, - u sur V, alors h, E .Zk(W,) et en appliquant à nouveau le Lemme de Dolbeault on obtient une famille de formes IC , E Cf+"(V,) telles que dk, = h, sur V,. I1 en résulte que IC , - IC, E

F(K n V,) et grâce à (4.10) il existe une famille de formes u, E F(K) telles que IC, - IC, = u, - u, sur V, n V,. En posant u = 9% - du, sur V,, on obtient une forme 2i E

O<a<l

n Ck+a ( x ) telle que au = f sur X . O<a<l

Nous venons de construire une solution ayant la régularité cherchée, il reste à satisfaire la condition de support. Puisque a u = f sur X, le courant T - Tu est d-fermé sur X et la surjectivité du morphisme (4.5) pour (Y = CO implique qu'il existe un courant S sur X et une forme différentielle goo de classe CO3, d-fermé sur X tels que T - T, + as = Tgm . On a alors as = Tu+s, sur X \ supp T . Grâce à la lrepartie de la démonstration il existe donc une forme différentielle h E

( X \ supp T ) telle que ah = u +goo sur X \ supp T . Choisissons une

fonction x de classe C" dans X telle que x = O au voisinage du support de T et x = 1 dans un voisinage de X \ U . Alors la forme différentielle g = 2i +gm - a( Xh) satisfait l'assertion ii). O

Une conséquence immédiate de l'assertion il du Corollaire 4.2 est le résultat

-

-

n O<a<l

-

suivant qui nous sera utile au paragraphe 5 de ce chapitre.

Corollaire 4.3. Soient X une variété analytique complexe de dimension n, O une des familles de supports définies dans le chapitre II, 7. On suppose que pour un couple d'entiers (p ,q ) , O 5 p 5 n, 1 5 q 5 n, H g q ( X ) = O , alors si T est un ( p , q ) -courant, d-fermé dans X dont lesupportappartientà la famillee, il existe un courant S dont le support est un élément de O tel quedS = T sur X ,

5. THÉORÈME DE BOCHNER ET EXTENSION DE FONCTIONS CR DANS LES VARIÉTÉS

Nous allons étendre au cas des fonctions CR de classe C k les résultats obtenus au paragraphe 2.

Théorème 5.1. Soient X une variété analytique complexe non compacte et K un compact de X . On suppose que H$'(X \ K ) = O. Alors pour tout domaine D relativement compact dans X tel que

i)dD\Ksoitunesous-uariétédeclmseCk,k 2 l , d e X \ K . 2) D \ K = In t (D \ K ) . 3) x \ ( D u K ) est connexe

et toute fonction f CR de classeCs, O 5 s 5 I C , surdD \ K , il existe une fonction F de clmseCS surD \ K , holomorphedans D \ K telleque Flao,K = f .

106 V Extension de fonctions holomorphes et de fonctions CR

Démonstration. Considérons le courant T = f [ d D \ C'est un courant de bidegré (0,l) dans X \ K dont le support est contenu dans d D \ K qui est un élément de la famille @. La fonction f étant CR, le courant T est d-fermé (en effet si cp est une (n,n - 2) forme différentielle de classe C" à support compact dans X\K,ona(dT,cp) = (T,dcp) = S<7D\KfA&î = O). L'hypothèseH;'(X\K) = O et l'isomorphisme de Dolbeault prouvent alors l'existence d'un courant S, dont le support appartient à la famille @, qui vérifie dS = T (cf Corollaire 4.3). Puisque le support de T est contenu dans aD\K, dS est nul sur X\(dDüK); S est donc une fonction holomorphe sur ( D \ K ) U (X \ (DU K)) (cf. chap. III, th. 4.5). Comme le support de S est un élément de a, S est nulle sur un ouvert de X \ (D ü K ) car X n'est pas compacte et DU K est compact. La connexité de X \ (DU K ) et principe du prolongement analytique impliquent alors que S est nulle sur X \ (D U K ) .

I1 reste à déterminer le comportement de S près de aD\K. Cela résultera dune étude locale, en effet si [ est un point fixé de d D \ K , V, un voisinage de < dans X \ K sur lequel on peut résoudre l'équation d R = f[aD \ K]"l1 et SC un courant de degré O tel que dSc = f [ a D \ sur V, on aura d(S - SC) = O sur V, et S - SC sera une fonction holomorphe donc de classe C" sur Vc. Les courants S et SC auront donc, modulo une fonction C", le même comportement sur Vc.

Soit < E d D \ K , choisissons un voisinage Uc de < dans X \ K tel que a) Uc est contenu dans un domaine de carte U de X . b) I1 existe des coordonnées locales sur U telles que l'image de Uc par cette carte

c) Uc \ (al l ü K ) possède exactement deux composantes connexes.

Sans perte de généralité, nous pouvons identifier Uc et son image dans C". D'après le Théorème 3.6 pour tout ouvert convexe Vc CC Uc il existe un courant SE tel que dS, = T sur Vc. De plus SC = IL< + B'(xT) où x est une fonction C" à support compact dans Uc égale à 1 au voisinage de vc et uc une fonction de classe C" solution de duc = B'(ax A T ) sur Vc. Sur Vc, le comportement de Se est donc, modulo une fonction de classe C", le même que celui de

soit un ouvert convexe borné de @".

- -

c'est-à-dire que celui de la transformée de Bochner-Martinelli de x f , que nous avons étudiée au chapitre IV, 1. Le courant S étant nul sur Vc n (X \ (D ü K ) ) , sc IV,n(X\(DUK) se prolonge continûment en S c à V, n (X \ ( D u K ) ) ainsi que la

transformée de Bochner-Martinelli de x f . Comme f est continue, SC I Vcn(D\K) se

prolonge continûment en SE' à V, n ( D \ K ) et on a S l - S; = f sur ( d D \ K ) n V, . Par conséquent SI D\K se prolonge en une fonction F continue sur O\ K teiie que ~ l ~ ~ \ ~ = f, car = O.

Pour obtenir la régularité Ck de S jusqu'au bord il suffit d'étudier Fc(z) =

5. Théorème de Bochner et extension de fonctions C R dans les variétés 107

est de classe C" sur V,. Supposons que V, n aD soit un ouvert à bord C1. En reprenant la démonstration du Théorème 3.3 du chapitre W, on obtient pour z E

où J est une extension de f satisfaisant aux conclusions du Lemme 2.3 du chapitre IV. En appliquant la formule de Stokes, on a

où la dernière intégrale du membre de droite est une fonction C" sur Vc car Bj est de classe C" sur C" x Cn \ A . Comme Fc - O par des

fonctions C" sur V, ,% I v, \D se prolonge continûment à V, n D. Une récurrence sur k termine la démonstration comme dans le cas du Théorème 3.3 du chapitre IV. O

diffère de SI, - \(DUW -

Corollaire 5.2. Théorème de Bochner. Soit X une variété analytique complexe non compacte telle que H:>l ( X ) = O. Pour tout domaine D relativement compact à bord de classe C k de X tel que X \ D soit connexe et toute fonction f CR de classe Cs suraD, O 5 s 5 k, il existe une fonction F de classeCs sur D, holomorphe dans D et telle que F I a. = f .

Démonstration. I1 suffit d'appliquer le Théorème 5.1 avec K = 0, les familles c et coïncidant dans ce cas. O

Remarque :Les Théorèmes 2.5 et 2.7 donnent des conditions cohomologiques sous lesquelles la conclusion du Théorème 5.1 est valable.

Commentaires. L'étude de l'extension des fonctions GR déJnies sur une partie du bord d'un domaine est principalement due à G. Lupacciolu [Lu1,2]. On peut en trouver un excellent exposé dans [CilSt]. Le Lemme de Poincaré pour l e a est dû à €? Dol- beault et A. Grothendieck, c'est le point clé de la représentation des groupes de cohomologie des faisceaux analytiques en termes de complexe pour lea (cf: [Do1,2]). Nous prouvons le Lemme de Dolbeault en utilisant la résolution du a dans les domaines convexes à l'aide de la formule de Cauchy-Fantappié. Une autre démonstration du Lemme de Dolheault utilisant la résolution dud dans les polydisques est donnée dans [HOZ]. La démonstration de l'isomorphisme de Dolbeault présentée ici se trouve dans IHelLe21.

Chapitre VI

Domaines d’holomorphie et pseudoconvexité

Nous avons rencontré à la fin du chapitre I et dans le chapitre III des ouverts de cc“ pour lesquels toute fonction holomorphe peut être prolongée à un ouvert plus grand. Les ouverts qui n’ont pas cette propriété sont appelés domaines d’holomorphie. Ce chapitre est consacré à l’étude des domaines d’holomorphie. Nous donnons, pour commencer, une caractérisation des domaines d’holomorphie en termes de convexité holomorphe (Théorème de Cartan-Thullen). Pour obtenir une caractérisation plus analytique nous introduisons la notion de pseudoconvexité. Pour cela nous définissons les fonctions plurisousharmoniques. Nous prouvons que tout domaine d’holomorphie est pseudoconvexe. La réciproque, appelée problème de Levi, sera étudiée au chapitre VII.

1. DOMAINES D’HOLOMORPHIE ET CONVEXITÉ HOLOMORPHE

En étudiant le phénomène de Hartogs au chapitre III nous avons vu qu’il existe des ouverts 0 de C” tels que toute fonction holomorphe sur R s’étende holomorphiquement à un ouvert plus grand. Cela nous conduit à introduire la notion suivante :

Définition 1.1. Un ouvert R de Cn est appelé domaine d’holomorphie s’il n’existe pas d’ouverts 01 et 0 2 de Cn ayant les propriétés suivantes : 40#a1 cR2n0; b) 522 est connexe et n’est pas contenu dans R ; c) Pour toute f E C3(0), il existe une fonction f2 E C 3 ( 0 2 ) telle que f = fi sur

La notion de domaine dholomorphie n’est vraiment intéressante que dans Cn , n 2 2, car dans @, tout ouvert 0 est un domaine dholomorphie (pour zo E dR, il suffit de considérer la fonction f ( z ) = &I.

521.

I10 VI. Domaines d 'holomorphie et pseudoconvexité

Exemples 1) I1 résulte du Théorème de Hartogs (chapitre III, Corollaire 4.3) que, si R est

un domaine de Cn, n 2 2, et K un compact de R, R \ K n'est pas un domaine dholomorphie.

2) La boule euclidienne B(O,R), de centre O et de rayon R de @" est un domaine dholomorphie (pour zo E d B , il suffit de considérer la fonction f ( z ) =

i /R2 - n

j=l Z ~ Z ; sizo = ( zy , . . . ,z:)).

3) La marmite de Hartogs Q = { (21,. . . ,zn) E C" I < f , 1 5 i 5 ri - 1 ou chapitre I, Th. 6.9).

5 Iz, I 5 T dans C", n 2 2, n'est pas un domaine dholomorphie (cf.

Lemme 1.2. Tout ouvert convexe de C" est un domaine dholomorphie.

Démonstration. Si zo est un point fixé de dR, la convexité de R implique qu'il existe une application IR-linéaire C de @" dans IR telle que C(z) < C(z0) pour tout z E R.

On peut écrire t ( z ) = crjzj + 0 j . j et puisque C est à valeurs réelles on a ,Bj =

6 j , j = 1,. . . ,n. Par conséquent C ( z ) = Re(h(z)), où h ( z ) = 2 ajz j pour

tout z E Cn. La fonction f ( z ) = h ( z ) - h ( z o ) , qui est holomorphe sur R n'admet pas de prolongement holomorphe au voisinage de zo ce qui prouve le lemme. 0

Nous allons essayer de caractériser les domaines d'holomorphie en terme de

n

j=l n

j=l 1

convexité par rapport aux fonctions holomorphes.

Définition 1.3. Soient R un ouvert de Cn et K un compact de R, on définit l'enveloppe holomorphiquement convexe k, de K par

k n = {z E I If(z)l I sup Ifl,V'f E OP)} . K

Lemme 1.4. Soient R un ouvert de Cn et K un compact de R, alors k o est contenu dans l'enveloppe convexe de K .

Démonstration. Rappelons que l'enveloppe convexe de K est l'intersection des demi-espaces contenant K . De plus un hyperplan réel de Cn est défini par l'équation Re(z,() = (Y, où ( E <c" est fixé et (Y E R Si un point zo E Cn n'est pas dans l'enveloppe convexe de K , il existe ( E C" tel que Re(w,[) c Re(.zo,() pour tout w E K . Considérons la fonction holomorphe dans C", f ( z ) = exp((z - IO,()), ellevérifie If(10)l = 1 et If(w)l < 1 pour tout w E K , donc IO Ka. O

I . Domaines d'holomorphie et convexité holomorphe 1 1 1

Corollaire 1.5. Si R est un ouuert de Cn et K un compact de R alors k n est borné dans Cn .

Démonstration. C'est une conséquence immédiate du Lemme 1.4 car l'enveloppe convexe d'un ensemble borné est bornée. O

Proposition 1.6. Soient R un ouuert de Cn et K un compact de R, alors h

i) K c kn e t k n = En. ii) SiK' c K , k h c k ~ .

iii) Si D est un ouvertdeCn tel queR c D, alorska c k,. iv) i?n est fermé dans R. u) Étantdonné111 > O etc > O , s iz E R \ KO, ilexistef E O(R) telleque

sup I f 1 < E e t f ( z ) > 111. K

Démonstration. Les assertions il, ii) et iii) sont des conséquences immédiates de la Définition 1.3.

A f où A f = { z E R I If(.)[ 5

sup [ f i } . Les fonctions de O(R) étant continues sur R, les ensembles A f sont fer-

més dans R et k n est donc fermé dans R.

h

Montrons ivj : remarquons que Kn = n f€o(n)

K

Considérons l'assertion vj : si z E R \En, il existe une fonction h E O(R) telle que sup (hl < lh(z)I. Après multiplication par une constante, on peut supposer

que supK Ihl < 1 < Ih(z) I . I1 suffit alors de poser f = he pour assez grand. K

h

Remarque : Nous avons vu que Ka est toujours borné et fermé dans 0, mais en général ce n'est pas un compact de R.

Théorème 1.7. Soit R un domaine d'holomorphie de @" , alors pour tout compact K de R

dis t (kn,ûR) = dist(K,dR)

où dist(K,dR) = inf { 1w - zI I w E K, z E an} est la distance euclidienne de K à an.

Si P(0,r) est le polydisque de centre O et de multirayon ( T I , . . . ,rn) et a un point de R, on pose

s;(a) = sup { A > O 1 a + AP(0,T) c O}.

ûnaalorsdist(a,dQ) = inf { & ( a ) I T > O, CT; = l}.

Lemme 1.8. Soient 0 un ouvert de C", K un compact de 0 et T un mucirayon. Si Q > O est tel que 6 h ( z ) 2 7 pour tout t E K , alors, pour tout a E KO et toute f E O(R), lasériede Taylorde f ena conuergesurP(a,vr).

112 VI. Domaines d'holomorphie et pseudoconvexité

Démonstration du lemme. Fixons f E O(R) et 7' tel que O < 7' < 7. Alors Q = U P ( a , ~ ' r ) est un compact de R, il existe donc M E R tel que sup I f / 5

a E K Q M . D'après les inégalités de Cauchy, on a supK loaf[ 5 ~!M(V 'T ) - " , pour tout a E W . Comme D"f E Q(R), par définition de k ~ ,

h

D " f ( a ) 5 a ! M ( q ' ~ ) - " , pour tout a E KQ

et donc daprès le Lemme d'Abel, la série de Taylor de f en a E l ? ~ converge sur P(alq 'r) . Ceci étant vrai pour tout 7' < q, il y a convergence sur P ( a , ~ r ) . O

Démonstration du théorème. Notons tout dabord que l'inclusion K c KQ implique l'inégalité

dist(kn,dR) 5 dist( K,dR).

Supposons que 7 = dist(K,aR) > dist(kQ,ûR), nous allons prouver h qu'alors R n'est pas un domaine dholomorphie. Considérons un point a E KQ tel que

dist(a,dR) < 7. I1 existe un multirayon T tel que r i = 1 et S&(a) < 7 5

Sh ( z ) , pour tout z E K. I1 résulte alors du Lemme 1.8 que la restriction à la composante connexe de R n P ( a , ~ r ) contenant a de toute fonction holomorphe sur R se prolonge holomorphiquement à P ( a , ~ r ) . Comme S&(a) < 7 , P ( a , ~ r ) n'est pas contenu dans R ; l'ouvert R ne peut donc pas être un domaine dholomorphie. Par conséquent si R est un domaine dholomorphie, l'inégalité dist(K0,ûR) 2

n

j=l

dist (K,dR)est satisfaite. O

I1 est alors naturel d'introduire la notion suivante :

Définition 1.9. Soit R un ouvert de Cn . On dira que 0 est holomorphiquement convexe si pour tout compact K de R, k~ est relativement compact dans R,

Si K est un compact de 0, K est O(R) -convexe si et seulement si K = KQ.

Exemples : Considérons l'ouvert R = { z E en I < IzI < 2} et le compact K = { z E C n 11z1=1}deR.

1) Sin = 1, en utilisant les fonctions holomorphes sur 0, f ( z ) = 5 et f (z) = z , on voit que ka = K, ce qui signifie que K est O(R)-convexe.

2) Sin 2 2, le phénomène de Hartogs implique que toute fonction holomorphe f sur R s'étend en une fonction holomorphe f à la boule B(0,2). Si on applique le principe du maximum à f , on obtient, lf(z)l = If(.)[ 5 supK I f / , pour z tel que < 121 < i et par conséquent B ( o , ~ ) n R c E-, ce qui prouve que KO n'est pas relativement compact dans R. L'ouvert R n'est donc pas holomorphiquement convexe.

Avec cette terminologie, le Théorème 1.7 signifie qu'un domaine dholomorphie est holomorphiquement convexe. La suite de ce paragraphe va être consacrée à prouver que les notions de domaine dholomorphie et d'ouvert holomorphiquement convexe sont en fait équivalentes.

h

1. Domaines d’holomorphie et convexité holomorphe 113

Lemme 1.10. Soit R un ouvert holomorphiquement convexe de @” . Alors R possède une suite exhaustive ( K j ) j € ~ de compacts O(R) -convexes.

Démonstration. Nous ailons construire la suite ( K j ) j E ~ par récurrence à partir dune suite exhaustive ( Q e ) e € w de compacts quelconques de R. On pose K1 = Q I , c’est un compact de R car R est holomorphiquement convexe. Supposons n

O

construits KI, . . . ,Kj et considérons l j 2 j tel que Kj CQeJ, il suffit alors de h

poser Kj+1 = &e,. o

Lemme 1.11. Soient0 un ouvert holomorphiquementconvexe de C”, ( K j ) j c ~ une suite exhaustive de compacts O( 52) -convexes de R et ( p j ) j E n une suite de points tels quepj E Kj+i \ Kj . Alors il existe une fonction f E O(R) telleque lim ( f ( p j ) I =

+m. 3 - 0 0

00

Démonstration. La fonction f sera déterminée comme la somme dune série f u

où f u E o(o), sup ljUl < 2-” et 1f3(pj)l > j + 1 + 5 lfU(pj)l, s i j 2 2.

Remarquons que si une telle suite ( ~ V ) , ~ M . existe alors la série f u converge

uniformément sur tout compact K de O et donc sa somme f est holomorphe sur R et s i j 2 2.

u=l

K” u=l 00

u=l

v # j V > j

00

Cela implique If(pj)l > j car Ifu(pj)I < 2-” 5 1. On construit la

suite ( f v ) u E ~ par récurrence. On pose f i O et si fi, . . . , f e - l sont construites, il résulte de l’assertion v) de la Proposition 1.6 qu’il existe fe E O(R) telle que

SUP I f e l < et ~fe(pe)~ > + 1 ~ . î ~ ( p e ) l , carpe e Et.

U > j u = l

e- 1

Kt u= 1

Proposition 1.12. Un ouvert R de @” est holomorphiquement convexe si et seulement si pour toute suite ( P , , ) ” ~ N C R sans point d’accumulation dans R, il existe unefonction f E O(R) telle quesup If(p,) I = +m.

UEW

Démonstration. Supposons que R est holomorphiquement convexe et consi- dérons une suite exhaustive ( K j ) j € ~ de compacts O(R)-convexes de R (il en existe daprès le Lemme 1.10). Si ( p u ) u e ~ est une suite de points de R sans point d’accumulation dans (1, il existe des suites (vk)kEn et ( j k ) k e ~ telles que pu, E Kjk+l \ Kjk . L‘existence de la fonction f est alors une conséquence du Lemme 1.11.


Réciproquement soit K un compact de R. Par définition de la co_nvexité holomorphe, il suffit de prouver que toute suite (p,,), ,€~ d'éléments de KO possède un point d'accumulation dans KO. Soit (P,,),,~N une suite de points de KR. Alors pour toute f E O(R), on a sup lf(p,,)l 5 sup I f I < +CO. Puisque, par hypo-

thèse, pour toute suite sans point d'accumulation dans R, il existe une fonction holomorphe dans R non bornée sur cette suite, la suite (p , , ) , ,€~ précédente pos- sède un point d'accumulation dans R. Comme de plus I?, est fermé dans R, ce

o.

A h

U € N K

h

point d'accumulation appartient à KR.

Application :Soit R un ouvert de e". Pour que R soit holomorphiquement convexe, il suffit que, pour tout point p E dR, il existe une fonction fp E O(R) telle que lim I fp(z)l = +CO. En effet, si ( P , , ) , , ~ W est une suite d'éléments de R sans point

d'accumulation dans R, soit cette suite n'est pas bornée et alors la fonction f ( z ) = z n'est pas bornée sur (P , , ) , ,~w, soit cette suite possède un point d'accumulation p E dR et alors fp n'est pas bornée sur (P,,) , ,~w. D'après la Proposition 1.12, R est alors holomorphiquement convexe. On prouve ainsi que tout ouvert de @. est holomorphiquement convexe ainsi que tout ouvert convexe de @" .

Z + P = E R

Nous pouvons maintenant énoncer et démontrer le théorème de caractérisa- tion des domaines d'holomorphie en terme de convexité holomorphe obtenu par H. Cartan et I? Thullen.

Théorème 1.13. SoitR un ouvert de C" . Les conditions suivantes sont équivalentes: i) R est y domaine d'holornorphie.

ii) dist(Kn,dR) = dist(K,dR), pour toutcompactK d e o . iii) R est holornorphiquernent convexe. iv) I l existe f E O(R) telle que pour tout couple d'ouverts R I et R2 de @"

satisfaisant les conditions a) et bj de la Définition 1.1 on ne peut pas trouver de fonc- t ionf E o ( R ~ ) tellequef = f surR1.

Démonstration. Les implications iij iiij et ivj ==+ i] sont respectivement des conséquences immédiates des Définitions 1.9 et 1.1. L'implication ij ==+ iij est donnée par le Théorème 1.7. I1 ne reste à prouver que iii] ==+ iv).

Lemme 1.14. Soient R un ouvert de @", p un point de dR, U un voisinage connexe dep et D une Composante connexe de U n R. Alors d D n (U n 8 0 ) # 0.

Démonstration. Puisque D est une composante connexe de U n R, D est ouvert dans C" et fermé dans U n R. L'ouvert U étant connexe et Détant strictement inclus dans U , D ne peut pas être fermé dans U . Considérons un point q de la frontière (dans U ) de D. Comme D est fermé dans U n 0, le point q ne peut être que sur dR. O

I . Domaines d’holornorphie et convexité holomorphe 115

Lemme 1.15. SoientR un ouvertdeû? et(K,),€N unesuite exhaustive decompacts de R. Alors il existe une suite ( uj) jcn d’entiers naturels et une suite ( p j ) j c ~ de points de R telles que les conditions suivantes soient satisfaites :

U p j E K,,,, \ K,,,.i E 2) pour toutp E dR et tout voisinage connexe U de p, toute composante connexe

D de U n R contient une infinité de points de la suite (pj)jEn.

Démonstration. On note (u,),€~ la suite des points de R ayant des coordonnées rationnelles, T, la distance de a, à dR et B , la boule B(u, ,r , ) C R. On désigne par (Qj)j€n une suite dont les éléments sont les B , et qui contient chaque B , une infinité de fois. Par exemple, la suite B I , B I ,&, B I , Bz, B3, B I , Ba, B3, Bq, . . ..

Posons K,=Ko et supposons que nous ayons construit des points p l , . . . ,pe-l et des compacts K,, , . . . ,K,, vérifiant 1) pour j = 1, . . . ,C - 1. Comme Qj n’est contenu dans aucun compact de R puisque c’est l’un des B,, il existe pe E Qe \ K,, . On choisit alors Ve+i tel que pe E K,,,, et 1) est vérifiée pour j = C. Mon- trons que 2) est égaiement satisfaite pour les suites que nous venons de construire de proche en proche. Soient p E do, U un voisinage connexe de p et D une composante connexe de U n R. D’après le Lemme 1.14, il existe q E d D f’ U n dR. La suite ( u , ) , ~ N étant dense dans (Cn, il existe a, E D suffisamment proche de q pour que B , c D. Mais puisque B, apparaît une infinité de fois dans la suite

O (Qj)jcn et pj E Qj, U n D contient une infinité de pointspj.

Fin de la démonstration du Théorème 1.13. Supposons que R est holomorphiquement convexe.D’après le Lemme 1.10, il possède une suite exhaustive (K,),€N de compacts (?(R)-convexes. Nous pouvons alors appliquer le Lemme 1.11 aux suites ( p j ) j E ~ et (Kv,)jEn associées à la suite ( K Y ) V E ~ par le Lemme 1.15 et construire une fonction f E O(R) telle que lim (f(pj)l = m. Soient p E da, U un voisi-

nage connexe de p et D une composante connexe de U n R. Supposons qu’il existe h E O ( U ) telle que h = f sur D. Soit U’ cc U un voisinage de p et D’ la composante connexe de U’ n R qui rencontre D , alors sup Ihl 5 sup Ihl < +cû et f doit donc être bornée sur D’. Mais cela est impossible car, par construction de la suite ( p j ) j E w , D’ contient une infinité de p j et lim (f(pj) 1 = +m. La fonction f satisfait donc iv). O

Terminons ce paragraphe en donnant de nouveaux exemples de domaines

3-00

D’ U’

3+m

d’holomorphie et quelques propriétés de stabilité par les opérations ensemblistes

Proposition 1.16. Soient R un domaine d’holomorphie dans U? et fi,. . . , fN E c3 (O). Alors

n, = { z E R I Ifj(Z)l < 1, j = 1,. . . , N }

est un domaine dholomorphie.

116 VI. Domaines d’holomorphie et pseudoconvexité

Démonstration. Soit K un compact de R f . Choisissons r < 1 tel que I f j I 5 r dans K pour tout j = 1, . . . ,N. Cette inégalité est bien sûr encore valable dans Ka et Ka est donc contenu dans R f . Mais KQ est compact puisque 0 est un domaine dholomorphie et contient KQ, ce qui implique que Ka, est compact et prouve le résultat. O

h

n h

h h

Remarque : Si Rf CC R, alors Rf est un domaine dholomorphie même si R n’en est pas un car Ka, est fermé dans R, puisque k ~ , c { z E R I I f j ( z ) l 5 T } C

h

R f .

Exemples i) Si cp E C’(en), R = { z E C” I -A < Recp(z) < A } est un domaine

d’holomorphie. 2) Un ouvert R CC C” est un polyèdre analytique s’il existe un voisinage U de

R e t f l , . . . , f N ~ ~ ? ( ~ ) t e i i e s q u e ~ = { Z E U I l f j ( z ) I < 1 , j = i , . . . , N } . u ~ polyèdre analytique est un domaine dholomorphie.

-

Proposition 1.17. L‘intérieur d’une intersection quelconque de domaines d’holomorphie est un domaine d’holomorphie.

Démonstration. Soit ( R z ~ ) ~ ~ J une famille de domaines d’holomorphie, notons R l’intérieur de n Ri et supposons que R # a. Si K est un compact de R, on a

O < d = dist(K,âR) 5 dist(K,ûO,), pour tout i E I. Les ouverts Ri étant des domaines dholomorphie, il résulte du Théorème 1.7 h que d 5 dist(ka 2 5 dRi), pour tout z E I . Comme KQ est contenu dans tous les KQ, , la distance de Ka au bord des Ri est supérieure ou égale à d ainsi que la distance de KR au bord de R. L‘ouvert R est donc holomorphiquement convexe et d’après le Théorème 1.13, c’est

ZEJ

h

A

un domaine d’holomorphie. O

Proposition 1.18. Soient RI c Cm et R2 c @” deux domaines d’holomorphie. Alors le produit cartésien R1 x 0 2 est un domaine d’holomorphie.

Démonstration. I1 suffit de prouver que pour tout compact K = K1 x K2 de R1 x 0 2 où Ki est un compact de Ri, i = 1,2, Knl x ~ z est relativement compact dans R1 x 0 2 . Si f E c3(02;), i = 1 ou 2, alors f définit une fonction holomorphe sur 01 x R2 et par conséquent

A h h

Donc Ka, xaz est contenu dans KI)^, x ( K ~ ) Q ~ qui est relativement compact O

Si un ouvert R de C” n’est pas un domaine d’holomorphie, il est alors naturel de se demander s’il existe un plus grand élément E (R) dans l’ensemble des ouverts

dans 521 x 0 2 car les Ri, i = 1,2 sont holomorphiquement convexes.

2. Fonctions plurisoushannoniques 1 I7

D contenant R tels que toute fonction holomorphe sur R s'étende en une fonction holomorphe sur D.

Exemples 1) Soient O un domaine d'holomorphie de C", n 2 2, et K un compact de

O tels que O \ K soit connexe. Posons R = O \ K . I1 résulte du phénomène de Hartogs et de la définition des domaines dholomorphie que E ( R ) existe et que

2) Soit p une fonction holomorphe dans C", n 2 2, on note O le domaine d'holomorphie O = { z E C" I Re p(z) < O}. Si K est un fermé de O tel que K CC C" et O \ K soit connexe, on pose R : O \ K . On déduit du théorème d'extension donné dans le paragraphe 6 du chapitre Vet du phénomène de Hartogs que E ( R ) existe et que E(R) = O.

Comme nous aiions le voir sur un exemple, en générai E (R) n'existe pas si on se limite à la classe des ouverts de C" . Lorsqu'il existe, E (R) est appelé enveloppe d'holomorphie de R.

E ( R ) = O.

Considérons le sous-ensemble y de C défini par y = { z E IR I 1 5 z 5 2} U { z = 2eie I O 5 O 5 7r} U {z E IR I -2 5 z 5 O}. On note r le sous-ensemble de C2 défini p a r r = y x {O}. Posons Wl = { z E C2 I O 5 Izl/ < 1/2, O < - 1.~21 < I} u { z E C2 1 O 2 lzll < 1, i / 2 < 1221 < I}. W I est unemarmite de Hartogs et d'après le Théorème 6.9 du chapitre I, toute fonction holomorphe sur W1 s'étend en une fonction holomorphe sur le bidisque D(0,l) x D(0, l ) . Notons W2 = D(l , l / 4 ) x 0(0 ,1 /4) ,W3 = { z E C2 I dist(z,r) < 1/4} e tR = Wl U

W, U Ws. L'ouvert R de C2 est connexe car chacun des Wi, i = 1,2,3 est connexe et CC: x {O} n 0 est connexe. Considérons la fonction f E O(R) qui coïncide avec une détermination de d F sur W1 (f existe et est unique car R est connexe, on la construit par prolongement analytique). Si l'enveloppe d'holomorphie E ( R) de R existait, en tant qu'ouvert de C2, nécessairement E ( R ) contiendrait l'ouvert 6 = D(0, l ) x D(0, l ) UW2 U W, ce qui est impossible. En effet, soit Fl'extension de f à E ( R ) , la fonction z1 i-j Fln(zl,O) serait une fonction holomorphe sur (C x

{O}) n 6, qui est un anneau autour du point (z,O), et elle coïnciderait avec f sur (C x {O}) n R. Cela prouverait que d- a une détermination définie sur un anneau autour de i, mais une telle détermination n'existe pas.

2. FONCTIONS PLURISOUSHARMONIQUES

Dans ce paragraphe, nous généralisons au cas de plusieurs variables complexes la notion de fonction sous-harmonique. Ces nouvelles fonctions nous serviront à définir la pseudoconvexité au paragraphe 3.


A. Fonctions harmoniques et fonctions sous-harmoniques

Nous rappelons pour commencer la définition et les principales propriétés des fonctions harmoniques. Pour plus de détails le lecteur pourra se référer au paragraphe 14 de [Hel et au chapitre I de [Krl.

Dans C, l’opérateur de Laplace A est défini par

d2 a2 a2 a x 2 a y 2 a z a i

A = - + - = 4 -

Définition 2.1. Une fonction u de classeC2 dans un domaine D de@ est dite harmonique si et seulement si Au = O dans D.

Proprié tés

1) Une fonction u à valeurs réeiles définie sur un ouvert D de @ est harmonique si et seulement si u est localement la partie réelle d’une fonction holomorphe. En particulier, une fonction harmonique est C” et même analytique réelle.

2 ) Propriété de la moyenne. Si u est une fonction harmonique sur D c C, alors

si { z I Iz - al 5 T } c D.

un ouvert D de C, alors :

constante sur la composante connexe de D qui contient a.

z E D.

3) Principe d u maximum. Soit u une fonction harmonique à valeurs réelles sur

i) Si u a un maximum local en a E D, u est constante au voisinage de a, donc

ii) Si D est relativement compact dans C et si u E C(D), u ( z ) 5 max u, pour a D

4) Problème de Dirichlet. Notons R un domaine à bord C1 de C. Si f est une fonction continue sur le bord de a, il existe une unique fonction F E C(G) telle que Flan = f et F soit harmonique dans R.

Définition 2.2. Une fonction u définie sur un ouvert D de @ à valeurs dans [ -00, + 00) est dite sous-harmonique si et seulement si

i) u estsemi-continuesupérieurement (s.c.s.), i.e. { z E D I u ( z ) < s} estouvert pourtouts E R o u b i e n K u ( z ) 5 .(a) sia E D.

ii) Pour tout compact K c D et toute fonction h continue sur K , harmonique z-ia

O

sur K , telle que h 2 u s u r d K , alors h 2 u sur K .

Remarques -Si u -00, u est sous-harmonique.

2. Fonctions plurisousharmoniques 119

- Dans IR, A = &, les fonctions harmoniques correspondent aux fonctions linéaires et par conséquent les fonctions sous-harmoniques sont les fonctions convexes.

Proposition 2.3. Soit D un ouvert C. i) Si u est sous-harmonique dans D, alors Xu est sous-harmonique dans D

pour toutX > O. ii) Si ( U , ) , ~ A est une famille de fonctionssous-harmoniques sur D telles que

u = sup u, soitfinie et semi-continue supérieurement alors u est sous-harmonique

sur D.

D , alors u = lim un est sous-harmonique,

,EA

iii) Soit ( u n ) n E ~ est une suite décroissante de fonctions sous-harmoniques sur

n+m

Démonstration. La lère et la 2ème assertion se déduisent immédiatement de la Dé- finition 2.2.

Prouvons iiil. Observons que si u = lim un, alors { z E D I u ( z ) < s } = 71-00 u { z E D I un( z ) < s } pour tout s E R, c’est donc un ouvert et par conséquent

n E N u est semi-continue supérieurement. Soient K un compact de D et h une fonction

continue sur K , harmonique sur K , telle que h 2 u sur d K . Étant donné E > O, on pose E., = { z E dK I u3 ( 2 ) 2 h ( z ) + E } , pour tout j E N. Les ensembles E., sont fermés dans dK, car les fonctions u., sont s.c.s., ce sont donc des compacts. De plus, la suite (E.,).,EN est décroissante et d’intersection vide. I1 existe donc un entier C E N tel que El = 0, ce qui implique que ue 5 h + E sur 3 K . Mais comme la fonction u p est sous-harmonique on a ue 5 h + E sur K , d’où u 5 h + E sur K car la suite ( u n ) n E ~ est décroissante. Cela étant valable pour tout E > O, on a

O

u 5 h s u r K . O

Corollaire 2.4. Pour tout ouvert D C @, la fonction

u ( z ) = - log(dist(z,dD))

est sous-harmonique dans D.

Démonstration. Si D = @, u G -00 et donc u est sous-harmonique. Si D # @, alors u est continue et u ( z ) = sup (- log Iz - Cl). Mais - log Iz - <I est une

CEaD fonction harmonique, car c’est localement la partie réelle dune détermination de - log( z - C), il résulte donc de l’assertion ii) de la Proposition 2.3 que u est sous- harmonique. O

Nous allons donner plusieurs caractérisations de la sous-harmonicité.

Rappelons que si p est une mesure borélienne positive sur un compact K et u : K + R ü {-CO} une fonction semi-continue supérieurement l’intégrale s, udp


a un sens, eiie est définie par

L U d P = inf { L cpdp I cp E C(K),(P L u}

et u E L1 ( K , p ) si et seulement si JK udp > -CO.

Théorème 2.5. Soient D un ouvert de C et u une fonction semi-continue supérieure- ment de D dans JI% ü { -CO}. Les assertions suivantes sont équivalentes:

i) u est sous-harmonique. ii) Pour tout disque A CC D et tout polynôme holomorphe f tel que u 5

iii) Poura 6 D, ilexister,, O < r , < dist(u,ûD), telque R e f s u r d A , o n a u 5 Ref s u r a .

Remarque :La propriété iii) est une propriété locale et additive, on en déduit donc que :

1) Si u1 et u2 sont des fonctions sous-harmoniques dans D, u1 + u2 est sous- harmonique dans D.

2) Une fonction u définie sur un ouvert D de C est sous-harmonique si et seulement si tout point de D possède un voisinage sur lequel u est sous-harmonique.

Lemme 2.6. Si u est une fonction semi-continue supérieurement sur un ouvert D de C! qui satisfait la propriété iii) du Théorème 2.5 (Propriété de la sous-moyenne) alors u satisfait le principe du maximum.

Démonstration. Raisonnons par l’absurde. Supposons que u vérifie la propriété de la sous-moyenne et qu’elle possède un maximum local en un point a E D, c’est-à- dire qu’il existe p > O tel que u ( z ) 5 .(a) pour tout z E D tel que Iz - al < p. Si u n’est pas constante au voisinage de a, il existe zo E D tel que 1x0 - al = r < min(p,r,) et u(z0) < .(a). Considérons l’ensemble { 0 E [0,27~] I u(u + reio) < u(u ) } , c’est un ouvert de [0,27r] car u est S.C.S. et il est non vide car Izo - al = r . On en déduit que

O Ju” 21T JT u(u + reie)dû < u(a )dû = 27ru(a)

ce qui est en contradiction avec le fait que u satisfait iii) du Théorème 2.5.

Démonstration du Théorème 2.5

L‘implication i) + ii) est une conséquence immédiate de la définition des

iii). Soient a E D et r > O tels que A = { z E C I Iz - al < r } CC D. Considérons une fonction cp E C(ûA) telle que cp 2 u

fonctions sous-harmoniques.

Prouvons que iil


sur dA. Grâce à la solution du problème de Dirichlet, on peut supposer que cp est en fait continue sur a et harmonique dans A. Pour T < 1, on pose cpT(z) = cp(a + ~ ( z - a ) ) . Les fonctions ainsi définies sont harmoniques au voisinage de A et la famille converge uniformément vers cp sur a lorsque T tend vers 1. De plus, il existe des fonctions fT holomorphes au voisinage de a telles que cpT = Re fT car a est simplement connexe. Pour tout E > O, il existe alors un polynôme holomorphe f tel que

u 5 c p I R e f < V + E

(il suffit essentiellement de prendre le début du développement de Taylor de f T

pour T assez proche de 1 et à un ordre assez élevé). On déduit de ii) et de la pro- priété de la moyenne pour Re f que

-

27r

.(a) 5 Re f ( a ) = & Re f ( a + reie)dû

Le réel E > O étant arbitraire, on obtient

pour toute 'p E C(dA) teile que u 5 cp sur dA, d'où le résultat par définition de l'intégrale d'une fonction S.C.S.

Terminons la démonstration du théorème en prouvant que iii) implique i). Soit

K C D un compact et h E C( K ) une fonction harmonique dans K telle que u 5 11

sur dK. Nous allons montrer que si iii) est satisfaite, u 5 h sur K . Considérons la fonction u - h, il résulte de iiil et de la propriété de la moyenne pour h que (u - h )

vérifie iii) dans K et d'après le Lemme 2.6, u - h satisfait au principe du maximum. Par conséquent, pour tout z E K , (u - h ) ( z ) 5 sup(u - h) 5 0, soit u 5 11 sur

K . O

O

O

i3K

Proposition 2.7. Soit D un ouvert de @. Si f E O(D) alors log I f 1 est sous- harmonique dans D .

Démonstration. Soit a E D. Si f ( a ) = O, log If/(.) = -cc et iii) du Théorème 2.5 est satisfaite, si f ( a ) # O, il existe un voisinage simplement connexe de a sur lequel f ne s'annule pas et log I f 1 est harmonique sur ce voisinage, iii) est donc

O encore satisfaite. De plus log I f 1 est clairement S.C.S.

Proposition 2.8. Soit cp une fonction convexe croissante sur R. On pose y( -00) = lim cp(x). Si u est une fonction sous-harmonique sur un ouvert D de C, cp O u est

sous-harmonique sur D. 2+-m


Démonstration. Puisque la fonction 'p est convexe croissante, pour tout 20 E IR, il existe un nombre réel k tel que p(z) 2 'p(z0) + k ( z - 20) . Cela implique

pour tout z E D et T > O tel que D ( z , T ) cc D. Choisissons z o = & s,'" u ( z + re")dO. On déduit de la sous-harmonicité de u et de la croissance de p que

ce qui prouve la proposition car cp O u est clairement S.C.S. O

Exemples : Si f E L?(A), I f / et plus généralement I f / " , CU > O, sont sous- harmoniques.

Proposition 2.9. Soit u une fonction sous-harmonique sur un ouvert D de C. On suppose que sur aucune composante connexe de D, u est identiquement égale à -CO.

Alors u est intégrable sur tout compact de D et en particulier u > -03 presque partout (pour la mesure de Lebesgue).

Démonstration. Soit z E D tel que u ( z ) > -CO et A un disque fermé de centre z contenu dans D. La fonction u étant s.c.s., elle est bornée supérieurement sur a donc

udX < +m.

Si 6 désigne le rayon du disque A, la propriété de la sous-moyenne implique

udX = L'((I'" u ( z + re")dû T dr 2 nb2u(z) > -03. ) Par conséquent u est intégrable sur A. Notons E l'ensemble des z tels que u est intégrable au voisinage de z , c'est un ouvert. I1 résulte de ce qui précède que ' ~ 1 = -00 au voisinage de tout point de D \ E et puisque u est S.C.S. D \ E est aussi ouvert. Par conséquent D \ E est une réunion de composante connexes de D, qui

O

Terminons ce paragraphe en donnant une nouvelle caractérisation des fonc-

doit être vide par hypothèse car u = -03 sur D \ E.

tions sous-harmoniques.

Théorème 2.10. Soit u une fonction sous-harmonique sur un ouvert D de @, non identiqueà -03, sur chaque composante connexede D. Alors, pour toutev E V( D ) à valeurs positives on a

(2.2) S u A v d X 2 0

où X est la mesure de Lebesgue sur @.


Démonstration. Soit r E R tel que O < r < dist(suppu,CD). Pour tout z E supp v on a

2.rru(z) I: i2" u(z + reie)dO

car u est sous-harmonique. Multiplions cette relation paru et intégrons par rapport à A, ce qui est permis d'après la Proposition 2.9, on obtient alors

(2.3) / u ( z ) ( I u ( z - rei0)dû - 2 s v ( z ) ) d ~ ( z ) 2 O.

Effectuons un développement de Taylor de u à l'ordre 2

2"

all du

d X dY U(Z + h + i k ) = U(Z) + h - ( z ) + k - ( z )

1 d2u a 2 U d 2 U + - (h2- (z ) 2 ax2 +2hk-(z) dxdy + k Z 7 ( z ) ) 8Y +O(lh+ikI3) .

En remplaçant h + i k par -(r cos O + ir sin O ) et en intégrant par rapport à O on obtient

r r 2 u ( z - reie)dû - 2 ~ 4 ~ ) = -AU(.) + O(r3). 2

O Si on multiplie (2.3) par 5 et si on fait tendre r vers O on obtient (2.2).

Remarquons que si u est une fonction sous-harmonique de classe C2, le Théo- rème 2.10 signifie que A u 2 O. Nous allons prouver la réciproque pour les fonctions de classe C2. Elle est encore vraie pour les fonctions localement intégrables sous la forme suivante, mais nous ne le démontrerons pas ici (cf [Ho2], th. 1.6.11) :

Soit u E L:,,(D) une fonction vérifiant uAudA 2 O, pour toute u E D ( D ) à valeurs positives, il existe une et une seule fonction U. sous-harmonique sur D, qui est égale à u presque partout.

I'"

Théorème 2. i l . Soitu une fonction de classeC2 sur un ouvert D de C telle que A u 2 O sur D, alors u est sous-harmonique dans D.

Démonstration. Soit K un compact de D et h une fonction continue sur K et har-

monique sur K telle que u = u - h 5 O sur aK. O

Supposons dans un premier temps que A u > O et raisonnons par l'absurde.

S'il existe z E K tel que u ( z ) > O, u aura un maximum en un point zo EK et par conséquent Av(z0) sera négatif ou nul. En effet si g ( t ) = u(xo + it), où xo =

a2 v Re zo, g possède un maximum en t = yo = Im zo et par conséquent (20) = aY 9 (yo) 5 O. On montrerait de même que 2 (20) 5 O et donc Au( 20) 5 O. Mais cela contredit le fait que A u = A u - A h > O car A h = O.

Revenons au cas où A u 2 O et posons u j ( z ) = u ( z ) + 7. Alors Auj =

A u + 4 > O pour tout j E N* et uj est donc sous-harmonique d'après ce qui pré- cède. La suite ( u j ) j E ~ est une suite décroissante de fonctions sous-harmoniques

O

1 + 1 *


qui converge vers IL, il résulte alors de la Proposition 2.3, iii) que IL est sous-

Terminons ce paragraphe par un lemme sur les valeurs moyennes des fonctions

harmonique. O

sous-harmoniques qui nous sera très utile par la suite.

Lemme 2.12. Soitu une fonction sous-harmoniquesur ledisque { z E @ I Iz - al < p} . Alors

est une fonction croissante der sur]O,r[.

Démonstration. Notons A(r) = { z E I Iz - al < r } et considérons deux réels r1 et r2 tels que O < 7-1 < 7-2 < p. Soit cp E C(dA(r2)) telle que cp 2 u sur dA(r2). Grâce à la solution du problème de Dirichlet, on peut supposer que cp est en fait continue sur A(r2) et harmonique sur A(r2). La propriété de la moyenne pour les fonctions harmoniques nous donne alors A(cp,r) = cp(a) pour r 5 r2.

Puisque u est sous-harmonique sur A(p), on a u 5 cp sur A(r2) et donc

A ( u , n ) I A(cp,r1) = A(cp,rz).

A(u,r1) I inf {A(cp,r2), cp E C ( W 7 - 2 ) ) , cp 2 u} L A(W-2).

Finalement

O

B. Fonctions plurisousharmoniques

On désigne par D un ouvert de @" .

Définition 2.13. Une fonction u de D dans WU { -m} est dite plurisousharmonique (psh) sur D si u est semi-continue supérieurement et si pour tout a E D et w E @" , la fonction X C) u ( a + Xw) est sous-harmonique dans l'ouvert { X E Cc I a + Xw E 01.

On note PSH( D ) l'ensemble des fonctions plurisousharmoniques sur D.

Un certain nombre de propriétés des fonctions plurisousharmoniques sont des conséquences directes des propriétés correspondantes des fonctions sous-harmoniques :

1) Soit (uZL, ) ,€~ une famille de fonctions plurisousharmoniques sur D. Si u = sup u, est fini et semi-continu supérieurement dans D, alors u est plurisoushar- a € A monique sur D.

D , alors u = lim un est plurisousharmonique.

constante réelle positive.

2) Si ( U , ) , ~ W est une suite décroissante de fonctions plurisousharmoniques sur

3) L'ensemble PSH(D) est stable par addition et par multiplication par une n+co


4) Une fonction u E PSH(D) si et seulement si u est plurisousharmonique au

5) Si f E O ( D ) , alors log I f / et I f l a , cy > O, sont plurisousharmoniques dans voisinage de chaque point a E D .

D.

Remarque : Si D est un ouvert de C", la fonction u ( z ) = - log(dist(z,aD)) n'est pas nécessairement plurisousharmonique. En effet, considérons l'ouvert D = C2 \ {O}.Soientu = (1 ,O) E D e t w = (0,1).Alors

u(u + Xw) = - log(dist(a + Xw,dD) = -log d m . Cette fonction possède un maximum strict au point X = O, elle ne peut donc pas être sous-harmonique, ce qui prouve que u n'est pas plurisousharmonique.

Théorème 2.14. Soient D un ouvert de @" et u une fonction de classe C2 dans D à valeurs réelles. Alors u E PSH(D) si et seulement si pour tout z E D le Hessien complexe de u au point z

est une forme hermitienne semi-déjinie positive sur @"

Démonstration. Un calcul direct donne

-u(u + Xw) = L a + X w U ( W ) . a2

axai Le résultat se déduit alors des Théorèmes 2.10 et 2.1 1 qui caractérisent les fonctions

O sous-harmoniques de classe C2 par la positivité du laplacien.

Corollaire 2.15. Soient D un ouvert de @", D' un ouvert de@'" et F une application holomorphedeD dans D'. Siu E PSH(D') n C'(DI), u O F E PSH(D).

Démonstration. Soit u E D et w E @", on a La(u O F ) ( w ) = L F ( a ) u ( F ' ( a ) w ) . I1 O suffit alors d'appliquer le Théorème 2.14.

Définition 2.16. Si D est un ouvert de C" et u une fonction de classe C2 sur D. On appelle forme de Levi de u en z E D le Hessien complexe L,u de u en t , c'est-à- dire la forme hermitienne

Définition 2.17. Une fonction u E P S H ( D ) n C2 ( D ) est dite strictement plurisousharmonique dans D si et seulement si pour tout z E D la forme de Levi L,u de u au point z est une forme hermitienne définie positive.


Nous voulons étendre le Corollaire 2.15 aux fonctions plurisousharmoniques quelconques. Pour cela nous allons tout d'abord démontrer un théorème de régu- larisation pour les fonctions plurisousharmoniques.

Lemme 2.18. Soit u une fonction plurisousharmonique sur un ouvert D de C" . On suppose que sur aucune composante connexe de D, u est identiquement égale à -03.

Alors u est intégrable sur tout compact de D et en particulier u > -03 presque partout.

Démonstration. I1 suffit de reprendre la démonstration de la Proposition 2.9 en rem- 17 plaçant le disque A par un polydisque.

Théorème 2.19. Soit D un ouvertde C", on pose Dj = { z E D I IzI < j et dis t (z ,ûD) > f }. Soit u une fonction plurisousharmonique sur D qui n'est pas identiquement égale à -00 sur une composante connexe de D. Il existe alors une suite ( u j ) j E n d'éléments deC"(D) telleque

1) u j est strictement plurisousharmonique sur Dj . ii) u j ( z ) 2 u j + i ( z ) pourtoutz E Dj.

iii) lim u j ( z ) = u ( z ) pourtoutz E D.

iv) Si u est continue, la suite ( u j ) jEw converge vers u uniformément sur tout 3'"

compact de D.

Démonstration. Soit 8 E D(R) une fonctionC", àvaleurs positives, àsupport dans [-l,l] ettelleque scn û( lz l )dX(z) = 1. Puisque Dj est relativement compactdans D , la fonction u est intégrable sur Dj et on peut considérer la fonction wj définie Par

c'est une fonction de classe C" dans C" . Montrons que wj satisfait la propriété de la sous-moyenne sur chaque morceau de droite complexe contenu dans Dj ce qui prouvera que vj est plurisousharmonique sur Dj . Remarquons que wj ( z ) = Jcn u(z - $)û((<l)dX(<),pourz E D ~ . Sia E D~ etw E C" ona

car u est plurisousharmonique. Grâce au Lemme 2.12 appliqué à la fonction sous harmonique X c) u ( z - Ac), l'intégrale

u ( z - ei t - )dt I j

DUOP ia 3 2 inoi mod

LZ I


Définition 2.21. Soient D un ouvert de Cn et u une fonction de classe C2 à valeurs réelles dans D. On pose pour z,< E D

La fonction Fu (z ,<) est appelée polynôme de Levi de u.

développement de Taylor de u à l'ordre 2. Le lemme suivant relie la forme de Levi de u et le polynôme de Levi de u avec le

Lemme 2.22. Soient D un ouvert de Qin et u une fonction à valeurs réelles de classe C2 dans D. Pour tout< E D e t z voisin de< on a :

u ( z ) = u(<) - Repu(*,() + Lcu(z - <) + o(lC - ~ 1 ~ ) .

Démonstration. Soient ( ~ j ( < ) ) ~ 5 j 5 2 ~ les coordonnées réelles de ( E Cn telles que Cj = xj(C) + i ~ ~ + ~ ( < ) . Un calcul direct donne

et

Le lemme résulte alors du développement de Taylor de u en ( à l'ordre 2 et des O définitions de Fu et Lcu.

Théorème 2.23. Soit u une fonction strictement plurisousharmonique de classe C2 au voisinage de O 6 P. Si du(0) # O , il existe une application biholomorphe h d'un voisinage U de O dans P sur un voisinage W de O dans Cn telle que u O h-' est

2n strictement convexe sur W , c'est-à-dire e ( < ) t j t k > O pour tout < E w

j , k = l

et t E IR2" \ {O}, où xj = xj (C) sont les coordonnées réelles de < telles que <j = xj (C) + ixj+n (C).

Démonstration. Puisque du(0) # O et u est à valeurs réelles, on a &(O) # O. Supposons que %(O) # O. L'application h ( z ) := (F~(Z,O),Z~, . . . ,zn) est alors un biholomorphisme de U sur un voisinage V de O = h(0). Posons

f(<) = ( f i ( < ) , . . . , fn(C)) = h-'(O

A

3. Pseudoconvexité 129

pour C E V . D'après le Lemme 2.22, pour < assez proche de O,

'u, O f (0 = 4 0 ) - ReRA(f(C),O) + Lou( f (0 ) + o(l f (Ol2).

'1L O f ( C ) = 4 0 ) - ReC1 + LOW(<)) + o ( l f ( 0 l 2 ) .

Mais par définition de f = h-',FU(f(<),0) = <I, ce qui implique que lorsque < tend vers O

Soit F = ( F i , . . . ,Fn) la différentielle de f à l'origine, c'est-à-dire l'application linéaire F : Cn + Cn telle que f ( < ) = F(<) + û(l(12) lorsque < tend vers O. On a alors

'1L O f ( 0 = 4 0 ) - ReC1 + L o u ( F ( 0 ) + O(1Cl2>

lorsque C tend vers O, ce qui implique par unicité du développement de Taylor de u en O que

Comme F ( < ) # O si sousharmonique au voisinage de O on obtient

# O car f est biholomorphe en O et u est strictement pluri-

La fonction u étant de classe C 2 cette relation reste vraie si on remplace O par un O

Terminons cette section par un lemme qui prouve que la stricte plurisoushar-

point ( variant dans un voisinage W de O.

monicité est stable par petite perturbation.

Lemme 2.24. Soit p une fonction strictement plurisousharmonique de classec' dé- finie au voisinage d'un compact K de P. Alors il existe E > O tel que, pour toute fonction cp de classe C 2 au voisinage de K vérifiant I I < E , pour tout z E K et 1 5 j , k 5 n, la fonction p + 'p soit encore strictement plurisousharmonique au voisinage de K .

Démonstration. Par définition des fonctions strictement plurisousharmoniques, il suffit de poser

3. PSEUDOCONVEXITÉ

Nous avons vu au paragraphe précédent que, si R est un ouvert quelconque de Cn , la fonction - log(dist (z,dR)) n'est pas nécessairement plurisousharmonique.


Dans ce paragraphe nous allons étudier une nouvelle classe d'ouverts de C" , les ouverts pseudoconvexes, qui sont caractérisés par le fait que la fonction -logarithme de la distance au bord est plurisousharmonique. Nous allons prouver que cette classe contient la classe des domaines dholomorphie( en fait nous verrons au chapitre Vi1 qu'il y a identité entre ces deux classes).

Théorème 3.1. Si R est un domaine d'holomorphie dans C", alors

- log (dist (2, d e ) )

est une fonction plurisousharmonique continue.

Démonstration. La fonction u ( z ) = - log(dis t (z ,dR) est continue sur 0. Pour prouver la plurisousharmonicité de u nous avons besoin du lemme suivant.

Lemme 3.2. Si R est un domaine d'holomorphie dans C" et K un compact de R, pour toute fonction f E O(R) telleque lf(z)I 5 dist(z,dR), pour toutz E K , on a l f ( z ) I 5 dis t (z ,dR),pourtoutz E k,.

Démonstration. Si If(.)/ 5 dist(z,dR), pour tout multirayonr > O telque Er; = 1 on a If(.)[ 5 & ( z ) (cf section 1 pour la définition de S&(z)) . Si t E]0,1[, l'ensemble

D = {w E C" 1 1w.j - Z j J 5 t ? - j J f ( Z ) J , j = 1,. . . ,n,z E K}

est un compact de R. Si u E O(R), il existe alors une constante A4 telle que lu(w) I 5 M , si w E D , et daprès les inégalités de Cauchy on a

Puisque la fonction f1"lDau est holomorphe sur R, l'inégalité (3.1) est encore vraiesi z E k a . On a donc prouvé que le développement de Taylor de u en ( E Kn converge sur le polydisque < + If(()lP(O,r). Comme R est un domaine dholomorphie ce polydisque doit être contenu dans R, ce qui implique I f ( < ) l 5

O d i s t ( ( , ûR) , pour tout (' E k,.

Fin de la démonstration du Théorème 3.1

Fixons to E R et w E Cn {O} et choisissons r > O, assez petit pour que D = (20 + rw I T E C , [ T ~ 5 T } soit contenu dans R. Notons bD = {zo + rw I T E C, 171 = r } . Soit f un polynôme holomorphe tel que

( 3 4 - log (dis t (z0 + ~ w , d R ) ) 5 Re f(r) pour 171 = r .

Considérons un polynôme holomorphe F dans cc" tel que F(z0 + T W ) = f ( ~ ) ; l'hypothèse (3.2) s'écrit alors

lëF(')I 5 dis t (z ,dR) si z E bD.


D’après le principe du maximum, l’enveloppe holomorphiquement convexe de bD relativement à 0 contient D. On déduit alors du Lemme 3.2 que

- log (dist(z0 + T W , ~ R ) ) 5 Ref(7)

Le Théorème 2.5 nous permet ensuite d’affirmer que la fonction

pour 171 5 T .

T ++ - log(dist(z0 + T W J , ~ ~ ) )

est sous harmonique sur l’ouvert de C où elle est définie. Par conséquent la fonc- O

Nous allons donner maintenant d‘autres conditions équivalentes à la condition

tion - log(dist(z,dR)) est plurisousharmonique dans R.

du Théorème 3.1.

Définition 3.3. Si R est un ouvert de Cn . Si K est un sous ensemble compact de R, on définit l’enveloppe psh-convexe de K relativement à R par

kR = { z E R I ~ ( z ) 5 supu,Vu E PSH(R)}. K

Remarque :Puisque f E O(R) implique I f \ E PSH(R), il est clair que gg c k ~ . On appellera disque analytique dans cc“ , une application holomorphe non

constante ‘p : A -+ C” où A est le disque unité de C. Si ‘p s’étend continûment à a on dira que ‘p(a) est un disque analytique fermé et que ’p(ûA) est le bord du disque.

Théorème 3.4. Soit R un ouvert de Cn . Alors les conditions suivantes sont équiva- lentes :

i) - log(dist(z,dR)) est plurisousharmonique continue dans R. ii) Il existe une fonction u plurisousharmonique continue dans R telle que,

pour toutc E IR, R, = { z E R I u ( z ) < c } cc R.

iii) Si K est un compact de R,k; cc R. iv) Soit (6,),,~ une famille de disques analytiques contenus dans R. Si

u 66, Cc 0 alors u 6, CC R (cette assertion s’appelle la “Kontinuitatssatz’3. ,EA ,EA

Démonstration. Prouvons tout d‘abord que i) implique ii). Posons u ( z ) = 121’ - log(dist(z,ûR)). La fonction u est plurisousharmonique continue sur R, d’après il, et il est clair qu’elle satisfait ii).

Supposons la condition ii) satisfaite. Soient K un compact de D et u la fonction donnée par ii). Posons c = maxK u, alors u 5 c sur Kg par définition de l’enveloppe psh-convexe donc

k; c { z E R I u ( z ) 5 c } cc R.


Prouvons maintenant que iii) implique iv). Soient 6 un disque analytique fermé de R et u E PSH(R) une fonction plurisousharmonique dans 0. Considérons une paramétrisation cp : A + R de 6. Alors u O cp est sousharmonique et par conséquent pour tout z E K

-

Iuocp(z)I I SUP I ~ O c p ( 0 l . CEaA

On en déduit que pour tout p E 6,

ce qui implique 6 c b^6:. Donc si ( 6 a ) a E ~ est une famille de disques analytiques

fermés de R, alors U 6, C ( U b6,) , ce qui prouve que iii) implique iv). L E z z = - P

,EA ,EA

Pour terminer montrons que iv) implique la plurisousharmonicité de la fonction - log(dist(z,dR)). Comme dans la démonstration du Théorème 3.1, fixons zo E R et w E Cn \ {O} et choisissons r > O, assez petit pour que D = { zo + TW 1 T E @ , I T [ 5 r } soit contenu dans R. Soit f un polynôme holomorphe tel que

- log (dist(z0 + ~ ~ , d f l ) ) 5 ref(^), pour I T ( = r , c'est-à-dire

(3.3) l e ë f ( T ) ) 5 dist(z0 + T W , ~ R ) , si 171 = r.

Nous voulons prouver que cette inégalité reste vraie si 171 I r , ce qui démontrera la sous harmonicité de T ++ - log(dist(z0 + T W , ~ R ) ) et donc O. Soit a E @" tel que la1 < 1. On considère l'application T ++ zo + TW + Xaeëf(') définie pour I T ( <_ r. Notons Da son image. Les D, sont des disques andytiques fermés de C" . De plus bD, cc R donc Da cc R pour tout a tel que la( < 1 d'après iv) appliqué à la famille réduite au disque D,. On a donc

zo + rw + ue-f(.) E R, si la1 < i et ( T I 5 r.

En faisant tendre (al vers 1, on obtient

le- f (T) l 5 dist(z0 + TW,~R) , si 171 5 r,

i.e. - log(dist(z0 + T W , ~ R ) ) 5 Ref(T), si 171 5 T . O

Définition 3.5. Un ouuertR de@" est ditpseudoconvexe si l'une des conditions équi- valentes du Théorème 3.4 est vérifiée.

Définition 3.6. Une fonction cp continue définie sur un ouvert D de C", à valeurs réelles est une fonction dexhaustion pour D si, pour tout c E R, l'ensemble D, = { z E D I cp( z ) < c} est relativement compact dans D.

Remarques

de D. 1) Une fonction dexhaustion cp vérifie p(z) + cc quand z s'approche du bord

3. Pseudoconvexid 133

2) Un domaine D est donc pseudoconvexe si et seulement s'il admet une fonction d'exhaustion plurisousharmonique continue.

Corollaire 3.7. Si R est un domaine d'holomorphie dans C" alors R est pseudoconvexe.

Démonstration. C'est une conséquence immédiate du Théorème 3.1 et de la défi- nition de la pseudoconvexité. O

Remarques 1) La réciproque du Corollaire 3.7 est vraie, elle sera démontrée au chapitre VII. 2) Si R est un ouvert holomorphiquemect convexe de @" , il est clairement pseu-

doconvexe car pour K compact dans R, Kg c KO. On peut alors retrouver le Corollaire 3.7 en utilisant le Théorème 1.13 à la place du Théorème 3.1.

Théorème 3.8. Soit (n,),,~ une famille d'ouverts pseudoconvexes de @", alors l'intérieur R de l'intersection des R, est aussi pseudoconuexe.

Démonstration. Cela résulte de l'assertion i) du Théorème 3.4 et du fait que la borne supérieure dune famille de fonctions plurisousharmoniques est plurisousharmonique si elle est continue. Ici

- log(dist(z,dR)) = sup - log(dist(z,dR,)) aEA

est bien continue. O

Nous allons prouver maintenant que la pseudoconvexité est en fait une pro- priété locale du bord.

Théorème 3.9. Un ouvert R de Cn est pseudoconuexe si et seulement si tout point [ E 0 possède un voisinage U, tel que U, n R soit pseudoconuexe.

Démonstration

Condition nécessaire : il suffit de prendre pour Uc un voisinage convexe de < car U, n R est alors l'intersection de deux domaines pseudoconvexes, il est donc pseudoconvexe.

Condition suffisante : supposons dans un premier temps que R est borné. Soit < E dR et Ut un voisinage de [ tel que Uc n R soit pseudoconvexe, alors la fonction -log(dist(z,d(U[ n a))) est plurisousharmonique sur Uc n R. Comme dist(z,d(UC n R)) = dist(z,dR) pour z assez proche de [, il existe un voisinage U de dR tel que la fonction - log(dist(z,dR)) soit plurisousharmonique sur U n R. L'ouvert R étant borné, R \ U est compact et le nombre m = SUP^,^(- log(dist(z,dR)) est fini. Par conséquent

cp(z) = max(- log(dist(z,dR)),lz12 + m + 1)

134 VI. Domaines d'holornorphie et pseudoconvexité

est une fonction plurisousharmonique d'exhaustion pour R ce qui implique que R est pseudoconvexe.

Si R n'est pas borné, on applique l'argument précédent à l'ouvert R, = R n B(0,v) qui satisfait encore l'hypothèse du théorème et qui est borné et donc pseudoconvexe. Puisque 52 est la réunion croissante des a,,, la suite de fonctions (- log(dist(z,dR,))) est une suite décroissante de fonctions plurisousharmoniques qui converge vers la fonction - log(dist(z,dR)) qui est donc plurisoushar-

O monique. Par conséquent R est pseudoconvexe.

Théorème 3.10. Soient R un ouvert pseudoconvexe de cc" et K un compact de R. Alors pour tout voisinage U de kg dans R, il existe une fonction p telle que

i) p est strictement plurisousharmonique de classeCm dans R. ii) p < O sur K et p > O sur R \ U .

iii) Pourtoutc E R,{z E R I p(z ) < c } CC R.

Démonstration. Le point clé de la démonstration est de trouver une fonction cp plurisousharmonique continue satisfaisant ii) et iii). L'ouvert R étant pseudoconvexe, il possède une fonction dexhaustion $, plurisousharmonique continue. Quitte à ajouter une constante à $, on peut supposer que $ < O sur K . Soit K' = { z E R I $ ( z ) 5 O}, K' est un compact de R car $ est une fonction d'exhaustion. Puisque U est un voisinage de E:, pour tout z E K' n (R \ U ) , il existe une fonction cpz E PSH(R) telle que cpZ(z) > O et cpz < O sur K . De plus, grâce au Théo- rème 2.19 de régularisation, on peut supposer que pz est continue. La fonction cpz étant continue, elle est donc strictement positive sur un voisinage de z. Grâce à la compacité de K' on peut donc trouver un nombre fini de fonctions (pl, . . . , c p ~ strictement plurisousharmoniques continues sur R telles que

et max(cp1,. . . , c p ~ ) > O sur K' n (R \ U ) max(cp1,. . . , c p ~ ) < O sur K.

La fonction cp = max($,ql, . . . , c p ~ ) est plurisousharmonique continue sur R et satisfait ii) et iii].

Pour obtenir une fonction p plurisousharmonique de classe C" satisfaisant ii) et iii), il suffit d'appliquer le lemme suivant.

Lemme 3.1 1. Soit u une fonction plurisousharmonique continue d'exhaustion pour un domaine R c CY. Étant donné un compact K de R et un réel E > O , il existe une fonction d'exhaustion strictement plurisousharmonique de classeCm ,p, pour R telle que

u 5 psurR et Ip(z) -.(.)I < ~ p o u r z E K .

Démonstration. Pour j E Pi, on pose R j = { z E R I u ( z ) < j } . Alors R j c c R et, quitte à ajouter une constante à u, on peut supposer que K c 00. Fixons E > O. D'après le Théorème 2.19, il existe une suite ( u j ) j E ~ de fonctions de classe


C" dans R telles que uj soit strictement plurisousharmonique sur Rj+2,u(z) < uo(z) O sur \ Rj-1 si, j 2 2. Soit x une fonction de classe C" sur IR telle que X ( t ) = O pour t 5 O et x(t),x'(t) etx"(t) soientstrictementpositifspourt > O. Alorsxo(uj- j+i) G O sur 0 , - 2 et x 0 (uj - j + 1) 2 O sur R \ Rj-2. En calculant la forme de Levi on voit que x 0 (uj - j + 1) est plurisousharmonique sur Rj+2 et strictement plurisousharmonique positive sur 2.j \ R.i-1. On choisit alors par récurrence des

e entiers mj tels que si e 2 2,pe = uo + m j x O (uj - j + 1) soit strictement

i=2

plurisousharmonique sur Re. On a ainsi construit une suite de fonctions (pe)e>2 -

qui vérifient pe = uo sur Ro, pe 2 u et pe = pe-1 sur Re-2. La fonction p = O pe a les propriétés demandées.

Remarque : I1 résulte du Lemme 3.11 et de la définition des ouverts pseudoconvexes qu'un ouvert R de C" est pseudoconvexe si et seulement s'il possède une fonction d'exhaustion strictement plurisousharmonique de classe C2. Grâce au Lemme de Morse suivant, en fait tout ouvert pseudoconvexe R de C" possède une fonction strictement plurisousharmonique dexhaustion p de classe C2 telle que l'ensemble de ses points critiques, i.e. { z E R I d p ( z ) = O}, soit discret dans R.

Lemme 3.12. Lemme de Morse. Soient R un ouvert de C" et p une fonction strictement plurisousharmonique de classe C2 dans R. Alors, pour tout E > O, il existe une forme IR-linéaire L : C" + IR telle que max IL(z)I 5 E , l'ensemble

Crit(p + L ) = { Z E R I d ( p + L ) ( z ) = O} soit discret dans R et p + L soit strictement plurisousharmonique dans R.

L€C* ,Izl=l

Démonstration. Puisque p est de classe c2, daprès un Lemme de Morse (cf [Mi], 5 2, Lemme A ou [RI, Appendice A ou encore, [He/Le2], Appendice B), pour presque toute forme IR-linéaire L : @" -+ IR, les points critiques de p + L sont isolés. Pour tout E > O, on peut donc trouver une forme IR-linéaire L : Cn -+ IR telle que

max IL(z)I 5 E et que Crit(p+ L ) soit discret. I1 résulte de 1aDéfinition 2.17 LEC" ,121=1 que p + L est strictement plurisousharmonique car les dérivées secondes de L sont nulles. O

Corollaire 3.13. Sous les hypothèses du Théorème 3.10, il existe une fonction p satisfaisant les conditions i), ii) et iii) du Théorème 3.10 et telle que de plus Crit(p) := { z E R I d p ( z ) = O} soit discret dans 52.

Corollaire 3.14. Si R est un ouvert pseudoconvexe de Cn et K un compact de R, alors g; = gP"cm . En particulier k; est fermé donc compact dans R.


Démonstration. Puisque kEncm = { z E R I u ( z ) < supK u,Vu E PSH(R) C-(R)}, on a évidemment kn c kgnCm. Soit z E (1 \ kg, en appliquant le Théorème 3.10 au compact K et au voisinage U = R \ { z } de k:, il existe cp E PSH(R) n C"(R) teiie que cp(z) > O et 'p < O sur k; donc sur K . Par conséquent z # O

Proposition 3.15. Soit R un ouvert de Cn . S'il existe une fonction plurisousharmonique continue p définie sur un voisinage Uan du bord de R telle que

n Uan = { z E Uan I P ( Z ) < O}

alors R est pseudoconvexe.

Démonstration. Soient E da et E > O assez petit pour que B(<,E) soit relativement compacte dans Uan. D'après le Théorème 3.9, il suffit de prouver que R n B(J ,E) est pseudoconvexe. Considérons la fonction plurisousharmonique dé- finie au voisinage de RnB(<,E) par

cp(Z) = max(lz - i l - E , P ( Z ) ) .

Alors cp = O sur d(R n B(<,E)) et cp < O sur R n B(<,E). Soit K un compact de R n B ( ~ , E ) , alors sup cp = a < O et

K A

KgnB(F,-) c { z E n B(i,€) I ~ ( 2 ) < a } CC n B(<,E),

ce qui prouve que R n B(J ,E) est pseudoconvexe. O

Nous allons maintenant donner une caractérisation des domaines pseudoconvexes à bord de classe C2.

Théorème 3.16. Soient R un ouvert de C" à bord de classe C2 et p une fonction de classe C2 à valeurs réelles définie sur un voisinage Uan du bord de R telle que Uan n R = { z E Uan 1 p ( z ) < O } e t d p ( z ) # O pour toutz E 8R. AlorsR est pseudoconvexe si et seulement si

(3.4) L , ~ ( w ) 2 O pour tout z E etw E T:(~R) n

oùL ,p (w) = &$-(z)wjWk estlaformedeLevidepaupointz etT:(dR)

I'espacetangentcompiexe{w E CY I j,lC=l

n

j=l % ( z ) w j = O}.

Démonstration. Soit pl une autre fonction définissante de classe C 2 pour 0. Nous avons vu, au chapitre II, Lemme 8.2, qu'il existe une fonction strictement positive h de classe C1 sur dR teiie que pl = hp. Un calcul direct donne dors pour z E dR et w E TF(dR)

J L P l ( W ) = h ( z ) L z p ( w )


ce qui prouve que la condition (3.4) ne dépend pas du choix de la fonction définis- sante pour R.

Condition nécessaire : soit p(z)= - dist(z,dfl), si zef2 et p(z)= dist(t,dfl), si z E Cn \ R. Puisque dR est de classe C2, la fonction p est de classe C2 dans un voisinage Uan du bord de R. Comme R est pseudoconvexe, la fonction - log( -p) est plurisousharmonique de classe C2 sur R et donc

n

j=l pour tout z E an n R et tout w E cn. si z E Uan n R e t si

on a donc

z ( z ) w j = O ;

ce qui est encore vrai si z E dR par passage à la limite, mais alors la condition

signifie que w E T," (do) .

Condition suffisante : raisonnons par l'absurde. Supposons que R n'est pas pseudoconvexe. Soit Uan un voisinage du bord de R sur lequel la fonction p dé- finie par

p(z) = - dist(z,dR) p(z ) = dist(z,dR)

s iz E R siz E @" \ R

est de classe C2. Comme R n'est pas pseudoconvexe, il existe un point [ E R n Uan telle que la fonction - log( -p ) n'est pas plurisousharmonique en < (cf Théo- rème 3.9). Cela signifie qu'il existe w E cc" \ {O} tel que

Lorsque

( 3 . 5 ) où cy et ,O sont des constantes (cf Lemme 2.22). Choisissons 77 E Cn tel que = ( p ( ( ) / e t [ + v E dR.Posons&(A) = < + ~ w + ~ ~ e " ~ + ~ ~ ~ , s i O < s 5 1.D'après ( 3 . 5 ) , il existe& > O tel que si 1x1 < E et 0 < s 5 i

tend vers O, on a, d'après la formule de Taylor,

log(-p(l+ xw)) = log Ip(<)I + R e ( d + ,Ox2) + yIAI2 + o(1XI2)

dist(<s(x),afl) 2 -P(< + - slvl le aX+BXZ I l X * l

(3.6) 2 ~ p ( < ) l ( e ~ z - s)leaX+PXzl

et par conséquent

dist(<,(X),dR) > O, si0 < s < 1 et 1x1 5 E .


CommeÇ,(O) = 5 + sq E 0, s i 0 < s < 1, on endéduit que cs(X) E R, si O < s < 1 et 1x1 5 E. En passant à la limite quand s tend vers 1, on obtient que < l ( X ) E 2 pour 1x1 5 E. Puisque < E Uan, quitte à diminuer E , on peut supposer que<i(X) E 2nUanpourIXI 5 ~etalorsp(cl(X)) = -dist(Ci(X),aR)etdonc, d'après (3.6),

(3.7) - p ( < l ( ~ ) ) 2 p ( < ) ( e ~ + - i)/eax+ox21, pour 1x1 5 E .

Le membre de droite de (3.7) est une fonction strictement convexe positive de X au voisinage de O. Puisque p ( ( I ( 0 ) ) = O, la fonction - p 0 <I est strictement convexe en O et d ( p O <1)(0) = O. En particulier

On en déduit, puisque <I (A) est une fonction holomorphe de X que

ce qui contredit (3.4) car < + 7 E dR. O

Définition 3.17. Soient 0 un ouvert relativement compact de Cn à bord de classeC2 et p une fonction de classe C2 à valeurs réelles définie sur un voisinage Uan du bord d e R tellequeUan n R = { z E Uan I p ( z ) < O } e tdp ( z ) # O pour toutz E dR. On dira que R est strictement pseudoconvexe si et seulement si (3.8) ~ , p ( w ) > O pour tout z E e tw E T$(BR) \ {O}.

Remarque :La condition (3.8) est bien sûr indépendante de la fonction définissante p choisie pour R.

Théorème 3.18. Un ouvert R relativement compact dans @" à bord de classe C2 est strictement pseudoconvexe si et seulement s'il possède une fonction définissante strictement plurisousharmonique de classe C2. Si R est strictement pseudoconvexe et si p est une fonction définissante de classe C2 pour R, pour X assez grand, la fonction f i = exP - 1 est une fonction définissante strictement plurisousharmonique de classe C2.

Démonstration. Supposons que 0 possède une fonction définissante p strictement plurisousharmonique de classe C2, alors pour tout z contenu dans un voisinage de ûR et tout w E Cn \ {O}, L,p(w) > O, donc (3.8) est vérifiée.

Réciproquement supposons que R est strictement pseudoconvexe. I1 suffit de prouver que pour X assez grand la fonction = exP - 1 est strictement plurisousharmonique sur un voisinage Uan de dR car R n Uan = { z E Uan I fi(.) < O} etdp(z) = XePdp(z) # Osiz E dR. Ona


Par conséquent pour z E ôR et w E Cn

(3.9)

Soit K = {(z,w) E û~ x I lull = i et 5 a w j ~ k I O}. PuisqueK est

compact et que d'après (3.8), I 5 g ( z ) w j I > O, si (z,w) E K , on peut choisir

j , k = l

i = l X assez grand pour que

I1 résulte alors de (3.9) et de la Définition 2.17 que 6 est strictement plurisoushar- O monique au voisinage de dR.

Théorème 3.19. Soit R CC Cn un ouvert à bord de classe C2, strictement pseudoconvexe. Alors il existe un voisinage U,defi et une fonction p : U, + R strictement plurisousharmonique de classec' telle que dp( z ) # O si z E dR

et R = { z E u, I p(z ) < O}

dR = { z E u, I p ( z ) = O}.

Démonstration. D'après le Théorème 3.18, l'ouvert R possède une fonction défi- nissante po strictement plurisousharmonique de classe C2, c'est-à-dire que po est définie sur un voisinage Van du bord de R, dpo(z) # O si z E dR et R n Uan = { z E Van I po(z) < O}. Soit 6 > O, assez petit pour que Kb = { z E Uan I -6 5 po(z) 5 O} soit un compact de Usa. Choisissons une fonction x à valeurs réelles de classe C" sur W, vérifiant ~ ( t ) = -6, s i t 5 -6, x(0) = O, % ( t ) 2 O, pour tout t E R, et g(t) > O, si -6 < t < +CO, et définissons p l par p l = -6 sur

Ks et pl = x 0 po sur Van. I1 résulte immédiatement des propriétés de x que pl est une fonction plurisousharmonique de classe C2 sur R ü Uan, strictement plurisousharmonique sur { z E Uan I po(z) > - 6 } , d p l ( z ) # O si z E dR et

52 = { z E R u Uan I pi(.) < O}.

On déduit du Théorème 3.10 qu'il existe une fonction p2 strictement plurisousharmonique de classe C" dans R telle que R, = { z E R I p 2 ( z ) < a } CC R pour tout a E W. Choisissons ,f3 E R, assez grand pour que p l > - f sur R \ 520 et I) E C" (C" ) à valeurs réelles telle que II, = 1 dans un voisinage de na et I) = O dans un voisinage de C" \ 0. Définissons alors 6 2 par 6 2 = I)pz dans R et p 2 = O dans a? \ R. La fonction 3 2 est strictement plurisousharmonique sur un voisinage de na et donc pour tout c > O, pl + cp2 est strictement plurisousharmonique au voisinage de as. Comme de plus p l est strictement plurisousharmonique sur Uan \ Ra et 6 2 = O sur Van \ 0, la fonction P = p l + c62 est strictement plurisousharmonique de classe C2 sur U z = Uan ü R et R = { z E U z I $(.) < O},

I40 VI. Domaines d'holomorphie et pseudoconvexité

si c est choisi assez petit. Choisissons une fonction cp positive de classe C" dans C" telle que 2 = { z E cc" I cp(z) = O} (cf Lemme 1.4.13 de [Na2], par exemple). Quitte à restreindre U s , la fonction p = ,6 + E(P est la fonction cherchée si E est assez petit. O

Corollaire 3.20. SoitR CC C" un ouvertstrictementpseudoconvexe à borde2. Alors pour tout compact K c ûO et tout voisinage UK de K dans Cn , il existe un ouvert 6 strictement pseudoconvexe à bord C2 tel que

O U K C ~ C O U U K .

Démonstration. Soient UE et p satisfaisant la conclusion du Théorème 3.19. Choi- sissons une fonction x de classe C" à support compact dans UK f' Us2 à valeurs strictement positives sur K . Pour E assezpetit, R = { z E U s 1 p(z ) - E X ( Z ) < O} convient. O

Nous allons étudier maintenant le lien entre la stricte convexité et la stricte

-

pseudoconvexité.

Proposition 3.21. Tout domaine R CC Cn strictement convexe à bord C2 est strictement pseudocon vexe.

Démonstration. C'est une conséquence du fait qu'une fonction strictement con- O

Nous allons prouver que la réciproque est vraie localement modulo un change-

vexe de classe C2 est strictement plurisousharmonique.

ment de coordonnées holomorphes.

Lemme 3.22. Soient V un ouvert de Cn et p une fonction strictement convexe de classe C2 sur V . On pose D = { z E V I p(z ) < O } , alors pour tout compact convexe K C ri V et tout voisinage UK de K , il existe un ouvert strictement convexe0 à bordC2 tel que K c c UK n D.

Démonstration. Puisque K est convexe, il existe un ouvert strictement convexe à bord C", 01, tel que K CC Q: CC UK n V. Soit p l une fonction strictement convexe de classe C" sur un voisinage Ul CC UK f' V de O: et telle que R: = { z E U1 I p l ( z ) < O } . Puisque aucun point du bord de 01 est un minimum local de pi et puisque pi est strictement convexe, @I(<) # O pour tout < E 801. Par conséquent on peut trouver E > O assez petit pour que O: = { z E U1 I p l (2) < E } CC U1. Choisissons des fonctions de classe C", f et y, de W dans IR ayant les propriétés suivantes : g(t) > O, g(t) 2 O g(t) 2 O et 3 ( t ) 2 O pour tout t E IR, -1 < f ( t ) < û,s i t < û,f(û) = O , f ( t ) > 0 , s i t > û,g( t ) = & s i t 5 O, g ( t ) > O,sit > Oetg(t) = i , s i t > E . Posonscp(z,y) = f (z )+g(y)s i ( s ,y) E IR2. Alors cp est une fonction convexe de classe 6'" sur IR2 qui vérifie 2 ( 5 , ~ ) > O et @(z,y) 2 O sur IR^, cp(z,y) > O, si max(z,y - E ) > O et cp(z,y) < O, si z < O aY


et y 5 O. Alors $ ( z ) = cp(p(z),pl(z)) est une fonction strictement convexe de classe C2 et si R = { z E Ul I $ ( z ) < O}, alors 0: n D c R c Qf n D et donc K c n c UK n D. Puisque $ est strictement convexe et qu’aucun point du bord de R est un minimum local de $,d$(z ) # O si z E dR et par conséquent R est un ouvert strictement convexe à bord C2.

Théorème 3.23. Soient V un ouvert de Cn et p une fonction strictement plurisousharmonique de classe C 2 sur V telle que dp(z) # O pour tout z E î = { z E V I p(z ) = O } . SoitD = { z E V 1 p(z) < O } . Alorspourtoutpointl E r ilexisteun voisinage Uc de CC Cn , tel que

et un ouvert strictement pseudoconvexe à bord C2,

i) U c n D c R c D . ii) Il existe une application biholomorphe h défnie sur un voisinage convexe

d e n telle que h(R) soit strictement convexe.

Démonstration. D’après le Théorème 2.23, il existe une application biholomorphe h d u n voisinage convexe V, de dans Cn sur un ouvert W de Cn telle que p O h-’ soit strictement convexe sur l’ouvert W . Soit U’ CC W une boule centrée en h ( l ) . D’après le Lemme 3.22, il existe un ouvert 0’ strictement convexe à bord C2 tel que U n h(V, n D) C 2’ c h(Vc f? D). En posant Ut = h-’(U’) et R = h-’(Q’) on obtient le théorème. O

-I

Corollaire 3.24. Un ouvert R relativement compact dans C“ à bordC2 est strictement pseudoconvexe si et seulement si, pour tout point E do, il existe un voisinage Uc de dans CTz et une application biholomorphe h, défnie sur un voisinage convexe de Üc telle que he (Uc n R) soit un ouvert strictement convexe à bord C2.

Démonstration. La condition est nécessaire d’après le Théorème 3.23. Elle est suffisante par définition des ouverts strictement pseudoconvexes car la condition (3.8)

O est invariante par changement de coordonnées holomorphes.

Remarque : Nous venons de prouver que la pseudoconvexité stricte est la for- mulation localement biholomorphiquement invariante de la convexité stricte. Un contre-exemple dû à J.J. Kohn et L. Nirenberg montre qu’il n’y a pas de relation analogue entre la convexité et la pseudoconvexité même lorsque le bord du domaine est de classe C 2 (cf [KolNil).

Commentaires. L‘histoire de la caractérisation des domaines d’existence des fonctions holomorphes débute avec les travaux de E Hartogs et E.E. Levi dans les pre- mières années du siècle. La caractérisation en termes de convexité holomorphe est due à H. Cartan et I! Thullen [CalTh]. Les fonctions plurisousharmoniques ont été introduites par K. Oka et P Lelong, qui en ont décrit les principales propriétés [Lelll. La plurisousharmonicitéde la fonction -log&, dont l’idée remonteà Hartogs [Harl, a été prouvée par K. Oka [Okl, P Lelong [Le121 et H. Bremermann [Br2]. La condition


de Levi pour un domaine dholomorphie a été découverte en 1910 par E.E. Levi [Lev] dans le cas de deux variables

L'ensemble des notions introduites et des théorèmes exposés dans ce chapitre se trouvent dans la plupart des livres consacrés à la théorie des fonctions de plusieurs variables complexes, [HelLell, [HoZl, [Kr], [Nall, [Ra], par exemple. Nous avons tout particulièrement suivi l'exposé de Range [Ra] pour le Théorème de Cartan-Thullen et la convexité holomorphe, celui de Hormander [HO21 pour les fonctions plurisousharmoniques et la pseudoconvexité et celui de Henkin et Leiterer [HelLell pour les domaines strictement pseudoconvexes à bord C2.

Chapitre VI1

Problème de Levi et résolution du d dans les domaines

strictement pseudoconvexes

Ce chapitre est consacré à la résolution du problème de Levi, c’est-à-dire à la démons- tration du fait que tout ouvert pseudoconvexe de en est un domaine d’holomorphie. La méthode utilisée est l’étude du d dans les ouverts pseudoconvexes à l’aide de formules de représentation intégrale locales pour les domaines strictement pseudoconvexes et de la technique des bosses due à Grauert.

Nous commençons par étudier la résolution de l’équation de Cauchy-Riemann dans les domaines strictement convexes bornés à bord c2 de en. A l’aide de la formule de Cauchy-Fantappié introduite au chapitre V, nous prouvons que la solution est holdérienne d’ordre 1 /2 lorsque la donnée est continue sur l’adhérence du domaine. Ce résultat as- socié à l’identité locale entre les domaines strictement pseudoconvexes à bord c2 et les domaines strictement convexes nous permet d’obtenir, par des techniques d’analyse fonctionnelle, un théorème de finitude pour certains groupes de d-cohomologie. Nous déve- loppons la méthode des bosses de Grauert au paragraphe 4 pour prouver que ces groupes de 3-cohomologie sont isomorphes aux groupes de cohomologie de Dolbeault définis au chapitre II. Un résultat dû à Laufer, que nous présentons au paragraphe 5 , donne finalement l’annulation des groupes de cohomologie de Dolbeault sur les ouverts strictement pseudoconvexes bornés à bord c2 de en. Le paragraphe 6 est consacré à la construction d’une formule intégrale globale pour résoudre le d dans les ouverts strictement pseudoconvexes bornés à bord c2 de en. Nous résolvons enfin le problème de Levi au paragraphe 7. Le dernier paragraphe généralise les résultats des paragraphes précédents aux variétés analytiques complexes. Nous obtenons la caractérisation des variétés de Stein en termes de pseudo- convexité. Nous prouvons également des théorèmes d’annulation pour la cohomologie de Dolbeault à support compact ce qui nous permet, en les associant aux résultats cohomologiques du chapitre V, de donner des conditions géométriques suffisantes pour l’extension des fonctions CR.

144 VU. Problème de Levi

1. RÉSOLUTION DU a AVEC ESTIMATIONS HOLDÉRIENNES DANS LES OUVERTS STRICTEMENT CONVEXES

Soit D un ouvert borné strictement convexe à bord C2 de Cn . Alors il existe une fonction p à valeurs réelles de classe C2 dans Cn telle que D = { z E Cn I p(z ) <

t E IR2", où CY est un réel strictement positif et xj = xj ( z ) sont les coordonnées réelles du point z E Cn teiles que zj = xj ( z ) + ixj+, ( z ) . Comme nous l'avons vu au chapitre V, paragraphe 3,

est une section de Leraypour l'ouvert D . Puisque D est strictement convexe, nous avons l'estimation plus précise suivante :

Lemme 1.1. Il existe un voisinage UaD du bord de D et des nombres réels strictement positifs E etP tels que, pour tout C E UaD et z E Cn tels que IC - z I 5 E , on ait

(1.1) 2 Re(w,(C),C - 2 ) 2 P(C) - P ( Z ) + PIC - zI2.

Démonstration. Soient xj = xj(C) les coordonnées réelles de C E Cn telles que Cj = xj(C) + zj+n(C). Alors

2 Re(w,(C),C - 2 )

En écrivant la formule de Taylor-Young on obtient

+ O(IC - zI2),

ce qui implique, puisque p est strictement convexe, que pour E assez petit et C dans un voisinage UaD de d D

CY 2Re(w,(C),C - 4 2 P(C) - P ( Z ) + ,IC - ZIZI si IC - zI I E . O

Dans le chapitre V, nous avons prouvé le théorème suivant :

Théorème 1.2. SoientD un ouvert convexe bornédeCn à bord de classeC2, e t p une fonction dépnissante de classeC2 pour D . Alors pour toute ( p , q ) -forme différentielle

- 1. Résolution du d avec estimations holdériennes 145

f continue sur D et telle que 3f soit aussi continue sur D, O I p 5 n,O I q 5 n, on a

f = L f + T f a f f =dT,Pf +T,f,df

surD, siq = O

surD, s i l 5 q 5 n

OùLf = ScEaD f (0 A KWP(.,<) et

T:f = ( - l )p+q( 1 f (0 A (.,C,X) + LED f (Cl A w.0) (C?A)€aox[o,11

En particuliersid f = O etq 2 1, u = T[ f est solution de l'équation& = f sur D . De plus si f est de classeCk dans D , alors u = T t f est de classeCk++a dans D pour

L'estimation donnée dans le Lemme 1.1 va nous permettre d'obtenir une estimation en norme holdérienne d'ordre 1 / 2 pour la solution du a dans le cas des domaines strictement convexes à bord de classe C2.

Nous avons déjà prouvé au chapitre III, Proposition 2.1, que, si D est un ouvert

toutcu E]0,1[.

borné de @" et f une forme différentielle bornée sur D ,

Lemme 1.3. Soient D un ouvert borné de Cn à bord de classe C', et Va0 et U s des voisinagesdedD e t D . Soitw(z,<) = (wl(z,<), . . . ,wn(z,C)) uneapplicationde classe C' de lJE x U ~ D dans C" ayant les propriétés suivantes :

i) w(z,C) dépend holomorphiquement de z sur UE et (donc) dCw(z,<) dé- pend aussi holomorphiquementde z sur UD.

ii) w(z ,<) est unesection de LeraypourD. iii) Pour tout point [ E dD, il existe un voisinage Uc de et des fonctions

de classe C' à valeurs réelles t l (z ,<) , . . . ,t2n-l(z,C) définies pour z et C dans un voisinage Uc de [ telles que

(a) pour tout z E Uc,tl(z,.), . . . ,tan-1(z,.) sont des coordonnées réelles sur

(bl il existe 6 > O tel que pour tout z E D n Ut et< E d D n Ut on ait d D n Uc

(1.2) l ( w ( ~ , o l C - .)I 2 6(ltl(.,<)l + It(.,C)12 + d i s t ( z ,dD) ) 2n- 1

où It(z,<)12 = Itj(,z,<)12 etdis t (z ,dD) = inf{ Iz - zI,z E d o } . j= l


Alors il existe une constante C telle que pour toute forme différentielle f continue sur D

l R & f l l / 2 , D 5 C1.f 10,D.

Démonstration. Notons que si n = 1,RzD = O. On suppose désormais que n 2 2 et on pose @(.,I) = (w(z,C),< - z ) . L'écriture sous forme de déterminant nous donne

(2i7r)TLR;Df(z) = f ( ( ~ ~ , C + ~ A ) v ~ ( ~ ' c , A ) ) A W ( C - 2)

w(z ' c ) + A 4 c-- et où dets,...Sm(ul,. . .,urn) = avec V W ( . , C J ) = (1 - 4-

( 1 3)

-

IC-zl det(al,. . . , a l , . . . , u rn , . . . ,urn). --

s1 s*

Pour simplifier nous supposerons que f est de bidegré (0,q) ; nous pouvons - donc remplacer w (( - z ) par w (C) dans (1.3). Grâce à l'hypothèse il, 8, w = O et aZ@ = O, d'où

En développant le déterminant dans (1.3), on obtient alors

où les p , sont des polynômes en A. et une intégration par rapport à X donne

Les coefficients de la forme différentielle RawD f sont donc des combinaisons li- néaires d'intégrales du type suivant

où O 5 s 5 n - 2 , l 5 m 5 n, f l est un des coefficients de f et 11, le produit de fonctions du type wj <. - Z j et -"L, j , k = 1, . . . ,n. Comme 11, contient au moins un facteur du type cj - ZJ, il existe une constante Cl telle que 111, I 5 C1 IC - zl.

tlewood.

' 3 a C k

Pour estimer les intégrales (1.4) nous utiliserons un lemme dû à Hardy et Lit-

-

1. Résolution du a avec estimations holdériennes 147

Lemme 1.4. On considère D un domaine borné de R" , à bord de classe C1 et g E C1 (D) une fonction vérifiant

Idg(z)I 5 C,[dist(z,ûD)]"-'

où C, est une constante positive et Q ~ ] 0 , 1 [ . Alors g E A" (D). De plus il existe un compact K de D et une constante C > O ne dépendant que de D et de Q tels que

lSIa,D I w, + 191Kl.

Démonstration. Démontrons, pour commencer, le résultat suivant :

( I1 existe E E]0,1[ tel que, si g est une fonction de classe

C1 dans D qui vérifie

I dg(x) I 5 C, [dist (z,dD)]"-', alors 1g(z) - g(y)1 5 CC,Iz - y[", siz,y E D avec 1z - y1 < E

Puisque dD est de classe C1, il existe E > O assez petit et C' > O tels que si z , y E D vérifient dist(z,dD) < E , dist(y,dD) < E et 111: - y1 < E, il existe une fonction y,,, : [0,31z - y11 + D de classe C1 vérifiant Y,,~(O) = ~,y,,~(31z - y[) =

Y , / & % , ~ ( X ) ~ I C'si E [0,31z - 1/11, dist(y,,,(X),dD) 2 X si X E [O,lx - Y I ] , dist(y,,,(X),dD) 2 12 - y1 si X E [Ix - y1,21z - y11 et dist(y,,,(X),dD) 2 312 - 1/I - si X E [21z - y1,31z - YI]. On obtient alors

2 5 (- + l)C'C,lz - Y I a . (Y

Posons K = {z E D 1 dist(z,dD) 2 ~ / 2 } . Puisque D est borné, K est compact. De plus, puisque g est de classe C1 si z,y E K et Iz - y1 < E,

1g(x) - g ( y ) I 5 C"1x - y1 5 C"Iz - yla si E E ,


Suite de la démonstration du Lemme 1.3. Grâce au Lemme 1.4, il suffit donc de prouver que pour tout j = 1, . . . ,TI et z E D

où C est une constante indépendante de z E D et de f. On a

a 11, - a+/azj - (n - s - l)(a@/azj)7/5 a z j @n-s-ilç - 212s+2 an-s-1 I< - 2 p + 2 -

@ 7 L + S I < - 42s+2

Comme $,% et existe une constante C2 telle que

sont bornés pour ( z , ( ) E is x aD et /?,hl L CI/< - 21, il

On peut donc trouver une constante C3 telle que Par

( z ) et ( 2 ) soient majorés a z ,

où dg2n-1 est la forme volume sur dD.

C, tels que pour z E D n U, on ait Montrons que, pour tout { E dD, il existe un voisinage U, de { et une constante

et

- I. Résolution du d avec estimations holdériennes 149

Etudions tout d'abord (1.9). Fixons JEdD et considérons un voisinage U , de < et des coordonnées t l(z,<), . . . ,t2n-1(z,<) vérifiant l'hypothèse iii) du Lemme 1.3. Notons p( z,<) la fonction définie pour z E U, ,C E d D n Uc, teiie que pour z E Ut fixé

dg2n-i = ~ ( z , < ) d < t i ( z , < ) A . . . A d<t2n-ï(z,Ç). Ilexistey > Otelquepourz E U<,< E dDnU[ona i t I< -z l 2 ylt(z,<)letdonc pour z E D n Uc

dg2n-1 k D n U < I @ l n - s l < -

' ~ ( z , < ) d ~ t i ( z , < ) A . . . A d<tzn-i(z,<)

(Itl(z,<)I + It(z,<)12 + dist(z,dD))n-Slt(z,<)12s+1. Quitte à restreindre Uc , on peut trouver des constantes r et R telles que Ip(z,<) 15 r si z E Ut et < E d D n U , et pour tout z E U, la surface d D n U, soit envoyée par le difféomorphisme < e ( t l ( z , < ) , . . . ,t2n-1(z,<)) sur un ouvert de la boule de centre O et de rayon R de R2n-1, on a alors

< dg2n- 1

k D n U c 1 @ 1 " - " 1 < - z 1 2 s + 1 -

dxl A . . . A dx2n-l 6n-sy2s+l 1 , G R Z n - l (1x11 + 1xI2 + dist(z,dD))n-s1x12S+1

mais (1x11 + /z/' + dist(z,dD))n-slz12S+1 2 (1x11 + 1x12 + d i ~ t ( z , d D ) ) ~ ~ x ~ ~ " - ~

et par conséquent

De manière analogue pour prouver (1.10) on obtient

dxl A . . . A dXzn-l bn-s-ly2s+2

I1 reste donc à estimer les membres de droite de (1.11) et (1.12) pour terminer la démonstration de (1.9) et (1.10).

Lemme 1.5. Soientn 2 1 e t R > O. Ilexisteuneconstantec > O tellequepourtout E > O, on ait

150 VIL Problème de Levi

Démonstration. Prouvons 2). Pour n = 1, on a

Pour n 2 2, si x’ = ( 2 2 , . . . ,x,), une intégration par rapport àlavariable x1 donne

Montrons i i )

O

Fin de la démonstration du Lemme 1.3. Pour [ E dD, soit Ut un voisinage de [ tel que (1.9) et (1.10) soient satisfaites pour z E Ut n D. Si V, CC Ut est un

sont clairement bornées sur V, n D , par conséquent pour z E Vc ri D voisinage de 6 , les JaD\u, I<Pln-slC-~IZs+l de2n-i et JaD\C; I < P . J n - s - l I C - Z I Z s + Z duzn-l

(1.13)

et

(1.14)

Grâce àla compacité de dD, on peut donc trouver un voisinage V de aD tel que les premiers membres de (1.13) et (1.14) soient bornés par C [ d i ~ t ( z , d D ) ] - ~ / ’ pour tout z E V n D. Comme sur D \ V ces deux intégrales sont bornées cela termine la preuve du lemme. O

Théorème 1.6. Soit D un domaine borné strictement convexe à bord C2 de C”. II existe une constantec > O telle que pour toute forme différentielle f continue surD (1.15) IIR”f + G;Dflll/2,D 5 clf Iû,D.

En particulier si f est une ( p , q ) -forme différentielle continue s u r n , O 5 p 5 n, - 1 5 q 5 n, tellequedf = O, lasolutionu = (-l)p+q(R” f +ED f ) del’équation d u = f sur D satisfait l’estimation

(1.16) 1’41/2,D 5 Clf10,D.

1. Résolution du d avec estimations holdénennes 151

Démonstration. Grâce au Théorème 1.2 et au Lemme 1.3, il suffit de prouver que la section de Leray wp associée au domaine D vérifie les hypothèses du Lemme 1.3 pour obtenir l’estimation (1.15).

Soit p une fonction définissante strictement convexe de D sur UT, alors

est une section de Leray pour D donc ii) est vérifiée. La section wp est indépendante de z , elle satisfait donc également i). I1 reste à montrer iii). Notons xj = zj(() les coordonnées réelles de C E @” telles que (3 = zj(<) + i ~ j + ~ ( ( ) . Posons t1(z,O = I m ( w p ( 0 , ~ - 2). Alors

Mais d~tl(z,c) A &(a) # O, pour tout z E dD, car le coefficient de dz, ( z ) A

dz,+,(z) dans la forme différentielle dgt l (z , ( ) lC=eAdp(z) est - f (%(z))’ + (e ( z ) ) ~ ) , ce qui ne peut être nul pour tout j = 1, . . . ,n, car d p ( z ) # O. Fixons E aD,onpeutalorstrouverunvoisinageUc d e t e t desfonctionstz, . . . , t ~ , ~ - 1 de

classe C1 sur Uc telles que pour tout z E Uc fixé, ( t l ( z ; ) , t 2 , . . . . tznp1) soient des coordonnéeslocalessurdDnUC. PosonstJ(z.() = t , ( ( ) - t , ( z ) pourz,Ç E Uc et

= 2 , . . . ,2n-1. Pourtoutz E Uc, ( t l ( z > , ) , t z ( z , . ) , . . . ,tan-l(z,.))sontalorsdes coordonnées locales sur d D n Uc. Prouvons maintenant l’inégalité (1.2). Puisque t , ( z , z ) = O, quitte à restreindre Uc, il résulte de la formule de Taylor qu’il existe 61 > Otelque I ( - - zI 2 61/t(z,()l siz,( E Uc.Aprèsunenouvellerestrictionde Uc, le Lemme 1.1 implique qu’il existe 6 2 tel que pour z,< E Uc

(

2I(wpKM - .)I 2 62(ltl(Z,C)I + P ( 0 - d.1 + It(< - z)I2), ce qui prouve (1.2) car p = O sur d D et, après restriction de Uc, il existe 63 > O tel

O

Terminons cette étude en prouvant à l’aide d’un contre-exemple dû à E.M. Stein que l’estimation holdérienne d’ordre 1/2 que nous venons d‘obtenir ne peut pas être améliorée.

Soit D = ((z1,zz) E Cn I 1z1I2 + 1zZI2 < l} la boule unité de C2. Notons log la détermination du logarithme définie sur @ \ R+ et pour laquelle l’argument varie entre O et 27r. On pose

que -p(z ) 2 d3 dist(z,dD) si z E D n Uc.

si (z1,zZ) = ( 1 , O ) .

C’est une (0,l)-forme différentielle de classe C” sur D \ { ( 1 , O ) ) car log(z1 - 1) ne s’annule pas si z1 $! (1, + CO). De plus, f est continue sur 0, car 1 log(z1 -


1)I tend vers 03 quand z1 + let l'holomorphie de la fonction z e --I.-.- log(z1-1)

sur D implique que af = O dans D. Nous allons prouver que, si <r > 1/2, il n'existe pas de fonction u définie sur D telle que au = f sur D et Iul,,~ < +m. Supposons que u soit solution de l'équation au = f et vérifie Iul,,~ < +m.

Puisque "(e) = f, la fonction u - A est holomorphe dans D. Soit E tel que0 < 2~ < 1, dorsles cercles { ( z I , t z ) E C2 1 21 = 1 - E , J z Z J = &} et { (z1,za) E C2 I z1 = 1 - 2~,Iz21 = fi} sont contenus - dans D. Appliquons le Théorème de Cauchy à la fonction z2 ct u(zlrz2) - i o g ( ~ ~ - l ) sur chacun des cercles. On obtient alors

- - log(z1-1)

Puisque 1 ~ 1 , ~ < +CO, il existe donc une constante C > vérifiant O < 2~ < 1, on ait

2 i 7 r ~ - - lOg(-2E) '

O telle que, pour tout E

1 < CEa-1/2. 1 log(-E) lOg( -2E) 1 ~-

Or log( - E ) = Log I E ~ + z7r et log( - 2 ~ ) = Log 2 + Log I E ~ + ZT, par conséquent Log 2 5 CE^-^/^^ log(-€) l og ( -2~) / , ce qui est impossible.

En utilisant le Corollaire 3.22 du chapitre Vi, on déduit du Théorème 1.6 un ré- sultat de résolubilité locale dans les domaines strictement pseudoconvexes bornés à bord de classe C2.

Corollaire 1.7. Soient un ouvert borné strictement pseudoconvexe à bord C2 de C" - et f une formediflérentiellede type (p ,q) , O 5 p 5 n , l 5 q 5 n, continue sura et d-fermée sur R. Alors pour tout< E d a , il existe un voisinage Uc de < dans Cn , une ( p , q - 1) -forme dflérentielle uc E (U, n R) et une constante Cc > O telle queduc = f suru< etIu<Ii/,,u,nn 5 c<IfIo,n.

Démonstration. Si 5 E d o , il résulte du Corollaire 3.22 du chapitre Vi, qu'il existe un voisinage Ut de < dans Cn et une application biholomorphe hc définie auvoisinage de Üc telle que hc (Uc rio) soit un domaine borné strictement convexe à bordC2. Si onposeuc = hiTh<= f, oùT = R:[(ucno) + Bh(U,no), uc satisfait les conditions

O

I

demandées grâce au Théorème 1.6.

- 2. Approximation uniforme locale des formes d-fermées 153

2. APPROXIMATION UNIFORME LOCALE DES FORMES ~-FERMÉES DANS LES DOMAINES STRICTEMENT PSEUDOCONVEXES

Prouvons pour commencer que toute fonction holomorphe définie au voisinage d u n convexe compact de C" peut être approchée uniformément sur cet ensemble par des fonctions holomorphes dans C" .

Proposition 2.1. Soient K un convexe compact de C" et V un voisinage de K . Alors toute (p,O) -forme holomorphe sur V,O 5 p 5 n peut être approchée uniformément sur K par des (p,O) -formes holomorphes dans C" .

Démonstration. Puisque K est un convexe compact de C" et V un voisinage de K , il existe un ouvert convexe D, à bord de classe C2 tel que K c D cc V et D = ( 2 E C" I p(z ) < O}, où p est une fonction convexe de classe C2 dans Cn telle que dp(z ) # O si z E C" \ D. Soit h une (p,O)-forme holomorphe sur V. Posons D, = ( 2 E C" I p ( z ) < cy} et notons a0 la borne supérieure des cy E R pour lesquels h peut être approchée uniformément sur K par des (p,O)- formes holomorphes sur Da. Puisque K c D CC V , on a a0 > O.

Nous allons prouver dans un premier temps que (YO = +m. Raisonnons par l'absurde et supposons que (YO < +m. Pour tout cy > O, considérons la section de

une fonction holomorphe par rapport à z dans C" . Soit 6 > O, assez petit. Par dé- finition de ao, la (p,O)-forme h peut être approchée uniformément sur K par des (p,O)-formes holomorphes dans un voisinage de Dao-6. Pour obtenir la contradiction, il suffit de prouver que toute @,O)-forme holomorphe dans un voisinage de Dao-6 peut être approchée uniformément sur K par des @,O)-formes holomorphes sur Dan+&. D'après la formule de Leray, si f est une (p,O)-forme holo-

Leray w,(<) = (+y<),. . . ,$y<)) pour Da alors @(z,<) = ( ~ p ( C ) , < - 4 est

" . w' ( W P ( C ) ) A W ( C ) morphe au voisinage de Dao-&, on a f ( z ) = f (c ) Qn(z,c) ,

si z E Dao-6. Puisque dD,,-6 est compact, pour obtenir l'approximation cher- chée, il suffit de montrer que pour tout [O E dD,,-6 fixé la fonction & peut être approchée uniformément sur K x V&, où Vc, est un voisinage de €0 dans aD,,-6, par des fonctions holomorphes en z sur Dao+6. Fixons €0 E dD,,-a et choisissons un nombre fini de points E l , . . . ,& tels que cy0 - 6 = p(Ji) < . . . <

I < 1 pour j = 1, . . . ,k. Remarquons que

?k& I < T < 1 pour < dans

@b ,&I - 1 ) Z E K @(z ,€3 )

p ( ~ ) = cy0 + S e t sup 1 1 - s i I l - wl < ipour toutz E ~ , o n a s u p I i z F K - @ . ( Z L l )

. -~~ un voisinage V,, de €0. On a alors, pour < E Vc, ,

1

où la convergence est uniforme sur K x V,, et

154 VII. Problème de Levi

où la convergence est uniforme par rapport à z dans K . Par conséquent la fonction ~ a ( ~ , c l peut être approchée uniformément sur K x V,, par des polynômes en

@(z,<) ,@(z><l)>. . . >@(z,<k-l) et qui sont des fonctions holomorphes sur Dao+b. Après intégration sur BD,,-d, en utilisant une partition de l'unité finie su- bordonnée à un recouvrement fini de 8D,,-b par des ouverts du type Vco, on obtient une approximation uniforme de f sur K par des (p,O)-formes holomorphes sur Dao+6. Par conséquent cy0 = fm.

Pour terminer la démonstration, il reste à montrer que pour tout E > O, il existe une suite de (p,O)-formes holomorphes g j définies sur Dj+i, j = 0,1, . . . telle que go = h ( D = Do c V ) et

En effet, alors ( g j ) j G N converge uniformément sur tout compact de Cn vers une (p,O)-forme g holomorphe dans C" et sup Ih - g1 < E . Pour construire cette suite,

K supposons g o , . . . ,gk déjà connus (pour k = 0,go = h) et puisque DI, est convexe compact, la méthode que nous venons d'utiliser donne l'existence de (p,O)-formes holomorphes gk+i définie sur Dk+2 telles que 1gk ( z ) - gk+1 ( z ) I < & pour tout z E Dk. O

Théorème 2.2. Soit D un ouvert strictement convexe borné à bord C2 de C" . Si K est un compact de D, toute forme différentielleû-fermée sur D et continue sur D est limite uniforme sur K de formes différentiellesd-fermées continues dans e". Démonstration. Quitte à faire une translation, on peut supposer que O E D. Soit X > 1 un réel, notons D A = { z E C" I E D } , D A est un ouvert strictement convexe borné à bord C2 de C" contenant D. Si f est une (p,q)-forme différentielle 8-fermée sur D et continue sur D, O 5 p , q 5 n, on pose f x = pif où cpx est l'homothétie de rapport ; fx est alors une (p,g)-forme différentielle 8-fermée sur DA. Fixons E > O et choisissons X > 1 tel que

-

Supposons dans un premier temps que q = O. La (p,O)-forme holomorphe f x est définie sur le voisinage D A du convexe compact D. Par la Proposition 2.1, il existe une (p,O)-forme g holomorphe dans Cn teile que

On déduit alors de (2.1) et (2.2) que supD I f - g I < E.

Siq 2 1,ilexisteux E C : , ~ - ~ ( D ~ ) teiiequedux = fxsurDx+i,carDx+i est un ouvert borné strictement convexe à bord C2 contenu dans D A (cf th. 1.2). Puisque Dx+i contient D, on peut trouver une fonction xx de classe C" à support

3. Finitude de la cohomologie de Dolbeault 155

compact dans Dx+l et égale à 1 sur D. On pose alors g = dxxux et grâce à (2.1) O supDIf - g1 < 5 < E .

Corollaire 2.3. Soit R un ouvert borné strictement pseudoconvexe à bord C2 de C” . Pour tout < E 80, il existe un voisinage Uc de < dans C” tel que toute forme dif- férentielle continue sur Uc n 0, ô-fermée dans Uc ri R est limite uniforme sur tout compact d e n n Uc de formes différentielles continues, d-fermées dans Cn .

~-

Démonstration. C’est une conséquence immédiate du Théorème 2.2 et du Corol- O laire 3.24 du chapitre Vi.

3. FINITUDE DE LA COHOMOLOGIE DE DOLBEAULT DANS LES DOMAiNES STRICTEMENT PSEUDOCONVEXES

Le but de ce paragraphe est de déduire de la résolution locale du 8 avec estimations holdériennes des théorèmes de finitude pour certains groupes de 8- cohomologie. Pour cela nous aurons besoin de quelques notions et résultats d’analyse fonctionnelle qui sont rappelés dans l’annexe C.

Soit D un ouvert borné de C”, nous considèrerons les espaces de Banach e:,,@) des (p,q)-formes différentielles continues sur et Ap{i(D) des (p ,q) - formes différentielles holdériennes d’ordre 1/2 sur D ( c f . chapitre I I I , 5 2). On

le domaine de définition de l’opérateur 8 en tant qu’opérateur de AP(i-l(D) dans Ci,,@), c’est-à-dire le

sous-espace des formes différentielles f E AP(:-l(D) telles que af, pris au sens des distributions, soit continue dans D et admette une extension continue à D. On pose Ei(q(D) = 8(F’-l(D)). On note Zi, , (o) le sous-espace des formes différentielles f E Ci,,(D) telles que 8f = O dans D , c’est un sous-espace fermé de l’espace de Banach C&(D). Enfin, nous noterons H:,’l,,(D) le quotient

pose I ~ ~ , - ~ ( D ) i / 2 = O et si q 2 1 on note Fp,q- l (D) i / 2

q,, ( D ) / G ( Q ( D ) .

Proposition 3.1. Soient D un ouvert strictement pseudoconvexe borné à bord C2 de C” , p et q des entiers tels que O 5 p 5 n,O 5 q 5 n. Alors

il il existe des opérateurs linéaires continus TpP de l’espace C,”,,(D) dans

E’espaceA~~~- l (D) telsque, si f E C,”,,(D) vérifieaf E e,”,,@), o n a

(3.1)

où KQ est un opérateur compact deC,”,,(D) dans lui-même.

même dont l’image est de codimension finie.

f = dT,P f + T;+,df + KQ f

ii) Si q 2 1,aT; définit un opérateur linéaire continu de ZP,,(D) dans lui-


iii) E&?(D) est un sous-espace uectoriel fermé de codimension finie de zp,q (D).

Démonstration. D’après le Corollaire 3.24 du chapitre VI, il existe un recouvrement fini de D par des ouverts U1, . . . ,Um de Cn tels que, pour tout j = 1, . . . ,m, il existe une application biholomorphe hj définie sur un voisinage de vj telle que hj (Uj n D ) soit un ouvert borné strictement convexe à bord de classe C2. I1 résulte alors des Théorèmes 1.2 et 1.6 que l’on peut trouver des opérateurs linéaires continus (T:)j,j = 1,. . . ,m, deCi,,(D) dans AP(:-l(Uj n D ) tels que, si f E Cp,,(D) e ta f E Cp,q+l(D),

f = d(T,P)j f + (T,+l)jdf sur Uj n D. Choisissons des fonctions ( ~ j ) j = l , , , . , ~ de classe C” à support compact dans Cn

telles que D n supp ‘ p j c Uj et ‘p j (T,P)j f, pour f E Cp”,,(D). Nous avons ainsi défini un opérateur linéaire continu de CE,, (D) dans Ai!:- ( D ) qui vérifie

m m ‘pj = 1 sur D et posons T: f =

j= l j=l

m

f = aT,P f + T,+,af - acpj A (T,P)j f sur D. j=l

m - Posons Kif = - dpjA(T,P)jf, pour f E Ci,,(D). L‘opérateur K i ainsidéfini

est un opérateur linéaire continu de (D) dans Ai(: (D). Grâce au Théorème d’Ascoli c’est donc un opérateur compact de Cp”,,(D) dans lui-même, d‘où il. De plus KQ envoie Zp,q(o) dans lui-même. En effet, si f E Zi,q(D), on a

j=l

m m - dKt f = -a ( Cà‘pj A (T,P)jf) = C a V j A a(T,p)jf

j= l j = l m

= A f d‘après (3.21, car f E ZP,,(o) j = l

m - = O puisque C’pi = i sur D.

j=l

D’après (3.1), aT: = I - K P Q sur Zp,,(n), pour q 2 1 et, K i étant compact, l’image de I - KQ est de codimension finie dans Zp,,(D), ce qui prouve ii).

L‘assertion iii) résulte de la proposition 4 de l’annexe C car EP(:(D), qui est ( D ) , est de codimension finie puisqu’il contient l’image de l’image par a de

- dT$ O

Corollaire 3.2. Si D est un ouvert strictement pseudoconuexe borné à bord C2 de Cn alors

dimHi,’f,2(D) < +CO, si O 5 p 5 n et 1 5 q 5 n.

4. Invariance de la cohomologie de Dolbeault 157

4. INVARIANCE DE LA COHOMOLOGIE DE DOLBEAULT PAR LES EXTENSIONS STRICTEMENT PSEUDOCONVEXES

A l’aide de la Beulenmethode de Grauert, nous allons prouver que pour un domaine strictement pseudoconvexe borné R de @” le groupe de d-cohomologie HP” (E) est isomorphe au groupe de cohomologie de Dolbeault Hp>q(R) défini au chapitre II. Le Corollaire 3.2 impliquera alors que les groupes de cohomologie de Dolbeault d’un domaine strictement pseudoconvexe borné de @” sont de dimension finie.

% 1 / 2

Définition 4.1. On appelle extension strictement pseudoconvexe élémentaire un couple ordonné [e1 ,&] d’ouverts de @” à bord de classe C 2 tel que û1 c 8 2 , satisfaisant la condition suivante : il existe un ouvert V contenant 02 \ 61, des domaines Dl et D Z strictement pseudoconvexes tels que Dl c D2, 02 = 01 U D2, 81 n D2 = D1,(81 \ D z ) n ( O 2 \ 81) = 0 et uneapplication biholomorphedéj7nie sur un voisinage de v telle que h ( D j ) , j = 1,2, soit un domaine borné strictement convexe à bord C z de C” .

Lemme 4.2. Soit [81,02] une extension strictement pseudoconvexe élémentaire. Alors pour tout ( p , q ) , O 5 p 5 n et0 5 q 5 n

i) l’application restriction H:,’:/z(8z) + Hi;: / i (ë l ) estsurjective, siq 2 1, ii) l’application restriction H:;:/,(&) + H:;:/2(81) est injective, siq 2 2

iii) l’application restriction 2,”,,(82) + 2:,,(81) est d’image dense, si 81 est et si q = 1 et 81 strictement pseudoconvexe borné,

strictement pseudoconvexe borné.

_ _ _ ~ Demonstration. Puisque (01 \ OZ) n ( 8 2 \ 81) = 0, on peut trouver des voisinages V‘ et V” de e 2 \ 81 tels que V’ Cc V” Cc V et V” n (0 , \ D i ) = 0. Choisissons une fonction x de classe C” dans C” telle que x = 1 sur V’ et supp x c V”.

Montrons il. Soit f i E 2,”,,(81),1 5 q 5 n, on cherche des formes différen-

tielles u1 E AP{:-l(el> et f 2 E ZP,,(~Z) telles que fz = f i - 3u1 sur 01. Comme est l’image par une application biholomorphe, définie au voisinage de Di, d’un

domaine strictement convexe borné à bord C 2 , il existe u E A‘/’(D1) telle que f i = au sur D1 ( c f Théorème 1.6). Posons

Les formes différentielles u1 et fz satisfont les conditions demandées.

1 / z Prouvons iil. Soient f2 E 2;,,(82) et u1 E AP,q- l (û l ) telles que du1 = fi

sur 01, nous cherchons uz E A,,,-,(&) telle que du2 = fi sur 82. Comme D i est l’image par une application biholomorphe, définie au voisinage de 0 2 , d’un

1 / 2


1/2 domaine strictement convexe borné à bord C 2 , il existe u E Ap,q-l (Dz) telle que f2 = au sur 02 et par conséquent u - u1 E z : , ~ - ~ ( 0 1 ) .

1/2

û(x2i) = u sur V’ n ûl. Posons Si q 2 2, il existe 2i E Ap,q-.2(D1) telle que 8 v = u - u1 sur DI. Alors u1 -

-

aiorsu E AP,,-,(û2) 112 etau2 = fi sur&.

Supposons que q = 1 et 01 est strictement pseudoconvexe borné. I1 résulte alors de la définition des extensions strictement pseudoconvexe élémentaires que 82 est aussi strictement pseudoconvexe borné et par conséquent E ~ f ? ( & ) est un sous-espace fermé de Z:”,,(&) d’après la Proposition 3.1, iii). I1 suffit donc de construire une suite (Wk)&N de (p,O)-formes différentielles holdériennes d‘ordre 1 / 2 dans e2 telles que 8wk soient continues sur $2 et lim If2 - &k l0,E, = O. La

(p;O)-forme différentielle u - u1 est continue sur Di, 8-fermée sur D I . I1 résulte alors du Théorème 2.2 qu’il existe une suite (?&)&N de (p,O)-formes holomorphes dans V telles que

k+oo

lim Ivk - - u l ) l g , E , n ~ u p p x = o. k - t w

On définit aiors la suite (Wk)kEN en posant W k = (1 - x)ul + x(u - U k ) . Mors d W k = f i + (dx)(u - u1 - ‘uk) et la suite (Wk)&rÿ satisfait bien les conditions demandées.

Terminons en prouvant iii). Soit f E 2 : , , ( $ 1 ) . D’après le Théorème 2.2, il existe une suite ( z & ) & N de (p,q)-formes 8-fermées continues dans v telles que

-

‘im I f - v k l o , ë l n s u p p x = O. On a alors k-ioo

Posons fiE = (1 - x ) f + X v k , c’est une suite de formes différentielles continues sur $2 qui converge uniformément vers f sur $1 et telles que d f k = ax A (f - v k )

converge uniformément vers O sur $2. Grâce à la proposition 5 de l’annexe C et puisque 02 est strictement pseudoconvexe car 81 l’est, il résulte de la Proposition 3.1 qu’il existe un opérateur linéaire continu T de Z,,,($2) dans C:,,-,($2) tel que aT = I sur E,,,(&). Posons Uk = T ( & A (f - W k ) ) , alors lim IUklo,g, = O et

a u k = d f k . Par conséquent, si f k = fk - U k , la suite ( f k ) & N est contenue dans o

-

k - t m - _ - -

z:,,(&) et converge uniformément vers f sur $1.

Lemme 4.3. Soit R un domaine strictement pseudoconvexe borné à bord C2 de @” et p une fonction déjinissante strictement plurisousharmonique pour fl, i.e. fl = { z E Uan I p(z) < O}. PosonsR, = { z E Van I p(z) < E } u 0. Pour1E.I assezpetit,R, est un domaine strictement pseudoconvexe à bord C 2 . Il existe alors EO > O tel que,

4. Invariance de la cohomologie de Dolbeault 159

si -EO 5 cy < O 5 p 5 EO, on peut trouver un nombrefini de domaines 191, . . . ,ON telsqueR, = 81 C 02 C . . . C O N = Rp et, pourj = 1 , . . . ,N - 1, [û j , û j+ l ] soit une extension strictement pseudoconvexe élémentaire.

Démonstration. D'après le Théorème 3.23 du chapitrem, pour tout ( E da, il existe un voisinage Uc de E dans @" et h, une fonction holomorphe au voisinage de Üc telle que h(Uc n 0) soit strictement convexe à bord C2. Comme dR est compact, on peut extraire un sous recouvrement fini ( U i ) l i i i , du recouvrement (Uc)cEan.

I1 existe alors EO > O tel que nE, \ RpEo C u U,. Choisissons des fonctions

( x j ) j = l , , , , , ~ de classe C" à support compact dans @" telles que supp x j c U j , N

j = 1,. . . , N , et x j = 1 suraco \ R + ~ . Pour a et p fixés tels que -EO 5 cy < j=l

O < /3 5 E O , on pose

N

i=l

k Ok = (2 E CY I P ( Z ) - < (P - a) CXj(4).

j=l

Alors R, = I90 c . . . c 8N = Rp et siE0 est assez petit [Oj+l,8j] est une extension strictement pseudoconvexe élémentaire. O

Définition 4.4. Soient D CC R CC Cn des ouverts de @". On dira que R est une extension strictement pseudoconvexe de D , s'il existe un voisinage U de \ D et une fonction p strictement plurisousharmonique de classeC2 sur U telle que

D n U = { z E U I p ( z ) < O } et R n U = { z E U I p ( z ) < l } . On dira que l'extension estnon critique si la fonction p est sans point critique.

ront démontrés dans le cas général dans le paragraphe 8. Les résultats qui suivent restent valables sans l'hypothèse non critique. Ils se-

Proposition 4.5. Soient D, R des ouverts de C", D cc R cc @" tels que R soit une extension strictement pseudoconvexe non critique de D. Alors

i) pour tout ( p , q ) , O 5 p 5 n, O 5 q 5 n, l'application restriction Hi,':/2(G) + est un isomorphisme,

ii) pour tout ( p , q ) , O 5 p 5 n, O 5 q 5 n, l'application restriction Zp,q(o) -+ Zi,q(D) estd'image dense pour la topologie définie par la norme I lo,o.

Démonstration. Par définition dune extension strictement pseudoconvexe non critique, il existe un voisinage U de 2 \ D et une fonction p strictement plurisousharmonique de classe C2 sur U sans point critique telle que D n U = { z E U I p(z ) < O}etRnU = { z E U I p ( z ) < l}.PosonsRt = D U { z E U I p(z ) < t } , O 5 t 5 1. Soit T la borne supérieure de l'ensemble E des t E [0,1] pour lesquels il existe une suite finie 81, . . . ,8k d'ouverts de cc" tels que D = 00 c . . . c ûk = Rt et [0jp1,8j], j = 1, . . . ,k, soit une extension strictement pseudoconvexe élémen- taire. Prouvons que T = 1. En effet si T < 1, d'après le Lemme 4.3, il existe EO > O


tel que l'on puisse passer de à R T + ~ par une suite finie d'extensions strictement pseudoconvexes élémentaires pour tout E < E O . Choisissons E < EO tel que T - E E E alors T + E est aussi dans E ce qui contredit le fait que T est la borne su- périeure de E . Par conséquent T = 1. En appliquant alors le Lemme 4.3 à R = R1 avec ,6' = O et a E E , on obtient de plus que 1 E E.

Nous avons donc prouvé qu'il existe une suite finie 00, . . . ,ON d'ouverts de Cn tels que

D = 00 c " ' c ON = R

et que [Oj-1,0j], j = 1,. . . , N , soit une extension strictement pseudoconvexe élémentaire. Alors chacun des û j , j = O , . . . , N , est un ouvert strictement pseudoconvexe borné et d'après le Lemme 4.2, dune part toutes les applications restriction (ej) 3 H P , ~ o,l/2(ëj-1) sont des isomorphismes, si O < p < 71. et 1 < q < n, et donc la restriction cp = c p ~ O . . . O (pl : Hi;:/2(fi) + Hi , ' l / 2 (o ) est un isomorphisme, d'autre part toutes les applications restriction Zj,q(??j) 4 Z,",($j-l) sont d'image dense, si O , (o ) est d'image dense.

Théorème 4.6. Soit R un domaine strictement pseudoconvexe borné à bord c2 de Cn . Alors, pour tout couple (p ,q) , O < p < n, 1 < q 5 n, l'application restriction

H & - p ) + Hplq(R)

est un isomorphisme.

Démonstration. Soit U un voisinage de 80. Choisissons D CC R tel que R \ U C c D et R soit une extension strictement pseudoconvexe non critique de D. On a alors les applications restriction

H&yD) Lp, H"lq(n) 3 HP>, O , 1 /2 (m. En effet, par l'isomorphisme de Dolbeault HP>Q(R) s'identifie à Z~,,(R)/Z;,,(fl) n aCj,,-,(R) et cp est donc bien définie car EP,, (R) c Z;,,(R) n aC~,,-,(R). L'application restriction $ est elle aussi bien définie grâce à la régularité du a ( c f chap. III, Remarque 3.6). D'après la Proposition 4.5, $ O cp est un isomorphisme, donc cp est injective et $ est surjective. Pour obtenir le théorème il suffit de prouver que $ est injective ce qui résultera du lemme suivant :

1/2 - -

Lemme 4.7. Soient D et R deux ouverts de Cn tels que D CC 0. On suppose qu'il existe un voisinage U de R \ D et une fonction strictement plurisousharmonique p de classe C2 sans point critique telle que D n U = { z E U I p(z) < O} et D U { z E U I p(z) 5 C } CC R, pour toutC > O. Alors l'application restriction

HP?,((R) + H;;:/2(D)

estinjectivepourtout(p,q) telsqueO 5 p 5 n, i 5 q 5 n.

5. Théorème d'annulation pour la cohomologie de Dolbeault 161

Démonstration. On peut construire une suite

D = Do c D1 c . . . c Di, c . . d'ouverts bornés de C" tels que R = u DI, et Dk+l est une extension stricte-

ment pseudoconvexe sans point critique de Di,, si IC E N. Soit f E Zi,q(R) telle

suite wk E ~ l ~ , , - ~ ( D i , ) telle que f = dwi, sur Di,, car chaque Di, est une extension strictement pseudoconvexe non critique de DO. Nous allons construire une suite (ui,)lcEN de formes différentielles teiies que uk E C:,q- l (~k) , duk = f sur ~ i , et Iui,+l - ui,lo,B, 5 3. La suite (uk)kEW, ainsi construite, converge unifor- mément sur tout compact de R vers une forme différentielle u E Ci,,-,(O) telle que au = f sur D. Posons uo = wo et supposons construites ul l . . . , u k . La forme différentielle wk+l - u k est un élément de Z i , , - , ( o , ) et, d'après la Proposition 4.5 ii), il existe (lti,+l E ~,",,-,(Oi,+l) telle que

k>O

que f = a w o sur D, wo 6 Ap,q- 112 (D). D'après la Proposition 4.5, i), il existe une

112

Iwk+l - uk - Q l c + l l o , ~ , < 1 / 2 k . -

On pose alors ui,+l = wk+l - a k + l et on a bien dui,+l = f sur car O

- d(l tk+l = O sur Dlc+l, et I u k + l - u k l o , p , < 1/P.

Corollaire 4.8. Si alors

est un ouvert strictement pseudoconvexe borné à bord C2 de Cn,

dimHp,q(R) <+CO, si O < p < n et 1 L q < n .

Démonstration. C'est une conséquence immédiate du Corollaire 3.2 et du Théo- rème 4.6. O

5. THÉORÈME D'ANNULATION POUR LA COHOMOLOGIE DE DOLBEAULT DANS LES DOMAINES STRICTEMENT PSEUDOCONVEXES DE Cn

Nous présentons ici un résultat dû à Laufer [Lau] qui va nous permettre de dé- duire du théorème de finitude du paragraphe 4 un théorème d'annulation pour les groupes de cohomologie de Dolbeault. Ce résultat dit que si O est un ouvert de C" , les groupes de cohomologie de Dolbeault Hpiq(O), O 5 p 5 n, 1 5 q 5 n, sont soit réduits à O , soit de dimension infinie.

Théorème 5.1. SoientO un ouvert de C, p et q des entiers tels que O 5 p 5 n,l I: q 5 n - 1. Si EEq (O) = aCpsQ- (O) est un sous-espace vectoriel de codimension finie dans ZEq (a), alors

E;q(w = z,qqw.


Démonstration. Soit f E ZEq (0) \ (O) est de codimension finie dans 2pq(0), il existe un entier N E N* tel que le sous-espace vectoriel de ZEq(0) engendré par f,zlf,. . . , z y f rencontre EEq(R). On peut donc trouver des nombres complexes QO, . . . ,ON, non tous nuls et une forme différentielle u E CEq- (O) tels que

(a). Puisque

aof + alzlf + . ' . + a N z f J f = au sur R.

Ce qui s'écrit encore P(z1)f E EFq-,(R) avec P(z1) le polynôme a0 + a1z1 + . . . + Q N Z ~ . Notons Nf le minimum des degrés des polynômes P non nuls de la variable z1 tels que P(z1)f E EEq(R) et Pf un polynôme de degré N f tel que Pf(z1)f E E,OP,(R). Soient {fi,. . . , f k } C ZEQ(R) une base d u n supplémen- taire algébrique de EEq(R) dans ZEq(R). Posons P = Pfi . . . P f k . Le polynôme P vérifie alors

P(z1)f E EEq(R) pourtoute f E ZFq(R) . Notons NO le minimum de l'ensemble des entiers N tels qu'il existe un polynôme P non nul de la variable z1, de degré N vérifiant P(z,)f E EEq(R) pour toute f E ZEq (O). Supposons que NO 2 1 . Soit PO un polynôme de degré NO en la variable z1 tel que, pour toute f E ZEQ(0), Po(z1)f E E: (O). Fixons une forme différentielle f E ZEq(R), quelconque, il existe alors u ~ ~ < y ~ - ~ (R) telle que

(5.1) ~o(z1)f = d u sur R.

Dérivons l'égalité (5 .1 ) par rapport à z1, on obtient

où et e sont les formes différentielles obtenues en dérivant les coefficients des formes différentielles f et u par rapport à z1. La forme différentielle est encore dans Zrq(0) et donc Po(z1)S E E,OP,(R). Par conséquent le polynôme PO = 2 vérifie FO(z1)f E E ~ ~ ( R ) pour toute f E ZE~(R). Comme dOFp0 = NO - 1, cela contredit la minimalité de NO et donc NO = O. Nous avons ainsi prouvé que (R) = Zpq (CI).

Corollaire 5.2. Si R est un ouvert strictement pseudoconvexe borné à bord C2 de @" , alors

H:,':,2(n) = Hplq(R) = O, si O 5 p 5 n et1 5 q 5 n.

Démonstration. Puisque Hp,q(R) = Z,qP(O)/E&(R), il résulte du Corollaire 4.8 et du Théorème 5.1 que Hp,q(R) = O. Le résultat complet est alors une consé- quence du Théorème 4.6. O

Théorème 5.3. Soient R un ouvert strictement pseudoconvexe borné à bord C2 de C" , p et q des entiers tels que O 5 p 5 n et 1 5 q 5 n. Alors il existe un opérateur

-

6. Formule intégrale pour résoudre le d avec estimation holdérienne 163

- 1inéairecontinuT d e Z i , , ( a ) dansAk{:-l(R) t e lqueT(Z i , , (n ) ) c F,',p-l(R) et d O T=I.

Démonstration. Le Corollaire 5.2 nous dit que Zi,,(a) = Ej(:(R). I1 suffit alors

Terminons ce paragraphe par un lemme qui nous servira dans le paragraphe 6.

d'appliquer la proposition 5 de l'annexe C pour obtenir l'opérateur T .

Lemme 5.4. Soient R un domaine strictement pseudoconvexe borné à bord C2 de Cn et U, un voisinage de 52. Alors il existe un opérateur linéaire continu T ; Zcl(Us) + C"(R) telque8Tf = f dans0 pourtoute f E 204;(Us).

Démonstration. Nous allons prouver que l'opérateur T : Z:,,(D) + R112(R) donné par le Théorème 5.3 a les propriétés cherchées. Soit f E Zel(Us), alors T f est définie et dTf = f sur R, car Z,.P;(V,) C Zfo,ll(D). Grâce au Théo- rème 3.5 du chapitre III sur la régularité du a, on a T f E C"(R). Copérateur T définit donc un opérateur linéaire de ZC, ( U s ) dans C" (R). La continuité de T comme opérateur linéaire entre les espaces de Fréchet Z?, (U,) et C" (O) résulte alors du théorème du graphe fermé. En effet, soit ( f n ) n E N une suite d'éléments de Zrl ( U s ) telle que la suite ( f n ,T fn) converge vers (f ,g) dans Zel ( Us) x C" (CI). La continuité de T sur Z & ( G ) implique que T f n converge uniformément vers Tf sur a et comme 8T f = f sur R, la régularité du 8 nous dit que T f E C" (a). L'unicité de la limite implique alors que ( f , T f ) = (f,g), ( f , g ) est donc dans le graphe de T . O

Remarque : Une autre démonstration de ce lemme n'utilisant pas l'opérateur T du Théorème 5.3 est donnée dans [HILl] ( c f Lemme 2.4.1).

6. FORMULE INTÉGRALE POUR RÉSOUDRE LE 8 AVEC ESTIMATIONS HOLDÉRIENNES DANS LES DOMAINES STRICTEMENT PSEUDOCONVEXES

Soit R un domaine strictement pseudoconvexe borné à bordC2 de Cn . Nous allons construire une fonction d'appui globale @(.,<) pour R, c'est-à-dire une fonction de classe C1 définie sur U s x Uan, où Uan est un voisinage de dR et U s =

U R, telle que @ dépende holomorphiquement de z dans U s et @(z,<) # O si z E 2, < E Van et z # <. Cette fonction jouerale rôle de (w(z,<),< - z ) dans les formules intégrales, w étant une section de Leray associée à R.

Lemme 6.1. Soit 19 un ouvert borné de C7' etp une fonction strictementplurisoushar-


monique définie dans un voisinage de B. Posons

Soient a jk des fonctions de classeC' dans un voisinage d e 3 telles que

et E > O , choisi assez petit pour que

B z ) < ~ pour j , k = 1,. . .,2n a2 P d2 P (6.3) C , d , niax IC-zl I. I-(<)--( I 2n2

où xj = xj(<) sont les coordonnées réelles de J E C" telles que <j = xj(<) + Z X ~ + ~ ( < ) . Pourz,Ç E 3, ondéfinit

Alors pour tout z,C E e tels que IC - zI 5 E , on a l'estimation

(6.5) ReF(z1C) 2 P ( C ) - P ( Z ) + PIC - zI2.

Remarque : Puisque p est de classe C2 et P > O (car p strictement plurisousharmonique) il existe des fonctions a j k et un réel E tels que (6.2) et (6.3) soient satisfaites.

Démonstration. Soient < et z dans e tels que I< - zl 5 E . I1 résulte du Lemme 2.22 du chapitre Vi et de la formule de Taylor que si Fp est le polynôme de Levi de p

où lR(z,<)l 5 BI< - zI2 d'après (6.3). Grâce à (6.1), on obtient

ReF,(t ,O 2 P ( C ) - P ( Z ) + 2BIC - zI2,

mais on a lFp(.z,() - F(z,C)( 5 PIC - zI2, d'après (6.2) et donc Re F(z,C) 2 O P ( 0 - P ( 2 ) + P l i - zI2.

Théorème 6.2. SoitR un domaine strictement pseudoconvexe borné à bord de classe C 2 de Cn, 6 un voisinage de dR et p une fonction strictement plurisousharmonique de classeC2 définie dans un voisinage de 3 telle que

R n 0 = { z E e 1 p(z) < O).

Soient&, P, F(z,<) choisis comme dans le Lemme 6.1 avec& assez petit pour que

{ z E C* I I( - zI 5 2&} c 6 pourtout ( E da.

6. Formule intégrale pour résoudre le d avec estimation holdérienne 165

Alors il existe une fonction @(z,<) de classeCl définie sur Usi x Uan, où Uan est un voisinage de dR contenu dans 0 et U, = Uan ü R, telle que

0 @( z,C) dépend holomorphiquement de z dans U* ii) Q ( t , C ) # O pourtoutz E Uc,C E Van tekqueII - zI 2 E ,

i i i ) il existe une fonction de classeCl, M ( z , ( ) définie et non nulle pour t E E Uan tels que I(' - zI 5 E , vérifiant UE,

@kO = F ( 4 ) M ( z , C )

pourz E Ug,( E U ~ D telsque I( - zI 5 E .

Démonstration. I1 résulte del'estimation (6.5) que Re F(z ,<) 2 p(<) - p(z ) +,h2 pour z,( E 6' et E 5 IC - zI 5 2 ~ . Comme p = O sur 8 R et grâce au choix de E , on peut trouver un voisinage Vafi de dR contenu dans 6' assez petit pour que IpI 5 ,6$ sur Van et pour tout ( E Van la boule de centre C et de rayon 2~ est contenue dans 6'. Posons Vsi = s2 U Van, alors pour (z,C) E Vz x Vafi vérifiant IC - zI < ZE, z et ( appartiennent à 6' et Re F(z,C) 2 p$ pour z E VB, ( E Van tels que E 5 IC - zI 5 2 ~ . Par conséquent on peut définir lnF(z ,C) , où In est la détermination principale du logarithme, pour z E VE, ( E Van vérifiant E 5 IC - zI 5 2 ~ . Choisissons une fonction x de classe C" dans Cn telle que x(() = 1 si 5 y etx(E) = Opour 2 2. Pourz E V ~ e t C, E Van ondéfinit

Alors l'application C f(.,<) est de classe C' sur Van à valeurs dans Zpl (VG). Choisissons un voisinage Uan CC Van tel que U, = R ü Uan soit strictement pseudoconvexe borné à bord C2. I1 résulte du Lemme 5.4 qu'il existe un opérateur linéaire continu T : ZOg;(V,) -+ C"(U,) tel que aTy = cp sur U, pour toute 'p E Z c l (Vs). Pour t E UB et ( E Uan, on pose

.(.,O = ( T ( f ( . , C ) ) ( z ) , M ( 4 ) = exp(-u(z,C))

et F(z,C)M(t ,C)

I1 est clair que @ satisfait les conditions i] à iii] du théorème.

si IC - zl 5 E

exp(x(C - z) lnF(z ,C) - u(z,C) si IC - zI 2 E . @ k C ) = {

O

Remarques 1) Notons que nous n'avons pas utilisé le fait que dR est de classe C2. Le Théo-

rème 6.2 est encore vrai si dp s'annule sur as2 (cf [HelLel]). 2) Pour obtenir le Théorème 6.2 nous n'avons pas besoin de toute la force du

Théorème 5.3. Nous avons seulement besoin de savoir que si une (0.1)-forme diffé- rentielle est d-fermée au voisinage d u n domaine strictement pseudoconvexe, elie est exacte sur ce domaine et la solution de l'équation de Cauchy-Riemann est don- née par un opérateur linéaire.

166 Vil. Problème de Levi

Le Théorème 6.2, nous donne la solution du problème de Levi, pour les domaines strictement pseudoconvexes bornés à bord C2 (le cas général sera étudié au§ 7) .

Corollaire 6.3. Soit R un ouvert strictement pseudoconuexe borné à bord C2 de @". Alors R est un domaine d'holomorphie.

Démonstration. Considérons la fonction @ associée au domaine R par le Théorème 6.2 et fixons un point 50 E do. Alors la fonction f (2) = & est holomorphe dans R et f (2) tend vers l'infini quand z tend vers (0 dans D , elle ne peut donc se

Pour pouvoir appliquer la formule de Cauchy-Leray-Koppelman sur un domaine R strictement pseudoconvexe, nous devons maintenant construire une section de Leray pour ce domaine qui sera associée à la fonction d'appui @ du Théo- rème 6.2. I1 s'agit donc de trouver une application w de classe C1 sur U s x Uan, holomorphe en z sur Use t telle que (w(z,<),< - z ) = a(.,<).

prolonger holomorphiquement au voisinage (O.

Lemme 6.4. Soit R un ouvert strictement pseudoconuexe borné à bord C2 de C" , M1 = { z E Cn I z1 = O} et U, un voisinage de a. Alors pour toute fonction holomorphe f sur M1 n U z il existe une fonction f holomorphe dans R telle que f = f suriî41 n R.

Démonstration. Si U1 est un voisinage assez petit de M1 n 2, alors en posant F ( z ) = f ( O , z 2 , . . . ,zn) on obtient un prolongement holomorphe de f à U1. Choi- sissons des voisinages UilUr de M I ri tels que Ui CC U; CC U1. Soit x une fonction C" dans Cn telle que x = 1 sur Ui et supp x C U r , on pose

Alors cp est une (0,l)-forme différentielle, &fermée de classe C" dans un voisinage U de 0. D'après le Corollaire 5.2 appliqué à un domaine strictement pseudoconvexe à bord C2 contenant (;2 et contenu dans U , il existe une fonction u continue dans telle que au = cp dans R, ce qui implique ~ ( F x - z l u ) = O dans R. Par conséquent f = F X - z1u est holomorphe dans R et puisque x = 1 sur R n Ml

o f = F = f dansRnM1.

Lemme 6.5. Soient R un ouvert strictement pseudoconvexe borné à bord C2 de C", h f k = (2 E CC" I 21 = . . . = zk = O}, i 5 k 5 n, etUE un voisinage d e n . Alors si f est une fonction holomorphe dans UE telle que f = O sur M k f l UE il existe des

fonctions f i , . . . , fk holomorphes dans fl telles que f ( 2 ) = zjfj ( z ) pour tout k

j=l z E 0.

-

6. Formule intégrale pour résoudre le a avec estimation holdérienne 167

Démonstration. Si k = 1, on peut poser f i ( z ) = f ( z ) / z 1 . Raisonnons par récur- rence et supposons que le lemme est démontré pour Mk-1 dans @" , k - 1 5 c. Soit f une fonction holomorphe dans U, telle que f ( z ) = O si z E Mk f' U z Choisis- sons un ouvert strictement pseudoconvexe 6 tel que R CC 6 CC U s l'ensemble 6 n M1 est un ouvert strictement pseudoconvexe borné de M1 = CY-'. D'après l'hypothèse de récurrence il existe des fonctions fj(z2, . . . , zn ) , j = 2, . . . ,k, holo-

morphes dans 6 n M1 telles que f (2) = z j f j (z2, . . . , zn) pour z E 6 n M I .

Le Lemme 6.4, nous donne alors l'existence de fonctions fj,j = 2 , . . . , k , holomorphes dans R telles que f j (z ) = f j ( z 2 , . . . ,zn) pour z = (O,z2, . . . ,zn) E

k -

j = 2

-

E

R n M1. Pour terminer, il suffit alors de poser f 1 ( z ) = (f (2) - zj f j (2)) = 2

pourz E R. O

Théorème 6.6. Soient O un ouvert strictement pseudoconvexe borné à bord C2 de @" et Us2 un voisinage d e n . Si f est une fonction holomorphe sur U s il existe des fonctions hj holomorphes sura x R telles que, pour (z ,<) E R x R, on ait

n

j = i

- Démonstration. Choisissons un ouvert strictement pseudoconvexe borné R contenu dans CZn tel que R x R CC 6 CC Us2 x Us2 et définissons de nouvelles coordonnées dans C2" en posant uj = <j - zj et uj+, = z j pour j = 1, . . . ,n. Alors si on définit F par F(z ,<) = f(() - f ( z ) , F est holomorphe sur U, x Us2 et F = O sur UG x U, n {u E @2n I u1 = . . . = un = O}. On peut donc appliquer le Lemme 6.5 à F ce qui donne le résultat en revenant aux coordonnées (z ,<) . O

nous avons besoin dune version du Théorème 6.6 où f dépend de manière C1 d u n paramètre et où les f j

dépendent aussi de manière C 1 de ce paramètre.

Pour construire la section de Leray w associée à

Théorème 6.7. Soient X une variété de classe C k , k 2 1, 0 un ouvert strictement pseudoconvexe borné à bord C2 de en et Us2 un voisinage d e 2 . Si f est une fonction de classe C k sur X à valeurs dans C" ( UE) telle que f (.,x) soit holomorphe sur UE pourx E X , il existe des fonctions hj de classeCm sur (0 x O ) x X,1 5 j 5 n, telles que hj (.,x) soit holomorphe sur R x R pour x E X et qui vérifient pour tout x E X et(z,Ç) E R x R

71

f (<J) - f ( z , z ) = h j ( < , ~ , 4 ( C j - 4. j = l

La démonstration du Théorème 6.7 suit pas à pas celle du Théorème 6.6. Nous détaillerons seulement la version du Lemme 6.4 avec paramètre.


Lemme 6.8. Soient X une variété de classeCk , I C 2 1, R un ouvert strictement pseudoconvexe bornéà borde2 deCn, M1 = { z E Cn I z1 = O } , U z un voisinagede R. Si f est une fonction de classe Ck sur X à valeurs dans C" (U, n M I ) telle que f (.,x) soit holomorphe sur Uz n M1 pour x E X , il existe une fonction f de classe Ck sur X à valeurs dans C" ( R ) telle que j ( .,x) soit holomorphe sur R pour x E X et vérifie pourx E X et (O,zz,. . . ,z,) E R

J((oA, . . . ,zn) ,x) = f((O>z2>.. . ,zn),x).

Démonstration. Elle est analogue à celie du Lemme 6.4 dont nous reprenons les notations. Posons

s i z E X e t z E C n \ U 1 ,

cp est une forme différentielle de classe C k sur X x Vi, 8,-fermée. Choisis- sons un ouvert fi strictement pseudoconvexe à bord C2 tel que R c fi CC U1. L'application x H cp(.,x) est de classe C k sur X à valeur dans Zrl (VI) . D'après le Lemme 5.4, il existe un opérateur linéaire continu T de Z,qi(Ul) dans C" (6) tel quedoT = Id. Posonsu(.,x) = T(cp(.,x)).AlorsuestdeclasseCk surxàvaleurs dans C"(6) et f(z,x) = x(z)F(z,x) - zlu(z,x) est la fonction cherchée. O

Corollaire 6.9. SoientR un domaine strictement pseudoconvexe borné de Cn, et@ la fonction d'appui associée au domaine R par le Théorème 6.2 défnie sur U, x Uan. Il existe un voisinage Van de 130, Van CC Uan et une application w de classeCl sur Va x Van, où Vz = Van U R, holomorphe en z sur Vz telle que

n

@(.,C) = C W j ( r , C ) ( C j - " j ) = (w,C - 2 ) j= l

pour z E Vo,< E Vao. De plus w est une section de Leray pour R.

Démonstration. En appliquant le Théorème 6.7 à @ on obtient n

@((,CI - w.4 = hj(C,Z,C)(<j - " j ) j=l

et, puisque @(<,<) = 0,en prenant ( = C on a n

@(Z,C) = C W j ( Z , C ) ( < j - " j ) j=1

où wj (z,<) = -hj (C,z,<) a les propriétés cherchées. O

Remarque : La section de Leray w ainsi obtenue convient également pour tous les domaines strictement pseudoconvexes de la forme

a \ Van u {. E Van I P(.z) < -6)

- 6. Formule intégrale pour résoudre le d avec estimation holdénenne 169

pour 6 > O assez petit.

En utilisant la section de Leray globale que nous venons de construire, nous obtenons un opérateur intégral qui permet de résoudre le a avec estimation holdé- rienne d'ordre 1/2.

Théorème 6.10. Soient un domaine borné strictement pseudoconuexe ù borde2 de Cn et w la section de Leray associée ù R par le Corollaire 6.9. Il existe une constante C telle que

i) pour toute forme différentielle f continue surn , l'intégrale

R$nf =/ f (C) A KqU'( . ,C ,4 (C>x)€anx [0,11

satisfait l'estimation I%nf I1/2,n I ClflO,r,

_ - ii) pour toute (p,q)-forme différentielle f continue sur R, ô-fermée dans R,

0 5 P 5 n,1 5 4 5 n,

u = (-1)"+"R;nf + Bn f)

lul1/2,n 5 Clf I0,n.

Deplus, u E C&,(R) pourtoutcr E]0,1[ etsi f estdeclasseCk dansR,k =

pourtoutcr E ] o , ~ [ .

est solution de l'équation& = f dans R et vérifie

1 ,2 , . . .,co,alorsu E

Démonstration. D'après le Théorème 3.3 du chapitre Vi il ne reste à prouver que 0. Pour cela il suffit de montrer que la section de Leray w satisfait les hypothèses du Lemme 1.3. Les conditions i) et ii) résultent du Corollaire 6.9, il faut prouver iii).

Fixons E R. Par définition de w et <p on a

( W ( Z , O , C - 4 = F ( Z 1 C ) A 4 ( Z , C )

où F et A4 ont les propriétés données dans le Lemme 6.1 et le Théorème 6.2. On peut alors choisir un voisinage U, de [ assez petit pour qu'il existe 61 > O tel que

(6.6) I (44),< - 4 I L 61 (+,O I si z,< E Uc. Posons tl(z,C) = ImF(z,<) et soit xj = xj(<) les coordonnées réelles de C E Cn teiles que ( j = x j (C) + Zxj+, (C). Alors


et par conséquent

Donc n//dCtl(z,<)lC=t A d p ( z ) / / 2 / / d p ( z ) / / 2 pour tout z E dR car le coefficient de dx, (2) A dx,+,(z) dans la forme différentielle du membre de gauche est -[($(z))z + (&(z ) ) ’ ] . Puisquedp(z) # Opourz E dRcarRes tàbord C2, quitte à restreindre Uc, on peut trouver des fonctions de classe C 1 , &?, . . . , t ~ , , - ~ sur U , , telles que pour tout z E Uc t 1 (z;) $2, . . . ,t2n- 1 soient des coordonnées sur ~ c n û R . û n p o s e t , ( z , < ) = i , ( ~ ) - t , ( z ) p o u r z , < ~ U < , ~ = Z , . . . , 2 n - - l . ~ l o r s pour tout z E Uc fixé les fonctions t l ( z , . ) , . . . , t2n-l(z, .) sont aussi des coordon- nées sur ûfl n Uc. Pour terminer il faut prouver l’estimation (I .2) pour ces coor- données. Puisque t , ( z , z ) = O, quitte à restreindre encore Uc, la formule de Taylor implique l’existence de 62 > O tel que IC - z / 2 &lt(z,C)I pour tout z,C E Uc. I1 résulte alors de l’estimation (6.5) du Lemme 6.1 que, après une nouvelle restriction de U . , on peut trouver 63 > O tel que pour z,C E Uc

IF(z,C)l 2 63(/ti(Z1<)I + P ( < ) - P ( z ) + k(z,C)l2). Comme p(C) = O, si < E 8R, et comme il existe 64 > O tel que -p (z ) 2 64 dist(z,dR), si z E D n Uc, onaura

/F ( z ,<) / 2 &i64((ti(Z,<)/ + /t(z,c)/2 + dist(z,dfi)) pour z E D n U, et < E d D n Uc. D’où le résultat en tenant compte de (6.6).

- -

O

Remarque : L‘intérêt du Théorème 6.10 par rapport aux résultats du paragraphe 5 est que l’opérateur intégral est beaucoup plus explicite, ce qui peut permettre de montrer par exemple que la constante C dépend, en un certain sens, continûment du domaine R.

7. PROBLÈME DE LEVI DANS Cn

Commençons ce paragraphe en prouvant le Théorème d‘approximation d’Oka- Weil. I1 nous servira à résoudre le problème de Levi et à prouver l’annulation des groupes de cohomologie de Dolbeault pour les ouverts pseudoconvexes de @” en bidegré (p ,q ) , O 5 p 5 n, 1 5 q 5 n.

Théorème 7.1. Soient0 C Cn un ouvertpseudoconvexeetK CC R un compact tel que K = K i . Alors, si0 5 p 5 n, toute (p,O) -forme holomorphe dans un voisinage de K peut être approchée uniformément sur K par des fonctions holomorphes dans R.

h

Démonstration. Soit h une (p,O)-forme holomorphe dans un voisinage UK de K . D’après le Corollaire 3.13 du chapitre VI, il existe une fonction strictement plurisousharmonique de classe C” p : R -+ IR telle que

7. Problème de Levi dans Cn 171

i) R, = { z E R I p(z) < Q} CC R, pour tout Q E R, ii) l’ensemble Crit(p) = { z E R 1 dp(z ) = O} est discret dans R,

iii) p < O s u r K e t p > OsurR\UK. Soit QO la borne supérieure des (Y E IR tels que h puisse être approché uniformé- ment sur K par des (p,O)-formes holomorphes dans O,. Puisque h E C,,O(UK) et ah = O sur U K , (YO > O carp > O sur R \ U K . Pour prouver que a0 = +CQ,

puis démontrer le théorème il suffit de suivre pas à pas la démonstration du Théo- rème 2.1 où la fonction (a et la section de Leray associées w sont définies de la ma- nière suivante : Grâce au Théorème 6.2 au Corollaire 6.9 et à l’estimation (6.5) il existe un réel 6 > O, une fonction C1, (a(.,<) et une application C1 à valeurs dans - en, w(z,<) définies pour z dans un voisinage de Dao+6 et < dans un voisinage de Dao+g \ Dno-6 telles que

a) (a(z,<) et w(z,<) sont holomorphes en z , b) @(.,O = (d.,O,< - 4, c) @(.,O # 0 si a 0 - 6 5 p(<) 5 Qo + 6 et p ( z ) < P(<)? d) w(z ,<) est une section de Leraypour Dao-6

et d’après la propriété iil de p, on peut supposer que dp(z) # O si z E dD,,-6 et O appliquer la formule de Leray au domaine Dao-6.

Remarque : Le Théorème 7.1 peut être prouvé sans utiliser le 3 6 mais à l’aide de la Proposition 4.5 comme cela sera fait pour l’assertion iil du Théorème 8.11.

Théoreme 7.2. Soit R C en un ouvert pseudoconvexe. Alors pour tout compact K d e R , Kg = Ka.

A

h A

Démonstration. On sait déjà que Kg C KR (cf. la remarque qui suit la Définition 3.3 du chapitre VI). Pour prouver la réciproque, choisissons un point E E R \ et construisons une fonction h holomorphe dans R telle que

(7.1) Ih(0l > y; lh(z)l. I1 résulte du Corollaire 3.13 et du Lemme 2.24 du chapitre VI, qu’il existe un ouvert strictement pseudoconvexe G cc R tel que K CC G, E E dG et G, = G, car G est défini par { z E R I p(z ) < O} où p est plurisousharmonique de classe C” sur R. D’après le Théorème 6.2 et l’estimation (6.5), il existe une fonction de classe C1, (z ,<) définie pour < dans un voisinage UaG de dG et z dans un voisinage UG de G telle que (a(.,<) soit holomorphe en z dans U s (a(<,<) = O et (a(.,<) # O pour tout < E u ~ G \ G e t z E G. Alors pour tout (0 E UaG \ G fixé, & est holomorphe en z dans un voisinage de E. Puisque K CC G, E E dG et (a(<,<) = O, on peut choisir (0 E Uac \ G assez proche de pour que

5 -

5 Puisque G = G,, il résulte du Théorème 7.1 qu’il existe une fonction h holomorphe dans R telle que Ih(z) - &I < f pour tout z E G. Grâce à (7.2),

O la condition (7.1) est alors satisfaite.


Corollaire 7.3. Un ouvert de Cn est un domaine d'holomorphie si et seulement s'il est pseudoconvexe.

Démonstration. On a vu au chapitre Vi, Corollaire 3.7 que tout domaine d'holomorphie est pseudoconvexe. La réciproque est une conséquence immédiate du Théorème 7.2, de la définition des ouverts pseudoconvexes (cf. chap. Vi, déf. 3.5) et

O du Théorème de Cartan-Thullen (cf. chap. Vi, th. 1.13).

Théorème 7.4. Soient D C Cn un ouvert pseudoconvexe, p et y des entiers tels que 0 5 p 5 n et 1 5 y 5 n et k E U {+CO}. Alors pour toute (p,y)-forme différentielle f de classel'" dans D telle que8 f = O dans D, il existe une solution u delëquation8u = f surD tellequeu E Ci:U,(D) pourtoutcu ~ ] 0 , 1 [ .

Démonstration. D'après le Corollaire 3.13 du chapitre Vi, il existe une fonction strictement plurisousharmonique p de classe C" dans D telle que

i) D , = { z E D I p ( z ) < a } CC Dpour touta E R, ii) l'ensemble Crit(p) = { z E D I dp(z ) = O} est discret dans D .

Grâce à la propriété ii), on peut trouver une suite (au), ,E~ de réels tendant vers l'infini telle que d p ( z ) # O si z E BD,,, D,, est un domaine strictement pseudoconvexe à bord C" et u Da,. Grâce au Théorème 6.10, pour tout v E N, il existe

des formes différentielles u , E ( D a , ) , O < a < 1, telles que au,, = f dans D a , . Nous obtiendrons une solution u de au = f sur D à l'aide des formes u,.

Supposons dans un premier temps que q 3 2 . Nous allons construire une suite (vv),,>3 de formes différentielles solutions de 8v, = f sur Da, et telles que v, E

lim v, sera la solution cherchée. Posons 03 = u3 et supposons construites v3, . . . ,ve pour C 2 3. Alors ve-ue+l est &fermée dans Da, et le Théorème 6.10 nous donne une solution 'p E Cp,:?l(Da,_,), O < a < 1, de& = we - ue+1 dans Da,-, . Choisissons une fonction x de classe C" à support compact dans Da,- , et constante égale à 1 sur Da,-, et posons ve+1 = ut t l + d(x'p). La forme différentielle ve+1 satisfait les conditions demandées.

Considérons maintenant le cas y = 1. Nous allons construire une suite ( v , ) , L ~ de solutions de du,, = f dans D a , telles que vu E C ~ , ~ " ( D a , ) et lvv(z) - v,+l(z)I < 2 - , pour z E Da,-l. Une telle suite converge uniformément sur tout compact de D vers une (p,O)-forme u qui a les propriétés requises car les dif- férences u - vu sont holomorphes sur Du. Posons v2 = u2 et supposons v2, . . . ,ve construites pour 2 2. Alors la différence ve - u(+1 est holomorphe dans D,, et grâce auThéorème 7.1 il existe v E cP,o(D), 8-fermée telle que Ive(z) - uc+1 ( z ) -

17

V € N

k+a-(D,,), O < a < 1, et v, = v,+l dans Da,-Î et u = C P / - l ,+CC

.(.)I < 2-e pour z E Da,-, . I1 suffit alors de poser ve+1 = ue+1 - v.

Corollaire 7.5. Soit D un ouvert pseudoconvexe de C" , alors HP,q( D ) = O pour tout (p,y) telque0 ~ ( D ) = O i 5 q 5 n - 1.

Démonstration. La condition nécessaire est une conséquence des Corollaires 7.3 et 7.5.

Nous allons prouver la condition suffisante par récurrence sur la dimension complexe n. Si n = 1, l'hypothèse est vide, mais le théorème est vrai car tout ouvert de C est un domaine d'holomorphie. Supposons que le théorème est vrai pour les ouverts de Cn-' ,n 2 2 et considérons un ouvert D de C" pour lequel Ho)q(D) = O si 1 5 q 5 n - 1.

Montrons pour commencer que si L est une sous-variété linéaire affine de Cn de dimension complexe n - 1, toute composante connexe de D n L considé- rée comme un ouvert de L 2 CnP1 est un domaine dholomorphie. D'après l'hypothèse de récurrence, il suffit de prouver que Ho>q(D n L ) = O pour 1 5 q 5 n - 2. Sans perte de généralité, on peut supposer que L = { z E @" I z, = O}. Soit cp une (0,q)-forme différentielle de classe c", d-fermée sur D n L, 1 5 q 5 n - 2, alors cp s'étend à un voisinage U de D n L dans D en une forme différentielle de classe C", d-fermée, de type (0 ,q) (il suffit de considérer cp comme une forme ne dépendant pas de zn) . Soit x une fonction de classe C" dans D , égale à 1 sur un voisinage de D n L dans D et à support dans U . On pose

-

-

- On définit ainsi une (0,q + 1)-forme différentielle de classe C", d-fermée dans D tout entier. Puisque par hypothèse Ho>q+l(D) = O, il existe une (0,q)-forme différentielle de classe C" dans D telle que da = a. On a alors

-

sur D et comme Hotq(D) = O, il existe une (0,q - 1)-forme différentielle Q de classe C" dans D telle que x@ - zn% = 8s. En restreignant cette identité à L et en posant 6' = Q I L , on a obtenu une (0,q - 1)-forme différentielle 6' sur D n L telle que 88 = cp ce qui prouve que H0+7(D n L ) = O.

Supposons maintenant que D n'est pas un domaine d'holomorphie, il existe alors deux ouverts D1 et 0 2 tels que 0 # D1 c D2 n D, 0 2 non contenu dans D et pour toute fonction holomorphe dans D, il existe une fonction g2 E O ( & ) telle que g = g2 sur D1. Soient E Dl et L une sous-variété linéaire affine de @" de dimension complexe n - 1 passant par et telle qu'il existe un point ( E a ( D n L ) n f 1 2 . Puisque toutes les composantes connexes de D n L sont des domaines dholomorphie dans L 2 enpi ainsi que nous venons de le prouver, il existe une fonction f holomorphe dans D n L qui ne peut être étendue en une fonction holomorphe au voisinage de (. Comme H 0 ) l ( D ) = O, il ré- sulte du Lemme 6.4 que f est la restriction à D n L dune fonction g holomorphe


sur D (le Lemme 6.4 est donné sous l'hypothèse d u n ouvert 0 strictement pseudoconvexe, mais on remarque que la démonstration utilise seulement le fait que Ho>'(R) = O). Mais cette fonction g s'étend en une fonction holomorphe au voisinage de ce qui contredit l'hypothèse faite surf. Par conséquent D est un domaine dholomorphie. O

Terminons ce paragraphe en regroupant dans un seul énoncé les résultats du Corollaire 7.3, du Théorème 7.6 et du Théorème 1.13 du chapitre VI.

Corollaire 7.7. Soit D un ouvert de @" . Les conditions suivantes sont équivalentes : i) D est un domaine d'holomorphie.

ii) D est holomorphiquement convexe. iii) D est pseudoconvexe. iv) Ho>'J(D) = Osi l 5 q 5 n - 1.

8. PROBLCME DE LEVI DANS LES VARIÉTÉS ANALnIQUES COMPLEXES

L'objet de ce paragraphe est de relier dans une variété analytique complexe la notion de convexité holomorphe et l'existence dune fonction dexhaustion plurisousharmonique de classe C2.

A. Résolution du a dans les variétés analytiques complexes

Dans tout le paragraphe X désignera une variété analytique complexe de dimension n.

Définition 8.1. Un ouvert D relativement compact dans X est dit strictement pseudoconvexe s'il existe une fonction p strictement plurisousharmonique de classe C2 définie dans un voisinage du bord de D et telle que D n U ~ D = { z E U ~ D I p(z ) < O} e t d p ( z ) # Opourtoutz E dD.

Remarque : La notion de fonction plurisousharmonique et strictement plurisousharmonique a bien un sens dans une variété analytique complexe car elle est invariante par changement de coordonnées holomorphes.

La définition d u n ouvert strictement pseudoconvexe donnée ici coïncide avec celle du chapitre Vi lorsque X = C". On peut également remarquer qu'un tel domaine est à bord C2.

Contrairement à ce qui se passe dans C" , on ne peut pas toujours résoudre le d dans un ouvert strictement pseudoconvexe dune variété analytique complexe quelconque. Néanmoins la Proposition 3.1 ainsi que sa démonstration restent encore valables dans ce cadre plus général.

-

8. Problème de Levi dans les variétés analytiques complexes 175

Théorème 8.2. Soient D un ouvert strictement pseudoconuexe à bord C2 relativement compact dans X , p etq des entiers tels que O 5 p 5 n, O 5 q 5 n. Alors

i) il existe des opérateurs linéaires continus T: de Cp,,(o) dans Ai(:- ( D ) telsque,sif E C:,,(D) vérifiedf E c;,,(D), o n a

où KQ est un opérateur compactdeC;,q(D) dans lui-même,

même dont l’image est de codimension finie, ii) si q 2 1, dT,P définit un opérateur linéaire continu de Z,”,,(D) dans lui-

iii) Ej(:(D) est un sous-espace vectoriel fermé de codimension finie de zp,q (D).

Nous allons prouver maintenant que, si un ouvert D de X admet une fonction définissante strictement plurisousharmonique de classe C2 définie au voisinage de D et pas seulement sur un voisinage de dD, alors on peut résoudre le a dans D. Notons qu’un domaine strictement pseudoconvexe de cc“ possède cette propriété (cf chapitre Vi, Théorème 3.19), mais ce n’est pas le cas d’un domaine strictement pseudoconvexe dune variété analytique complexe quelconque.

-

Définition 8.3. Une fonction continue sur X à valeurs réelles est dite d’exhaustion si pour touta E R, l’ensemble{z E X I p ( z ) < O } est relatiuementcompactdansX.

Nous nous intéressons aux variétés analytiques complexes qui possèdent une fonction dexhaustion strictement plurisousharmonique de classe C2.

Proposition 8.4. Si X admet une fonction d’exhaustion strictement plurisousharmonique de classec’, alors elle possède une fonction d’exhaustion strictement plurisousharmonique de classe C2 dont l’ensemble des points critiques est discret.

Cette proposition est une conséquence immédiate du Lemme de Morse suivant :

Lemme 8.5. Soient x une variété analytique complexe et p une fonction strictement plurisousharmonique de classe C2 dans X . Si K est un compact de X tel que d p ( z ) # O pour tout z E K , alors pour tout E > O, il existe une fonction pE strictement plurisousharmonique de classeC2 dans X telle que

i) p - p, ainsi que ses dérivées premières et secondes sont majorées par€ sur X ,

ii) l’ensemble Crit (p , ) = { z E X I dp, (2) = O } est discret dans X , iii) pE = p s u r K .

Démonstration. Soit UK un voisinage de K tel que dp # O dans U K . I1 existe alors deux suites d’ouverts (Uj)jEw. et ( V j ) j E w . relativement compacts dans X tels que

oc>

d X \ U K C u uj, j=l


b) pour tout j , V, est un domaine de carte et Uj CC Vj, c) V, n K = 0 pour tout j, d) pour tout compact L de X il n'existe qu'un nombre fini d'indices j tels que

Grâce aux Lemmes 2.24 et 3.12 du chapitre VI, on peut construire une suite ( x j ) j E ~ de fonctions de classe C" dans X telles que pour tout j on ait

L n V , # 0 .

1) xj = O dans un voisinage de X \ V, et par conséquent xj = O sur K , 2) la fonction p + + . . . + xj est strictement plurisousharmonique dans X

3) la fonction xj ainsi que ses dérivées premières et secondes sont majorées par et n'a qu'un nombre fini de points critiques sur K ü Ü1 ü . . . ü Üj,

~ / 2 j sur X .

Alors pE = p + xj convient. O 03

j=l

Dans les variétés analytiques complexes nous devons remplacer la notion d'extension strictement pseudoconvexe élémentaire par celle un peu plus géné- rale d'élément d'extension strictement pseudoconvexe pour pouvoir traverser les points critiques.

Définition 8.6. On appelle élément d'extension strictement pseudoconvexe un couple ordonné [O1 ,821 d'ouverts de X à bord de classe C2 tel que 81 c 8 2 satisfaisant la condition suivante: il existe un ouvert pseudoconvexeV contenu dans un domaine de carte de X contenant 8 2 \ 81 et des domaines Dl et 0 2 strictement pseudo- convexestelsqueD1 c D2,02 = û1UD2,B inD2 = D1,(ûl \ D2)n(& \Ol) = 0 et une application biholomorphe définie sur un voisinage de 7 à valeurs dans Cn telle que h ( D j ) , j = 1,2, soit un domaine borné strictement pseudoconvexe à bord C2 de C" .

Le Lemme 4.2 reste valable pour cette notion si on remplace dans sa démons- tration le Théorème 1.6 par le Théorème 5.3, le Théorème 2.2 par le Théorème 7.1 et la Proposition 3.1 par la Proposition 8.2. Nous allons étendre le Lemme 4.3 au cas où la fonction p possède des points critiques isolés.

~-

Lemme 8.7. Soit p : X + IR une fonction strictement plurisousharmonique de classe C2 telle que Crit(p) soit discret. On pose D, = { z E X I p(z ) < a } pour a E IR et on suppose que dDo est compact. Il existe E > O tel que pour tout a,,û vérifiant -E 5 a < O < p 5 E il existe un nombre fini de domaines 81, . . . ,ON

telsque D, = 81 c . . . c ON c Dp e tpour j = 1 , . , , ,N - 1, [Oj,Oj+l] soit un élément d'extension strictement pseudoconvexe.

Démonstration. Puisque Crit p est discret il existe EO > O tel que Crit(p) (DEO \ DvE0) soit fini et contenu dans dDo. Notons < I , . . . ,<M les points critiques de p contenus dans DO et choisissons Vi, . . . ,VM des ouverts de X deux à deux disjoints tels que ,$ € % et Vj soit contenu dans un domaine de carte de X pour tout j = 1, . . . ,M. Comme dDo est compact il existe des ouverts V M + ~ , . . . ,V, conte-


N

j=M+1 nus chacun dans un domaine de carte de X tels que Crit(p) f? ( 5) = 0 et

dDo \ Crit(p) C V,. SoitE1 telque0 < ~1 < &oetDE1 \ D-E, C U Vj.

Choisissons des fonctions ( x j ) . j = l , , . . , ~ de classe C" à support compact dans Cn

U N N

U j = M + 1 j= l

- N

= 1 telles que supp x j C V,, j = 1, . . . ,N et x j = 1 sur DE, \ DPEl. Soit E tel que

O < E < E 1 . P o u r a e t b f i x é s t e i s q u e - E - < a < O < p < E , o n p o s e

k

Ok = (2 E I p(z ) - a < (P - C Y ) C X j ( Z ) } j=l

alors D, = 01 C . . . C ON C Do. Notons ( z l , , . . . ,zn,) des coordonnées ho-

. La fonction p étant N

lomorphes sur V, et posons C = J=1 Z € V , I sup

J 1 J

strictement plurisousharmonique, il existe y > O tel que pour tout < E Cn et

. .

N 36 (dx j ( z ) I pour z E DE1 \ D-E1, alors si E < min(ii,&,) pour tout j =

I , . . . ,N - 1, [ O j , O j + l ] est un élément d'extension strictement pseudoconvexe. O j=l

Remarque : Si dDo n Crit ( p ) = 0 on peut autoriser CY = O ou ,O = O dans le Lemme 8.7.

Comme dans le cas de Cn, on peut définir la notion d'extension strictement pseudoconvexe dans les variétés analytiques complexes.

Définition 8.8. Soient D CC 0 CC X des ouverts de X . On dira que est une extension strictement pseudoconvexe de D s'il existe un voisinage U de (;2 \ D et une fonction p strictement plurisousharmonique de ciasseC2 sur U telle que

D fl U = { z E U I p(z) < O} et dp(z) # O si z E aD R n U = { z E U I p(z) < 1) et dp(z) # O si z E d o .

Remarque : Grâce au Lemme 8.5 la fonction p peut être choisie telie que Crit(p) soit discret. En utilisant le Lemme 8.7 à la place du Lemme 4.3, la démonstration de la Proposition 4.5 s'étend aux extensions strictement pseudoconvexes dans les variétés andytiques complexes. On obtient donc :

Proposition 8.9. Soient D e t a des ouverts de X , D CC R CC X tels que extension strictement pseudoconvexe de D. Alors

soit une


i) l’application restriction

est un isomorphisme,

Zp,q(2) -+ Zp,q(D) estd’imagedense. ii) pour tout (p,q),O I p 5 n,O 5 y 5 n, l’application restriction

De même le Lemme 4.7 est encore vrai sous la forme suivante :

Proposition 8.10. Soient D et R deux ouverts de X tels que D cc 0. On suppose qu’il existe un voisinage U de R\ D et une fonction strictement plurisousharmonique p de classec’ telle que D n U = { z E U I p(z ) < O},dp(z) # O s iz E i)D, D U { z E U I p(z ) I C } CC 0, pour toutC > O. Alors l’application restriction

Hp iq (R) -+ HP,‘ 0,1,2 (D) est injective pour tout ( p , q ) tel que O 5 p 5 n, l 5 q 5 n.

Nous pouvons maintenant prouver le résultat principal de ce paragraphe.

Théorème 8.1 1. Soient X une variété analytique complexe possédant une fonction d’exhaustion p strictement plurisousharmonique de classe C 2 et D un ouvert de X délfiniparD = { z E X I p(z ) < (Y} telquedp(z) # Osiz E i)D.

i) Pourtoutcouple(p,q),O 5 p I n, i I q 5 n HP>q

O,1 /2 (0 ) = 0. Plus précisément il existe un opérateur linéaire continu T de l’espace de Banach Z i , q (D) duns l’espace de Banach hP!t-l ( D ) tel que

- d T f = f sur D pour toute f E Z;,,(D).

ii) Toute (p,O) -forme différentielle continue sur D et holomorphe dans D peut être approchée uniformément s u r ) par des (p,O) -formes holomorphes sur X .

iii) Pour toutcouple (p,q),O 5 p 5 n,l 5 q 5 n

HP>*(X) = o.

Démonstration. Grâce au Lemme 8.5 appliqué avec K = û D , on peut supposer que Crit(p) est discret. Notons (YO = minp(z). Si z E X vérifie p ( z ) = (YO, alors

ZEX 2 E Crit(p). Cet ensemble étant discret, il n’existe qu’un nombre fini de tels points z dans X . Par conséquent, pour E > O assezpetit Dao+E = ( z E X I p(z) < (YO + E } est biholomorphe à une réunion finie de domaines strictement pseudoconvexes bornés à bord C 2 de CCZ et donc d‘après le Corollaire 5.2, si O 5 p < n et 1 5 q 5 n

HP>q - (8.2) 0,1/2(Dao+4 = 0. Mais D est une extension strictement pseudoconvexe de Dao+E, la Proposition 8.9 implique donc que, si O 5 p 5 n et 1 5 q 5 n,

H:,’i/2(D) = O.


L‘existence de l’opérateur T est alors une conséquence du Théorème 8.2 et de la proposition 5 de l’annexe C. Nous avons ainsi prouvé il. Puisque le couple (Dao+E,X) vérifie les hypothèses de la Proposition 8.10, l’assertion iii) résulte de (8.2).

Prouvons iil pour terminer. Puisque Crit p est discret, on peut construire une suite (pj)jew de réels tels que PO = <Y < /31 < P 2 < . . . tendant vers l’infini telle que, si Do, = (2 E X I p ( z ) < /3 j} ,dp(z ) # O si t E dDoj. Pour tout J’ E N, Dp,,, est alors une extension strictement pseudoconvexe de Do,. Grâce a l’assertion ijl de la Proposition 8.9, pour tout E > O, si f E Z ~ , o ( ~ ) , on peut construire une suite (fJ)jEfü de formes différentielles telles que fj E z,O,o(Dp,),fo = f et Ifj+i - fj(O,Da, < +ï. La suite ( f j ) j e w converge uni- formément sur tout compact vers une (p,O)-forme f holomorphe sur X telle que If- fl0,D < E. O

B. Problème de Levi

Dans tout le paragraphe X désignera une variété analytique complexe de dimension n.

Définition 8.12. Pour tout compact K d e X , on définit

ii-x = (2 E x I I f ( z ) l I: SUP If(<)l,Vf E Q ( X ) } . CEK

L‘ensemble k x est appelé l’enveloppe holomorphiquement convexe de K dans X . Si K = K x , alors K est dit O( X ) -convexe.

Définition 8.13. Une variété analytgue complexe X est holomorphiquement convexe si pour tout compact K de X , K x est compact.

Définition 8.14. Une variété analytique complexe X de dimension n est une variété de Stein si

i) X est holomorphiquement convexe, ii) pour tout point z E X , il existe n fonctions f i , . . . , f n E Q ( X ) qui

forment un système de coordonnées locales au voisinage de X (c’est-à-dire il existe un voisinage U de z tel que l’application F : < H ( f 1 (<) , . . . , fn (<)) soit biholomorphe de U sur l’ouvert F ( U ) de Pl.

Exemple : D’après le Théorème 1.13 du chapitre VI tout domaine dholomorphie de en est une variété de Stein.

Définition 8.15. Un sous-ensemble V d’une variété analytique complexe X de dimension n est une sous-variété analytique de dimension m < n si

i) V est fermé,


ii) pour tout z E V il existe un voisinage w de z et des coordonnées locales (z1, . . . ,z,) d e X tellesque

w n V = {< E w I ~m+i(<) = . . . = zn(<) = O}.

Remarquons que si (fi, . . . , f , ) est un système de coordonnées locales de X au voisinage de z E V , il existe m de ces fonctions qui forment un système de coordonnées locales de V au voisinage de z .

On en déduit aisément le résultat suivant :

Proposition 8.16. Toute sous-variété analytique complexe d'une variété de Stein est une variété de Stein. En particulier toute sous-variété analytique complexe de Cn est une variété de Stein.

Remarque : On peut prouver, mais nous ne le ferons pas dans ce volume, que toute variété de Stein est biholomorphiquement équivalente à une sous-variété analytique complexe d u n certain <CN ( c f [Ho], 3 5.3 par exemple).

Théorème 8.17. Soit X une variété de Stein, K un compact de X et U un voisinage de K x . Alors il existe une fonction cp strictement plurisousharmonique de classe C" dans X telle que

h

i) cp < O surK etcp > O su rX \ U , ii) { z E X I cp(z) < c } CC X pourtoutc E R.

Démonstration. Puisque i? est O(X)-convexe et X holomorphiquement convexe, on peut trouver une suite (Kj)jEw. de compacts O(X)-convexes tels que K1 =

K , ~j c Kj+, et x = u K ~ . Posons u1 = u et vj = Kj,, pour j 2 2. Pour

chaquej,choisissonsdesfonctionsfjk E O(X),k = I , . . . k.teilesqueIfjkl < 1 sur Kj et max I f j k ( z ) I > 1, si z E Kj+2 \ U (il en existe car Kj = K j ) . De plus,

grâce à la condition ii) de la Définition 8.14, on peut, quitte à ajouter des fonctions, supposer que le rang de la matrice

h cc

j=l

' 3 , .

l<k<k ,

est égal à n pour tout z E Kj. En prenant des puissances des f j k on peut même s'arranger pour que

k, (8.3) 1 fjk(z)I2 < 2+, si z E K~

k = l

si E Kj+2 \ Uj . k = l


Grâce à (8.3), la série f j k ( z ) f j k ( Ç ) converge uniformément sur tout com-

pact de X x X et définit une fonction qui est holomorphe en z et antiholomorphe j , k

k.l en <, par conséquent la fonction cp(z) = -1 + ( I f j k ( t ) 1 2 ) est de classe

i=l k=l Cm dans X . I1 est clair que cp(z) > j - 1, si z E X \ Uj, d'après (8.4), donc cp > O sur X \ U et cp < O sur k donc sur K d'après (8.3). De plus iil est vérifiée grâce à (8.4). Par ailleurs cp est plurisousharmonique car c'est la borne supérieure d'une famille de fonctions plurisousharmoniques. Il reste à prouver que cp est strictement plurisousharmonique. Soit < E X fixé et (21, . . . , zn) des coordonnées locales holomorphes au voisinage de <. Supposons que pour tout < E Qin

alors pour tout j

ce qui implique 5 = O car la matrice (2 (2)) k = l , es tderangns i t E K3.0

Pour prouver la réciproque du Théorème 8.17 nous aurons besoin du lemme [ = I , .n

suivant :

Lemme 8.18. Soit X une variété analytique complexe possédant une fonction dexhaustion p strictement plurisousharmonique de classe C2.

il Soit[ E X , a = p([) e t D , = {t E X I p( t ) < a}. Supposons que dp(z) # O pour tout z E dD,. Alors il existe une suite ( f k ) k E N J . de fonctions holomorphes dans X et une constante C telles que

a) fk(<) = 1 pourtoutk E N', b) I f k l o , D , L C pour toutk E N', c)pourtoutcompactK c Da \ {I}, lim I f k l o , K = O.

k + m ii) Pour tout< E X et toute fonction f holomorphe dans un voisinagede[, il

existe unesuite ( f k ) k E N de fonctions holomorphesdansX tellesque lini d fk([) = k + m

af ( E ) .

Démonstration

i) Soit X = (XI, . . . ,An) des coordonnées holomorphes dans un voisinage Vc de t . Posons


Alors IL est holomorphe dans Vc, u(<) = O et, d'après le Lemme 2.22 du chapitre VI,

Re+) = P ( Z ) - P(<)

Puisque p est strictement plurisousharmonique, après avoir restreint Vc , on peut trouver p > O tel que

(8.5) Reu(z) < p(z) - p(C) - ,8lA(z) - X(<)I2 pourtout z E V,. Alors e"(<) = 1 et le"(")l < 1 si z E Da n Vc \ { E } . Choisissons un voisinage We CC Vc de < et une fonction x de classe C" sur X telle que x = 1 sur We et suppx CC y. Alors (ek"&),,,. est une suite de (0,l)-formes différentielles C", à-fermées dans X telles que

Puisque dp( z ) # O si z E dD,, on peut appliquer le Théorème 8.1 1 i) et on obtient une suite ( V k ) k N * de fonctions continues sur D, teiies que a u k = e'"& sur D, et lim 12/klo,D, = O. Enposantfi, = Xeku-vk+uk(~),onobtientdesfonctionsJk

holomorphes dans D, telles que j k ( < ) = 1 pour tout k E W , sup&,* IfklO,l) , < +m et pour tout compact K c D, \ {<I, lim I fk lO,K = O. On construit aiors les

fonctions f k E O(x) cherchées en utilisant le Théorème d'approximation 8.11 ii).

ii) Supposons que f (I) = O. Posons (Y = p(<) et considérons Vc,Wc,u et x comme dans la démonstration de i). Quitte à restreindre V,, on peut supposer que f est holomorphe sur h. En posant p k = f e'"&, k = 1,2, . . . on définit une suite de (O, 1) -forme c" , 6'-fermées dans x telles que supp p k CC vc \ we. I1 résulte de (8.5) qu'il existe 6 > 0 tel que iimk+, I p k l O , p , + a = o. D'après le Lemme 8.5, on peut supposer que Crit(p) est discret dans X et donc choisir O < E < S assez petit pour que dp(z) # O si z E dD,+,. On peut alors appliquer ie Théorème 8.11 i) et trouver des fonctions u k continues sur Da+€ teiies que 6'Vk = p k sur Da+€ et lim I?JklO,p,+, = O. Comme = O sur We, les fonctions

u k sont holomorphes dans et grâce aux inégalités de Cauchy lim 6'vk (<) = o. Les fonctions j k , définies par i k = xfeku - v k , sont continues sur Da+€, holomorphes sur Da+E et vérifient 6'fk (<) = 6' f (<) - 6 ' u k ( C ) . En utilisant le Théorème 8.11 ii), on peut trouver des fonctions f k E O ( X ) telles que I fk - .fk lo,D,+, < l / l~ et par conséquent iim lûf,(<) - 6 ' j k ( < ) I = O, grâce aux inégalités de Cauchy. Les fonctions fk ainsi construites conviennent.

k+cc

k + m

-

-

k + m

k + w

k+ca O

Théorème 8.19. Une variété analytique complexe X est de Stein si et seulement si X admet une fonction dexhaustion p strictement plurisousharmonique de classe C2. Pour tout a E R, les ensembles { z E X I p ( z ) 5 (Y} sont alors O(X) -convexes.


Démonstration. La condition nécessaire est donnée par le Théorème 8.17.

Supposons que X possède une fonction d’exhaustion p strictement plurisousharmonique de classe C2. La condition iil de la Définition 8.14 est une consé- quence immédiate du Lemme 8.18 ii) car pour toute famille finie de fonctions holomorphes au voisinage d’un point ( de X, on peut trouver des fonctions holomorphes dans X dont le jacobien en 6 est arbitrairement proche du jacobien en ( de la famille initiale.

Posons D, = {z E X I p ( z ) < (Y},(Y E R I1 suffit de prouver que, pour tout (Y E W, les ensembles D, sont O(X)-convexes. Soit ( E X \ D,. D’après le Lemme 8.5, il existe une fonction d’exhaustion cp strictement plurisousharmonique de classe C2 dans X telle que Crit ( c p ) soit discret et suffisamment proche de p pour que D, CC O,(<), pour OB = {z E X I cp(z) < p} , s i p E W. Quitte à ajouter une petite constante à cp , on peut supposer de plus que dcp(z) # O si z E XI,(<). En appliquant le Lemme 8.18 i) à a,(<) on peut alors trouver une fonction f E

O O(X) teiie que f (6) = i et I f 1 < i sur D,.

Corollaire 8.20. SoientX une variété de Stein, 2 et< deux points distincts de X . Alors ilexisteunefonctionf E O(X) t e l lequef(z ) # f([).

Démonstration. D’après le Théorème 8.19, X possède une fonction dexhaustion p strictement plurisousharmonique de classe C2. Le Lemme 8.5 implique qu’il existe une fonction d’exhaustion cp strictement plurisousharmonique de classe C2 dans X telle que Crit(cp) soit discret. Sans perte de généralité on peut supposer que p(z) 5 c p ( ( ) . Posons D,(<) = {< E X I p(<) < y(()}. Quitte à ajouterune petite constante à c p , on peut supposer de plus que dcp(<) # O si < E dR,(<). En appliquant le Lemme 8.18 il à et K = {z}, on peut trouver une fonction

o f E O(X) telle que f(() = 1 et donc If(z)l < 1 et f ( z ) # f(().

Corollaire 8.21. Si X est une variété de Stein de dimension n, alors

Démonstration. C’est une conséquence immédiate du Théorème 8.11 iii) et du Théorème 8.19. O

Remarque :Contrairement au cas des ouverts de @” (cf Corollaire 7.7) l’annulation des groupes de cohomologie Ho>Q(X), 1 5 q 5 n - 1, ne caractérise pas les varié- tés de Stein parmi les variétés analytiques complexes ; ces groupes sont également tous nuls lorsque X est un espace projectif, par exemple. I1 existe néanmoins une caractérisation cohomologique des variétés de Stein (cf [Gu], vol III).

Proposition 8.22. SoitX une variété de Stein. Tout ouvertstrictementpseudoconvexe D cc X est une variété de Stein.


Démonstration. Puisque D est strictement pseudoconvexe il existe un voisinage U ~ D du bord de D et une fonction p strictement plurisousharmonique de classe C2 sur U ~ D tels que D n U ~ D = { z E UaD I p(z ) < O}. Grâce au Théorème 8.19, X possède une fonction dexhaustion p l strictement plurisousharmonique de classe C2. Fixons& > Oassezpetitpourque { z E U ~ D 1 -E < p(z) < O} CC U ~ D et choisissons une fonction x de classe C" sur [-m,O[ telle que ~ ( t ) = O pour t < -E , ~ ( t ) + +m si t + 0 et x soit strictement convexe sur ] - &,O[. Alors daprès la Proposition 2.8 du chapitre VI, x o p est strictement plurisousharmonique sur { z E UaD I -E < p(z ) < O} et pl + x O p est une fonction dexhaustion strictement plurisousharmonique de classe C2 pour D. Le Théorème 8.19 implique alors que D est de Stein. O

C. Théorème d'annulation pour la cohomologie à support compact. Applications

I1 résulte des paragraphes 8.1 et 8.2 que si X est une variété de Stein de dimension n, pour tout couple (p,q),O 5 p 5 n, l 5 q 5 n

H"'4(X) = o. Nous allons nous intéresser ici à l'annulation des groupes de cohomologie à support compact H,Piq(X) sur une variété analytique complexe X .

Proposition 8.23. Soient X une variété analytique complexe de dimension n, p etq des entiers tels que O 5 p 5 n, 1 5 q 5 n. On suppose que

O E:-p,n-q+i(X) = {u E cn-p ,n -q+ i (X) I = E c : - p , n - q ( x ) I

est fermé dans C~-,,,-,+,(X) pour la topologie de la convergence unqorme sur tout compact de X . Si f E C:, , (X) est une forme différentielle continue à support compact 3-fermée dans X , alors l'équation 3g = f a une solution g E C,",,-,(X) à support compact dans X si et seulement si sx f A cp = O pour toutecp E CF-p ,n -q (X) , d-ferméedansx.

Démonstration. Commençons par la condition nécessaire. Supposons qu'il existe g E Ci,,- ,(X) à support compact telle que a g = f dans X . Alors si cp E

Cr-p,n-q ( X ) est une forme 8-fermée dans X

grâce au Théorème de Stokes car g est à support compact.

Prouvons maintenant la condition suffisante. Supposons que sx f A cp = O pour toute forme 8-fermée cp E Cr-p ,n-q(X) . Nous allons définir une forme li-

choisit néaire sur EE-,,,-,+,(X) de la manière suivante : si u E En-p,n-q+l(X), O on

E CE-p,n-q(X) telie que au = u et on pose

F ( u ) = L f A u .


L'application F est bien définie. En effet, d'après l'isomorphisme de Dolbeault, si w,w E C:-,,,-,(X)vérifientdw = aw = h, ilexistecp E CE,,,-,(X),d-fermée teiie que w - w - cp = de pour e E C:-p,n-q-l (X). I1 résulte alors de la formule de Stokes que

-

0 jx f A (w - w - cp) = 0

et grâce à l'hypothèse sx f A w = sx f A w. Comme l'espace EE-,,,-,+,(X) est supposé fermé, le théorème de l'application ouverte implique qu'il existe une application linéaire continue 6 de E:-p,n-q+l (X) dans CE-p,n-q(X) telle que 86 = I. L'application F vaut alors <p O 6 où -

O : cn-p,n-q(x) -+ c est la forme linéaire continue w i-+ sx f A W. Par conséquent F est une forme li- néaire continue sur E:-p,n-q+l (X). En appliquant le Théorème de Hahn-Banach on peut étendre F en une forme linéaire continue F surC:-p,n-q+l (X). La forme F définit donc un courant à support compact qui vérifie

- -

(-l)"+"-'dF(h) = F(dh) = F ( d h ) = f A h = (Tf,h), L pour toute forme h E Vn,n-q(X) c'est-à-dire (-l)P+q-ldF = Tf où Tf est le courant défini par f . La régularité du d (cf. chap. V, Cor. 4.2) implique alors qu'il existe g E Cp,q-l (X) à support compact telie que

(-i)P+q--'dg = f dans X. O

Théorème 8.24. SoitX une variété de Stein de dimension n, alors

H,Plq(X)=O si O s p i n et O < q s n - l .

Demonstration. I1 résulte du principe du prolongement analytique que

H,P>O(X) = ûpourtoutp, O < p 5 n, car une variété de Stein ne possède pas de composante connexe compacte.

Dolbeault

Par conséquent Z:-p,n-q+l (X) = E:-,,,-,+,(X) est fermé dans l'espace Cn-p,n-q+l (X) pour O 5 p 5 n et 1 5 q 5 n. Nous pouvons donc appliquer la Proposition 8.23. Si f E Ci,q(X) est une forme différentielle d-fermée à support compact dans X nous allons évaluer sx f A cp pour cp E CF-p,n-q(X), 8-fermée. Si 1 5 q 5 n - l,H"-P>"-Q(X) = O et donc cp = 39 pour Q E Cr-p,n-q-l(X). On en déduit en appliquant le Théorème de Stokes que

Supposons que 1 5 q 5 n. Puisque X est Stein d'après l'isomorphisme de

H,P'q(x) zz HP>"(X) = o.

O

-


car f est à support compact. I1 existe donc g E C:,q-l ( X ) à support compact telle que àg = f et par l'isomorphisme de Dolbeault cela implique H,P>q(X) = O (cf chap. VI, cor. 4.3). O

Ce théorème d'annulation nous permet de donner des conditions géométriques suffisantes pour le phénomène de Hartogs-Bochner et l'extension des fonctions CR en utilisant les résultats du chapitre V

On déduit alors des Corollaires 1.4 et 5.2 du chapitre Vle Théorème de Hartogs- Bochner dans les variétés de Stein.

Théorème 8.25. Soit X une variété de Stein de dimension n,n 2 2. Alors le phéno- mène de Hartogs se produit dans X . Plus précisément pour tout domaine D relativement compact à bord de classec'", k >_ 1, dans X tel que X \ D soit connexe et toute fonction CRf de classeCs, O 5 s 5 k, surdD, il existe une fonction F de classeCs sur D, holomorphe dans D telle que F I aD = f .

Théorème 8.26. Soient X un variété de Stein de dimension n,n 2 2, et K un compact de X,O(X)-convexe. Alors pour tout domaine D relativement compact dans X tel que

1) ûD \ K soit unesous-variétéde classeC',k 2 1, de X \ K , 2)D\ K = I n t o \ K ) , 3) X \ (E U K ) est connexe

et toute fonction CR f de classec', O 5 s 5 k, surdD \ K , il existe une fonction F de classeCs surD \ K , holomorphedans D \ K telleque F/aD,K = f.

Démonstration. D'après le Théorème 5.1 du chapitre V, il suffit de prouver que H $ l ( X \ K ) = O.

Si X est de Stein de dimension n 2 2 alors par le Théorème 8.24, H;>l ( X ) = O. Si K est O(X)-convexe, daprès le Théorème 8.17, K possède une suite décrois- sante (Up),,, de voisinages de Stein telle que n Up = K . De plus pour n 2

3,H,0>2(Vp) = O et les hypothèses du Théorème 2.5 du chapitre V sont satisfaites, par conséquent H : ~ ( x \ K ) = O.

Considérons maintenant le cas n = 2. Prouvons que l'hypothèse ii) du Théo- rème 2.5 du chapitre Vest encore satisfaite pour les voisinages (Up),,, de K don- nés par le Théorème 8.17. Ces voisinages sont de la forme { p p < c } où p p est une fonction strictement plurisousharmonique dexhaustion de X . Donc, grâce au Théorème 8.11 ii), toute (r,O)-forme holomorphe sur Up est limite uniforme sur tout compact de Up de (r,O)-formes holomorphes sur X. Soit f E c c 2 ( U p ) une forme 8-fermée à support compact dans Up qui s'écrit f = 8g où g E Ccl ( X ) est à support compact dans X . Par la formule de Stokes une telle forme vérifie

PEN


pour toute (2,O)-forme holomorphe cp dans X . D’après la Proposition 8.23, pour prouver que f = ago où go E U p ) est à support compact dans Up, il suffit de vérifier dune part que E&(U,) est fermé, ce qui est le cas car Up est de Stein (et donc Hi>l (Up) = O) et d‘autre part que

pour toute (2,O)-forme holomorphe $J sur Up. Mais par définition des Up, $J =

f A II, = n-tm UP lim (Pnr où les (Pn sont des (2,O)-formes holomorphes sur X et donc

Remarque : Pour n 2 3, nous n’avons pas utilisé pleinement l’hypothèse que K est O(X)-convexe, nous avons seulement utilisé le fait que K possède une suite

décroissante (Up),,, de voisinages de Stein telle que K = n Up. Un compact

d’une variété analytique complexe qui possède cette propriété s’appelle un compact de Stein. Cette notion sera utilisée au chapitre ViII. En particulier, il résulte de la Proposition 8.22 que, si D est un domaine strictement pseudoconvexe, relativement compact dune variété analytique complexe, D est un compact de Stein.

w

p=o

Commentaires. Le problème de Levi dans les domaines de Cn a été résolu par Oka [Ok], en 1942, pour n = 2, puis, au début des années 50, pour n quelconque par Oka [Okl, H. Bremermann [Brll et E Norguet [Nol. En 1958, H. Grauert [Grl a donné la solution du problème de Levi dans les variétés de Stein à l’aide de la théorie des faisceaux cohérents. La première démonstration de la résolubilité du a dans les domaines pseudoconvexes n’utilisant pas la solution du problème de Levi est due à L. Hormander [HOU. Cette démonstration parue en 1965 s’appuie sur des estimations L2 pour le problème a-Neumann. Les premiers opérateurs intégraux pour résoudre lea dans les domaines strictementpseudoconvexes de C” ont été construits au début des années 70 par H. Grauert et I. Lieb [GrfLi] et G.M. Henkin [He2]. Leur construction utilise une formule intégrale prouvée indépendamment par G.M. Henkin [Hel] et E. Ramirez [Ram].

Les méthodes que nous avons utilisées dans les paragraphes 1 à 4 s’étendent à l’étude du a dans les domaines q-convexes au sens de Andreotti-Grauert. Le lecteur intéressé pourra consulter [HelLe2]. La démonstration du Théorème 5.1 est due à Laufer [La]. La résolution du problème de Levi par la méthode des représentations intégrales est exposée dans [HelLell et [Ra]. Une alternative à cette méthode est la théorie L2 de Hormander qui est développée dans [Ho2]. La caractérisation cohomologique des domaines d’holomorphie se trouve dans [Gu]. Le Théorème 8.26 est prouvé dans [LIT21 en utilisant une généralisation du noyau de Bochner-Martinelli aux variétés de Stein.

Chapitre VI11

Caractérisation des singularités illusoires pour les fonctions CR sur un bord strictement pseudoconvexe

Dans une première partie nous donnons différentes caractérisations des compacts K du bord d'un domaine D strictement pseudoconvexe d'une variété de Stein de dimension n qui ont la propriété suivante : toute fonction CR continue sur d D \ K s'étend holomorphiquement à D tout entier. Lorsque n = 2, nous obtenons une caractérisation géométrique et si n 2 3, des caractérisations cohomologiques. Nous prouvons entre autres que la condition cohomologique suffisante donnée dans le Théorème 5.1 du chapitre V devient nécessaire si la variété ambiante est de Stein et si on se resrtreint aux domaines strictement pseudoconvexes. Nous terminons par une caractérisation géométrique des compacts K solutions du problème précédent lorsque la fonction à étendre est orthogonale aux (n,n - 1)-formes d-fermées dont le support ne rencontre pas K . Cette condition correspond, lorsque K est vide, à celle du Théorème 3.2 du chapitre IV.

-

1. RÉDUCTION AU CAS DES FONCTIONS CONTINUES

Soient X une variété analytique complexe de dimension n, D un domaine relativement compact de X et K un sous-ensemble compact de d D tel que d D \ K soit une sous-variété de classe Ck, k > 1, de X \ K . Le compact K est une sin- gularité illusoire pour les fonctions CR de classe Cs, O < s < k, sur d D si toute fonction CR de classe C" définie sur d D \ K s'étend en une fonction holomorphe dans D et de classe Ck dans D \ K .

Dans les chapitres précédents nous avons donné des conditions cohomologiques (cf chap. V, th. 5.1 associé aux th. 2.5 et 2.6) et des conditions géométriques (cf chap. ViI, th. 8.26) suffisantes pour qu'un compact K de dD soit une singularité illusoire pour les fonctions CR de classe C" sur dD. Dans ce chapitre nous alions

190 VIII. Caractérisation des singularités illusoires pour les fonctions CR

nous intéresser au cas particulier où D est un domaine strictement pseudoconvexe à bord Ck, k 2 2 et donner dans ce cas différentes caractérisations des singularités illusoires pour les fonctions CR.

Remarquons tout d‘abord que si D est un domaine strictement pseudoconvexe à bord Ck, k 2 2, de X et K un compact de dD, il existe un ouvert R de D tel que ( d D \ K ) U R soit un voisinage de all \ K dans D \ K et toute fonction CR de classe C ” , O 5 s 5 k, sur d D \ K s’étend en une fonction holomorphe sur R et de classe C” sur ( d D \ K ) ü R. C’est une conséquence immédiate de la proposition suivante :

Proposition 1.1. SoitD un domainestrictementpseudoconvexeà bordek, k 2 2 , de X e t x un point de dD. Il existe un voisinage V, de x dans X tel que toute fonction CR de classeCs sur V, n d D s’étende en une fonction holomorphe sur V, n D et de classe C” sur V, n D.

Démonstration. D’après le Théorème 3.23 du chapitre Vi, il existe un voisinage U, de x et des coordonnées holomorphes sur ce voisinage relativement auxquelles d D est convexe. Supposons ces coordonnées choisies telles que x = O et que l’hyperplan tangent en z à d D ait pour équation Re z, = O. I1 existe alors E # O assez petit pour que z E { z E U, I Rez, > E } n D c U,. Posons rx = d D n { z E U, I Re z, > E } . Grâce à l’étude faite dans le paragraphe 6 du chapitre IV, toute fonction CR de classe Cs sur rx s’étend en une fonction holomorphe sur D n { z E U, I Rez, > ~ } e t d e c l a s s e C ~ s u r D n { z E U, I Rez, > E } . Par

O

Grâce à cette remarque, nous voyons que pour l’étude des singularités illusoires pour les fonctions CR sur un bord strictement pseudoconvexe on peut se limiter au cas des fonctions CR continues.

conséquent V, = { z E U, I Re z, > E } convient.

2. CAS DE LA DIMENSION 2

Soient X une variété analytique complexe et D un domaine relativement compact de X. On note O(D) l’espace vectoriel des fonctions holomorphes définies sur un voisinage de D.

Définition 2.1. Un sous-ensembleE d e n estO(D)-convexe sietseulementsi h

E = E O(D) - - { - z E I I f ( z ) l L SUP If(z)l,f E O(D)) . zEE

Remarque : Si D est strictement pseudoconvexe la condition pour un sous-ensemble E de D d‘être O@)-convexe est équivalente à E est O(U)-convexe pour un voisinage U de D, ce voisinage pouvant être choisi de Stein si X est de Stein. C’est

2. Cas de la dimension 2 191

une conséquence du ii) du Théorème 8.11 du chapitre VII, qui implique, dans ce cas, la densité des fonctions holomorphes sur un voisinage U de D dans O@), ce voisinage pouvant être choisi de Stein et tel que est O(U)-convexe, si X est de Stein. I1 suffit si D admet une fonction définissante strictement plurisousharmonique p sur un voisinage Va0 de d D , i.e. D n Va0 = { z E Va0 I p(z ) < O} de prendre U = D U { z E Va0 I p(z ) < E } pour E assez petit (cf chap. VII, Th. 8.19 et Prop. 8.22).

Théorème 2.2. Soit D un domaine relativement compact, strictement pseudoconvexe à bord Ck, IC 2 2, d’une variété de Stein X de dimension 2. Alors pour tout compact K contenu dans dD, les conditions suivantes sont équivalentes :

i) K est une singularité illusoire pour les fonctions CR sur dD, ii) K est O@) -convexe.

Démonstration. Prouvons ii) implique i). Soit U un voisinage de Stein de D tel que K soit O(U)-convexe, il en existe d’après la remarque car D est strictement pseudoconvexe et X de Stein. Le Théorème 8.26 du chapitre Vi1 appliqué au triplet ( U , D , K ) , dont les hypothèses sont clairement vérifiées, implique alors que K est une singularité illusoire pour les fonctions CR sur dD.

Étudions maintenant la réciproque. Puisque D est strictement pseudoconvexe, le Lemme 8.18 du chapitre Vi1 implique que k , (~, n d D = K . Soit Dl un domaine strictement pseudoconvexe de X tel que D c D’, n dD’ = K et i? - = K - Pour obtenir un tel domaine D’ il suffit de faire une petite perturbation C2 de d D laissant fixe K point par point, on peut alors passer de D à D’ par une suite dénombrable d’éléments d’extension strictement pseudoconvexes ce qui donne la densité de O@’) dans O@). Grâce à un résultat dû à Slod- kowski, que nous détaillerons ci-dessous dans le cas où X = <c2, D’ \ est pseudoconvexe, c’est don2 un domaine dholomorphie. I1 existe alors une fonction f holomorphe sur D’ \ qui ne peut s’étendre à aucun ouvert contenant

Dl \ i?o(B~). La fonction f est holomorphe au voisinage de d D \ K et puisque K est une singularité illusoire pour les fonctions CR sur dD, elle s’étend holomor-

O

O ( D ’ ) Q(D)‘

/..

phiquement à D. On a donc D c Dl \ K,(E,, d’où k,(o, = K .

Corollaire 2.3. Soient X une variété de Stein de dimension 2 et D CC X un domaine strictement pseudoconvexe à bord Ck, k 2 2, tel q u e n soit O(X)-convexe. Alors pour tout compact K contenu dans dD les conditions suivantes sont équivalentes:

i) K est une singularité illusoire pour les fonctions CR sur dD, ii) K est O(X) -convexe.

Exemple : Si X = C2 et D = B la boule unité de C2, un compact K de la sphère unité est une singularité illusoire pour les fonctions CR si et seulement si K est polynômialement convexe.

192 Viil. Caractérisation des singularités illusoires pour les fonctions CR

Explicitons maintenant le résultat de 2. Slodkowski [Sl] utilisé dans la démons- tration du Théorème 2.2.

Lemme 2.4. Si K est une partie compacte de C2 et fl un domaine pseudoconvexe de C2 tel que K n fl = 0, alors fl \ r? est pseudoconvexe.

Plus généralement si D est un domaine strictement pseudoconvexe et K un compact de dD, D \ K,(B) est pseudoconvexe.

Ce lemme est une conséquence de la “Kontinuitatsatz” (cf. chap. Vi, Théorème 3.4) et du principe du maximum local de Rossi.

Principe du maximum local. Soient X un compact d’un ouuert U de Cn , et S une partie de X U , alors S c (8s U ( S n X ) ) U , où dS est le bord de S relativement à

Xu. h

Nous ne prouverons pas ce résultat ici, le lecteur intéressé pourra consulter [ROSI, [Stol ou [Stl.

Démonstration du Lemme 2.4. Raisonnons par l’absurde. Supposons que fl \ k n’est pas pseudoconvexe. Notons A le disque unité de C. D’après la “Kontinuitat- satz”, après un changement de coordonnées dans C2, le bidisque A2 ne rencontre pas K et il existe une suite ( q j ) j E ~ de fonctions holomorphes sur un voisinage de A dans C telles que Iqjl < f sur A et si on pose @j(s) = ( s , q j ( s ) ) , l’application <pj envoie a dans fl \ r? de telle sorte que dist(@j(eis),r?) > 6 > O, pour tout 8 E IW et @ j ( O ) tend vers un point po E K quand j tend vers l’infini. Po- sons fj (21 ,z2) = l La fonction f j ainsi définie est holomorphe au voi-

Z Z - - < p J ( Z i ) ’

sinage de r? n a2. D’après le Théorème 7.1 du chapitre VII, on peut approcher fj uniformément sur r? f? a2 par des fonctions holomorphes dans C2. Comme I fj I 5 max( ,2) sur r? n dA2 et puisque la borne supérieure de Ifj I sur k n a2 tend vers l’infini avec j , on peut donc construire une fonction f holomorphe dans C2 dont la borne supérieure sur K n a2 est strictement supérieure à la borne su- périeure sur K n dA2 ce qui contredit le principe du maximum local.

Pour obtenir la seconde assertion il suffit de remplacer C2 par un ouvert pseudoconvexe U de C2 tel que les fonctions holomorphes sur U soient denses dans

O

-

h

h

Q(D) et D soit O( U)-convexe et de répéter la démonstration précédente.

3. CARACTÉRISATION COHOMOLOGIQUE EN DIMENSION n 2 3

Lorsque la dimension de la variété ambiante est plus grande que 3, nous n’obtenons plus de caractérisation géométrique pour les singularités illusoires, mais seulement une caractérisation cohomologique.

3. Caractérisation cohomologique en dimension n 2 3 193

Théorème 3.1. Soit D un domaine relativement compact, strictement pseudoconvexe à bordek, Ic 2 2 , d’une variétéde Stein X de dimension n 2 3. Alors pour tout compact K contenu dans dD, les conditions suivantes sont équivalentes :

i) K est une singularité illusoire pour les fonctions CR surdD, ii) Ho l l (X \ K ) = O,

iii) H ~ ~ ( x \ K ) = O.

Démonstration. L‘implication iii) =+ il est une conséquence du Théorème 5.1 du chapitre Vcar D étant strictement pseudoconvexe et K c d D les hypothèses 2) et 3) de ce théorème sont évidemment satisfaites. Le fait que ii) implique iii) résulte du Théorème 2.7 du chapitre V, car X étant une variété de Stein on a H:)’ ( X ) = O ( c f chap. VII, th. 8.24). I1 reste à prouver que i) implique ii). Nous utiliserons le lemme suivant :

Lemme 3.2. Soient X une variété de Stein de dimension n, n 2 3, et K un compact de Stein. Alors

H o ) l ( X \ K ) = O.

Démonstration. Puisque K est un compact de Stein il possède par définition, une suite décroissante (Up), , , de voisinages de Stein tels que l’adhérence de Up+, soit contenue dans U, et K = n Up. Soit f une (0,l)-forme différentielle CO3, d-

fermée sur X \ K . Choisissons une suite (X , ) ,~N d‘éléments de D ( X ) tels que x, = 1 au voisinage de Ü,+l et x, = O au voisinage de X \ Up. Prolongeons - (1 - x p ) f par O dans Ü,+1. Alors a(1 - x,)f = &yp A f estune (0,2)-forme d-fermée à support compact dans Up. Puisque 17, est un ouvert de Stein et ri 2 3, il existe une (0,l)-forme différentielle g, de classe C“ à support compact dans Up telle que a(i - x , ) f = 3 g p , d‘où a ( g p + (1 - xp)f) = O sur x et comme x est de Stein, il existe 7, E C” ( X ) telle que g, + (1 - x,)f = 87, sur X . Remarquons que yp+l - 7, est holomorphe dans X \ Ü, et que X \ Ü p est connexe car Up est pseudoconvexe. I1 résulte alors du phénomène de Hartogs dans les variétés de Stein ( c f . chap. VII, th. 8.25) qu’il existe une fonction h, holomorphe dans X telle

quehplX,Up = y,+l-y,.Posonsh = y1+ C(yj+1-yj-hj).Cettesommeest

localement finie sur X \ K et définit donc une fonction h de classe C” sur X \ K . De plus on a

-

PEN

- -

00

j=l

Fin de la démonstration du Théorème 3.1. Puisque D est strictement pseudoconvexe, il existe des domaines strictement pseudoconvexes D’ et D” tels que D” c D C D’ et 0” n d D = K = D n do’ . Nous allons prouver qu’étant donné une (0,l)-forme différentielle f de classe C”, d-fermée dans X \ K , il existe une

-

194 Vlll. Caractérisation des singularités illusoires pour les fonctions C R

fonction g de classe C" sur X \ K telle que dg = f . Puisque D' est un ouvert de Stein, il existe u1 E C" (D') telle que au1 = f sur D' ( c f chap. VI1 Corollaire 8.21 et Proposition 8.22). Comme 8' est un compact de Stein car D" est strictement pseudoconvexe, il résulte du Lemme 3.2 que l'on peut trouver une fonction u2 E C"(X \ 8') telle que au2 = f sur x \ 3'. La fonction v = u1 - u2 est définie et holomorphe sur D' \ 8' qui est un voisinage de d D \ K . Puisque K est une singularité illusoire pour les fonctions C R sur d D il existe une fonction V E O ( D ) qui étend 'u à D. Posons

g = 7 L 1 - V sur D' = u2 sur x \ D".

On définit ainsi une fonction de classe C" sur X\ K qui vérifie dg = f sur X \ K . 0

Remarque : I1 résulte du Théorème 3.1 que le fait que K soit une singularité illusoire pour les fonctions C R sur le bord d u n domaine strictement pseudoconvexe ne dépend pas du domaine strictement pseudoconvexe contenant K lorsque n 2 3 mais seulement de K lui-même et de ses propriétés en tant que sous-ensemble de la variété X .

4. CARACTÉRISATION DES SINGULARITÉS ILLUSOIRES FAIBLES

Soient X une variété analytique complexe de dimension n, D un domaine relativement compact de X et K un sous-ensemble compact de ûD tel que r = d D \ K soit une sous-variété de classe C k , IC 2 1 , de X \ K . Le compact K est une singularité illusoire faible pour les fonctions C R sur d D si pour toute fonction f E C(r) orthogonale aux formes cp, de classe C" sur X , d-fermées, de bidegré (n,n - 1), définies au voisinage de D et à support disjoint de K , i.e. sr fP = O, il existe une fonction F holomorphe dans D continue dans D \ K telle que

FI = f . Notons que les fonctions considérées sont C R , puisque les formes d - exactes sont d-fermées. Nous avons démontré au paragraphe 3 du chapitre IV que si X = û? , K = 0 est une singularité illusoire faible pour les fonctions C R sur d D et nous avons remarqué que les fonctions CR ne sont pas toujours orthogo- nales aux (n,n - 1)-formes d-fermées en particulier lorsque r n'est pas connexe.

Commençons par des caractérisations cohomologiques.

Théorème 4.1. Soit D un domaine relativement compact, strictement pseudoconvexe à bord C2 d'une variété de Stein de dimension n 2 2 . Alors pour tout compact K contenu dans dD, les conditions suivantes sont équivalentes :

i) K est une singularité illusoire faible pour les fonctions C R sur dD, ii) Hoi'(X \ K ) estséparé,

iii) H:' ( X \ K ) est séparé.

4. Caractérisation des singularités illusoires faibles 195

Démonstration. Commençons en prouvant que ii) implique iii). Soit f une $,O,l)- forme différentielle de classe C" sur X \ K appartenant à l'adhérence de 3,5:> ( X \ K ) dont le support est contenu dans un compact L de X . Puisque H 0 > l ( X \ K ) est séparé, il existe g E c" ( X \ K ) telle que f = 39. La fonctiong est holomorphe sur X \ ( L ü K ) . Puisque X est une variété de Stein, de dimension n 2 2, il résulte du phénomène de Hartogs qu'il existe une fonction 9 E O ( X ) qui coïncide avec g en dehors d'un compact de X . Si on pose go = g - j , alors f = ago et le support de go est relativement compact dans X . Par conséquent H 2 l ( X \ K ) est séparé.

Montrons maintenant que iiil implique il. Soit f une fonction CR continue sur ï qui est orthogonale aux (n,n - 1)-formes différentielles C", d-fermées dont le support est disjoint de K . D'après la Proposition 1.1, f possède une extension holomorphe f à un voisinage U de ï dans D. Soit x une fonction C" sur X \ K égale à 1 sur un voisinage de X \ ( D U K ) et nulle sur D \ U . Le support de ax est alors relativement compact dans D. Notons E l'adhérence des (0,l)-formes différentielles 8-exactes dans (CTl ( X \ K))+ . Nous allons prouver que f3x E E. Raisonnons par l'absurde. Si fax $ E , il existe une forme linéaire continue T sur (Ccl(X \ K ) ) + telle que TI, = O et (T,f3x) # O. On peut considérer T comme un (n,n - 1)-courant sur X \ K à support fermé dans X et on a (T,dg) = O pour toute fonction g E C" ( X \ K ) dont le support est relativement compact dans X , ce qui signifie que T est d-fermé. D'après le Corollaire 4.2 i) du chapitre V, il existe une forme différentielle 'p de classe C", d-fermée dans X \ K et un courant S sur - X \ K , tous deux à support fermé dans X , tels que T = 3s + cp. Comme f a x est d-fermée dans X \ K , on a alors

-

d'après la formule de Stokes et l'hypothèse sur f , ce qui contredit le choix de T donc fdx E E. Mais par hypothèse H(P'l(X \ K ) est séparé, donc fax = 89, où g est une fonction C" sur X \ K à support relativement compact dans X . La fonction g est alors holomorphe sur un voisinage de X \ (D ü K ) et puisque X est de Stein de dimension n 2 2, il résulte du phénomène de Hartogs qu'il existe une fonction 9 E O ( X ) telle que g = g sur un voisinage de X \ ( D U K ) . En posant F = x f - g + j on obtient une fonction holomorphe dans X \ K continue dans D \ K qui coïncide avec f au voisinage de ï dans D donc avec f sur î.

Terminons en prouvant que i) implique ii). Puisque D est strictement pseudoconvexe, il existe des domaines strictement pseudoconvexes D' et D" tels que D" c D c D' et D" n d D = K = D n dD'. Soit f une (0,l)-forme diffé- rentielle C", d-fermée sur X \ K telle que f soit la limite dans Cri ( X \ K ) de la suite (8gj)jEw, où g j E C"(X \ K ) . Puisque D' est un ouvert de Stein,.il existe u1 E ~"(0') tel que f = au1 sur D'.

Supposons dans un premier temps que n 2 3. Comme 8' est un compact de Stein, il résulte du Lemme 3.2 que Hoil(X \ 8') = O. I1 existe alors u2 E C"(X\D") telle que f = au, sur X\D". La fonction w = u1 -u2 est holomorphe

-

-


- surlevoisinageD'\D''der etsicpestune (n,n-1)-formec", 8-ferméeàsupport compact dans X \ K , on a

en appliquant à deux reprises le Théorème de Stokes.

Soit maintenant cp une (n,n - 1)-forme différentielle C", 8-fermée quelconque dont le support ne rencontre pas K . Puisque D est strictement pseudoconvexe, D possède une base de voisinages de Stein et il existe donc une (n,n - 2)-forme $ de classe Coo, sur un voisinage relativement compact V de D telle que cp = a$ sur V . Soit x une fonction C" sur X , identiquement nulle au voisinage de D et égale à 1 sur X \ V . Posons cpo = cp - a(x$) = (1 - x)cp - ax A $. La forme cpo s'étend par O à X \ K en une forme d-fermée à support compact dans X \ K . On a alors

-

car x est nulle au voisinage de D. Puisque K est une singularité illusoire faible il existe une fonction V holomorphe sur D' telle que V = v sur D' \ 8'. Si on pose

g = u1 - V sur Dl = 212 sur x\D",

on obtient une fonction g de classe C" sur X \ K telle que dg = f, ce qui prouve que H 0 > l ( X \ K ) est séparé.

Pour traiter le cas n = 2, la démonstration est analogue, mais on utilise que H O ~ ~ ( X \ 8') est seulement séparé (aiors qu'il était nui pour n 2 31, ce que nous allons démontrer. O

Proposition 4.2. Soient X une variété de Stein de dimension 2 , et K un compact de Stein. Alors H p i ' ( X \ K ) , p 2 O, est un espace vectoriel topologique séparé.

Démonstration. Prouvons tout d'abord que, pour tout compact L de X \ K , DF2(X \ K ) f i dDP>l(X \ K ) est un sous espace fermé de DF2(X \ K). I1 suffit de montrer que si f E DPi2(X \ K ) , à support dans un compact L, est la limite dune suite ( f j ) j E N d'éléments de P 2 ( X \ K ) , à support dans L, tels que fj =dgj ,oùgj E2?Pi1(X\K),alors f = d g , o ù g ~ D p ~ ' ( X \ K ) . O n p r o l o n g e f à X par zéro, aiors, si cp E c ~ - ~ , ~ ( x ) est une forme d-fermée, on a grâce à la formule de Stokes

f A cp = Jim dgj A cp = O. sx 3'00 S - x

La variété X étant de Stein, H,"-pl'(X) = O et par conséquent E;-,,,(X) est fermé dans C;- , , , (X) . La Proposition 8.23 du chapitre VI1 et la régularité du 8,


impliquent alors que f = dh, où h E DP>'(X) . Puisque K est un compact de Stein, il existe un ouvert de Stein U dans X tel que K C U C X \ L. La forme h est d-fermée sur U et on a h = du sur U , où u E CEo. Soit x E D ( X ) une fonction identiquement égale à 1 au voisinage de K et à support dans U. On pose g = h - ~ ( x u ) , g est une (p,l)-forme différentielle C" sur X, à support compact dans X \ K telle que 8 g = f .

La proposition résultera alors du lemme général suivant. O

Lemme 4.3. Soient M une variété analytique complexe de dimension n, p etq, p 2 O, 11q<n, des entiers. Si pour tout compact L de M , V p q ( M ) n dVplq-l(M) est un sous espace fermé de V p q ( M ) , alors Hn-Pln-q+'(M) est séparé. En particulier H,P,q(M) est séparé si et seulement si Hn-p>"-q+' ( M ) est séparé.

Nous allons prouver que sous les hypothèses du lemme l'espace 03 Er-p,n-q+l(M) = {. E cn-p,n-q+l(M) I = d V , V E c r - p , n - q ( M ) } I

est égal au sous-espace fermé Zr-p,n-q+l(M) de Zr-p,n-q+l(M) des formes différentielles f vérifiant s, f A cp = O pour toute cp E Dp)q-'(M) telle que dcp = O dans M . Le Théorème de Stokes implique que EF-p,n-q+l(M) est contenu dans Z z p , n - q + l ( M ) . Étudions l'inclusion inverse. Soit f E ZEp,n-q+l ( M ) , on définit une forme linéaire continue F sur DPiq-l(M) en posant F(cp) =

( - i ) p + q l S , j A 'p pour 'p E D P ? ~ - ~ ( M ) . Puisque f E il existe une forme linéaire H sur dDP>q-l(M) telle que F = H O 3. Pour prouver la continuité de la forme linéaire H , il suffit, par définition de la topologie de D P ) q ( M ) , de montrer que pour tout compact L de M la restriction H L de H à D p q ( M ) n dDp,q-'(M) est continue. Fixons L et considérons une suite exhaustive ( K j ) j c . ~ de compacts de M . Pour chaque j, notons dj la restriction de l'opérateur 3 à l'espace de Fréchet ZEq-,(Kj,L,M) = { f E Dg,"(M) I af =

O Kj \ L} . L'espace D p q ( M ) n dDP+-'(M) est la réunion des images des opérateurs 8j, mais comme il est fermé par hypothèse , c'est un espace de Fréchet et le théorème de Bake implique alors qu'il existe j o tel que Imdj,ne soit pas maigre. Par le théorème de l'application ouverte, l'application djo est surjective et ouverte, ce qui prouve la continuité de H L et celle de H . Par Hahn-Banach l'appliction H s'étend en un (n - p,n - q)-courant T qui vérifie

- -

sur

(dT,cp) = (-l)pfq(T,8cp) = (-l)p+qF(cp) = 1 f A cp = (Tf,cp) X

pourtoutecp E DP>Q-l(M). OnadoncdT = Tf et commef E C,"Lp,n-q+l ( M ) , par l'isomorphisme de Dolbeault, f E Er-p,n-q+l ( M ) .

Prouvons la seconde assertion. La condition suffisante résulte de la Proposi- tion 8.23 du chapitre Vi1 et de l'isomorphisme de Dolbeault. Si le groupe de CO-

homologie H,P,Q(M) est séparé, alors pour tout compact L de M , le sous espace Dpq ( M ) n dDP,q-l ( M ) est fermé dans Dpq( M ) , d'où la condition nécessaire d'après la première assertion. O


Terminons par une caractérisation cohomologique intrinsèque et une caracté- risation géométrique des singularités illusoires faibles.

Si F est un fermé de X , on note CEq(F) l'espace des germes de (p,q)-formes différentielles sur F , c'est-à-dire la limite inductive sur les ouverts U de X contenant F de la famille CEq(U), les applications Z U V : CEq(U) + Crq(V) pour V c U étant simplement les applications restriction. L'opérateur 8 : c"(F) + CEq+, ( F ) est bien défini et c'est une application continue, qui vérifie d O 8 = O. On peut donc parler du groupe de cohomologie

où ZEq(F) = {u E C,qP(F) I 8 u = O}, HP)q(F) est muni naturellement de la topologie quotient.

Théorème 4.4. Soit D un domaine relativement compact strictement pseudoconvexe à bord C2 d'une variété de Stein de dimension n 2 2 . Alors pour tout compact K contenu dans dD, les conditions suivantes sont équivalentes :

i ) K est h une singularité h illusoirefaible pour les fonctions CR sur dD, ii) D c ïO(D) oùro(D) = u { E -

iii) Pour tout compact L c D \ K , il existe un compact ï L c ï tel que

iv) H*J-' ( K ) = O.

E c I? compact}. O ( D ) I

L c ( h ) O ( D ) .

Démonstration. Prouvons tout d'abord que ivl implique il. D'après l'équivalence entre les assertions il et iiil du Théorème 4.1, il suffit de montrer que si le groupe Hn,n-l ( K ) est nul, alors H:'(X \ K ) est séparé. Notons Q la famille de supports constituée par l'ensemble des fermés de X qui ne rencontrent pas K et considé- rons le groupe ( X \ K ) de cohomologie de Dolbeault à support dans la famille Q. Nous allons prouver que ce groupe est nul si l'assertion iv) est satisfaite. Soit f E Zg'"(X \ K ) une (n,n)-forme différentielle 8-fermée de classe C" sur X \ K à support dans Q. Comme la variété X est de Stein, il résulte du Corollaire 8.21 du chapitre VI1 qu'il existe une (n,n - 1)- forme différentielle g de classe C" sur X telle que 8f = g. Puisque le support de f est contenu dans q, la forme g est 8-fermée au voisinage de K . La condition ivl implique alors qu'il existe un voisinage U de K et une forme différentielle h de classe C" sur U telle que dh = g sur U . Si x est une fonction de classe C" à support dans U et indentiquement égale à 1 au voisinage de K , la forme 9 = g - dxh est à support dans 9 et vérifie 89 = f , donc H$'*(X \ K ) = O. Remarquons que le Lemme 4.3 reste valable si on remplace la famiiie c par la famille Q et la famille des fermés de X \ K par la famille @. 11 en résulte H : ~ ( x \ K ) est séparé.

Montrons que il implique iil. Supposons que K soit une singularité iiiusoire faible pour les fonctions CR sur dD. Notons d(D U ï) l'algèbre des fonctions continues sur I' ü D et holomorphes dans D. Comme K est une singularité illusoire faible, d(D U I?) n C ( r ) est une sous-algèbre fermée de C ( ï ) (en effet c'est

-


l’intersection des sous-espaces fermés Fv = {f E C(r) I f = O}, où y décrit l’ensemble des (n,n - 1)-formes différentielles de classe C30, d-fermées au voisinage de D, dont le support ne rencontre pas K ) . Par conséquent l’application restriction p de d ( D u r) sur d ( D u r) n C(r) est un isomorphisme topologique. Notons x son inverse. Si z est un point de D , le théorème de Hahn-Banach implique l’existence dune forme linéaire continue $J : C(r) -+ C qui coïncide sur d ( D U I’) n C(r) avec l’application f I r e x(f Ir)(.) = f ( z ) . Grâce au théorème de représentation de Riesz il existe donc une mesure pz de masse finie à support compact sur r telle que

r y-

f ( z ) = L fk si f E d ( D u r). Puisque d ( D n r) est une algèbre, pour tout k E N, on a

fk(z) = L f‘dp,, si f E d ( D u r).

On en déduit que, pour tout k E N,

En faisant tendre k vers l’infini. on obtient

lf(.)I I: SUP{lf(Ol I c E SUPPP2)l si f E d ( D u r)? h - ce qui prouve que z E ( s ~ p p p , ) ~ ( ~ ) et donc, par définition de ro(B), D c

h r - O ( D ) ’

lemmes. Étudions maintenant l’implication iij + iiij. Nous aurons besoin de deux

Lemme 4.5. Soient D un domaine relativement compact strictement pseudoconvexe à bord C2 d’une variété de Stein X de dimension n 2 2 et K un compact contenu dans dD. Pour tout compact E c d D \ K , il existe un domaine D’ relativement compact strictement pseudoconvexe à bord C2 contenant D tel que ôD’ n D = K et O@‘) I~so i tdensedansO(D) etuncompactE’ c ôDl\K telqueE C E C > ( ~ ~ ) .

Démonstration. On obtient D‘ en effectuant une petite perturbation C2 de dD laissant fixe K point par point. On peut alors passer de D à D’ par une suite d’éléments d‘extension pseudoconvexe ce qui implique la densité de O(8) I D dans O@). Pour chaque IC E E , considérons le voisinage V, de IC dans X construit dans la Proposition 1.1. On peut supposer que vz ne rencontre pas K . L‘ensemble E étant compact, E est recouvert par un nombre fini V I , . . . ,Vp de tels V,. Notons

E’ = u (Vi n aDl). Si D’ est assez proche de D , vi n D’, i = 1, . . . ,p, est un do-

maine du type étudié dans le paragraphe 6 du chapitre Vet donc E c O

P -

h i=l

200 Viii. Caractérisation des singularités illusoires pour les fonctions CR

Lemme 4.6. Soient Y un ouvert de Stein d'une variété de Stein de dimension n 2 2, etE uncompactdeY. OnnoteE, = { z E X I dist(z,E) 5 E } etonchoisits > O assez petit pour que E, soit encore un compact de Y . Alors

A

Démonstration. Posons K = (E,)y, c'est un compact O(Y)-convexe, il possède donc une base U de voisinages de Stein telle que pour tout U E U , O ( Y ) lu soit dense dans O ( U ) (cela résulte immédiatement du Théorème 8.17 et de la Proposi- tion 8.9 du chapitre VII). On a alors

dist(Êy,dK) = inf dist(Êy,dU) = inf dist(Êu,dU)

car ÊY = Êu puisque O ( Y ) lu est dense dans O(U) . Comme tout élément U de U est un domaine dholomorphie car il est de Stein, il résulte du Théorème 1.13 du chapitre Vi que

dist(Êy,dK) = inf dist(E,dU).

Maissi U E U , U contient E,, par conséquent dist(Êy,dK) 2 E et donc ( Ê y ) , C K .

U € U UEU

UEU

A

Suite de la démonstration du Théorème 4.4. Supposons que D C ïo(D), alors si

a E D \ K il existe un compact E, de î tel que a E ( E,),(D). D'après le Lemme 4.5, on peut trouver un domaine DI strictement pseudoconvexe contenant D tel que dD' n D = K et O ( 8 ) I D soit dense dans O(D) et un compact EL C r' =

DI \ K tel que E, c (Ga)o(El). On a aiors

h

h h h

a E (Ea)o(D) = (E&(EJ) c ( W q E y Ainsi que nous l'avons déjà remarqué dans le paragraphe 1 de ce chapitre, on peut trouve; un voisinage de Stein U de 8 tel que pour tout compact C de 8, C - = Cu. Avec les notations du Lemme 4.6 choisissons E assez petit pour que

(Ea)€ flD = 0 et ( n K = 0, ce qui est possible car E& est un compact de

cc" \D et les points de K sont des points pics pour O@'). Le Lemme 4.6 implique alors que

A

O ( D ' )

B(a,E) c ((E)u), c ( ( E L M U h

et en vertu du principe du maximum local D n B(u,E) c ( ï a ) U , où ïa =

n d D est un compact de I?. Si L est un compact de d D \ K , L est recouvert par un nombre fini d'ouverts Va de D de la forme D n B(u,E) et par conséquent il existe un compact ï L c ï tel que L c ( ï r , )o (D) .

Terminons en prouvant que iii) implique iv). Considérons une (n,n - 1)-forme différentielle 'p d-fermée de classe C" sur un voisinage U de K et X une fonction de classe Coo à support compact dans U et égale à 1 sur un voisinage V de

h


K . L‘application f +-+ sD fax A ‘p est une forme linéaire continue sur O@). Po- sons L = D n supp ax, c’est un compact disjoint de K et d‘après iii), il existe un compact J?L c I’ tel que

I1 résulte du Théorème de Hahn-Banach et du Théorème de représentation de Riesz qu’il existe une mesure p L sur rL telle que (pL,f) = JD fax A ‘p si f E O@). Si X D désigne la fonction caractéristique de D, a = X D ~ X A ‘p - p~ est une mesure sur D u r qui vérifie (a,!) = O pour toute f E O(D) . L‘ouvert D étant strictement pseudoconvexe, il existe un domaine G‘ strictement pseudoconvexe tel que supp a c GI, K n G’ = 0 et O(D) soit dense dans o(G’) IG’n(D”r). (Pour obtenir GI, il suffit de pousser légèrement le bord de D à l’intérieur de D au voisinage de K et de le pousser vers l’extérieur près du support de a) . La mesure a définit alors un (n,n)-courant Tu à support compact dans G’ qui vérifie (T,,f) = O pour toute f E O(G’). Comme G’ est de Stein, il existe un (n,n - 1)-courant S à support compact dans G’ tel que Tu = dS. Mais To est une forme différentielle de classe C” sur D n G’, il résulte alors de la régularité du 8, ( c f chap. Vi, Corollaire 4.2 ii)), qu’il existe une forme différentielle ‘po de classe C” sur D n G’ nulle au voisinage de K telle que acpo = To sur D n GI. Considérons à présent un domaine G” strictement pseudoconvexe tel que K c G” c D U V . En restreignant à G”, la relation a’po = Tu on obtient aA A ‘p = 890 soit a(Xp - ‘po) = O sur GI’ (on a implicitement prolongé X‘p par zéro pour la définir sur GI’ tout entier). Puisque G” est de Stein, Hnln-’(G”) = O et il existe donc une (n,n - 2)-forme différen- tielle II, de classe C” sur G” telle que X‘p - ‘po = aII, sur G”. Comme X = 1 et ‘po = O au voisinage de K , on aura aII, = ‘p au voisinage de K , ce qui prouve que

-

H n , n - l ( K ) = O. O

Commentaire. L’étude des singularités illusoires pour les fonctions CR définies sur le bord d’un domaine a débuté avec le travail de G. Lupacciolu et G. Tomassini [LulTo] en 1984 et s’est développée rapidement dans les années qui ont suivi. Les résultats les plus significatifs ont été prouvés par G. Lupacciolu [Lu1,2]. Un panorama de l’ensemble des résultats obtenus sur ce sujet est exposé dans [CifStl.

Annexe A

Variétés différentiables, formes différentielles

Le lecteur trouvera ici un certain nombre d'outils élémentaires de géométrie différen- tielle qui sont utilisés dans ce volume. Après avoir introduit la notion de variété différen- tiable, nous définissons l'algèbre des formes différentielles et nous prouvons le Théorème de Stokes qui est le résultat fondamental de cette annexe.

1. VARIÉTÉS DIFFÉRENTIABLES

Définition 1.1. Sur un espace topologique X , une carte h de X est un homéomor- phisme d'un ouvert U de X sur un ouvert de R" pour un certain entiern. L'ouvert U est le domaine de la carte h ; on dit que c'est un ouvert de carte. On désigne parfois la carte h par le couple (U, h) .

Si V est un ouvert de X , V c U , alors hl est une carte de domaine V .

Définition 1.2.

deux homéomorphismes réciproques a) Deux cartes h et h' de X , de même domaine U sont dites q-compatibles si les

h' O h-l : h(U) -4 h'(U) h O h'-l : h'(U) -+ h(U)

sont de classe C'J, q E N* ü { m}, au sens des applications d'un ouvert de RP dans un ouvert de RP' .

b) Deux cartes (U, h ) et (U', h') sont dites q-compatibles si: U f l U' = 0 ou bien hl U n U , et h' I UnU, sont q-compatibles au sens de a).

Remarque: Si n et n' sont des entiers associés aux cartes h et h', ils sont égaux lorsque h et h' sont compatibles. En effet, si q 2 1, la différentielle d(h' O h-')(z) pour 2 E h( U ) est une bijection linéaire de R* dans R"' et donc n = n'.

204 A. Vm'étés différentiables, formes différentielles

Définition 1.3. Un atlas de X de classe CQ est un ensemble de cartes deux à deux q - compatibles dont les domaines constituent un recouvrement ouvert de X . Deux atlas de classeCQ sont dits compatibles si leur réunion est un atlas de classeCQ.

Remarque : La compatibilité est une relation d'équivalence dans l'ensemble des atlas de classe CQ de X .

Définition 1.4. On appelle variété différentiable de classe CQ un espace topologique séparé, réunion dénombrable de compacts, muni dune classe d'équivalence d'atlas de classe CQ .

Exemples

est donné par { (D, IdD)}. 1) Un ouvert non vide D de Rn a une structure naturelle de variété Cm. Un atlas

2) La sphère de R3 est une variété C" munie d u n atlas à deux cartes. 3) Si D est un ouvert relativement compact de Rn tel que pour tout P E d D il

existe un voisinage W, de P vérifiant d D f l W, = { x E W, I r p ( x ) = O} où rp est une fonction de classe Ck, 1 5 IC 5 00, sur W, et dr, # O sur d D n W,. Alors dD est une variété de classe Ck (c'est une conséquence du théorème des fonctions implicites).

Si X est une variété différentiable, pour tout x E X , il existe une carte (U,h) teile que x E U et h soit une application de U dans R" . L'entier n ne dépend que de 5, c'est la dimension de X en x. I1 est clair que n est fixe sur chaque composante connexe de X .

Définition 1.5. Une variété différentiable dont toutes les composantes connexes sont de dimension n sera dite de dimension n.

Définition 1.6. Soient X et Y deux variétés différentiables de classeCQ. Une application f : X t Y est dite de classeCP, p 5 q, si elle est continue et vérifie la condition suivante : pour tout couple de cartes (U, h) , (V,k) de X et de Y tel que f ( U ) c V , 1 'application

IC O (f I V ) O h-' : h ( U ) -+ k(V) est de classe C P en tant qu'application d'un ouvert de R" dans un ouvert de R" .

las. Notons qu'il suffit de vérifier ces propriétés pour l'ensemble des cartes d'un at-

Si Y = R ou C, une application de classe C P de X dans Y est appelée fonction de classe C P sur X .

Définition 1.7. Soit (U, h ) une carte dune variété différentiablex de classeCQ, alors h est une application de classeCQ de U dans R"

U -+ h(U) c R" 5 h(z ) = (xi(x), . . . ,xn(x))

2. Partitions de 1 'unité 205

où lesxi : U -+ R, j = 1, . . . ,n, sont des fonctions de classesCQ sur U . Les fonctions X I , . . . ,x, sont appelées les coordonnées locales de X sur U définies par la carte (U,h).

2. PARTITIONS DE L'UNITÉ

Dans ce paragraphe, nous construisons un outil qui permet de localiser les pro- blèmes donnés sur une variété, en particulier de se ramener dans un domaine de carte.

Lemme 2.1. Soit A un compact de IRn et U un ouvert contenant A. Il existe une fonction réelle de classe Cm à support compact dans U , comprise entre O et 1 et égale à 1 sur A.

Démonstration. Considérons la fonction définie sur R par

e ( t ) = ce-* si It1 < 1

si It1 2 1 { e ( t ) = O

où C est une constante telle que s, B(t) d t = 1. Elle est de classe C" sur R et son

support est l'intervalle [- 1 ,il. Pour E > O fixé, la fonction x e eE (x) = e (T) , où 1x1 = (xf + . . . + x:)~/~, est de classe C" dans Rn, son support est la boule fermée de centre O et de rayon E et elle prend ses valeurs dans [0,1].

Soit B un ouvert relativement compact de Rn tel que A cc B cc U . Posons

* = X B * QE

où X B est la fonction caractéristique de B. La fonction $ est C" sur R et à valeurs dans [0,1] et si E < f min (dist(B,CU), dist(A,CB)) le support de 11, est un com-

O pact contenu dans U et $J est constante égale à 1 sur A .

Lemme 2.2. Soit U un recouvrement ouvert localement fini d'une variété différen- tiable X . Pour chaque U E U , il existe un ouvert U' tel que Ü' C U et l'ensemble des U' forme encore un recouvrement ouvert de X .

Démonstration. On suppose, sans perte de généralité que X est connexe et, quitte à extraire, que le recouvrement U est dénombrable puisque X est réunion dénom- brable de compacts (on prendra U' = 0 pour les U que l'on aura supprimés). Alors

Posons C1 = U1 \ ( U Uk), Cl est un fermé contenu dans U1 et X = Cl u

un ouvert tel que CI c U; c üi c ~ 1 .

u = (Ul,U2,U3,. . .}.

~2 u ~3 u . .. Soit k 2 2

206 A. Variétés différentiables, formes différentielles

Posons C2 = U2 \ (Ui U ( u U k ) ) , C2 est un fermé contenu dans U2 et X = k>3 -

U: u Cz u Us u . . .. Soit Us un ouvert tel que C2 c U: c 772 c uZ.

En itérant cette construction on obtient une famille ( U k ) k E ~ d'ouverts de X tels que ük c u,. 11 reste à prouver que cette famille constitue un recouvrement ouvert de X.

Pour tout z E X, il existe un plus grand entier n tel que z E Un, car U est localement fini. Par construction des Uk on a

( u z E U ; U - . U : , U k>n+l

et donc z E u Uk car le fait de remplacer Ur, par Uk pour k 2 n + 1 ne peut pas

faire disparaître z puisque, par définition de n, z $! ( u k>l Uk).

k>n+l O

Théorème 2.3. Soit X une variété différentiable. Pour tout recouvrement ouvert ( R i ) i € ~ d e X on peut trouverdes fonctions (ai)iE~ tellesque

1 ) cri est de classeCm à support compact dans Ri, 2) sur tout compact de X un nombre fini seulement des ai ne sont pas identique-

3)pourtoutz E X , a i ( z ) 2 û e t Ccri(z) = 1. ment nulles,

i€I

Définition 2.4. Une famille de fonctions ( c r i ) i E ~ satisfaisant aux conditions du Théo- rème 2.3 s'appelle une partition de l'unité localement finie subordonnée au recouvrement (Ri)iEI.

Démonstration du Théorème 2.3. Supposons tout d'abord que le recouvrement ( R i ) i € ~ est localement fini, i.e. tout compact ne rencontre qu'un nombre fini de ces ouverts, que tous les Ri sont relativement compacts dans X et que leur ad- hérence est contenue dans un domaine de carte. En appliquant le Lemme 2.2, on peut alors trouver un nouveau recouvrement (R;)~€I dépendant du même ensemble d'indices et tel que C Ri. Grâce au Lemme 2.1, il existe des fonctions ( 'p i ) i€~ de classe C", comprises entre O et 1 telles que le support de cpi est contenu dans Ri et cpi est égale à 1 sur R:. La somme cp = pi est définie sur X car pour

tout z E X seul un nombre fini de cpi(z) est non nul et elle est partout supérieure ou égale à 1. Les fonctions ai = !$ vérifient les conditions du théorème.

Supposons maintenant que le recouvrement ( R i ) i € ~ est arbitraire. Comme X est réunion dénombrable de compacts, on peut trouver un recouvrement plus fin, localement fini, ( G j ) j € ~ dépendant d u n autre ensemble d'indice J et une application de J dans I, j e i(j) tels que tout Gj est relativement compact dans X , cj est contenu dans un domaine de carte et pour tout j E J,Gj c Ri(j). D'après la lrepartie de la démonstration il existe une partition de l'unité (-yj)j€~ subordonnée

i E I

3. Espace cotangent en un point - Formesdifférentielles de degré I 207

au recouvrement ( G j ) j E ~ . Posons alors cri = yj, pour tout i E I . La famille

O i ( j ) = i

(ai) iEl satisfait aux conditions du théorème.

3. ESPACE COTANGENT EN UN POINT FORMES DIFFÉRENTIELLES DE DEGRÉ 1

Soient X une variété différentiable de classe CQ, de dimension n et x E X. On considère l’ensemble des couples (U,f) où U est un ouvert de X contenant x et f E CP(U), p 5 q. On définit une relation d‘équivalence sur cet ensemble par (U,f) N (U’,f’) si et seulement s’il existe W c U n U’ tel que x E W et

f I = f ’ l w,. On appelle germe de fonction CP en x une classe d‘équivalence pour la relation précédente ; s’il n’y a pas de risque de confusion on identifie souvent un germe avec un de ses représentants.

Définition 3.1. Une fonction f de classe CP,p 2 1, définie sur un voisinage W d’un point x E X est dite stationnaire en x, s’il existe une carte (U, h) telle que x E U c W et que toutes les dérivées partielles d’ordre 1 de f O h-‘ soient nulles en h(x). Un germe de fonction CP,p 2 1, en x est stationnaire si et seulement si un de ses représentants est stationnaire en x. (Notons qu’alors ils sont tous stationnaires).

Notons Cg(X) l’ensemble des germes de fonctions C P en x et Sg(X) le sous- ensemble de Cg(X) constitué par les germes stationnaires. Cg(X) est un W-espace vectoriel et S g ( X ) est un sous-espace vectoriel de Cg(X). On peut remarquer que Cg(X)/Sg(X) C:(X)/S:(X) pourtoutp 2 1.

Définition 3.2. Soit X une variété de classe Cq,q 2 1. L’espace vectoriel T,* (X) = C;(X)/S:(X) estappeléespacecotangentàXenx. S i f E C:(X) onnotera(df), son image dans T,* (X). Les éléments de T,* ( X ) sont les différentielles en x.

Soit (U,h) une carte telle que x E U , considérons l’application

eh,= : T;(x) t L ( w ~ , w )

(dfL - 4.f O h-l)(+)). L‘application est linéaire, injective. Si (XI, . . . ,xn) désignent les coordonnées locales en x définies par la carte (U,h), la famille des d(xj O h-’)(h(x)) est une base de L(Rn ,IR) donc Oh,, est aussi surjective, c’est un isomorphisme. L‘espace vectorielT,*(X) est donc de dimensionn et (dxl),, . . . ,(dx,), forment une base de T,*(X).

Nous ailons exprimer les coordonnées d‘un élément (df)z de T,*(X) dans cette base

ôf oh-’ (h(X))d(% O h-l)(h(x))

j=l


j=l

Définition 3.3. On définit T * ( X ) comme la réunion disjointe pour x E X des T: ( X ) , c'estl'espace cotangent à X et on notep la projection naturelle de T * ( X ) s u r X .

Définition 3.4. SoientX une uariétédifférentiable de classeCq,q 2 1, e t A un ouuert de X . Une forme différentielle de degré 1 sur A est une application w : A -+ T* ( X ) telle quep O A = Id.

Soient (U,h) une carte de X et ( X I , . . . ,xn) les coordonnées locales associées. Si w est une forme différentielle de degré 1 sur A, on a, pour tout x E A n U ,

n

wlA"u(x) = C.j(X)(dXj)Z. j=l

On notera d z j la forme différentielle de degré 1 définie sur U par x ct (dxj),. On peut alors écrire

n

j = l

où les aj sont des fonctions définies sur A n U . La forme w sera dite de classe Ce,[ < q, si les fonctions aj sont de classe C e

sur A n U . Un calcul direct prouve que cette notion est indépendante du choix des coordonnées.

Exemple 3.5 : Si f est une fonction de classe C1 sur l'ouvert A de X , l'application z I-+ (df), définit une forme différentielle de degré 1, continue sur A , on l'appelle la différentielle de la fonction f. Si A est un ouvert de Rn ,df ainsi définie coïncide avec la différentielle de la fonction f au sens classique après identification de TZX avec L(Rn ,R) pour tout z E A .

4. ESPACE TANGENT EN UN POINT - CHAMPS DE VECTEURS

Soit X une variété différentiable de classe Cq,q 2 1, et de dimension n et II: un point de X.

Une courbe dans X passant par 2 E X est une application a de classe C1 d u n intervalle ouvert I de R dans X telle que O E I et a(0) = z. On définit une relation d'équivalence sur l'ensemble des courbes de X passant par x par (Y N p si et seulement si pour toute fonction f de classe C1 définie au voisinage de z on a

4. Espace tangent en un point - Champs de vecteurs 209

Le lecteur pourra vérifier que si X est un ouvert de IRn , Q N ,û si et seulement si cy’(0) = P’(0).

Définition 4.1. L‘ensemble des classes d’équivalence de courbes de X passant par x pour la relation ci-dessus est appelé espace tangent en x à X . On le note T, ( X ) .

Si v E T, ( X ) et si f est une fonction de classe C 1 au voisinage de x, on pose

où Q est un représentant de v. Cela s’interprète comme une dérivée directionnelle. Pour X = R” , on vérifie facilement que

Remarquons que v(f) = v ( g ) si f et g E C ; ( X ) et f - g E S; (X) . Si v E T, ( X ) , on peut donc définir une application que l’on notera encore v de T,’ ( X ) dans IR

d v : (df)x - ,(f O a)(O)

où f est un représentant de l’élément (df), de T,’(X) et cy un représentant de v. Vérifions que si v1 et v2 coïncident en tant qu’applications de T,’ ( X ) dans IR, ils coïncident en tant qu’éléments de T, ( X ) . Soit ai un représentant de vi,z = 1,2. Si vl et v2 coïncident comme application de T,‘ ( X ) dans IR, pour toute fonction f de classe C1 définie au voisinage de x , on a

mais cela signifie que a1 et a2 sont dans la même classe et donc que v1 = v2 dans T,X. Un vecteur tangent en x à X peut donc être considéré comme une forme linéaire sur T,’ ( X ) .

Proposition 4.2. Soient v E T, ( X ) et f et g des fonctions de classeCl au voisinage d e x . Onapoura,b E IR

4a. f + b9) = 4 f ) + bv(g ) 4 f 9 > = v(f)g(x) + f(x)v(g).

(Une application ayant ces propriétés s’appelle une dérivation en 2).

Démonstration. I1 suffit d’appliquer les définitions. O

Exemple: Soit (U,h) une carte en x E X telle que h(x) = O et (XI,. . . ,xn) les coordonnées locales définies par cette carte. On note ( &), la classe de la courbe t H h- l (O, . . . ,O, t , O , . . . ,O) pour tout j = 1,. . . ,n. Si f est une fonction de

T K i

classe C1 au voisinage de x on a pour j = 1, . . . ,n


Proposition 4.3. Les vecteurs (&,, . . . ,( &), forment une base de (2': ( X ) ) ' le dual de 7': ( X ) .

Démonstration. I1 suffit de vérifier que les vecteurs ( &),, . . . ,( G), a forment la basedualedelabase ((~IC~),)+I,...,~ deT:(X).Pourcelacalculons (&),(zIc).

ce qui prouve le résultat. O

Théorème 4.4. L'espace tangent en x à X s'identifie avec le dual de l'espace cotangent enxàX,i .e .T,X = (T,(X))*.

Démonstration. D'après la remarque qui suit la Définition 4.1 et le premier point de la Proposition 4.2, T,(X) s'injecte dans (7'; ( X ) ) * . I1 reste à prouver l'inclusion inverse. Soit (U,h) une carte de X telle que IC E U,h(z) = O et h(U) coïncide avec l'ouvert {IC E IR" I sup lxjl < I}. Si L E ( T ; ( X ) ) * , alors grâce à la Propo-

j=l, ..., n n

sition 4.3 il existe des réels a l , . . . ,an tels que L = aj (&),. Considérons des

fonctions yj,j = 1,. . . ,n, définies sur un intervalle ouvert I de IR contenant O et telles que Iyj(t) I < 1 pour tout t E I et yj(t) = a j t au voisinage de O. Notons r la courbe de X passant par IC définie par h-' O y où y(t) = (yl(t), . . . ,yn@)). Alors

O

j=l

L coïncide avec la classe de I? et par conséquent (T,* ( X ) ) " c T, ( X ) .

Remarque: T,'(X) est donc le dual de T, (X) et les bases ((d1~j),)j=1,...,~ et a

Onadoncsi(df), E T,*(X)

((K)x)j=l, ...p sont duales.

Si nous considérons des fonctions à valeurs dans @, nous pouvons définir l'espace vectoriel sur @ des 1-formes différentielles au point IC E X , à valeurs complexes. On le note CT: X, il s'identifie à l'espace des applications IR-linéaires de T,X dans @. L'espace vectoriel @Tz X est en fait le complexifié @@E T,*X de l'espace vectoriel réel T,*X, c'est un espace vectoriel de dimension complexe n. On peut considérer également le complexifié @T,X de l'espace vectoriel réel T,X. Tout élément v E CTxX s'écrit de manière unique Y = v1 + iva où YI ,va E T,X. Une 1-forme différentielle w à valeurs complexes s'étend naturellement en une application @-linéaire W' : CT, x -+ c en posant w' (v1 + iva) = w (vi) + iw (va). On montre facilement que CT; X et CT, X sont naturellement duaux en tant que @-espaces vectoriels.

5. Algèbre des formes différentielles 21 1

Définition4.5. On dé f in i tT(X) comme la réunion disjointepourx 6 X d e s T x ( X ) , c'estl'espace tangent à X et on notep la projection naturelle d e T ( X ) sur X .

Définition 4.6. SoientX une variétédifférentiable de classeC4,q 2 1, e t A un ouvert de X . Un champ de vecteurs sur A est une application V : A + T ( X ) telle que p O V = Id.

Soit (U,h) une carte de X et (ICI, . . . ,IC") les coordonnées locales associées. Si V est un champ de vecteurs de A et si IC E A n U on a

On notera a le champ de vecteurs défini sur U par IC

écrire ( ax, 8x1

On peut alors

où les aj sont des fonctions définies sur A n U .

classe Ce sur A n U . Le champ de vecteurs V sera dit de classe C e $ < q, si les fonctions aj sont de

5. ALGÈBRE DES FORMES DIFFÉRENTIELLES

Soient X une variété différentiable de classe Cq:q 2 1, et z un point de X .

On considère la puissance extérieure rième sur R,A'T: ( X ) , de l'espace cotangent TZ ( X ) à X en z. Pour la définition et les principales propriétés de la puissance extérieure rième d u n espace vectoriel le lecteur pourra consulter [Lan]. Dans le cadre qui nous intéresse nous allons utiliser l'interprétation plus concrète suivante de la puissance extérieure dème.

Par définition A o T Z ( X ) = R et si T 2 1, comme T,* (X) est le dual de T x ( X ) , on identifie h'T,* ( X ) avec le R-espace vectoriel des formes r-linéaires alternées sur T, ( X ) , c'est-à-dire les applications r-linéaires

w : T X ( X ) x . . . x T 2 ( X ) + R \ / "

r-fois telles que si v1, . . . ,v, 6 T, ( X ) et a est une permutation de { 1, . . . , T }

w(vu(l), . . . ,vu(r)) = sign(g)w(v1,. . .,vr) où sign(a) désigne la signature de la permutation a. En particulier w(v1, . . . ,vT) = O si vi = vj pour i # j.

Remarque: On a A I T , ( X ) = T,* (X) et si T > d i m T , ( X ) = d i m X , alors A r T Z ( X ) = {O}.


On appelle algèbre extérieure de T; ( X ) la somme A'T; ( X ) = @ ArT; ( X ) . r > O

A. Produit extérieur

Le produit extérieur dune r-forme w de A r T Z ( X ) et d'une s-forme q de A s T ; ( X ) est une ( r + s)-forme, notée w A q, définie par

où l'on somme sur toutes les permutations a de l'ensemble (1, . . . ,r + s}. Si r ou s est nul, par exemple T = O, w est un nombre réel et on pose w A 7) = wq.

Les relations précédentes et la distributivité par rapport à l'addition permettent de définir le produit extérieur de deux éléments quelconques de A'T; ( X ) . On obtient ainsi une loi de composition interne sur A'T; ( X ) que l'on note A. On vérifie aisément que A est associative mais pas commutative. On a néanmoins

w A q = ( - l ) T S q A w s i w ~ A r T j ( X ) e t ~ ~ A S T , * ( X ) .

Soient (U,h) une carte de X au voisinage de z et ( 2 1 , . . . ,z,) les coordonnées locales associées. Pour r E { 1, . . . ,n} ia famille

{ ( d z j , ) z A . . . A (dxj,.)x,l 5 ji < . . . < j r 5 n}

est une base de A r T ; ( X ) , en particulier d imA'T , (X) = cn et toute r-forme w de ArTZ ( X ) s'écrit

où la sommation se fait sur les r-uplets strictement croissants (jl,. . . , j r ) de (1,. . . ,n}'et

( d z ~ ) , = (dz j , ) , A . . . A (dzj,), si J = (jl, . . . , j r ) .

Remarquons que les coordonnées a J de w dans cette base sont données par a J = w ( ( - ) , a ,..., ( - ) , ) s i J= a (jl ,..., j r ) .

8% 8%

Définition 5.1. SoientX une variétédifférentiablede classeCq,q 2 1, e t A un ouvert de X . Une r-forme différentielle ou forme différentielle de degré T sur A est une applicationw : A + A ' T * ( X ) = U A ' T ; ( X ) tellequep O w = Id s ip est ZQ

projection naturelledeA'T*(X) s u r X . X E X

Soient (U,h) une carte de X et (XI, . . . ,zn) les coordonnées locales associées. Si w est une r-forme différentielle sur A et si z E A n U on a

5. Algèbre des formes différentielles 213

On notera d z ~ la forme différentielle de degré r définie par z Ç-) ( d z ~ ) , . On a donc w I = a J d z J où les U J sont des fonctions définies sur A n U.

La forme différentielle w sera dite de classe Ce,! < q, si et seulement si les fonctions U J sont de classe Ce sur A n U . On noteraC:(A) l'espace vectoriel des formes différentielles de degré r de classe Ce sur A.

Si w E CT(A) et q E C':(A), la forme différentielle w A q définie par w A q(z) = ~ ( z ) A q(z) pour tout z E A est un élément de C:+,(A). La forme différentielle d z ~ , J = ( j l , . . . ,jr) est donc le produit extérieur dxj, A . . . A dz j r .

Considérons l'espace vectoriel @ C:(A), le produit extérieur A que nous ve-

nons de définir est une loi de composition interne sur @ C:(A) ; @ C:(A) est

alors une algèbre appelée algèbre des formes différentielles de classe Ce sur A et notée Cf(A).

J = ( j , 1 . . . ,&I j , <...<j,

r 2 0

r 2 0 r>O

B. Différentielle extérieure

Comme on l'a vu dans l'exemple 3.5, la différentielle df d'une fonction f de classe C'sur un ouvert A de X , définit une 1-forme continue sur A ; on a donc une application d : C 1 ( A ) + C:(A) qui de plus satisfait la règle de Leibnitz

d u g ) = gdf + fdg (cela se vérifie aisément à partir de la définition).

On veut étendre d à toute l'algèbre C!(A), l 2 1.

Théorème 5.2. Soient X une variété différentiable de classe CQ,q 2 2, et 1 un entier tel que O 5 e < q. Il existe une unique application linéaired : Ci ( X ) -+ C: ( X ) qui vérifie

1) df est la différentielle de f si f E C' ( X ) , 2 ) s i l 5 e < q e tr 2 O alorsdw E Cf,:(X) siw E C:(X), 3)si f E C e ( X ) , 2 5 l 5 q, alorsd(df) = O , 4)siwl E C,'(X) etw2 E C s ( X ) alors

d(w1 A ~ 2 ) = dwl A wz + ( - l ) r ~ l A dW2.

L'application d ainsi déflnie est appelée différentielle extérieure sur X .

Démonstration. Remarquons tout d'abord que, si d existe, d est un opérateur local, c'est-à-dire que si w1 et wz sont deux formes différentielles de degré T sur X qui coïncident sur un ouvert U de X alors dwl et dw2 coïncident sur U . Pour cela, montrons que si w E C,?(X) est nulle sur U dors dw = O sur U. Soit x E U et f E C ' ( X ) telle que f (z) = O et f = 1 auvoisinagede X \ U , alors si w E C f ( X ) est nulie sur U , on a w = f w . D'après la propriété 4) de d,

dw = d( f w ) = df A w + f d w


et puisque f ( x ) = O et W ( X ) = O, on obtient d w ( z ) = O.

Pour prouver l'unicité d'un opérateur d satisfaisant ij, 2j, 3j et 4) il suffit donc de considérer le cas où X est un domaine de carte U de X . Si (U,h) est une carte de X et ( 2 1 , . . . ,xn) les coordonnées locales associées, w E C: ( U ) s'écrit

J

où J = ( j l , . . . , j r ) E W, j , < . . . < j r , d x j = d x j , A . . . A d x j ? et U J E C' (U) . Puisque d est linéaire et d ( d x j ) = O, en appliquant 41, on obtient

et d est donc entièrement déterminé par sa valeur sur les fonctions.

L'opérateur d , s'il existe, étant local et unique il suffit de prouver son existence dans un domaine de carte U . De plus par linéarité il suffit de définir d sur C:(U). Soient (U,h) une carte de X et ( X I , . . . ,xn) les coordonnées locales associées. Si w E CP(U),

W = a J d x J s u r U

on a

aaJ dw = d a J A d x J =

j1 <...<j, jl <...<j,

-dxj A d x J sur U. dXj

J = ( j ï ,...j,) J = ( j 1 , . . . j v ) j=i

On vérifie facilement que d satisfait i), Z), 3) et 4) . O

Coroiiaire5.3. Si2 5 C 5 q, d ( d w ) = O , pour toutw E C f ( X ) ;

Démonstration. I1 suffit de prouver le résultat dans un domaine de carte. Soient (U,h) un domaine de carte et ( X I , . . . ,xn) les coordonnées locales associées. Si w E C ; ( X ) ona

et

J=(ji ,...fr) J i < . . . < j r

Alors d(dw1,) = ( d ( d a J ) A d x J - daJ A d ( d z J ) ) enutilisantlapro-

priété 4) et la linéarité de d. Grâce à la propriété 31 de d , d ( d a J ) = O et comme d ( d x J ) = d ( d x j , A. . . A d x j , ) on déduit des propriétés 4) et 3) de d que d ( d z j ) =

O

J = ( j i , ..., j v ) j1 <...<j,.

O. Finalement on a bien d(dw I V ) = O.

5. Algèbre des formes différentielles 215

C. Image réciproque

Soient X et Y deux variétés différentiables et p : X + Y une application de classe C1. Pour tout z E X , l'application p induit une application d p x de T x X dans Tp(x)Y, définie de la manière suivante : d p x (v) est la classe de la courbe po Q

où Q est un représentant de v E T, X . Par transposition on obtient une application pz : h'T;(zlY -+ A'TZX. Elle est définie par

p ; W ( v l , . . . , v T ) =W(d~z(vl),...,dllx(~r)),Si~l , . . ' , v r E T,X.

Si w est une forme différentielle sur un ouvert W de Y , on définit une forme diffé- rentielle p * w sur p - l ( W ) en posant ( p * w ) ( z ) = & ( w ( p ( z ) ) ) pour tout z dans p - ' ( W ) . C'est i'image réciproque de w par p. On vérifie que pour les fonctions f E C1(Y) ,p* f = f O p et puisque l'opérateur d coïncide dans ce cas avec la différentielle usuelle

d h * f ) ( z ) = d ( f O p)(z) = d f ( P ( Z ) ) O d P ( Z ) = P * ( d f ) ( S ) .

Soient (U,h) et (V,k) deux cartes de X et Y respectivement définissant les co- ordonnées locales ( 5 1 , . . . J,) et ( Y I , . . . ,ym). On suppose que p(U) c V . Soit w une forme différentielle sur un ouvert W de Y dont la restriction à V n W s'écrit

Wlvnw = bJdyj1 A . . ' A d y j , , J = ( j , , . . . , j , ) j l<.. .<j,

alors p*w = bJ pd (Y j1 A ' ' . A d ( y j , CL).

J=( j i ,..., j T ) j i<.. .<j,

Proposition 5.4. Soient X et Y deux variétés différentiables de classe C Q et p une application de classe C q de X dans Y .

i) L'image réciproque p* est un homomorphisme d'algèbre de Co ( Y ) dans C,O ( X ) qui vérifie

~ * ( c ; ( Y ) ) c c;(x) si0 5 e < q etr 2 O .

ii) p* commute avec les différentielles extérieures d x et d y sur X et Y . Plus précisément si w est une forme différentielle de classeCe,î 5 e < q, sur Y alors

d x ( p * w ) = P*(dYW) .

iii) Si Z est une variété différentiable de classe C q et X : Y + Z une application de classeCq alors

(A o p ) * = p* O A*.

Démonstration. i) résulte de l'écriture en coordonnées locales.


On obtient iil en se plaçant dans un domaine de carte V de Y . Si w E C:(Y) s'écrit

alors

J = ( j i . . , j r ) jl<,,,<jT

= p* ( d b J A d y J )

J = ( j i , ...,jr) il<...<&

= P * ( d Y W )

car p* est un homomorphisme d'algèbre et iil est vrai pour les fonctions.

Pour obtenir iii) il suffit d'appliquer la définition de l'image réciproque. 0

6. INTÉGRATION DES FORMES DIFFÊRENTIELLES

Dans cette section on s'intéresse à l'intégration des n-formes différentielles sur une variété différentiable orientée de dimension n.

A. Variétés orientables

Définition 6.1. Une variété X de classe C Q de dimension n est dite orientable s'il existe une forme différentielle0 dedegrén continuesurx qui nes'annule passurX. Deux formes différentielles 01 et 0 2 définissent la même orientation sur X s'il existe une fonction f continue, positive sur X telle que 01 = f 0 2 . Une variété orientable sur laquelle on a choisi une orientation est dite orientée.

Remarque : Pour tout II: E X , l'espace vectoriel AnTZ ( X ) est de dimension 1 donc deux n-formes 01 et 0 2 continues qui ne s'annulent pas sur X diffèrent dune fonction continue sur X qui ne s'annule pas, cette fonction garde donc un signe constant sur chaque composante connexe de X . Si X est orientable et connexe il y a donc exactement deux orientations possibles sur X .

6. Intégration des formes différentielles 217

Si X est orientée par R, le système de coordonnées locales (21, . . . ,x,) associé à la carte (U,h) est dit positivement orienté si la forme différentielle dzl A . . . Adz, définit la même orientation que R,

Soit p : (X1,Rl) -+ (X2,Râ) unC' difféomorphisme entre deuxvariétés diffé- rentiables orientées X1 et X2, on dit que p conserve l'orientation si p*R2 = f R 1 où f est une fonction positive sur XI.

Exemples 1) Si ( t i , . . . ,t,) sont les coordonnées usuelles de IRn, la n-forme différentielle

d t 1 A . . . A d t , définit une orientation sur R,. 2) Un ouvert non vide D de R" est une variété orientée si on le munit de l'orien-

tation induite par celle de R" . 3) Si D C IRn est un ouvert à bord Ck,k 2 1, l'orientation usuelle de D induit

une orientation sur bD de la manière suivante : soient x E bD et T une fonction définissante de classe Ck pour D sur un voisinage U de x, i.e.

U n D = { y E u l T ( y ) < û } e t d r ( y ) # û s i y E U n b D .

Quitte à restreindre U , on peut supposer qu'il existe un système de coordonnées positivement orienté défini par une carte (U,h) avec h = ( T , x ~ , . . . J,), les (n - 1) dernières coordonnées formant un système de coordonnées locales sur bD n U . On oriente alors bD fi U par la (n - 1)-forme Z*(dz2 A . . . A dz,) où z est l'injection de bD n U dans U . Cette orientation est indépendante du choix de la fonction définissant T de D et s'étend à bD tout entier en utilisant une partition de l'unité (cf chap. II, 8).

Si X est une variété de classe C*,q 2 1, de dimension n et (Ui,hi) et (Uj,hj) deux cartes de X, alors

hi O h;' : hj(ui n uj) + R"

dij(x) = det[J(hi O h;')(hj(z))] pourx E Ui n Uj

est une application de classe C*,q 2 1 et on pose

où J désigne la matrice jacobienne.

Proposition 6.2. La variété X est orientable si et seulement si X possède un atlas {(Ui,hi)}i,~ telque, pourtouti , j E I , d i j (x ) > û six E Ui n Uj.

Démonstration. On peut supposer que X est connexe. Soit R une forme différen- tielle continue de degré n sur X qui ne s'annule pas sur X. Si (Ua,ha) est une carte dont les coordonnées locales associées sont ( X I , . . . ,x,), on pose Ra = d z l A . . . A dz,, c'est une n-forme continue, sans zéros sur U,. Pour tout a E X il existe une carte (U,,h,) telle que a E Va et R = gaRa où ga est une fonction continue, strictement positive sur U, (il suffit de remplacer ha(z) = ( 2 1 , . . . J , ) par (21,. . . ,zn-l, - 2,) si nécessaire). De plus sur Ua n ub, on a Ra = da&,, et par conséquent dab = 2 > O sur V a n ub.


Réciproquement, supposons que {(Uz,h,)},E~ est un atlas de X tel que pour tout a , j E I,d,, > O sur U, n U,. Posons comme ci-dessus R, = dxl A . . . A dx, si (XI, . . . ,xn) sont les coordonnées locales associées à la carte (U,,h,). Soit (X,),~I une partition de classe Cq de l'unité subordonnée au recouvrement (UZ)aE~ et posons R = xzR,. La forme différentielle R est de classe C"' et de degré n

% € I sur X. De plus si a E X et si I, désigne l'ensemble des indices z E I tels que a E supp x,, on a

on aR(a ) # O. O

B. Intégration des formes différentielles

Nous allons considérer successivement le cas d u n ouvert de Rn puis celui dune variété différentiable.

1) Cas d'un ouvert de R"

Soient U un ouvert de Rn et 77 E C: ( U ) une forme différentielle continue de degré n à support compact dans U . I1 existe alors une unique fonction continue f à support compact dans U telle que

77 = f dxl A . . . A dx,.

On Dose alors

où le membre de droite représente l'intégrale de f sur U par rapport à la mesure de Lebesgue dans Rn .

Si W est un ouvert de R" et F : W + F ( W ) = U un difféomorphisme de classe C1, la formule de changement de variable pour l'intégrale de Lebesgue dans Rn donne

f(x)dxi...dx, - f(F(t))ldet(dF(t))Idtl...dt ,. L , W , - lw

Si F préserve l'orientation on a

det(dF(t)) > Opourtoutt E W et alors

6. Intégration des formes différentielles 219

2) Cas d'une variété

Soient X une variété différentiable de classe Cq de dimension n orientée et (U,h) une carte de X dont le système de coordonnées locales ( 2 1 , . . . ,zn) est positivement orienté. Si w E CE ( U ) est une forme différentielle continue de degré n à support compact dans U , on pose

où le membre de droite est l'intégrale de la forme (h- l )*w sur l'ouvert h(U) de IW" au sens du 1).

Vérifions que cette définition est indépendante du choix de la carte (U,h). Soit (U,k) une autre carte dont le système de coordonnées locales est positivement orienté, alors l'application F = h O k-' : k ( U ) -+ h(U) est un difféomorphisme de classe C' qui préserve l'orientation et d'après le cas étudié en 1)

(h-')*w = JL,,, F*(h-l)*w = (h-1 O F)*w = JL(u)(k-l)*w L U ) .I,,,,

ce qui prouve l'indépendance cherchée.

Considérons maintenant le problème de l'intégration des formes différentielles dont le support n'est plus contenu dans un domaine de carte.

Soit X une variété différentiable de classe Cq, de dimension n, orientable, il existe alors un atlas U de X dont les domaines de carte sont connexes et tel que pour deux cartes (U,k) et (U',h') de U on ait det J(h' O h - l ) ( y ) > O pour tout y = h(z),z E U ri U', où J désigne la matrice jacobienne, d'après la Proposition 6.2. Supposons X connexe, orientée et considérons un atlas U = (Ui ,h i ) iE~ correspondant à l'orientation de X . Soit (x i ) iE~ une partition de l'unité subordonnée au recouvrement ( U i ) i E ~ . Si w est une forme différentielle continue de degré n, à support compact dans X , on pose

On montre facilement que cette définition est indépendante du choix de la partition de l'unité et de l'atlas correspondant à l'orientation. Si X n'est pas connexe, on pose sx w = sx w où les Xi sont les composantes connexes de X .

i E i '

L'expression sx w définie ci-dessus s'appelle l'intégrale de la n-forme différen- tielle w sur la variété orientée X. On remarque que si l'on change l'orientation de X , l'intégrale est multipliée par -1.

Remarque : On n'a défini l'intégrale que pour les formes différentielles continues à support compact, il est clair que comme dans le cas de Rn on peut étendre cette notion à d'autres classes de formes, par exemple les formes à coefficients L1.


7. THÉORÈME DE STOKES

Nous ne prouverons pas dans ce paragraphe le Théorème de Stokes sous ses hypothèses les plus générales mais seulement le cas particulier qui est utilisé dans ce livre.

Théorème 7.1. Soit X une variété différentiable orientée de classe CQ,q 2 2, de dimension n et soit D CC X un ouvert relativement compact dans X à bord de classe c1. S iw E c:-,(D) aiors

Remarques

1) L'hypothèse de régularité sur w signifie que w est définie et continue sur et que les coefficients de w dans un système de coordonnées locales associées à une carte (U, h) sont de classe C1 dans U n D, c'est-à-dire que les dérivées partielles de ces coefficients définies sur U n D s'étendent continûment à U n D.

2) L'orientation de bD est supposée être l'orientation induite par celle de D et on a posé

où i est l'injection de bD dans X .

Démonstration du Théorème 7.1. L'ensemble D étant compact, on peut trouver un

nombre fini de cartes (U,,h,)l<,ie de X telles que DC u U, et si U, f l bD#0

pour un certain 2, aiors h, = (r,hl) où hl : Vi + IRn-' est défini par restriction à U, n bD des coordonnées locales sur bD et D n U, = {x E U, I -1 < r ( z ) < O}. Soit (x , ) une partition de l'unité de classe CQ subordonnée au recouvrement (uz)l<zie. Par linéarité il suffit de prouver que

e

i=1

x z w = L,, d ( x , w ) pour 1 F 5 e . J bDnU,

ConsidéronstoutdabordlecasoùbDnU, # 0, alors (U,nbD,i, = h:lbDnu,) est une carte positivement orientée de bD. Pour simplifier les écritures nous noterons U à la place de U,, h à la place de h, et x à la place de xz.

n

On pose ( h - ' ) * ( x w ) = g j ( t ) d t l A . . . A dtj-1 A dtj+' A . . + A d t , où les j = l

g j E C1 ( u n O) sont à support compact. Alors

( k - ' ) * i * ( x w ) = gl (O, t z , . . . , tn )d tz A . . . A d t ,

et

7. Théorème de Stokes

n

( h - ' ) * d ( X w ) = d ( ( h - l ) * x w ) = x ( - l ) + l % d t l A dtj

j=l

Puisque h(D n U ) c { t E IRn I -1 < tl < O } , ona

. . .

22 1

A dt,.

dt,.

Les fonctions gj étant à support compact, on obtient

% d t j = O j = 2, ..., n et

( k - l ) * i * ( x w ) = = / h ( b D n U )

Supposons maintenant que Ui n bD = 0. On peut supposer que Vi c D et puisque JbDnU, x z w = O , il suffit de prouver que su, d ( x i w ) = O. En reprenant les calculs du cas précédent, on remarque que l'on doit intégrer sur IRn des dérivées de fonctions C' à support compact et que l'indice j = 1 se comporte cette fois comme

O les autres et par conséquent su, d ( x i w ) = O.

Remarques 7.2

1) Si X est une variété compacte et X = D alors bD = 0 et sx dw = O pour toute forme w E ~?:-~(x) .

2) On peut étendre facilement le Théorème de Stokes aux domaines à bord de classe C' par morceaux définis de la manière suivante : il existe un recouvrement fini { U I , . . . ,Ut} de bD par des ouverts de X et des fonctions ri E C'(!Yi) telles que

et pour tout sous-ensemble {il, . . . ,iv} de { 1, . . . ,e} on a dri , A . . . A driY # O sur Ui, A . . . A Viy. On note Ci = {x E Vi I ri(.) = O } & = Ci n bD alors

les ensembles s i sont des variétés et bD = U Si. Si on pose sbD w = so w la

formule de Stokes est encore valable.

C C

i = l ;=I sa

Annexe B

Théorie des faisceaux

Cette annexe réunit les éléments de théorie des faisceaux nécessaires à la compréhen- sion de la démonstration de l’isomorphisme de Dolbeault donnée au chapitre V.

Définition 1. SoitX un espace topologique. Un préfaisceau 3 sur X est la donnée il pour chaque ouvert U de X d’un ensemble non vide 3( U ) ,

ii) pour chaque couple (U,V) d’ouverts de X tel que U c V d’une application de restriction

PUV : 3 ( V ) + 3(W telle que

1) pour tout ouvert U de X , puu = I , 2) si U c V c W alors puw = puv O p v ~ . Si s E 3( V ) on écrira souvent

pour simplifiers I Si les ensembles 3 ( U ) sont des groupes abéliens (resp. des anneaux) et les ap-

plications puv des homomorphismes de groupe (resp. d’anneau), le préfaisceau F est un préfaisceau de groupes abéliens (resp. d’anneaux). Dans ce cas 3 ( 0 ) = {O}.

Si 3 et Ç sont des préfaisceaux de groupes abéliens (ou d’anneaux), un morphisme de préfaisceau ‘p : 3 + Ç est une collection d’homomorphismes ‘pu : <(U) + Ç ( U ) qui commutent avec les applications de restriction, i.e. telle que Puv O cpv = vu O Puv.

à la place de puvs .

3

Définition 2. Un préfaisceau 3 est un faisceau si et seulement s’il satisfait aux axiomes de recollement.

( R I ) Sis1,s2 E 3 ( U ) oùU = U Vi ets ipu,usl = PU,USZ pourtouti E I

(Rz) Si U = u Ui et si pour chaque i E I il existe si E 3 ( U i ) vérifiant les

% € I alorssi = s2.

% € I conditions de compatibilité

224 B. Théorie des faisceaux

alorsilexistes E 3 ( U ) telle que pu,^^ = si.

Exemples : Si X est une variété analytique complexe O, C&, O 5 a 5 CO, VL,q sont des faisceaux sur X .

A. Cohomologie de Cech à valeurs dans un faisceau 3 Soient X un espace topologique, 3 un faisceau de groupes abéliens sur X et

U = (Ui)iE~ un recouvrement ouvert de X . Sip E N, on note a = ( ( Y O , . . . ,ap) tout élément de IP+' et on pose U, = U,, n. . TWO,. Unep-cochaînec du recouvrement U à valeurs dans 3 est une application qui à tout élément a E IP+' associe un élément c, de 3 ( U a ) et qui est alternée comme fonction de a. L'ensemble CP(U,3) des p-cochaînes de U à valeurs dans 3 est muni d'une structure de groupe abélien déduite de celle de 3.

On définit l'opération cobordhp : CP(U,3) + CP+l(U,F) par

P+ 1

j = O ( S P C ) , = (- l ) j C a o . . .&, ...a P + l lu,

où la notation &j signifie que l'indice aj a été supprimé. On pose CP(U,F) = O et S P = O pourp < O. En degré O et 1 on obtient par exemple

1 p = 1,c = (C,,),(S c)ap. = (cp. - + CaB)IU,o, .

Le lecteur vérifiera aisément que S P + l O S p = O.

valeurs dans 3 et On note ZP(U,.F) = { c E CP(U,.F) I 6Pc = O } le groupe desp-cocycies à

EP(U,F) = {Sp-lc I c E C p - y U , F ) }

le groupe des p cobords à valeurs dans 3, E p ( U , 3 ) est alors un sous-groupe de Z.(U,F). On peut dors introduire le groupe quotient

H P ( U , 3 ) = Z P ( U , 3 ) / E P ( U , 3 )

on l'appelle le p-ième groupe de cohomologie de Cech de 3 relativement à U . Re- marquons que si c est un O-cocycle alors c, - CO = O dans U, n Up pour tout a et p. Les (C, ) ,~I définissent alors un élément s E 3(X) tel que slue = c,. Donc

H 0 ( U , 3 ) = F ( X ) .

Maintenant, soit V = ( V , ) ~ , J un autre recouvrement de X qui est plus fin que U, c'est-à-dire tel qu'il existe une application p : J + I telle que V, c Up(j ) pour tout j E J . On peut alors définir une application p. : C' (U,3 ) + C'(VIF) en posant

- ( f l C ) ~ O - % - Cp(<ro)...p(a,)lVe,,.,,~.

Cohomologie de tech à valeurs dans un faisceau 3 225

I1 est clair que cette application commute avec 6 et définit donc une application p* : HP(U,F) -+ HP(V,F). Notons que l'application p* est indépendante du choix de p . En effet, si p' est une autre application ayant les mêmes propriétés que p , les applications p' et p'* sont homotopes. Définissons l'application hP : Cp(U,F) + Cp-'(V,F) par

Un calcul direct donne la formule dhomotopie

6P-l hP + hP+'SP = - Pp.

Par conséquent si c est un cocycle, on obtient p"c - p'c = Sh'c est un cobord et p* coïncide donc avec p i * .

Considérons qu'un recouvrement de X est un sous-ensemble de P ( X ) , la famille de tous les recouvrements de X est alors un ensemble et nous allons pouvoir considérer la limite inductive des groupes HP(U,3 ) par rapport à l'application p * .

Le p-ième groupe de cohomoiogie de cech de 3 sur X , H P ( X , 3 ) , est la limite inductive

H P ( X , F ) = 9 H P ( U , 3 ) U

quandU décrit l'ensemble des recouvrements ouverts de X. Plus précisément, cela signifie que les éléments de H P ( X , 3 ) sont les classes d'équivalence dans l'union disjointes des groupes HP(U,F) où un élément de HP(U,3 ) et un élément de HP(V,.F) sont identifiés si leurs images coïncident dans H P ( W , T ) pour un recouvrement W de X plus fin que U et V .

Proposition 3. Soient X une variété différentiable de classe C" et E le faisceau des germes de fonction de classe CM sur X . Si 3 est un faisceau de €-modules sur X , alors HP(U,3 ) = O pour toutp > O et tout recouvrementU de X . En particulier H P ( X , 3 ) = O pourp > O.

Démonstration. Soient c E ZP(U,3 ) et ( ( p i ) i € ~ une partition C" de l'unité subor- donnée au recouvrement U . Si a E IP, on pose

c; = (pica,. i€I

I1 est clair que c' E CP-' ( U , 3 ) , car 8 est un faisceau de &-modules et si Q E P+' P

(Sp-lc'), = ~ ( P i ~ ( - l ) ~ C i a o . . . â , . . . , p = &7i(Ca - (6PC)iao...a,) i E I j = o i E I

= (pic, = c, i E I

car c est un cocycle. Ce qui termine la démonstration.


B. Suite exacte longue de cohomologie

de faisceau tels que la suite Soient F$,% trois faisceaux de groupes abéliens sur X , cp et $des morphismes

O + F + Ç 4 % 4 0

soit exacte, c’est-à-dire cp est injectif, $ est surjectif et l’image de cp est égale au noyau de $.

Cette suite exacte définit une suite exacte

O 4 CP(U,F) + C”(U,Ç) 4 C”(U,E)

mais en général la dernière application n’est pas surjective. On note C,$(U,%) l’image de CP(U,Ç) dans CP(U,%). On voit facilement que 6 envoie C,$(U,E) dans C;” (U,%). On a ainsi défini le complexe des cochaînes relevables et on note H;(U,E) les groupes de cohomologie associés. On obtient alors la suite exacte

O + CP(U,F) + C”(U,Ç) 4 C,$(U,%) + o. Le théorème suivant résulte alors directement du Lemme du serpent, que nous ex- poserons à la fin de cette annexe.

Théorème 4. Il existe un morphisme de connexion

6’ : H;(U,%) --+ HP+l(U,F)

O --+ HO(U,F) 5 HO(U,Ç) -% H i ( U , % ) d; H ’ ( U , F )

-5 Hl(U,Ç) 5 H i ( U , % ) it H2(U,F) 4 . . .

et une suite exacte longue

où cp* et $* sont les applications naturellement induites par cp et $,

Si V = (V, ) jEj est un recouvrement plus fin que U et p : J -+ I une application telle que V, C U,,j) pour tout j E J , on peut définir comme précédemment une application

p* : H,$(U,%) --+ H,$(V,%)

qui est indépendante du choix de p.

Théorème 5. Si X est paracompact (c’est-à-dire si X est séparé et si tout recouure- ment de X admet un recouvrement plus fin localementfini) et si

O+F+Ç+E+O est une suite exacte de faisceaux, il existe une suite exacte longue

O + HO(X,F) --+ HO(X,Ç) + HO(X,R) + H’(X ,F) --+

+ H 1 ( X , Ç ) 4 H l ( X , X ) + H 2 ( X , F ) --+ . . . qui est la limite inductive sur les recouvrementsU de X des suites exactes du Théo- rème 4.

Lemme du serpent 227

Démonstration. I1 suffit de prouver que l'application naturelie

9 H $ ( U , X ) + lq,HP(U,3t) U U

est un isomorphisme. Pour cela nous aiions montrer que toute cochaîne de 3t devient relevable dans Ç après avoir pris un recouvrement plus fin.

Lemme 6. Sic E C P ( U , X ) , il existe un recouvrementv = ( V j ) j E ~ plusfin queU et uneapplicationp : J + I t e l squepc E C ; ( V l î i ) .

Démonstration. Puisque X est paracompact, on peut supposer que U est localement fini. On peut choisir un recouvrement (Wi)i,l tel que wi c Vi pour tout i. Pour chaque x E X, choisissons un voisinage ouvert V, de x tel que

i) si x E Wi, alors V, c Wi, ii) si x E Vi ou si V, n Wi # 0, aiors V, c Vi,

iii) si x E V,, Q E Ip+', alors c, E C p ( U , , X ) se relève dans Ç(V,). Un tel voisinage V, existe car par définition des morphismes de faisceaux toute section de 3t se relève localement en une section de G et comme x n'appartient qu'à un nombre fini d'ensembles Wi (resp. Vi) on n'a besoin de relever qu'un nombre fini de section et il n'y a qu'un nombre fini de condition pour satisfaire i) et ii).

Choisissons p : X -+ I telle que 5 E Wf( , ) pour tout x. La condition i) implique alors V, C IVf(,) donc le recouvrement V = ( V z ) z , ~ est plus fin que U. Si Vzo...,p # 0, on a

v,, n Wf(,,) 3 KO n K, # 0 pour 0 5 j 5 P

et donc VzocUf(zo~. . . f ( zp) daprès ii). La condition iii) implique que la section c ~ ( ~ ~ ) . . . ~ ( , ~ ) se relève dans Ç(V,,) et en particulier dans Ç(V, o . . . , p ) . Par consé-

O quent pPc est relevable dans G.

C. Lemme du serpent

Un complexe de groupes abéliens ( K ' , d ) est une suite

où les K Q sont des groupes abéliens et les dQ des homomorphismes de groupe tels que dQ+' O dQ = O . Les groupes de cohomologie associés au complexe ( K ' , d ) sont les HQ(K' ) = ker dq/ I m d Q - l .

Un morphisme cp du complexe ( K ' , d ) dans le complexe (L',b) est une suite ( V ~ ) ~ , N dhomomorphismes de groupes cpQ : K Q -+ LQ satisfaisant les relations de commutation

cpQ'l O dQ = 69 O cpQ.

I1 en résulte que cpQ(ker d Q ) c ker 6 9 et cpq(1rndQ-') c IrnbQ-'. Par conséquent cp induit, pour chaque q, un homomorphisme CpQ : H Q ( K * ) + HQ(L*) .


Lemme 7. Soit

O --+ K' -f+ L' -% M' - + O

une suite exacte courte de complexes de groupes abéliens. Il existe alors un homomorphisme de connexion

799 : H Q ( M ' ) -+ H Q + l ( K * )

telle que la suite longue de cohomologie

O + HO(K') --+ HO(L') + HO(M') 3 H l ( K ' ) -+

-+ H l ( L ' ) -+ H l ( M ' ) -5 H2(K*) + . . . soit exacte.

De plus pour tout diagramme commutatifde suites exactes courtes de complexes de groupes abéliens.

O --+ K' --+ L' --+ M' + O

Le diagramme de suites exactes longues de cohomologie associe

est cornmutat$

Démonstration. Commençons par construire l'homomorphisme de connexion 6. Considérons le diagramme commutatif suivant où les lignes sont exactes

1 1 1

1 dq

O -+ KQ+1 + LQ+1 $5 MQ+1 --+ 0 1 dq+' 1 6q+' 1 -P+'

1 1 1 .

O - + K Q 3 LQ 3 Mq + O 1 6q 1 -Yq

@ + I

0 --$ Kq+2 9 2 ~ 9 + 2 $2 ~ q f 2 -+

Si m E keryq représente l'élément {m} de Hq(M') dors 6{m} = {k} E H q + l ( K ) est la classe obtenue par la construction suivante

Lemme du serpent 229

1 -Yq *q+1

I Pl

k E Kq+1 's bQ[ E Lq+1 c-) 0 E Mq+1

L'élément e est choisi tel que $ q ( e ) = m, ce qui est possible car $Q est surjective. Comme $q+1(6qe) = yq(m) = O , il existe un unique élément k E KQ+l tel que (pq+'(k) = bq.! à cause de l'exactitude de la ligne q + 1. L'élément k est en fait contenu dans ker dq+' car (pQf2 est injective. En effet

@ + 2 (d q + l I C ) = P + ' ( ( p q + l k ) = P + ' ( S Q C ) = O =+ dQ+'k = o. L'application 29q sera bien définie si on prouve que la classe de cohomologie { k } ne dépend que de { m } et non du représentant m choisi. Soit 6 un autre représentant de m, alors m = m + yq-lp. Grâce à la surjectivité de $"', il existe X E LQ-' telle que $-'(A) = p. Soit ë E Lq tel que $ q ( ë ) = m + dp = $ q ( l + W I X ) . Puisque la ligne q est exacte on a ë = 1 + 6 q - l ~ + (pq ( t c ) où IC. E ~q alors Sqë = bq! + b q ' p q ( ~ ) = (pQ+' (k - ) où = k + d41~. a la même classe de cohomologie que I C .

Prouvons tout d'abord que ker 194 = Im $ 4 . Si {m} E I r n $ q , on peut choisir m tel que m = $?(e) avec bqC = O, il résulte alors de la définition de 294 que 29q{m} = O. Réciproquement si dq{m} = { k } = O , cela signifie que k = @IC. donc @e = (pq+'(k) = ( p q + l ( d q ~ ~ . ) = bq((p'J(i;)) s i n = $"(a). Alors e - @ ( I C . ) E ker6q et m = $ q ( [ - @ ( I C . ) ) donc { m } E Im$Q.

Montrons maintenant que Im 29q= ker +q+'. Soit { k } un élément de ker $q+'

alors cpq+l(k) E Irnbq, il existe donc C tel que cpqfl(k) = 691. Si m = $ q ( [ )

on a, par définition de 294, {k} = 29q{m}. L'inclusion inverse est immédiate par définition de 29Q.

La démonstration de l'égalité Im +Q = ker $q ainsi que la commutativité du O

Montrons l'exactitude de la suite longue de cohomologie.

dernier diagramme sont laissées au lecteur,

Annexe C

Analyse fonctionnelle

Nous désignerons par E et F des espaces de Banach sur @.

Définition 1. Une application 1inéaireT de E dans F estcompacte sipour toutsous- ensemble borné U de E , T ( U ) est relativement compact dans F .

Remarque : I1 résulte immédiatement de la définition qu’une application linéaire compacte est continue.

Rappelons les propriétés classiques des opérateurs compacts

Théorème 2. Soient E un espace de Banach, T une application linéaire compacte de E dans lui-même.

1) dim ker(1 + T ) < +m. ii) Im(I + T ) est un sous-espace fermé de E .

iii) dim ker(1 + T ) = dim(E/ Im(1 + T ) ) .

Le lecteur intéressé par la démonstration de ces résultats pourra consulter [Ru].

Définition 3. On appelle opérateur de E dans F une application linéaire T définie sur un sous-espace vectoriel D ( T ) de E à valeurs dans F . L‘espace D ( T ) est le domaine de définition de T .

Le graphe Ç( T ) de l’opérateur T est le sous-espace vectoriel de E x F formé des couples ( z ,T ( z ) ) oùz décritD(T).

Un opérateur T de E dans F est dit fermé si le graphe Ç ( T ) de T est un sous- espace vectoriel fermé de E x F .

Remarque : D’après le théorème du graphe fermé un opérateur T de E dans F est une application linéaire continue de E dans F si et seulement si D ( T ) = E et T est fermé.

Les propositions suivantes sont prouvées dans l’appendice 2 de [HelLe 11. Pour la commodité du lecteur nous les redémontrons ici.

232 C. Analyse fonctionnelle

Proposition 4. Soit T un opérateur fermé de E dans F de domaine de définition D ( T ) . Supposons que T ( D ( T ) ) soit de codimensionfinie dans F , alors T ( V ( T ) ) est un sous-espace vectoriel fermé de F .

Démonstration. Notons n la codimension du sous-espace T ( V ( T ) ) dans F . Choi- sissons une application linéaire S : C” + F telle que Im S + T ( D ( T ) ) = F . Soit T’ l’opérateur de E @ C” dans F dont le domaine de définition est D(T’ ) = D ( T ) @ C” et qui est défini par T ’ ( z ) = T ( z ) pour z E D ( T ) + {O} et T’(z) = S(z) pour z E {O} @ C”. L‘opérateur T’ est fermé et T ’ ( D ( T ’ ) ) = F .

Munissons D(T’) de la norme graphe associée à l’opérateur T’, i.e. si z E D(T’ ) , IIzIlr,, = IIzlI + llT’(z)ll, D(T’) est alors un espace de Banach. En effet soit (Z”)”CN une suite de Cauchy dans (D(T’),ll /IrT,) alors (X,) ,~N et ( T ’ ( z , ) ) , ~ N sont des suites de Cauchy dans les espaces de Banach E @ C* et F . I1 existe donc z E E @ C” et y E F tels que lim z, = x et lim T’(z,) = y. L‘opérateur T’ étant fermé x E D(T’ ) et y = T ( z ) par conséquent z, tend vers z

dans (D(T’),ll Ir,,). Posons ker T’ = {x E D(T’) I T ’ ( z ) = O } , c’est un sous-espace fermé de

(D(T’),ll [IrT,) car T’ est un opérateur fermé. L‘espace vectoriel D(T’ ) / ker T’ est donc un espace de Banach. Notons !?’ l’opérateur de D ( T ’ ) / ker T’ dans F induit par T’ , c’est une bijection de D(T’) / ker T’ sur F qui est continue car T’ est un o p é r h u r fermé. Le théorème de l’application ouverte implique alors que son inverse (TI)-’ est un opérateur linéaire continu de F sur D’(T’) / ker T’ . On a

T ( D ( T ) ) = ( ( ? ) - ‘ ) - ‘ ( D ( T ) + { O } / ker T’)

et D ( T ) + {O}/ ker T’ est un sous-espace fermé de D(T’) / ker T’ ; la continuité de (TI)-’ implique donc que T ( D ( T ) ) est un sous-espace vectoriel fermé de F . O

71-03 n-03

h

Proposition 5. Soit T un opérateur fermé de E dans F de domaine de déBnition V ( T ) . Supposons que

i) T ( D ( T ) ) = F . ii) Il existe une application linéaire continue S de F dans E tel que Im S c

Alors il existe une application linéaire continue? de F dans E telle que Im ? c D ( T ) et I - T S est une application linéaire compacte de F dans lui-même.

D ( T ) e tTF = I .

Démonstration. Posons K = T S - I, par hypothèse c’est une application linéaire compacte de F dans F et T S = I + K . D’après le Théorème 2 , il, ker T S est de dimension finie il possède donc un supplémentaire topologique G dans F , i.e. G est un sous-espace vectoriel fermé de F et F = G e k e r TS. D’après le Théorème 2 iil et iiil, Im T S est un sous-espace vectoriel fermé de codimension finie dans F , il admet donc lui aussi un supplémentaire topologique H dans F , i.e. H est un sous- espace vectoriel fermé de F et F = H @ Im T S , de plus dim H = dim ker TS .

Analyse fonctionnelle 233

Puisque T ( D ( T ) ) = F , on peut construire une application linéaire R : kerTS -+ D ( T ) telie que TR(kerTS) = H et T R ( z ) # O pour tout IC # O dans kerTS (si ( e l , . . . , e k ) est une base de kerTS, (h l , . . . , h k ) une base H et &,i = 1 , . . . , I C des éléments de D ( T ) tels que T ( & ) = hi, il suffit de poser R(ei) = ti). On définit alors une application linéaire continue de F dans E en posant

$(x) = S(z) si z E G $(IC) = R(z ) si x E kerTS.

Alors T S est inversible et 5 = S(TS)-l convient. O

Bibliographie

[Bo] BOCHNER s. - Analytique and meromorphic continuation by means of

[Brl] BREMERMANN H.J. - über die Aquivalenzder pseudokonvexen Gebiete und der Holomorphegebiete im Raum von n komplexen Veranderli- chen, Math. Ann. 128 (ig54),63-91.

Green’s formula, Ann. of Math. 44 (ig43),652-673.

[Br2] BREMERMANN H.J. - Complex convexity, Trans. of the A.M.S. 82 (19561,

[Ca/Thl CARTAN H. ET THULLEN P. - Zur Theorie der Singularitaten der Funk- tionen mehrerer komplexen Veranderlichen, Math. Ann. 106 (ig32),

CIRKA E.M. - Analytic representation of CR functions, Math. USSR

CIRKA E.M. ET STOUT E.L. - Removable singularities in the boundary, As-

DIEUDONNÉ J. ET SCHWARTZ L. - La dualité dansles espaces (F) et ( vF),

17-51.

61 7-647.

[ci] Sbornik 27 (ig75), 526-553.

[Ci/St] pects of Math., Vieweg E26 (i994), 43-104.

[Di/Sc] Ann. Inst. Fourier (Grenoble) 1 (ig4g), 61-101.

[Dol] DOLBEAULT P. - Formes différentielles et cohomologie sur une variété analytique complexe 1, Ann, of Math. 64 (1956), 83-130.

[Do21 DOLBEAULT P. - Formes différentielles et cohomologie sur une variété analytique complexe I l , Ann. of Math. 65 (ig57),282-330.

[Eh] EHRENPREIS L. - A new proof and an extension of Hartogs’theorem,

GFIAUERT H. - On Levi’s problem and the embedding of real analytic

Bull. Amer. Math. Soc. 67 (1961), 507-509.

[Gr] manifolds, Ann. of Math. 68 (1958),460-472.

GRAUERT H. ET LIEB I.. - Das Ramirezsche Integral und die Losung der Gleichungd f = LY im Bereich der beschrankten Formen, Proc. Conf. Complex Analysis, Rice Universityl969, Rice Univ. Studies 56 (1970),

[GrlLi]

236 Bibliographie

29-50.

[Gu] GUNNING R.C. - introduction to holomorphic functions ofseveral complex variables, Wadsworth and Brooks Kole, Belmont, 1990.

HARTOGS F. - Einige Folgerung aus der Cauchyschen integralformel bei Funktionen mehrerer Veranderlichen, Münch. Ber. 36 (1906), 223-242.

[HalLaI HARVEY R. ET LAWSON B. - On boundaries o f complex analytic varieties i, Ann. of Math. 102 (ig75),233-290.

[Hel] HENKIN G.M. - integral representations o f functions holomorphic in strictly pseudoconvex domains and some applications, Math. USSR

[Harl

Sb. 7 (1969), 597-616.

[He21 HENKIN G.M. - integral representations o f functions in strictlypseudo- convex domains and applications to the d-problem, Math. USSR Sb.

[He/Lel] HENKIN G.M. ET LEITERER J. - Theory o f functions on complex manifolds, Akademie-Verlag Berlin and Birkhaüser-Verlag Basel, Boston, Berlin, 1984.

[He/Le2] HENKIN G.M. ET LEITERER J. - Andreotti-Grauert theory by integral for- mulas, Akademie-Verlag Berlin and Progress in Math. 74 Birkhaüser- Verlag Basel, Boston, Berlin, 1988.

HORMANDER L. - L2 estimates and existence theorems for thed opera- tor, Acta. Math. 113 (1965), 89-152.

11 (1970), 273-281.

[Hol]

[Ho21 HORMANDER L. - An introduction to complex analysis in several variables, 2nd ed., North Holland Publishing CO., Amsterdam, 1973.

[KolNi] KOHN J.J. ET NIRENBERG L. - A pseudoconvex domain not admitting a holomorphic support function, Math. Ann. 201 (ig73), 265-268.

KOPPELMAN w. - The Cauchyintegral for differential forms, Bull. Amer.

KRANTZ S.G. - Function theory ofseveral complex variables, John Waiey

KYTMANOV A.M. - The Bochner-Martinelli integral and its applications,

Math. Soc. 73 (1967), 554-556.

and Sons, New York, 1982.

Birkhaüser-Verlag Basel, Boston, Berlin, 1995.

LANG s. - Algebra, Addison-Wesley Publishing CO., 1972.

LAUFER H.B. - On the infinite dimensionalityof the Dolbeault cohomo-

LAURENT-THIÉBAUT c. - Produits de courants et formule des résidus,

LAURENT-THIÉBAUT c. - Sur l’extension des fonctions CR dans une va-

logiegroups, Proc. Amer. Math. Soc. 52 (i975), 293-296.

Bull. Soc. Math. France, 2e série 105 (i981),113-158.

riété de Stein, Ann. Math. Pura ed. Appl. 150 (1988),141-152.

Bibliographie 237

[L-TiLe] LAURENT-THIÉBAUT c. ET LEITERER J. - Andreotti-Grauert theory on real hypersurfaces, Quaderni della Scuola Normale Superiore di Pisa, 1995.

LELONG P. - Les fonctions plurisousharmoniques, Ann. Ec. Norm. Sup.

LELONG P. - La convexité et les fonctions analytiques de plusieurs va-

62 (1945),301-338.

riables complexes, J. Math. Pures Appl. 31 (ig5z), 191-219.

LEVI E.E. - Studii siu punti singolari essenziali delle funzioni analitiche di due O più variabili complesse, Ann. Math. Pura ed. Appl. 17 (igio),

LUPACCIOLU G. - Someglobal result on extension ofCR objects in com-

LUPACCIOLU G. - Characterisation ofremovable sets in stronglypseudo-

LUPACCIOLU G. ET TOMASSINI G. - Un teorema di estensione per le CR-

61-87.

plex manifolds, Trans. of the A.M.S. 321 (19901,761-774.

convex boundaries, Ark. Mat. 32 (igg4),455-473.

funzioni, Ann. Math. Pura ed. Appl. 137 (19841,257-263.

MARTINELLI E. - Alcuni teoremi integrali per le funzioni analitiche di più variabili complesse, Mem. della R. Acad. d’Italia 9 (19381,269-283.

MARTINELLI E. - Sopra una dimostrazione de R. Fueterper un teorema di Hartogs, Comm. Math. Helv. 15 (ig4z/43), 340-349.

NARASIMHAN R. - Several complex variables, Univ. of Chicago Press, Chicago, 1971.

NARASIMHAN R. - Analysis on real and complex manifolds, 2nd ed.,

NORGUET E. - Surles domaines d’holomorphie des fonctions uniformes de plusieurs variables complexes (passage du local au global), Bull. Soc. Math. France 82 (19541, 137-159.

Masson et Cie, Paris, 1973.

OKA K. - Collected Papers, Transl. by R.Narasimhan with comments by H. Cartan, R. Remmert ed., Springer-Verlag, New-York, 1984.

RAMIREZ E. - Ein Divisionsproblem und Randintegraldarstellungen in der komplexen Analysis, Math. Ann. 184 (1970), 172-187.

RANGE R.M. - Holomorphic functions and integral representations in several complex variables, Graduate text in Math 108, Springer-Verlag, New York, Berlin, Heidelberg, Tokyo, 1986.

DE RHAM G. - Variétés différentiables, Hermann, Paris, 1960.

ROSSI H. - The local maximum modulus principle, Ann. of Math. 72

ROSAY J.P. ET STOUT E.L. - Rado’s theorem forCR functions, Proc. Amer.

(196O), 1-11.

Math. Soc. 106 (19891, 1017-1026.

238 Bibliographie

[SPI

RUDIN w. - Functional Analysis, 2nd ed., Mc Graw-Hill International Editions, 1991.

SCHWARTZ L. - Théorie des distributions, Hermann, Paris, 1966.

SLODKOWSKI z. - Analytic set-valued functions and spectra, Math. Ann. 256 (i981), 363-386.

SPIVAK M. - A comprehensive introduction to differential geometry, Pu- blish or Perish, Inc., Houston, 1970-1979.

Math. 115 (19661, 185-198.

rytown on Hudson, 1971.

several complex variables, Proc. Amer. Math. Soc. 21 (1969), 463-466.

STOLZENBERG G. - Uniform approximation on smooth curves, Acta

STOUT E.L. - The theory of uniform algebras, Bogden and Quigley, Tar-

WEINSTOCK B.M. - Continuous boundary values ofanalytic functions of

Index des notations

Espaces de fonctions, de formes différentielles

espace des fonctions continues sur D

espace.des fonctions IC fois continûment différentiables surD

espace des fonctions indéfiniment différentiables sur D

espace des fonctions continues localement holdériennes d'ordre (Y dans D espace des fonctions de classe Ck dans D

espace des formes différentielles de type (p,y) à coefficients dans ( D ) espace des formes différentielles de degré p de classe C" à support compact dans X espace des courants de dimension p sur X

espace des courants de degré y sur X

espace des courants sur X

espace des formes différentielles de classe C" à support compact de X

espace des formes différentielles de type (p,y), d-exactes à coefficients dans C" ( X )

espace des courants d-exacts sur X

espace des fonctions de classe C" sur X

espace des formes différentielles de degré p de classe c" sur X espace des formes différentielles de bidegré ( p , q ) de classe C" sur X espace des formes différentielles de classe C" dans X

1.1

1.1

1.1

111.2

111.2

111.2

11.1

11.1

11.1

11.2

11.2

v.4

v.4

11.1

II. 1

11.7

11.2

240 Index des notations

E p ( X )

Z g y X )

espace des formes différentielles de classe Coo, de bidegré ( p , q ) à support dans la famille O

d-cohomologie des formes C"

d-cohomologie des courants

groupe de cohomologie de Dolbeault de bidegré ( p , q ) de X groupe de cohomologie de Dolbeault à support dans la famille O groupe de cohomologie de Dolbeault Z,",,(D)/Ep!,2(D)

groupe de cohomologie de Cech du faisceau F

espace des fonctions holdériennes d'ordre (Y dans D

espace des fonctions holomorphes sur D

espace des applications holomorphes de D dans Cm

faisceau des germes de p-formes holomorphes

espace des fonctions plurisousharmoniques sur D

espace des formes différentielles de type ( p , q ) , d-fermée à coefficients dans C" (A)

espace des courants 8-fermés sur X

espace des formes différentielles de type ( p , q ) , de classe Coo, 8-fermées sur X espace des formes différentielles d-fermées de classe Coo, de bidegré ( p , q ) à support dans la famille O

-

-

-

boule de centre < et de rayon r de CY

enveloppe holomorphiquement convexe de K relativement à R enveloppe psh-convexe de K relativement à R

polydisque de centre < et de rayon T

bord distingué du polydisque P

support singulier du courant T

espace tangent en x à X

espace cotangent en z à X

espace tangent holomorphe en x à X

espace tangent antiholomorphe en x à X

11.7

v.4

v.4

11.7

11.7

v11.3

v.4

111.2

1.1

1.5

v.4

v1.2

v.4

v.4

11.7

11.7

111.1

VI. 1

v1.3

1.2

1.2

11.3

A.4

A.3

11.5

11.5

Index des notations

Normes

Ilf Ilk,D

1l.f [ID

I f la,D

I4 norme sur @"

norme Ck sur D

norme uniforme sur D

norme holdérienne d'ordre a sur D

Autres symboles

K(T,S) [YI courant d'intégration sur Y

indice de Kronecker des courants T et S

24 1

1.1

I. 1

111.2

I. 1

11.3

II. 1

Index terminologique

analytique ensemble analytique 13 sous-variété analytique complexe 13, 179 variété analytique complexe 43

atlas 204 atlas complexe 43 biholomorphe 12 Bochner

formule de Bochner-Martinelli 65 formule de Bochner-Martinelli- Koppelman 61 noyau de Bochner-Martinelli- Koppelman 56 Théorème de Bochner 80 transformée de Bochner-Martinelli 73

bord distingué 4 bout 92 carte

carte 203 ouvert de carte 203

fonction Cauchy-Riemann (CR) 77 fonction CR de classe Cm 94 formule de Cauchy 4 inégalités de Cauchy 5 opérateurs de Cauchy-Riemann tangentiels 54 système de Cauchy-Riemann homogène 2

champ devecteurs 211 champ de vecteurs holomorphe 47

Cauchy

champ

cochaine 224 cocycles 224 cohomologie

groupe de cohomologie de Cech 224 groupes de cohomologie de Dolbeault 50 groupes de cohomologie de Dolbeault àsupport 51

holomorphiquement convexe 112, 179 O(R)-convexe 112 O@)-convexe 190

convexe

coordonnées coordonnées holomorphes 44 coordonnées locales 205

espace cotangent 208 espace cotangent en un point 207

courant de degré q 26 courant de dimension p 23 courant d’intégration 24 courants d’ordre 6 24

différentielle 207 différentielle extérieure 213

dimension 204 dimension complexe 43

cotangent

courant

différentielle

dimension

disque analytique 131 distribution 28 domaine d’holomorphie 109 enveloppe

enveloppe d’holomorphie 117 enveloppe holomorphiquement convexe 110, 179 enveloppe psh-convexe 131

exhaustion 132, 175 extension

élément d‘extension strictement pseudo. convexe 176 extension strictement pseudoconvexe 159, 177 extension strictement pseudoconvexe élémentaire 157

faisceau 223 fonction définissante 51 forme

forme différentielle 208 forme différentielle de degré T 212

germe 207 Hartogs

phénomène de Hartogs 17, 91 propriété de Hartogs-Bochner Cm 94

244 Index terminologique

Hessien complexe 125 holomorphe 2 image

image directe 27 image réciproque 27, 215

indice de Kronecker 38 inversion locale 12 isomorphisme de Dolbeault 103 Kontinuitatssatz 131 Lemme de Morse 135 Lemme de Schwarz 9 Levi

forme de Levi 125 polynôme de Levi 128

noyaux régularisants 30 opérateur

domaine de définition d u n opérateur 231 opérateur 23 1 opérateur compact 231 opérateur de Cauchy-Riemann 50 opérateur fermé 231 opérateurs régularisants de de Rham 36

partition de l’unité 206 plurisousharmonique

plurisousharmonique 124 strictement plurisousharmonique 125

polydisque 4 préfaisceau

morphisme de préfaisceau 223 préfaisceau 223

principe du maximum 9 produit extérieur 212

propriété de la sous-moyenne 120 pseudoconvexe

pseudoconvexe 132 strictement pseudoconvexe 138, 174

régularisées 30 section de Leray 96 singularité illusoire 189 singularité illusoire faible 194 sous-harmonique 118 Stokes

formule de Stokes pour l’indice de Kronecker 41 Théorème de Stokes 220

support d’un courant 25 support singulier 38

espace tangent 21 1 espace tangent complexe 53 espace tangent en un point 209

Théorème de Bochner 80 Théorème de l’application ouverte 8 Théorème de Montel 11 Théorème de Rad0 16 Théorème de Riemann 15

variété analytique complexe 43 variété différentiable 204 sous-variété analytique complexe 13, 179 variété de Stein 179

support

tangent

théorème

variété

Documents

Theorie des fonctions holomorphes de plusieurs variables