Soient r, c₁, c₂ des entiers, avec r ≥ 1, M(r,c₁,c₂) la variété de modules des faisceaux algébriques semi-stables sur ℙ₂(ℂ), de rang r et de classes de Chern c₁, c₂ et M_s(r,c₁,c₂) l’ouvert de M(r,c₁,c₂) correspondant aux faisceaux stables. On pose

Il existe une unique fonction δ : ℚ → ℚ telle que pour tout choix de r, c₁, c₂, M(r,c₁,c₂) est de dimension positive si et seulement si  Δ ≥ δ(μ). Si  Δ = δ(μ), on dit que la variété de modules M(r,c₁,c₂) est de hauteur nulle. Soit χ la caractéristique d’Euler-Poincaré des faisceaux cohérents de rang r et de classes de Chern c₁, c₂. On suppose que les entiers r, c₁ et χ sont premiers entre eux. Cette condition signifie que  M(r,c₁,c₂) = M_s(r,c₁,c₂), c’est une variété projective lisse irréductible. On étudie dans cet article la cohomologie entière de M(r,c₁,c₂).

Pour cela on utilise une description particulière de M(r,c₁,c₂). Soient q, m, n des entiers, avec q ≥ 2, m > 0, n > 0. Les applications linéaires  ℂ^m ⊗ ℂ^q → ℂⁿ  sont appelées ℂ^q-modules de Kronecker. L’espace projectif ℙ des droites de  W = L(ℂ^m ⊗ ℂ^q, ℂⁿ)  est muni d’une action évidente du groupe réductif  G = SL(m) × SL(n), qui se prolonge à _ℙ(1). On note ℙ_ss (resp. ℙ_s) l’ouvert de ℙ des points semi-stables (resp. stables) pour cette action. Soit N(q,m,n) (resp. N_s(q,m,n)) le quotient algébrique de ℙ_ss (resp. ℙ_s) par G. Il existe des entiers q, m, n tels que M(r,c₁,c₂) soit isomorphe à N(q,m,n). La condition “r, c₁ et c₂ sont premiers entre eux” est équivalente à “m et n sont premiers entre eux”.

Pour étudier la cohomologie de N(q,m,n) on utilise deux méthodes, la seconde uniquement dans un cas particulier. La première méthode est celle d’Atiyah-Bott, qui a servi à étudier la cohomologie entière des variétés de modules de fibrés stables sur une courbe projective lisse. Le principal résultat obtenu est que la cohomologie entière de M(r,c₁,c₂) est nulle en degré impair et sans torsion. On trouve aussi des générateurs naturels de cette cohomologie. La méthode permet en outre de calculer les nombres de Betti de N(q,m,n).

Le seconde méthode utilise des résultats de Białynicki-Birula (on ne traite que le cas de N(3, 2, 3)). Elle revient à étudier une action naturelle d’un tore sur N(3, 2, 3) et à déterminer ses points fixes. On en déduit que N(3, 2, 3) possède une décomposition cellulaire.