不變子空間問題

數學領域泛函分析中，最著名的懸而未決的問題之一就是不變子空間問題，有時被樂觀地稱為不變子空間猜想。這個問題就是如下命題是否成立：

給定一個復希爾伯特空間H，其維度>1，以及一個有界線性算子T : H → H，則H有一個非平凡閉T-不變子空間，也即存在一個H的閉線性子空間W，而且它不同於{0}和H，且使得T(W) ⊆ W。

該命題對於所有2維以上有限維復向量空間是成立的：一個線性算子（矩陣）的特徵值是其特徵多項式的零點；根據代數基本定理，這個多項式存在零點；一個對應的特徵向量可以張成一個不變子空間。該命題也很容易成立如果W不必是閉的：取任意H中非零向量x並考慮H的由{T ⁿ(x) : n ≥ 0}線性張成的子空間W.

雖然該猜想的一般情況未獲證明，但已經可以列出命題成立的一些特殊情況：

• 在希爾伯特空間H可分的情況下該猜想相對比較容易證明（也即，如果它又一個不可數正交基。
• 譜定理表明所有正則算子有不變子空間。
• 每個緊算子有不變子空間，由Aronszajn和Smith於1954年證明。緊算子理論在很多方面和有限維空間算子理論相類似，所以該結果並不令人驚訝。
• 波恩斯坦和洛賓遜於1966年證明若T ⁿ對於某個正整數n是緊緻的，則T有不變子空間。
• V. I. 羅門諾所夫（Lomonosov）於1973年證明若T和某個非零緊算子可交換，則T有不變子空間。

近年來，有些數學家試圖採用隨機矩陣理論來構造該猜想的反例。

如果考慮巴拿赫空間而不是希爾伯特空間，則該猜想不成立；P. Enflo於1975年給出了沒有非平凡不變子空間的有界算子的顯式例子，Charles Read於1984年也給出一個反例。但是，該命題對於算子的特定類別是成立的。

1964年，Louis de Branges發表了不變子空間猜想的可能證明，但後來被發現是錯誤的。他最近在他的網站上發表了一個新的可能證明[1]（頁面存檔備份，存於互聯網檔案館）；但他的證明還未經過同行評審。

參考

• Paul Halmos。Invariant Subspaces. American Mathematical Monthly, Vol. 85, No. 3 (March 1978), pages 182-183.
• B. S. Yadav. The present state and heritages of the invariant subspace problem. Milan J. Math. 73 (2005), pages 289-316.
• Piotr Sniady. Generalized Cauchy identities, trees and multidimensional Brownian motions. Part I: bijective proof of generalized Cauchy identities. Section 1.5. Preprint 2004。
• Enflo, P. On the invariant subspace problem in Banach spaces. Séminaire Maurey--Schwartz (1975-1976) Espaces Lp applications radonifiantes et géométrie des espaces de Banach, Exp. Nos. 14-15, Centre Math., École Polytech., Palaiseau, 1976.