σm ist der kleinste Wert, den ∥Ax∥ annimmt, wenn x durch alle x ∈ Rm mit ∥x∥ = 1 läuft.

Question

Sei n ≥ m und A ∈ R^n×m, und seien σ₁ der größte, σ₂ der zweitgrößte, und σ_m der kleinste Singulärwert von A. Sei v₁ ∈ R^m ein Eigenvektor von A^⊤A zum Eigenwert σ²₁. Zeigen Sie:

a) σ_m ist der kleinste Wert, den ∥Ax∥ annimmt, wenn x durch alle x ∈ R^m mit ∥x∥ = 1 läuft.
b) σ₂ ist der größte Wert, den ∥Ax∥ annimmt, wenn x durch alle x ∈ R^m mit x⊥v₁ und ∥x∥ = 1 läuft.

Ich wäre über jede Hilfe sehr dankbar!

Comments

Wie habt Ihr denn die Singulärwertzerlegung notiert?

---

Text erkannt:

Definition 72. Sei \( A \in \mathbb{R}^{n \times m} . U \in \mathbb{R}^{n \times n} \) und \( V \in \mathbb{R}^{m \times m} \) seien orthogonale Matrizen und \( \Sigma=\left(\left(\sigma_{i, j}\right)\right)_{i, j=1}^{n, m} \in \mathbb{R}^{n \times m} \) sei so, dass \( \sigma_{i, j}=0 \) für \( i \neq j \) und \( \sigma_{1,1} \geq \sigma_{2,2} \geq \cdots \geq 0 \) gilt. Wenn \( A=U \Sigma V^{\top} \) gilt, heißt \( (U, \Sigma, V) \) eine Singulärwertzerlegung (engl. singular value decomposition, SVD) von \( A \).

Da müsste alles drinnenstehen, was du wissen möchtest :)

Answer 1

Wir haben also

$$A^TA=(USV^T)^T(USV^T)=VS^TU^TUSV^T=VS^TSV^T$$

$$\|Ax\|^2=x^TA^TAx=x^TVS^TSV^Tx$$

Wenn nun x alle Vektoren in \( \R^m\)  mit \(\|x\|=1\) durchläuft, dann durchläuft \(y:=V^Tx\) genau alle y mit \(\|y\|=1\), weil \(V\) orthonormal ist, d.h.

$$\min_{\|x\|=1}\|Ax\|^2=\min_{\|y\|=1}y^TS^TSy$$

Für den Term rechts gilt aber:

$$y^TS^TSy=\sum_{k=1}^ms_k^2y_k^2 \geq s_m^2\|y\|^2=s_m^2$$

Comments

Vielen Dank!

Kann ich dann bei b) ähnlich anfangen? Bringt es mir was, wenn ich sage A^TAv₁=s₁²v₁=VS^TSV^Tv₁?

---

Bei b) bin ich mir unsicher ob / wie das so gemeint ist.

Allgemein ist ist s1 der größte Wert der angenommen werden kann. Wenn nun s2=s1 ist, dann ist die Aussage b) trivial erfüllt. Wenn nicht, dann würde ich auf

$$A^TAV=VS^TS$$

schauen. Daran sieht man, dass die erste Spalte von V Eigenvektor von \(A^TA\) zum Eigenwert \(s_1^2\) ist, also wäre dann diese erste Spalte ein Vielfaches von \(v_1\). Wenn x orthogonal zu diesem Eigenvektor ist, dann bedeutet das, das in meiner Lösung der Vektor \(y=V^Tx\) 0 als erste Komponente hat, sodass die Summe praktisch mit k=2 startet.....

---

Bekomme ich dann als Ergebnis nicht s₂+...+s_m?

---

In meiner Lösung würde jetzt der Term mit k=0 wegfallen. Wie willst Du dann Deine Abschätzung herleiten?

---

Nicht k=0 sondern k=1 entfällt