Eindeutige Minimalstelle bestimmen bei Minimierungsproblem

Question

Aufgabe:

$$ A \in \mathbb{R}^{m \times n} \text {, mit } \operatorname{Rang}(A)=n<m \text {, und } b \in \mathbb{R}^{m} $$, $$ Q \in \mathbb{R}^{m \times m} \text { eine orthogonale Matrix }$$

$$ \text { Es seien } m=3, n=1 \text { und } Q b=\left(\begin{array}{c} -1 \\ 4 \\ 3 \end{array}\right) \text {. Bestimmen Sie }\left\|A x^{*}-b\right\|_{2} \text {. }  $$

(Hier ist die Euklidische Norm gemeint)
Problem/Ansatz:

Kann jemand erklären, wie man hier vorgeht? Ich stehe auf dem Schlauch, wie ich die Minimalstelle finde. Ich hoffe ich hab das Problem richtig verstanden und das ist hier die Aufgabe :D

Answer 1

Hallo :-)

Es ist wohl $$ Q^T\cdot b=\begin{pmatrix}-1\\4\\3\end{pmatrix} $$

gemeint.

Mal etwas allgemeiner. Man betrachtet eine QR-Zerlegung von \(A\in \R^{m,n}\), also \(A=Q\cdot R\), wobei \(Q\in \R^{m,m}\) orthogonale Matrix ist und \(R:=\begin{pmatrix}R_1\\\textbf{0}\end{pmatrix}\in \R^{m,n}\) eine obere Dreiecksmatrix ist und \(R_1\in \R^{n,n}\). Jetzt unterteile ich den Vektor \(c:=Q^T\cdot b=\begin{pmatrix}c_1\\c_2\end{pmatrix}\) in zwei Teile. \(c_1\) hat die ersten \(n\) Komponenten und \(c_2\) demnach die restlichen \(m-n\) Komponenten. So viel zum Aufbau was jetzt kommt:

Man will \(\|A\cdot x-b\|_2^2\) minimieren. Dazu betrachte ich jetzt

$$ \begin{aligned}\|A\cdot x-b\|_2^2&=\|Q\cdot R\cdot x-b\|_2^2\stackrel{(1)}{=}\|Q^T\cdot (Q\cdot R\cdot x-b)\|_2^2\\[10pt]&=\|Q^T\cdot Q\cdot R\cdot x-Q^T\cdot b\|_2^2=\|R\cdot x-Q^T\cdot b\|_2^2\\[10pt]&=\left\|\begin{pmatrix}R_1\\\textbf{0}\end{pmatrix}\cdot x-\begin{pmatrix}c_1\\c_2\end{pmatrix}\right\|_2^2\stackrel{(2)}{=}\|R_1\cdot x-c_1\|_2^2+\|c_2\|_2^2. \end{aligned}$$

Zusammenfassend ist also \(\|A\cdot x-b\|_2^2=\|R_1\cdot x-c_1\|_2^2+\|c_2\|_2^2\).

Für \(R_1\cdot x=c_1\) wird also \(\|A\cdot x-b\|_2^2\) minimal, denn damit hat man

$$ \|A\cdot x-b\|_2^2=\|c_2\|_2^2. $$

Du musst also nichteinmal die Minimalstelle \(x^*\) kennen, um \(\|A\cdot x^*-b\|_2^2\) auszurechnen. :D

(1) Orthogonale Matritzen sind bzgl der euklidischen Norm invariant.

(2) Folgt unmittelbar aus der Definition der euklidischen Norm.