Hi,
zur a) (i):
Ich zeige dir mal wie man die Matrix \(A\) auf die Zeilen-Stufenform bringt.
$$\begin{pmatrix} 2 & 4 &6 \\ 1 & 3 & 7 \\ 3 & 3 & -2\end{pmatrix} \underset{III-3 \cdot II}{\overset{I-2 \cdot II}{\longrightarrow}} \begin{pmatrix} 0 & -2 & -8 \\ 1 & 3 & 7 \\ 0 & -6 & -16\end{pmatrix} \overset{III-3 \cdot I}{\longrightarrow} \begin{pmatrix} 0 & -2 & -8 \\ 1 & 3 & 7 \\ 0 & 0 & 8\end{pmatrix} \underset{III \to III/(8)}{\overset{I \to I/(-2)}{\longrightarrow}} \begin{pmatrix} 0 & 1 & 4 \\ 1 & 3 & 7 \\ 0 & 0 & 1\end{pmatrix} \underset{I-4 \cdot II}{\overset{II-7 \cdot III }{\longrightarrow}} \begin{pmatrix} 0 & 1 & 0 \\ 1 & 3 & 0 \\ 0 & 0 & 1\end{pmatrix} \overset{II- 3 \cdot I}{\longrightarrow} \begin{pmatrix} 0 & 1 & 0 \\ 1 & 0 & 0 \\ 0 & 0 & 1\end{pmatrix} \overset{I \leftrightarrow II}{\longrightarrow} \begin{pmatrix} 1 & 0 & 0 \\ 0 & 1 & 0 \\ 0 & 0 & 1\end{pmatrix}$$
Nun musst du aber die Matrix
$$\left( \begin{array}{ccc|c} 2 & 4 &6 & 0\\ 1 & 3 & 7 & 0\\ 3 & 3 & -2 & 0\end{array} \right)$$
umformen. Du musst also die gleichen Schritte wie oben tun. Nur musst du alles auch rechts auf die Spalte anwenden.
Am Ende ist dein Ergebnis dann:
$$\left( \begin{array}{ccc|c} 1 & 0 &0 & a\\ 0 & 1 & 0 & b\\ 0 & 0 & 1 & c\end{array} \right)$$
Was für \(a,b,c\) rauskommt, siehst du ja dann. Deine Lösung \((a,b,c)^T\) ist dann auch die einzige Lösung! Deine Lösungsmenge beinhaltet nur dieses eine Element!
Bei der Matrix \(B\) wirst du keine Einheitsmatrix erhalten. Dort besteht deine Lösungsmenge nicht nur aus einem Element.
b)
Wie ist denn der Rang der Matrix \(A\)? Was kannst du aus dem Rang folgern?