Aloha :)
Willkommen in der Mathelounge... \o/
zu 1) Ein lineares Gleichungssystem hat genau dann eine Lösung, wenn die Koeffizientenmatrix quadratisch ist und ihre Determinante ungleich Null ist.
Zur Koeffizientenmatrix gehört nicht die Spalte rechts vom Gleichheitszeichen. Daher war es richtig, dass du die 5-te Spalte weggelassen hast. Übrig bleibt dann eine quadratische \(4\times4\)-Koeffizientenmatrix \(A\), deren Determinante du bestimmen kannst:
$$\operatorname{det}(A)=\small\left|\begin{array}{rrrr}1 & -1 & 1 & 0\\\pink2 & \pink{-3} & \pink{-1} & \pink{-5}\\3 & -7 & 1 & -5\\\green0 & \green1 & \green{-1} &\green a\end{array}\right|=-\left|\begin{array}{rrrr}1 & -1 & 1 & 0\\\green0 & \green1 & \green{-1} &\green a\\3 & -7 & 1 & -5\\\pink2 & \pink{-3} & \pink{-1} & \pink{-5}\end{array}\right|=-\left|\begin{array}{rrrr}1 & -1 & 1 & 0\\0 &1 & -1 & a\\0 & -4 & -2 & -5\\0 & -1 & -3 & -5\end{array}\right|$$$$\phantom{\operatorname{det}(A)}=-\left|\begin{array}{rrrr}1 & -1 & a\\-4 & -2 & -5\\-1 & -3 & -5\end{array}\right|=-\left|\begin{array}{rrrr}1 & -1 & a\\0 & -6 & 4a-5\\0 & -4 & a-5\end{array}\right|=\left|\begin{array}{rrrr}6 & 4a-5\\4 & a-5\end{array}\right|$$$$\phantom{\operatorname{det}(A)}=6(a-5)-4(4a-5)=-10a-10=-10(a+1)$$
Für alle \(a\ne-1\) hat das Gleichungssystem genau eine Lösung.
zu 2) Für den Fall \(a=-1\) bestimmen wir die Lösung des Gleichungssystems. Unser Ziel ist es, so viele Spalten wie möglich zu erhalten, die aus lauter Nullen und genau einer Eins bestehen:
$$\begin{array}{rrrr|r|l}x_1 & x_2 & x_3 & x_4 & = & \text{Aktion}\\\hline1 & -1 & 1 & 0 & 0 &\\2 & -3 & -1 & -5 & 5 & -2\cdot\text{Zeile 1} \\3 & -7 & 1 & -5 & -5 & -3\cdot\text{Zeile 1}\\0 & 1 & -1 &-1 & 5\\\hline1 & -1 & 1 & 0 & 0 &+\text{Zeile 4}\\0 & -1 & -3 & -5 & 5 &+\text{Zeile 4}\\0 & -4 & -2 & -5 & -5 &+4\cdot\text{Zeile 4}\\0 & 1 & -1 & -1 & 5\\\hline1 & 0 & 0 & -1 & 5 &\\0 & 0 & -4 & -6 & 10 & \div(-2)\\0 & 0 & -6 & -9 & 15 &\div(-3)\\0 & 1 & -1 & -1 & 5\\\hline1 & 0 & 0 & -1 & 5 &\\0 & 0 & 2 & 3 & -5 & \div2\\0 & 0 & 2 & 3 & -5 &-\text{Zeile 2}\\0 & 1 & -1 & -1 & 5 &+\frac12\cdot\text{Zeile 2}\\\hline\pink1 & 0 & 0 & -1 & 5 & \Rightarrow \pink{x_1}-x_4=5\\0 & 0 & \pink1 & 1,5 & -2,5 &\Rightarrow \pink{x_3}+1,5x_4=-2,5\\0 & 0 & 0 & 0 & 0 & \green\checkmark\\0 & \pink1 & 0 & 0,5 & 2,5 & \Rightarrow \pink{x_2}+0,5x_4=2,5\end{array}$$
Die entscheidende Zeile ist die Nullzeile mit dem grünen Haken. Bei Gleichungssystemen mit unendlich vielen Lösungen erhältst du immer eine solche Nullzeile. Sie repräsentiert hier die Gleichung$$0\cdot x_1+0\cdot x_2+0\cdot x_3+0\cdot x_4=0$$die für jede Wahl der \(x_k\)-Werte erfüllt ist.
Bei Gleichungssystemen ohne Lösung erhältst du links auch eine Zele mit lauter Nullen, aber rechts vom Gleichheitszeichen (in der Gleich-Spalte) steht ein Wert ungleich null. Eine solche Gleichung ist niemals erfüllt, sodass das Gleichungssystem keine Lösung hat.
Für \(a=-1\) hat das Gleichungssystem also unendlich viele Lösungen. Wir stellen die 3 erhaltenen Gleichungen nach den pinken Variablen um:$$\pink{x_1}=5+x_4\quad;\quad\pink{x_2}=2,5-0,5x_4\quad;\quad\pink{x_3}=-2,5-1,5x_4$$und schreiben alle Lösungen hin:$$\vec x=\begin{pmatrix}x_1\\x_2\\x_3\\x_4\end{pmatrix}=\begin{pmatrix}5+x_4\\2,5-0,5x_4\\-2,5-1,5x_4\\x_4\end{pmatrix}=\begin{pmatrix}5\\2,5\\-2,5\\0\end{pmatrix}+\frac{x_4}{2}\begin{pmatrix}2\\-1\\-3\\2\end{pmatrix}$$Die Lösungen liegen alle auf einer unendlich langen Geraden im \(\mathbb R^4\).