Aloha :)
$$\operatorname{det}(A)=\left|\begin{array}{rrrr}1 & \pink0 & 0 & a\\\pink0 & \pink1 & \pink0 & \pink0\\a & \pink0 & 1 & 0\\0 & \pink0 & a & 1\end{array}\right|=\left|\begin{array}{rrrr}\blue1 & 0 & a\\\blue a & 1 & 0\\0 & a & 1\end{array}\right|=\blue1\cdot(1-0)-\blue a\cdot(0-a^2)=a^3+1$$
Zur Beantwortung der übrigen Fragen machen wir nun eine Falluntscheidung:
1. Fall: \(a\ne-1\)
zu i) Die Determinate ist ungleich \(0\), d.h. \(\operatorname{rg}(A)=4\)
zu ii) Da die Matrix vollen Rang hat, ist die Abbildung bijektiv, d.h. nur die Null wird auf die Null abgebildet. Die allgemeine Lösung von \(A\cdot\vec x=\vec 0\) ist daher \(\vec x=\vec 0\).
zu iii) Da die Inverse zu \(A\) existiert, ist das Gleichungssystem \(A\cdot\vec x=\vec b\) für alle \(\vec b\in\mathbb R^4\) eindeutig lösbar. Die allgemeine Lösung lautet: \(\vec x=A^{-1}\cdot\vec b\).
2. Fall: \(a=-1\)
zu iii) Wir beginnen mit dem letzten Teil:$$\begin{array}{rrrr|c|l}x_1 & x_2 & x_3 & x_4 & = & \text{Aktion}\\\hline1 & 0 & 0 & -1 & b_1 &\\0 & 1 & 0 & 0 & b_2 &\\-1 & 0 & 1 & 0 & b_3 & +\text{Gl. 1}\\0 & 0 & -1 & 1 & b_4\\\hline1 & 0 & 0 & -1 & b_1 &\\0 & 1 & 0 & 0 & b_2 &\\0 & 0 & 1 & -1 & b_1+b_3 & \\0 & 0 & -1 & 1 & b_4 & +\text{Gl. 3}\\\hline1 & 0 & 0 & -1 & b_1 &\Rightarrow x_1-x_4=b_1\\0 & 1 & 0 & 0 & b_2 &\Rightarrow x_2=b_2\\0 & 0 & 1 & -1 & b_1+b_3 &\Rightarrow x_3-x_4=b_1+b_3\\0 & 0 & 0 & 0 & b_1+b_3+b_4 &\Rightarrow b_1+b_3+b_4=0\end{array}$$
Für \((b_1+b_3+b_4\ne0)\) ist die letzte Gleichung nie erfüllt, sodass es keine Lösung gibt.
Für \((b_1+b_3+b_4=0)\) ist die letzte Gleichung erfüllt, sodass es unendlich viele Lösungen gibt.
Für die Angabe der allgemeinen Lösung formen wir due gefundenen Gleichungen um$$x_1=b_1+x_4\quad;\quad x_2=b_2\quad;\quad x_3=b_1+b_3+x_4$$und schreiben alle Lösungen auf:$$\begin{pmatrix}x_1\\x_2\\x_3\\x_4\end{pmatrix}=\begin{pmatrix}b_1+x_4\\b_2\\b_1+b_3+x_4\\x_4\end{pmatrix}=\begin{pmatrix}b_1\\b_2\\b_1+b_3\\0\end{pmatrix}+x_4\cdot\begin{pmatrix}1\\0\\1\\1\end{pmatrix}\quad\text{wenn }b_1+b_3+b_4=0$$Die Lösungen bilden eine Gerade im \(\mathbb R^4\), daher ist die Lösung nicht eindeutig.
zu ii) Für \(\vec b=0\) ist \(b_1+b_3+b_4=0\) erfüllt und die homogene Lösung lautet:$$\begin{pmatrix}x_1\\x_2\\x_3\\x_4\end{pmatrix}=\begin{pmatrix}b_1+x_4\\b_2\\b_1+b_3+x_4\\x_4\end{pmatrix}_{\vec b=\vec0}=x_4\cdot\begin{pmatrix}1\\0\\1\\1\end{pmatrix}$$
zu i) Der Rang des Kerns ist gleich \(1\), also ist der Rang des Bildes gleich \(4-1=3\).
