Aloha :)
Wir formen die Gleichungen um und drücken sie in Matrix-Schreibweise aus:
$$\begin{array}{lcl}5x-ax+2y+z&=&0\\2x+y-ay&=&0\\x+z-az&=&0\end{array}\;\Longleftrightarrow\;\left(\begin{array}{rrr}5-a & 2 & 1\\2 & 1-a & 0\\1 & 0 & 1-a\end{array}\right)\begin{pmatrix}x\\y\\z\end{pmatrix}=\begin{pmatrix}0\\0\\0\end{pmatrix}$$Wenn die Determinante der Koeffizientenmatrix ungleich \(0\) ist, exisitiert immer nur eine eindeutige Lösung, in diesem Fall die triviale Lösung \(\vec x=\vec 0\). Wir müssen also \(a\) so wählen, dass die Determinante der Koeffizientenmatrix verschwindet.
$$0\stackrel!=\left|\begin{array}{rrr}5-a & 2 & 1\\2 & 1-a & 0\\1 & 0 & 1-a\end{array}\right|=-(1-a)+(1-a)\cdot((5-a)(1-a)-4)$$$$\phantom{0}=-(1-a)+(1-a)(5-a-5a+a^2-4)=-(1-a)+(1-a)(a^2-6a+1)$$$$\phantom{0}=(1-a)\cdot(-1+a^2-6a+1)=(1-a)(a^2-6a)=-a(a-1)(a-6)$$Die Lösung haben wir direkt so faktorisiert, dass wir alle Werte \(a\) ablesen können, für die das LGS eine nicht-triviale Lösung hat:$$a=0\quad;\quad a=1\quad;\quad a=6$$