Man kann das Lösungsverhalten eines linearen Gleichungssystem Ax=b zurückführen auf das Lösungsverhalten des homogenen System Ax = 0, in deinem Fall also das System mit der Koeffizientenmatrix
$$ A = \left( \begin{array} { c c c } { 1 } & { 1 } & { 1 } \\ { 0 } & { 2 } & { 0 } \\ { 0 } & { 0 } & { 5 - a } \end{array} \right) $$
Dieses homogene System ist genau dann eindeutig lösbar, wenn det A ≠ 0 also a≠5 gilt, dann bleibt nämlich nur die Nulllösung (x,y,z)=(0,0,0) übrig.
Andererseits besitzt das System unendlich viele Lösungen, wenn det A = 0, also a=5 gilt. Aus der zweiten Zeile liest man dann als Bedingung für die Lösung y=0 und aus der ersten Zeile x=-z ab und erhält die Lösungsmenge
Lhom={(t, 0, -t): t∈ℝ}
Nun erhält man die Lösungsmenge des inhomogenen Systems, indem man eine beliebige (eine sogenannte partikuläre Lösung) des inhomogenen Systems zu der Lösungsmenge des homogenen Systems addiert.
Linh = Lhom + xp (*)
Für den Fall a≠5 besteht die Lösungsmenge des inhomogenen Systems damit ausschließlich aus der Partikulärlösung, die du ausgerechnet hast, denn Lhom besteht ja nur aus der Nulllösung.
Für den Fall a=5 existiert aber keine Lösung des inhomogenen Systems, denn egal wie man den Vektor (x,y,z) dreht und wendet, in der dritten Komponente wird immer eine Null stehen. Die Gleichung (*) ist also überhaupt nicht sinnvoll definierbar, mit anderen Worten: Linh = {}
Damit fallen hier die beiden Fälle der unendlich vielen Lösungen und der nichtexistierenden Lösung zusammen.