Erstmal kannst du ausnutzen, dass sich die letzte Zeile auch schreiben lässt als:
x + (a+1)(a-12) z = a-5
Nun kannst du die Koeffizientenmatrix aufstellen:
$$ A = \left( \begin{array} { r r r } { 1 } & { - 3 } & { 0 } \\ { 2 } & { - 3 } & { a + 1 } \\ { 1 } & { 0 } & { ( a + 1 ) ( a - 12 ) } \end{array} \right) $$
Das Lösungsverhalten ist eng mit der Determinanten dieser Matrix verknüpft, also berechnen wir sie nach dem Sarrusschema:
det A = -3*(a+1)(a-12) - 3*(a+1)+ 6*(a+1)(a-12) = 3*(a+1)(a-12) - 3*(a+1) = 3*(a+1)*(a-13)
Das Gleichungssystem ist eindeutig lösbar, wenn die Determinante nicht 0 ist, das heißt wenn a weder -1 noch 13 ist.
Wenn a=-1 oder a=13 gilt, dann existieren entweder keine Lösungen oder unendlich viele.
Betrachten wir zunächst a=-1:
Dann geht das Gleichungssystem über in:
x-3y = 2
2x-3y = 10
x = -6
Subtrahiert man die erste Gleichung von der zweiten, dann erhält man:
x = 8, was offensichtlich im Widerspruch zur dritten Gleichung steht, also existiert hier keine Lösung.
Betrachte nun a=13:
Das Gleichungssystem geht nun über in:
x-3y = 2
2x-3y+14z = 10
x+14z = 8
Subtrahiert man die erste Gleichung zweimal von der zweiten und einmal von der dritten, dann erhält man:
x-3y = 2
3y + 14z = 6
3y + 14z = 6
Also offenbar eine überflüssige Information. Wählt man nun z.B. z=3*k, dann erhält man:
x-3y = 2
3y +52k = 6
Die zweite Gleichung wird umgeformt zu:
y = 2-14k
Eingesetzt in die erste Gleichung:
x-3(2-14k) = 2
x = 8-52k
Die Lösung lautet also:
(x,y,z) = (8-52k, 6-14k, 3k) für beliebige k∈ℝ.
Gilt nun a≠-1 und a≠13:
x-3y = 2
2x-3y+(a+1)z = 10
x+(a+1)(a-12)z = a-5
Man subtrahiert erstmal einmal die erste von der zweiten:
x-3y = 2
x +(a+1)z = 8
x+(a+1)(a-12)z = a-5
Und nun die neu entstandene zweite von der dritten:
x-3y = 2
x+(a+1)z = 8
(a+1)(a-12)z-(a+1)z = a-13
Die dritte Zeile können wir noch umformen, indem wir (a+1)z ausklammern:
(a+1)z*(a-12-1) = a-13
(a+1)z*(a-13) = a-13
Da a≠13 gewählt ist, können wir durch (a-13) teilen und erhalten:
(a+1)z = 1
Da auch a≠-1 gilt, können wir auch durch (a+1) teilen und erhalten:
z = 1/(a+1)
Eingesetzt in die zweite Gleichung:
x+(a+1)/(a+1) = 8
x+1 = 8
x = 7
Und das eingesetzt in die erste Gleichung:
7-3y = 2 |-7
-3y = -5 |:3
y = 5/3
Die Lösung für a ungleich -1 und 13 lautet also:
(x,y,z) = (7, 5/3, 1/(a+1))