Die Koeffizientenmatrix ist invertierbar, wenn ihre Determinante <> 0 ist. In diesem Fall gibt es genau eine Lösung.
In den anderen Fällen gibt es keine oder unendlich viele Lösungen.
DET([a, 1, -1; 0, 2, -2; -1, -1, 0]) = - 2·a = 0
Für a <> 0 sollte es damit genau eine Lösung geben.
Ich bringe die Matrix mal in eine etwas ungewöhnliche Zeilenstufenform. Dabei habe ich nur von der 2. Zeile 2 mal die erste subtrahiert und dann die 2. und 3. Zeile Vertauscht.
[a, 1, -1, b]
[-1, -1, 0, -b]
[- 2·a, 0, 0, 4 - 2·b]
Jetzt kann man auch sehen das wenn,
a = 0 und b = 2 --> unendlich viele Lösungen
a = 0 und b <> 2 ---> keine Lösung
Schaffst du es jetzt die Zeilenstufenform ganz aufzulösen und damit die Lösungsmenge zu bestimmen?