Reicht es hier nicht einfach mit dem Gauß-Algorithmus zu rechnen?
Genau:
ich komme auf
1 2 4 -1
0 5 7 4
0 0 1+a 0
0 0 0 b+2
Wenn b≠-2 ist, gibt es jedenfalls keine Lösung.
Für b=-2 ist die letzte Zeile irrelevant.
Für a=-1 gestattet die vorletzte Zeile
viele Lösungen für x3 und jede
davon liefert bei den ersten
beiden Zeilen Werte für x1 und x2.
Für a≠-1 liefert die vorletzte Zeile x3=0
und die ersten beiden eindeutig bestimmte Werte für
x1 und x2.
Also
keine Lösung: b≠-2 , a beliebig.
eindeutige Lösung b=-2 und a≠-1
unendlich viele b=-2 und a = -1.