Du musst halt mehrere Fälle unterscheiden:
1. Fall a=0
dann hängt das weitere Vorgehen von b ab, hier musst du wieder Fälle unterscheiden:
2. Fall a=0 und b=0
dann hängt es von c ab, also
3. Fall a=0 und b=0 und c=0 dann ist jedenfalls rang gleich 2
4. Fall a=0 und b=0 und c <>0 dann rang=3
5. Fall a=0 und b<>0 dann brauchst du für die Stufenform
2.Zeile * -b und dann zur 3. Zeile dazu addieren
1 0 1 1 0
0 1 1 0 1
0 0 c-b 0 -b
wegen b<>0 ist das jedenfalls rang=3
6. Fall a<>0
Dann 1. Zeile mal -a und zur 3. addieren gibt
1 0 1 1 0
0 1 1 0 1
0 b c-a -a 0
und wegen a<>0 also jedenfalls auch rang gleich 3
Die ersten beiden Fälle waren übrigens überflüssig, wie sich jetzt zeigt.