In der 3. Zeile der Matrix ist was falsch.
Die 4 muss wohl eine 2 sein.
Dann nimmst du die 3. Zeile mal -5 und addierst das zu der 2.
das gibt (mit L statt Lambda)
1 L -3 -13
0 2+3L 0 - 30
0 - 1 -L 2 12
und dann beginnst du mit der 2. Zeile und
einer Fallunterscheidung: Für L = - 2 / 3
gibt es keine Lösung.
Ansonsten aber x2 = -30 / ( 2+3a)
Das in die 3. eingesetzt gibt gibt x3 = (3a - 3) / ( 3a +2 )
und oben dann x1 = -35 / ( 2+3a)