Nimm mal die Determinante der Koeffizientenmatrix und setze sie gleich null
DET [1, 1, 3·a + 3; 5 + 2·a, -1, 4; a, -1, 5] = - 3·a^2 - 24·a - 41 = 0
a = - √21/3 - 4 ∨ a = √21/3 - 4
Hm. Schau mal ob du das Gleichungssystem richtig aufgeschrieben hast. Diese Lösungen sind etwas unschön.