Schau mal dort:
https://de.wikipedia.org/wiki/Definitheit#Definitheit_von_Matrizen
Also brauchst du nur die Eigenwerte.
Dazu rechnest du ( wenn A die Matrix ist)
det ( A -x*E ) = 0
also bei der ersten -x^3 +6x^2 +6x -56 = 0
bzw x^3 - 6x^2 - 6x + 56 = 0
kannst du raten x=4 und Polynomdivision
( x^3 - 6x^2 - 6x + 56) : ( x-4 ) = x^2 - 2x - 14
also Eigenwerte 4 ; 1 + wurzel(15 ) ; 1 - wurzel ( 15 )
also 2 positive und einen neg. Eigenwert , also indefinit.
etc.