Hm,
die Diagonalmatrix aus Eigenwerten (Eigenvektoren =S) erhält man über D= S-1 A S.
Was hält Dich davon ab nach bewährtem Muster vorzugehen? Also
\(\small \left(\begin{array}{rrrr}\lambda=&-3&\left(\begin{array}{rrr}0&0&0\\2 \; a&b + 3&a\\10&0&5\\\end{array}\right)&\left(\begin{array}{r}x1\\x2\\x3\\\end{array}\right) = 0\\\lambda=&2&\left(\begin{array}{rrr}-5&0&0\\2 \; a&b - 2&a\\10&0&0\\\end{array}\right)&\left(\begin{array}{r}x1\\x2\\x3\\\end{array}\right) = 0\\\lambda=&b&\left(\begin{array}{rrr}-3 - b&0&0\\2 \; a&0&a\\10&0&2 - b\\\end{array}\right)&\left(\begin{array}{r}x1\\x2\\x3\\\end{array}\right) = 0\\\end{array}\right)\)
===>
\(\small S \, := \, \left(\begin{array}{rrr}-\frac{1}{2}&0&0\\0&-\frac{a}{b - 2}&1\\1&1&0\\\end{array}\right)\)
damit kann man was zu den Parametern a,b sagen...