Ok, das erste was man also überprüfen sollte ist, ob das charakteristische Polynom in Linearfaktoren zerfällt.
$$ \chi_A = t^3 -2t^2+(3-10\lambda)t + 6\lambda $$
Es gibt jetzt 2 Fälle:
Das char. Pol. hat nur eine reelle Nullstelle oder drei (diese müssen aber nicht p.w. verschieden sein!)
Ein gängiger Schritt ist das Polynom erst einmal durch Substitution auf Normalform zu bringen:
$$ t = s + \frac{2}{3} $$
dann erhältst du
$$ \chi_A = s^3 + \underbrace{\left( \frac{5}{3} - 10\lambda\right)}_{=:p}s + \underbrace{\left(\frac{38-18\lambda}{27}\right)}_{=:q} $$
das Polynom hat dieselbe Anzahl reeller Nullstellen. Ähnlich wie bei den quadratischen Polynomen kann man auch bei kubischen Polynomen eine Diskriminante betrachten. Für die Normalform \( s^3+ps+q \) ist diese
$$ \Delta = -4 p^3 - 27q^2 = 4000\lambda^3 - 2012\lambda^2 + 384\lambda - 72$$
Es gilt jetzt: Alle Nullstellen sind reell \( \iff \) \(\Delta \ge 0 \)
Man sollte also die Diskriminante etwas genauer studieren:
$$ \frac{\textrm d}{\textrm d \lambda} \Delta = 12000\lambda^2 - 4024 \lambda + 348 \ge 0 $$
Also ist die Determinante monoton steigend und hat folglich entweder eine einfache oder eine dreifache reelle Nullstelle.
Die Nullstelle ist \( \lambda = \frac{3}{8} \).
Also falls \( \lambda < \frac{3}{8} \) ist \( \Delta < 0 \) es gibt also komplexe Nullstellen und das charakteristische Polynom zerfällt über \( \mathbb R \) nicht in Linearfaktoren => Weder diagonal- noch trigonalisierbar.
Falls \( \lambda > \frac{3}{8} \) ist \( \Delta > 0 \) das heißt es gibt sogar 3 p.w. verschieden reelle Nullstellen (siehe Definition der Diskriminante, da ist relativ ersichtlich, dass diese nur =0 sein kann falls eine Nullstelle mehrfach auftritt). Das ist ein wohlbekanntes Kriterium für Diagonalisierbarkeit, was auch direkt Trigonalisierbarkeit impliziert.
Falls \( \lambda = \frac{3}{8} \) zerfällt das charakteristische Polynom auch in Linearfaktoren, also ist die Matrix trigonalisierbar. Diagonalisierbarkeit muss man jetzt aber nochmal händisch nachprüfen (Vergleiche algebraische mit geometrischen Vielfachheiten für alle Eigenwerte)