Ich würde erstmal vorschlagen, Du tust genau das was da steht:
\(T^T T - A = \left(\begin{array}{rrr}t11^{2} - 9&t11 \; t12 - 6&t11 \; t13 - 12\\t11 \; t12 - 6&t12^{2} + t21^{2} - 8&t12 \; t13 + t21 \; t23 - 78\\t11 \; t13 - 12&t12 \; t13 + t21 \; t23 - 78&t13^{2} + t23^{2} + t33^{2} - 1250\\\end{array}\right)\)
Du kannst jetzt auflösen \(T^T T - A = 0\) , z.B. pos Diagonale mit
\( \left\{ \left\{ t11 = 3, t12 = 2, t13 = 4, t21 = 2, t23 = 35, t33 = 3 \right\} , .... \right\} \)