Ich schreibe als Abkürzung \(B=(E-A)^{-1}\).
Wenn Rechner erlaubt ist, berechnest du einfach
$$E-A = B^{-1} \Leftrightarrow \boxed{A = E- B^{-1}}$$
\(B^{-1}\) per Hand zu berechnen ist ziemlich ätzend. Daher ein zweiter Weg, der per Hand aber auch nicht so schön ist.
Du bildest
$$E-A = \left( \begin{array}{ccc} \frac{10}{11} & -\frac{6}{7} & -\frac{\text{a13}}{11} \\ -\frac{2}{11} & 1-\frac{\text{a22}}{11} & 0 \\ -\frac{\text{a31}}{11} & -\frac{2}{7} & \frac{3}{8} \\ \end{array} \right)$$
Nun gilt
$$(E-A)B=E$$
Also
$$ \left( \begin{array}{ccc} \frac{10}{11} & -\frac{6}{7} & -\frac{\text{a13}}{11} \\ -\frac{2}{11} & 1-\frac{\text{a22}}{11} & 0 \\ -\frac{\text{a31}}{11} & -\frac{2}{7} & \frac{3}{8} \\ \end{array} \right) \left( \begin{array}{ccc} \frac{99}{64} & \frac{143}{64} & \frac{33}{16} \\ \frac{21}{64} & \frac{105}{64} & \frac{7}{16} \\ \frac{1}{4} & \frac{5}{4} & 3 \\ \end{array} \right) = \left( \begin{array}{ccc} 1 & 0 & 0 \\ 0 & 1 & 0 \\ 0 & 0 & 1 \\ \end{array} \right)$$
Wenn du jetzt zum Beispiel die erste Zeile mit der dritten Spalte "multiplizierst", erhältst du die Gleichung
$$3/2 - 3 a_{13}/11 = 0 \Rightarrow \boxed{a_{13}=\frac{11}2}$$
Analog findest du
$$\boxed{a_{22}= \frac{11}7,\; a_{31}=0}$$
