Aloha :)
Die Musterlösung passt nicht zur Aufgabenstellung. Bei dieser Lösung hätte die Aufgabe lauten müssen: "Überprüfen Sie, dass die angegebene Matrix die inverse Matrix ist." Daher ist deine Frage völlig berechtigt, wie man eigentlich auf die Lösung kommt.
Wir bezeichnen die inverse Matrix mit \(X\). Diese erfüllt die Gleichung:
$$\left(\begin{array}{r}a & b\\-b & a\end{array}\right)\cdot\left(\begin{array}{r}x_{11} & x_{12}\\x_{21} & x_{22}\end{array}\right)=\left(\begin{array}{r}1 & 0\\0 & 1\end{array}\right)$$
Diese Matrix-Gleichung können wir in zwei Gleichungen zerlegen:
$$\left(\begin{array}{r}a & b\\-b & a\end{array}\right)\cdot\left(\begin{array}{r}x_{11}\\x_{21}\end{array}\right)=\left(\begin{array}{r}1\\0\end{array}\right)\quad;\quad\left(\begin{array}{r}a & b\\-b & a\end{array}\right)\cdot\left(\begin{array}{r}x_{12}\\x_{22}\end{array}\right)=\left(\begin{array}{r}0\\1\end{array}\right)$$
Das wiederum sind zwei Gleichungssystem:
$$\begin{array}{rrrrr|l}ax_{11}&+&bx_{21}&=&1 &\cdot b\\-bx_{11}&+&ax_{21}&=&0 &\cdot a\\\hline\\[-2ex] ab\,x_{11}&+&b^2\,x_{21}&=&b & \\-ab\,x_{11}&+&a^2\,x_{21}&=&0 &\end{array}\quad;\quad\begin{array}{rrrrr|l}ax_{12}&+&bx_{22}&=&0 &\cdot b\\-bx_{12}&+&ax_{22}&=&1 &\cdot a\\\hline\\[-2ex] ab\,x_{12}&+&b^2\,x_{22}&=&0 & \\-ab\,x_{12}&+&a^2\,x_{22}&=&a &\end{array}$$
Addiert man nun jeweils die beiden Gleichungen, so folgt:$$(a^2+b^2)x_{21}=b\quad;\quad (a^2+b^2)x_{22}=a$$und mit \(-bx_{11}+ax_{21}=0\) bzw. \(ax_{12}+bx_{22}=0\) gilt weiter:$$x_{21}=\frac{b}{a^2+b^2}\implies bx_{11}=ax_{21}\implies bx_{11}=\frac{ab}{a^2+b^2}\implies x_{11}=\frac{a}{a^2+b^2}$$$$x _{22}=\frac{a}{a^2+b^2}\implies ax_{12}=-bx_{22}\implies ax_{12}=-\frac{ab}{a^2+b^2}\implies x_{12}=-\frac{b}{a^2+b^2}$$
Damit ist die inverse Matrix:$$X=\frac{1}{a^2+b^2}\left(\begin{array}{rr}a & -b\\b & a\end{array}\right)$$
