Aloha :)
Willkommen in der Mathelounge... \o/
zu a) Die Abbildung \(T:\mathbb R^2\to\mathbb R^3\) erwartet Eingangsgrößen und Ausgangsgrößen, deren Komponenten sich auf die jeweilige Standardbasis \(S2\) bzw. \(S3\) beziehen. Wir sollen die Abbildungsmatrix \(\mathbf T\) so in eine Matrix \(\mathbf B\) umrechnen, dass \(V\coloneqq(\vec v_1\,,\,\vec v_2)\) die Basis für die Eingangsgrößen und \(W\coloneqq(\vec w_1\,,\,\vec w_2\,,\,\vec w_3)\) die Basis für die Ausgangsgrößen ist.
Wir wissen, wie die Basisvektoren von \(V\) in Komponenten-Darstellung zu \(S2\) aussehen und können daraus die Transformationsmatrix von \(V\) zu \(S2\) bestimmen:$${_{S2}\mathbf{id}_V}\cdot\binom{1}{0}_{\!\!V}=\binom{1}{1}_{\!\!S2}\quad;\quad{_{S2}\mathbf{id}_V}\cdot\binom{0}{1}_{\!\!V}=\binom{5}{3}_{\!\!S2}$$$${_{S3}\mathbf{id}_W}\cdot\begin{pmatrix}1\\0\\0\end{pmatrix}_{\!\!W}\!\!=\begin{pmatrix}1\\2\\2\end{pmatrix}_{\!\!S3}\quad;\quad{_{S3}\mathbf{id}_W}\cdot\begin{pmatrix}0\\1\\0\end{pmatrix}_{\!\!W}\!\!=\begin{pmatrix}1\\3\\4\end{pmatrix}_{\!\!S2}\quad;\quad{_{S3}\mathbf{id}_W}\cdot\begin{pmatrix}0\\0\\1\end{pmatrix}_{\!\!W}\!\!=\begin{pmatrix}2\\4\\5\end{pmatrix}_{\!\!S3}$$Die Transformationsmatrizen sind daher:$${_{S2}\mathbf{id}_V}=\left(\begin{array}{rr}1 & 5\\1 & 3\end{array}\right)\quad;\quad{_{S3}\mathbf{id}_W}=\left(\begin{array}{rr}1 & 1 & 2\\2 & 3 & 4\\2 & 4 & 5\end{array}\right)$$
Du erkennst sicher, dass eigentlich nur die neuen Basis-Vektoren als Spalten in den Transformationmatrizen auftauchen. Wenn man das weiß, kann man sich etwas Rechnerei sparen. Ich habe das nur ausführlich erläutert, damit es dir klarer wird.
Damit können wir nun die Matrix \(\mathbf B\) berechnen. Zur Veranschaulichung schreibe ich die Eingangs-Basis als rechten Index und die Ausgangs-Basis als linken Index neben die Matrizen:$${_W}\mathbf B_{V}={_W}\mathbf{id}_{S3}\cdot{_{S3}}\mathbf T_{S2}\cdot{_{S2}}\mathbf{id}_{V}=\left({_{S3}}\mathbf{id}_{W}\right)^{-1}\cdot{_{S3}}\mathbf T_{S2}\cdot{_{S2}}\mathbf{id}_{V}$$$$\phantom{{_W}\mathbf B_{V}}=\left(\begin{array}{rr}1 & 1 & 2\\2 & 3 & 4\\2 & 4 & 5\end{array}\right)^{-1}\left(\begin{array}{rr}0 & 1\\2 & -2\\3 & 0\end{array}\right)\left(\begin{array}{rr}1 & 5\\1 & 3\end{array}\right)=\left(\begin{array}{rr}-7 & -21\\-2 & -2\\5 & 13\end{array}\right)$$
zu b) Wir lassen die Abbidlungsmatrix \(\mathbf T\) auf den Eingangsvektor wirken:$${_{S3}}T_{S2}\cdot\binom{2}{-4}_{\!\!S2}=\left(\begin{array}{rr}0 & 1\\2 & -2\\3 & 0\end{array}\right)\cdot\binom{2}{-4}_{\!\!S2}=\left(\begin{array}{r}-4\\12\\6\end{array}\right)_{\!\!S3}$$und rechnen den Ergebnis-Vektor noch in die Basis \(W\) um:
$$\left({_{S3}}\mathbf{id}_{W}\right)^{-1}\cdot\!\left(\begin{array}{r}-4\\12\\6\end{array}\right)_{\!\!S3}\!\!=\left(\begin{array}{rr}1 & 1 & 2\\2 & 3 & 4\\2 & 4 & 5\end{array}\right)^{-1}\!\!\!\!\cdot\left(\begin{array}{r}-4\\12\\6\end{array}\right)_{\!\!S3}\!\!=\left(\begin{array}{r}28\\20\\-26\end{array}\right)_{\!\!W}$$