Aloha :)
zu a) Bei der Matrix-Multiplikation bzw. Hintereinanderausführung der Funktionen \(f\) und \(g\) muss die Ergebnis-Basis der rechten Matrix mit der Eingangs-Basis der linken Matrix übereinstimmen:$$M^{\color{blue}A}_{\color{blue}B}(f\circ g)=M_{\color{blue}B}^\pink{A}(f)\cdot\mathbf{id}^{\green B}_\pink{A}\cdot M^{\color{blue}A}_{\green B}(g)$$
Du brauchst also die Transformationsmatrix \(\mathbf{id}^{\green B}_\pink{A}\) von der Basis \(B\) zur Basis \(A\).
Die Basisvektoren von \(A\) und \(B\) sind jeweils bezüglich der kanonischen Standardbasis \(E\) angegeben, denn zum Zeitpunkt ihrer Definition ist keine andere Basis definiert. Wir kennen daher die Transformationsmatrizen:$$\mathbf{id}_E^A=\left(\begin{array}{rrr}3 & 0 & 3\\1 & 2 & 2\\-2 & 1 & 0\end{array}\right)\quad;\quad \mathbf{id}_E^B=\left(\begin{array}{rrr}1 & 2 & 0\\1 & 0 & 3\\3 & -1 & 1\end{array}\right)$$
Damit wissen wir auch, wie man von \(B\) nach \(A\) transformiert:$$\mathbf{id}^{\green B}_\pink{A}=\mathbf{id}_{\pink A}^E\cdot\mathbf{id}_E^{\green B}=\left(\mathbf{id}_E^{\pink A}\right)^{-1}\cdot\mathbf{id}_E^{\green B}$$
Die Freude am Ausrechnen der Matrix-Multiplikationen möchte ich dir nicht nehmen... ;)
zu b) Die Standardbasis \(\varepsilon\) haben wir oben \(E\) genannt. Du musst den Vektor \(\vec v\) zunächst in die Basis \(A\) transformieren, dann durch die Abbildungsmatrix aus Teil (a) schicken und das Ergebnis wieder in die Basis \(E\) zurücktransformieren:
$$M_E^E(f)\cdot\vec v_E=\mathbf{id}_E^B\cdot M_B^A(f\circ g)\cdot\mathbf{id}_A^E\cdot\vec v_E=\mathbf{id}_E^B\cdot M_B^A(f\circ g)\cdot\left(\mathbf{id}_E^A\right)^{-1}\cdot\vec v_E$$
Alle Matritzen hast du in Teil (a) bereits bestimmt.
Auch hier möchte ich deine Freude beim Ausrechnen nicht trüben ;)
