Aloha :)
Du kannst die beiden linearen Abbildungen für (a) und (b) jeweils als Matrix ausdrücken. In die Spalten der Matrix schreibst du die Bilder der Basisvektoren. Wir überlegen uns also zuerst, was die jeweilige Transformation mit den Basisvektoren macht.
zu a) Drehung \(45^\circ\) um den Ursprung, gefolgt von Spiegeleung an \(g\colon\vec x=t\binom{1}{-1}\)
Die angegebene Spiegelungsgerade entspricht der Gerden \((y=-x)\), denn:$$g\colon\binom{x}{y}=t\cdot\binom{1}{-1}=\binom{t}{-t}\implies x=t\;\land\,y=-t\implies y=-x$$
Die Drehung des Basisvektors \(\binom{1}{0}\) um \(45^\circ\) nach links ergibt \(\binom{\cos45^\circ}{\sin45^\circ}\).
Dieser gedrehte Vektor steht auf der Spiegelungsgeraden \((y=-x)\) senkrecht. Wenn wir ihn spiegeln, ändern beide Koordinaten ihr Vorzeichen:
$$\binom{1}{0}\to\binom{\cos45^\circ}{\sin45^\circ}\to\binom{-\cos45^\circ}{-\sin45^\circ}=\begin{pmatrix}-\frac{1}{\sqrt2}\\-\frac{1}{\sqrt2}\end{pmatrix}$$
Die Drehung des Basisvektors \(\binom{0}{1}\) um \(45^\circ\) nach links ergibt \(\binom{-\cos45^\circ}{\sin45^\circ}\).
Die Spiegelung an der Geraden \((y=-x)\) macht nichts mehr mit unserem gedrehten Basisvektor, weil dieser auf der Spiegelgeraden liegt.
$$\binom{0}{1}\to\binom{-\cos45^\circ}{\sin45^\circ}\to\binom{-\cos45^\circ}{\sin45^\circ}=\begin{pmatrix}-\frac{1}{\sqrt2}\\+\frac{1}{\sqrt2}\end{pmatrix}$$
Die Transformationsmatrix für die gesamte Abbildung ist also:$$A=\frac{1}{\sqrt2}\left(\begin{array}{rr}-1 & -1\\-1 & 1\end{array}\right)$$
zu b) Streckung um Faktor \(2\), danach Spiegelung an der \(y\)-Achse.
Bei der Spiegelung an der \(y\)-Achse ändert die \(x\)-Koordinate ihr Vorzeichen, daher ist klar, wie sich die beiden Basisvektoren transformieren:
$$\binom{1}{0}\to\binom{2}{0}\to\binom{-2}{0}\quad;\quad\binom{0}{1}\to\binom{0}{2}\to\binom{0}{2}$$
Das führt zu folgender Transfomrationsmatrix:$$B=\left(\begin{array}{rr}-2 & 0\\0 & 2\end{array}\right)$$
Durchführung der Transformation
Nun kannst du das Dreieck transformieren:
$$A\cdot\begin{pmatrix}0 & 2 &2\\1 & 1 &4\end{pmatrix}=\begin{pmatrix}-\frac{1}{\sqrt2} & -\frac{3}{\sqrt2} & -\frac{6}{\sqrt2}\\[1ex]\phantom-\frac{1}{\sqrt2} & -\frac{1}{\sqrt2} & \phantom-\frac{2}{\sqrt2}\end{pmatrix}$$$$B\cdot\begin{pmatrix}0 & 2 &2\\1 & 1 &4\end{pmatrix}=\begin{pmatrix}0 & -4 & -4\\2 & \phantom-2 & \phantom-8\end{pmatrix}$$