Aloha :)
Du musst zwischen dem Vektor selbst und seinen Koordinaten unterscheiden. Der Vektor ist in jeder Basis derselbe. Die Komponenten des Vektors werden jedoch immer relativ zu einer Basis angegeben. Daher ändern sich die Koordinaten eines Vektors, wenn sich die zugrunde liegende Basis ändert. In dieser Aufgabe beschreiben die Vektoren die Polynome vom Grad 2, allerdings in 2 unterschiedlichen Basen \(A\) und \(B\). Das Prinzip wird vermutlich klar, wenn wir die Aufgabe einfach mal durchgehen.
Du hast die Abbildungsmatrix \(M(f)\) bezüglich der Basis \(A\) gegeben. Die Matrix erwartet also, dass die Komponenten des Vektors, den du von rechts multiplizierst, bezüglich der Basis \(A\) gegeben sind. Das Ergebnis der Multiplikation ist dann ein Vektor, dessen Komponenten wieder bezüglich der Basis \(A\) gegeben sind. Das kann man deutlich machen, indem die Eingangsbasis rechts und die Ausgabebasis links als Indizes an die Abbildungsmatrix geschrieben werden, hier also: \(_AM(f)_A\).
Du hast nun eine weitere Basis \(B\) gegeben und sollst die Matrix \(_AM(f)_A\) so umformen, dass rechts ein Vektor mit Komponenten zur Basis \(B\) reinkommt und links ein Vektor mit Komponenten zur Basis \(B\) herauskommt, das wäre dann die Matrix: \(_BM(f)_B\).
Nehmen wir kurz an, du hättest eine Matrix \(_AS_B\), die einen Vektor mit Komponenten bezüglich der Basis \(B\) in den identischen Vektor, allerdings mit Komponenten bezüglich der Basis \(A\) transformiert. Dann transformiert die inverse Matrix einen Vektor von \(A\) nach \(B\), d.h. \(_BS_A=(_AS_B)^{-1}\). Die gesuchte Abbildungsmatrix wäre dann:
$$_BM(f)_B={_BS_A}\cdot{_AM(f)_A}\cdot {_AS_B}={(_AS_B)^{-1}}\cdot{_AM(f)_A}\cdot {_AS_B}$$Wird von rechts ein Vektor mit Komponenten zur Basis \(B\) multipliziert, werden seine Komponenten zunächst durch die Multiplikation mit \(_AS_B\) in die Basis \(A\) überführt. Anschließend wirkt die Abbildungsmatrix \(_AM(f)_A\) und führt die gewünschte Funktion aus. Zum Schluss müssen die Komponenten des Ergebnisvektors noch von der Basis \(A\) in die Basis \(B\) transformiert werden. Das erledigt die Multiplikation mit \(_BS_A\) bzw. mit \((_AS_B)^{-1}\).
Mit diesem Verständnis im Hinterkopf haben wir das Problem auf das Finden der Transformationsmatrix \(_AS_B\) reduziert. Diese erhält man, indem man jeden Basisvektor der neuen Basis als Linearkombination der alten Basisvektoren schreibt:
$$x-x^2=\underline{0}\cdot 1+\underline{1}\cdot x+\underline{(-1)}\cdot x^2$$$$1+2x+x^2=\underline{1}\cdot 1+\underline{2}\cdot x+\underline{1}\cdot x^2$$$$1+3x+x^2=\underline{1}\cdot 1+\underline{3}\cdot x+\underline{1}\cdot x^2$$Die Koeffizienten dieser Linearkombinationen schreibt man jetzt als Spalten in eine Matrix und erhält die so benötigte Transformationsmatrix
$$_AS_B=\left(\begin{array}{c}0 & 1 & 1\\1 & 2 & 3\\-1 & 1 & 1\end{array}\right)\;\;;\;\;_BS_A=(_AS_B)^{-1}=\left(\begin{array}{c}1 & 0 & -1\\4 & -1 & -1\\-3 & 1 & 1\end{array}\right)$$$$_BM(f)_B=\left(\begin{array}{c}1 & 0 & -1\\4 & -1 & -1\\-3 & 1 & 1\end{array}\right)\cdot\left(\begin{array}{c}0 & 0 & 1\\0 & 1 & 0\\1 & 0 & 0\end{array}\right)\cdot\left(\begin{array}{c}0 & 1 & 1\\1 & 2 & 3\\-1 & 1 & 1\end{array}\right)$$$$\phantom{_BM(f)_B}=\left(\begin{array}{c}-1 & 0 & 0\\-5 & 1 & 0\\4 & 0 & 1\end{array}\right)$$Ich hoffe, das war halbwegs verständlich beschrieben. Falls nicht, frag bitte einfach nochmal nach.
