Aloha :)
Willkommen in der Mathelounge... \o/
zu a) Bei einer Basis ist die Reihenfolge der Basiselemente wichtig, daher schreiben wir die Basis \(B\) als geordnetes Tupel und nicht als Menge. Die Elemente von \(B\) sind alle bezüglich der Standardbasis \(S=(1;x;x^2)\) der Polynome vom Grad \(\le2\) angegeben. Daher können wir sie in der Basis \(S\) hinschreiben:$$B=(\,x-2;3;x^2\,)=\left(\begin{pmatrix}-2\\1\\0\end{pmatrix}_{\!\!\!S};\begin{pmatrix}3\\0\\0\end{pmatrix}_{\!\!\!S};\begin{pmatrix}0\\0\\1\end{pmatrix}_{\!\!\!S}\right)$$
Damit haben wir die Übergangsmatrix von \(B\) nach \(S\) gefunden:$${_S}\mathbf{id}_B\coloneqq\begin{pmatrix}-2 & 3 & 0\\1 & 0 & 0\\0 & 0 & 1\end{pmatrix}$$
Da die Determinante von \({_S}\mathbf{id}_B\) gleich \((-3)\) also ungleich \(0\) ist, existiert die inverse Matrix und wir können jedes Polynom von der Darstellung bezüglich \(S\) in die Darstellung bezüglich \(B\) transformieren$${_B}\mathbf{id}_S=\left({_S}\mathbf{id}_B\right)^{-1}=\begin{pmatrix}0 & 1 & 0\\\frac13 & \frac23 & 0\\0 & 0 & 1\end{pmatrix}$$Daher bildet \(B\) eine Basis aller Polynome vom Grad \(\le2\).
zu b) Hier soll ein Polynom von der Standardbasis \(S\) in die Basis \(B\) überführt werden:$$7+3x+x^2=\begin{pmatrix}7\\3\\1\end{pmatrix}_S=\left(\begin{pmatrix}0 & 1 & 0\\\frac13 & \frac23 & 0\\0 & 0 & 1\end{pmatrix}\begin{pmatrix}7\\3\\1\end{pmatrix}\right)_B=\begin{pmatrix}3\\\frac{13}{3}\\1\end{pmatrix}_B$$$$\phantom{7+3x+x^2}=3\cdot(x-2)+\frac{13}{3}\cdot3+1\cdot x^2$$