Du fängst damit an, in dem du den Vektor p als Linearkombination der 3 Basisvektoren der neuen Basis darstellst.
Es muss gelten:
$$a*\begin{pmatrix} 1 \\ 1 \\ 0\end{pmatrix} + b*\begin{pmatrix} 1 \\ -1 \\ 0\end{pmatrix} + c*\begin{pmatrix} 0 \\ 0 \\ 1\end{pmatrix} = \vec{ p }=\begin{pmatrix} 3 \\ -2 \\ 4\end{pmatrix}$$
Damit ergeben sich 3 Gleichungen:
1) a + b = 3
2) a - b = -2
3) c = 4
2) umgestellt nach a:
a = -2 + b
in 1) eingesetzt:
-2 + b + b = 3
b = 2,5
mit 2)
a = 0,5
Also lauten die Koordinaten von p bzgl. der Basis B: $$\vec{ p }_{B}=\begin{pmatrix} 0,5 \\ 2,5 \\ 4\end{pmatrix} $$
Jetzt kann die Matrix der linearen Abbildung F auf p angewandt werden, um q zu ermitteln.
Dies geschieht durch einfache Multiplikation:
$$ \vec{ q }=\begin{pmatrix} -1 & -2 & 0 \\ 2 & 3 & 0 \\ 0 & 0 & 2\end{pmatrix} * \begin{pmatrix} 0,5 \\ 2,5 \\ 4\end{pmatrix} \\
= \begin{pmatrix} -5,5 \\ 8,5 \\ 8\end{pmatrix}$$