Aloha :)
Wir tun mal so, als würden wir die symmetrische Matrix \(\mathbf A\) schon kennen:$$\mathbf A=\begin{pmatrix}a & b\\b & c\end{pmatrix}$$Damit rechnen wir die rechte Seite aus:
$$\vec v^T\mathbf A\vec v=\begin{pmatrix}x & y\end{pmatrix}\begin{pmatrix}a & b\\b & c\end{pmatrix}\binom{x}{y}=\begin{pmatrix}x & y\end{pmatrix}\binom{ax+by}{bx+cy}=ax^2+2bxy+cy^2$$
Durch Koeffizientenvergleich mit dem Soll-Ergebnis finden wir:$$ax^2+2bxy+cy^2\stackrel!=3x^2+4xy+8y^2$$$$(a-3)x^2+(2b-4)xy+(c-8)y^2=0$$$$a=3\quad;\quad b=2\quad;\quad c=8$$
und können die gesuchte Matrix angeben:$$\mathbf A=\begin{pmatrix}3 & 2\\2 & 8\end{pmatrix}$$
