Aloha :)
$$f(x,y)=x^2-4xy-y^2=x^2-2xy-2yx-y^2=\begin{pmatrix}x & y\end{pmatrix}\begin{pmatrix}1 & -2\\-2 & 1\end{pmatrix}\binom{x}{y}$$Die Eigenwerte sind die Nullstellen des charakteristischen Polynoms:
$$0\stackrel!=\begin{vmatrix}1-\lambda & -2\\-2 & 1-\lambda\end{vmatrix}=(1-\lambda)(1-\lambda)-4=\lambda^2-2\lambda-3=(\lambda-3)(\lambda+1)$$Die Eigenwerte sind daher:$$\lambda_1=-1\quad;\quad\lambda_2=3$$
Die Eigenvektoren dazu finden wir, indem wir die Eigenwerte in die Matrix unter der Determinante einsetzen und den Kern bestimmen.
Eigenvektor zu \(\lambda_1=-1\)
$$\begin{pmatrix}2 & -2\\-2 & 2\end{pmatrix}\vec v=\vec 0\implies 2v_1-2v_2=0\;;\;-2v_1+2v_2=0\implies v_1=v_2\implies\vec v=\binom{1}{1}$$
Eigenvektor zu \(\lambda_1=3\)
$$\begin{pmatrix}-2 & -2\\-2 & -2\end{pmatrix}\vec w=\vec 0\implies -2w_1-2w_2=0\implies w_1=-w_2\implies\vec w=\binom{-1}{1}$$
Die Eigenvektoren lauten also:$$\vec x_1=\vec v=\binom{1}{1}\quad;\quad \vec x_2=\vec w=\binom{-1}{1}$$
Was du nun tun sollst, erschließt sich mir nicht. Vermutlich sollst du die Hauptachsentransformation nachrechnen?