Aloha :)
Für die beiden Ebenen gilt:$$E:\quad 3x^2+2xy+3y^2=4 \quad\Leftrightarrow \quad \frac{3}{4}x^2+2\cdot\frac{1}{4}xy+\frac{3}{4}y^2=1$$$$E':\quad a{x'}^2+b{y'}^2=c \quad\Leftrightarrow \quad \frac{a}{c}{x'}^2+\frac{b}{c}{y'}^2=1$$Beide Ebenen lassen sich in Matrixschreibweise formulieren. Da symmetrische Matrizen stets diagonalisierbar sind und wir diese Eigenschaft hier benötigen, setzen wir wie folgt an:$$\left(x,y\right)\left(\begin{array}{c}\alpha & \beta \\\beta & \gamma\end{array}\right)\left(\begin{array}{c}x\\y\end{array}\right)=\left(x,y\right)\left(\begin{array}{c}\alpha x & \beta y \\\beta x & \gamma y\end{array}\right)=\alpha x^2+2\beta xy+\gamma y^2$$Mittels Koeffizientenvergleich lesen wir ab:$$E:\;\left(x,y\right)\underbrace{\left(\begin{array}{c}\frac{3}{4} & \frac{1}{4} \\\frac{1}{4} & \frac{3}{4}\end{array}\right)}_{=:A}\left(\begin{array}{c}x\\y\end{array}\right)=1\quad;\quad E':\;\left(x',y'\right)\underbrace{\left(\begin{array}{c}\frac{a}{c} & 0 \\0 & \frac{b}{c}\end{array}\right)}_{=:A'}\left(\begin{array}{c}x'\\y'\end{array}\right)=1$$Die Matrix \(A\) soll durch eine Drehung aus der Matrix \(A'\) hervorgehen. Bei einer 2-dimensionalen Drehung linksherum um den Winkel \(\alpha\) wird der Vektor \((1;0)^T\) auf \((\cos\alpha;\sin\alpha)^T\) abgebildet und der Vektor \((0;1)^T\) auf \((-\sin\alpha;\cos\alpha)^T\). Die Transformations- bzw. Drehmatrix lautet daher:$$D=\left(\begin{array}{c}\cos\alpha & -\sin\alpha\\\sin\alpha & \cos\alpha\end{array}\right)\quad;\quad D^{-1}=\left(\begin{array}{c}\cos\alpha & \sin\alpha\\-\sin\alpha & \cos\alpha\end{array}\right)=D^T$$Die inverse Drehmatrix \(D^{-1}\) ist gleich der transponierten Drehmatrix \(D^T\), was sofort klar wird, wenn man \(\alpha\) durch \((-\alpha)\) ersetzt, wobei das Minuszeichen die Drehung in die entgegengesetzte Richtung beschreibt. Wir wollen \(A'\) aus \(A\) bestimmen. Die Transformation erfolgt vom gestrichenen System ins ungestrichene System, also gilt: $$\left(\begin{array}{c}x\\y\end{array}\right)=D\cdot\left(\begin{array}{c}x'\\y'\end{array}\right)$$Dies wird in die Ebenengleichung für \(E\) eingesetzt:$$E:\;\left(x,y\right)A\left(\begin{array}{c}x\\y\end{array}\right)=\left[D\left(\begin{array}{c}x'\\y'\end{array}\right)\right]^T\,A\,D\left(\begin{array}{c}x'\\y'\end{array}\right)=(x',y')\,D^TAD\,\left(\begin{array}{c}x'\\y'\end{array}\right)=1$$Und ein Vergleich mit der Darstellung für \(E'\) liefert:$$A'=D^TAD\quad\text{bzw.}\quad A=DA'D^T$$Zur Diagonalisierung der Matrix \(A=\left(\begin{array}{c}\frac{3}{4} & \frac{1}{4} \\\frac{1}{4} & \frac{3}{4}\end{array}\right)\) brauchen wir die Eigenwerte:
$$\left|\begin{array}{c}\frac{3}{4}-\lambda & \frac{1}{4} \\\frac{1}{4} & \frac{3}{4}-\lambda\end{array}\right|=\left(\lambda-\frac{3}{4}\right)^2-\frac{1}{16}=0\quad\Rightarrow\quad\lambda-\frac{3}{4}=\pm\frac{1}{4}\quad\Rightarrow\quad\lambda_1=\frac{1}{2}\;;\;\lambda_2=1$$und die zugehörigen Eingenvektoren:
$$\left(\begin{array}{c}\frac{3}{4} & \frac{1}{4} \\\frac{1}{4} & \frac{3}{4}\end{array}\right)\left(\begin{array}{c}v_1\\v_2\end{array}\right)=\frac{1}{2}\cdot\left(\begin{array}{c}v_1\\v_2\end{array}\right)\quad\Leftrightarrow\quad\begin{array}{c}\frac{3}{4}v_1+\frac{1}{4}v_2 & =\frac{1}{2}v_1\\\frac{1}{4}v_1+\frac{3}{4}v_2 & =\frac{1}{2}v_2\end{array}\quad\Leftrightarrow\quad v_2=-v_1$$
$$\left(\begin{array}{c}\frac{3}{4} & \frac{1}{4} \\\frac{1}{4} & \frac{3}{4}\end{array}\right)\left(\begin{array}{c}v_1\\v_2\end{array}\right)=1\cdot\left(\begin{array}{c}v_1\\v_2\end{array}\right)\quad\Leftrightarrow\quad\begin{array}{c}\frac{3}{4}v_1+\frac{1}{4}v_2 & =v_1\\\frac{1}{4}v_1+\frac{3}{4}v_2 & =v_2\end{array}\quad\Leftrightarrow\quad v_2=v_1$$Damit wir aus der Diagonalisierung direkt die Drehmatrix ablesen können, wählen wir orthonormierte Eigenvektoren:
\((\frac{1}{\sqrt2},-\frac{1}{\sqrt2})\) für \(\lambda_1=\frac{1}{2}\) und \((\frac{1}{\sqrt2},\frac{1}{\sqrt2})\) für \(\lambda_2=1\).
Damit lautet die Diagonalisierung von \(A\) wie folgt:$$A=\left(\begin{array}{c}\frac{1}{\sqrt2} & \frac{1}{\sqrt2}\\-\frac{1}{\sqrt2} & \frac{1}{\sqrt2}\end{array}\right)\left(\begin{array}{c}\frac{1}{2} & 0 \\ 0 & 1\end{array}\right)\left(\begin{array}{c}\frac{1}{\sqrt2} & -\frac{1}{\sqrt2}\\\frac{1}{\sqrt2} & \frac{1}{\sqrt2}\end{array}\right)$$
Daraus liest man bequem ab: \(\frac{a}{c}=\frac{1}{2}\) und \(\frac{b}{c}=1\) und \(\alpha=135^o\) und die Gleichung von \(E'\) ist:
$$E':\;\frac{1}{2}{x'}^2+{y'}^2=1$$
Diese Gleichung kannst du mit einer Zahl \(\ne0\) multiplizieren, daher sind \(a,b,c\) bis auf einen gemeinsamen Faktor eindeutig bestimmt.