Um die Gleichung mit x ' y' ( ich schreib mal u und v ) auszudrücken,
Bestimmst du aus Dφ * (x;y) = ( u;v)
Gleichungen für x und y das gibt x = cos(φ)*u + sin(φ)*v und y = cos(φ)*v - sin(φ)*u
Das in die gegebene Gleichung für E eingesetzt gibt nach einigen Umformungen
( 5/8 - 3/4 * sin(φ)*cos(φ) ) * u^2 + ( 3/2 cos(φ)^2 - 3/4) *uv + ( 5/8 + 3/4 * sin(φ)*cos(φ) ) * v^2 = 1
Damit das uv Glied wegfällt φ=pi/4 und das einsetzen gibt
u^2 / 4 + v^2 = 1 also die gewünschte Ellipsengleichung.