Aloha :)
Wegen der Symmetrie der Fläche \((x^2+2y^2\le1)\) in allen 4 Quadranten des Koordinatensystems reicht es zur Berechnung aus, nur den ersten Quadraten zu betrachten \((x,y\ge0)\) und die berechnete Fläche zu vervierfachen.
Weiter ist klar, dass die Eckspunkte des Rechtecks auf dem Rand der Fläche liegen müssen \((x^2+2y^2=1)\), denn andernfalls könnte man die Fläche weiter vergrößern, indem man die Eckpunkte zu den Rändern zieht.
Wir wollen also die Fläche \(F(x;y)\) unter einer Nebenbedingung \(g(x;y)\) optimieren:$$F(x;y)=4xy\quad;\quad g(x;y)=x^2+2y^2=1=\text{const}$$
Nach Lagrange muss bei den Extrempunkten der Gradient der zu optimierenden Funktion eine Linearkombination der Gradienten aller Nebenbedingungen sein. Da es hier nur eine Nebenbedingung gibt, reduziert sich diese Forderung auf:$$\operatorname{grad}F(x;y)=\lambda\,\operatorname{grad}g(x;y)\implies\binom{4y}{4x}=\lambda\binom{2x}{4y}$$Um das \(\lambda\) loszuwerden, dividieren wir die Gleichung der ersten Koordinate durch die Gleichung der zweiten Koordinate:$$\frac{4y}{4x}=\frac{\lambda\,2x}{\lambda\,4y}=\frac{x}{2y}\implies8y^2=4x^2\implies \pink{x^2=2y^2}$$
Diese Lagrange-Bedingung setzen wir in die Nebenbedingung ein:$$1=\pink{x^2}+2y^2=\pink{2y^2}+2y^2=4y^2\stackrel{(y\ge0)}{\implies}y=\frac12$$Aus der Lagrangebedingung folgt weiter:$$\pink{x^2=2y^2}=2\cdot\left(\frac12\right)^2=\frac12\stackrel{(x\ge0)}{\implies} x=\frac{1}{\sqrt2}$$
Der maximale Flächeninhalt beträgt daher:$$F_{\text{max}}=4\cdot\frac{1}{\sqrt2}\cdot\frac12=\sqrt2$$
