Aloha :)
Wir suchen die Extrema der Funktion \(u(x;y)\) unter einer konstanten Nebenbedingung:$$u(x;y)=3xy^2-x^3+4x^2+4y^2\quad;\quad \text{Nebenbedingung: }\;x^2+y^2=1$$
Da im Term \(u(x;y)\) nur \(y^2\) als Potenz von \(y\) vorkommt, drängt es sich auf, die Nebenbedingung nach \(\left(y^2=1-x^2\right)\) umzustellen und das Ergebnis in \(u(x;y)\) einzusetzen. Wir erhalten dann eine Funktion \(f(x)\), die nur noch von \(x\) abhängt:$$f(x)\coloneqq 3x(1-x^2)-x^3+4x^2+4(1-x^2)=-4x^3+3x+4$$
Deren Extrema sind schnell bestimmt:$$0\stackrel!=f'(x)=-12x^2+3\implies 12x^2=3\implies x=\pm\frac12$$$$f''(x)=-24x\implies\left\{\begin{array}{ll}f''(-1/2)=12>0 &\implies\text{Minumum}\\[1ex]f''(+1/2)=-12<0&\implies\text{Maximum}\end{array}\right.$$
Jetzt musst du dieses Ergebnis wieder auf die Anfangssituation zurückrechnen:$$\left(x|y\right)=\left(-\frac12\bigg|\pm\sqrt{\frac34}\right)\implies u(x;y)=3\quad\text{(Minima)}$$$$\left(x|y\right)=\left(+\frac12\bigg|\pm\sqrt{\frac34}\right)\implies u(x;y)=5\quad\text{(Maxima)}$$
ABER: Bei dieser Methode musst du die Randbedingungen immer noch zusätzlich testen, das heißt die Punkte \((\pm1;0)\) und \((0;\pm1)\). Wir finden:$$u(-1;0)=5\implies\text{Maximum bei } (-1;0)$$$$u(+1;0)=3\implies\text{Minimum bei } (+1;0)$$$$u(0;\pm1)=4\implies\text{kein Extremum}$$
Die Funktion hat also 3 Maxima und 3 Minima unter der Nebenbedingung.