Hallo,
male dir unbedingt ein Bild von \(A\), du solltest erkennen, dass es sich das topologische Innere von einem verschobenen Kreis handelt:
https://www.desmos.com/calculator/szu8fxjp5c
Erstmal ist alles business as usual, du setzt \(\nabla f(x,y)=0\) und ermittelst die kritischen Punkte:$$\nabla f(x,y)=\begin{pmatrix} 2y(x-1)\\(x-1)^2 \end{pmatrix}\overset{!}=0$$ Daraus folgen die kritischen Stellen \((x=1 \, \land \, y=0) \, \vee \, (x=1 \, \land \, y=\text{bel.})\)
Bei \((0,1)\) liegt ein Sattelpunkt vor, prüfe das bitte selbst. Du musst dir diesen Kreis, den ich oben abgebildet in der \(xy\)-Ebene vorstellen, wir betrachten die Funktion, die senkrecht darüber verläuft.
Wir können die Kreisgleichung zu zwei Halbkreisen, die durch Funktionen beschrieben werden, aufteilen, dann hast du zum einen \(y=2-\sqrt{-(x-2)x}\) als unteren Halbkreis und \(y=\sqrt{-\left(x-2\right)x}+2\) als oberen Halbkreis. Du untersuchst nun, ähnlich wie bei Richtungsableitung entlang einer Kurve (oberen und unterem Halbkreis) die Funktion \(f(x,y)\) mit, nehmen wir: \(y=\sqrt{-\left(x-2\right)x}+2\). Es ist also: \(f(x,\sqrt{-\left(x-2\right)x}+2)=(\sqrt{-\left(x-2\right)x}+2)(x-1)^2+1\). Hier ganz normal nach Analysis die Extrema herausfinden. Selbiges mit dem anderen \(y\). Am Ende musst du die Endpunkte noch einmal separat behandeln - leider sehr langwierig.