Hi,
es muss gelten $$ \nabla_{x,y} f(x,y) = \begin{pmatrix} 2x(y^2-1)\\2x^2y-2 \end{pmatrix} = 0 $$
Diese Gleichungen haben die reellen Lösungen \( x = \pm 1 \) und \( y = 1 \)
Die Hessematrix lautet
$$ H(x,y) = \begin{pmatrix} 2y^2-2 & 4xy \\ 4xy & x^2 \end{pmatrix} $$
Die Eigenwerte von \( H(1,1)=\begin{pmatrix} 0 & 4 \\ 4 & 2 \end{pmatrix} \) sind \( \sqrt{17}+1 \) und \( 1 - \sqrt{17} \) ebenso die die Eigenwerte von \( H(-1,1) \)
Damit ist die Hessematrix indefinit und die identifizierten kritischen Punkte sind Sattelpunkte.