Aloha :)
Wir suchen zunächst die kritischen Punkte der Funktion$$f(x;y)=x^3+3xy^2-15x-12y$$indem wir die Nullstellen des Gradienten bestimmen:$$\binom{0}{0}\stackrel!=\operatorname{grad}f(x;y)=\binom{3x^2+3y^2-15}{6xy-12}\implies\left\{\begin{array}{l}x^2+y^2=5\\xy=2\end{array}\right.$$Aus diesen beiden Gleichungen folgt:$$1=5-2\cdot2=(x^2+y^2)-2\cdot xy=(x-y)^2\implies x-y=\pm1$$$$9=5+2\cdot2=(x^2+y^2)+2\cdot xy=(x+y)^2\implies x+y=\pm3$$Damit haben wir 4 Kombinationen gefunden:$$x-y=+1\;\land\;x+y=+3\implies 2x=4\implies x=2\;;\;y=1\implies P_1(2;1)$$$$x-y=+1\;\land\;x+y=-3\implies 2x=-2\implies x=-1\;;\;y=-2\implies P_2(-1;-2)$$$$x-y=-1\;\land\;x+y=+3\implies 2x=2\implies x=1\;;\;y=2\implies P_3(1;2)$$$$x-y=-1\;\land\;x+y=-3\implies 2x=-4\implies x=-2\;;\;y=-1\implies P_4(-2;-1)$$
Wir müssen nun die gefundenen Kandidaten mit der Hesse-Matrix auf Extrema prüfen:$$H(x;y)=\left(\begin{array}{cc}6x & 6y\\6y & 6x\end{array}\right)\implies$$$$H_1(2;1)=\begin{pmatrix}12 & 6\\6 & 12\end{pmatrix}\implies\text{Hauptminoren: }12\;;\;108\implies\text{positiv definit}$$$$H_2(-1;-2)=\begin{pmatrix}-6 & -12\\-12 & -6\end{pmatrix}\implies\text{Hauptminoren: }-6\;;\;-108\implies\text{indefinit}$$$$H_3(1;2)=\begin{pmatrix}6 & 12\\12 & 6\end{pmatrix}\implies\text{Hauptminoren: }6\;;\;-108\implies\text{indefinit}$$$$H_4(-2;-1)=\begin{pmatrix}-12 & -6\\-6 & -12\end{pmatrix}\implies\text{Hauptminoren: }-12\;;\;108\implies\text{negativ definit}$$
Bei \(P_1(2;1)\) liegt also ein lokales Minimum, bei \(P_4(-2;-1)\) liegt ein lokales Maximum.