Aloha :)
Wir betrachten die Funktion:$$f(x;y)=2-4y+5x^2+2xy+8y^2-x^2y+3y^3$$
Der Gradient lautet:$$f'(x;y)=\operatorname{grad}f(x;y)=\begin{pmatrix}\partial_xf\\\partial_yf\end{pmatrix}=\begin{pmatrix}10x+2y-2xy\\-4+2x+16y-x^2+9y^2\end{pmatrix}$$
Die Hesse-Matrix lautet:$$f''(x;y)=\begin{pmatrix}\partial_x\operatorname{grad}f(x;y)\\\partial_y\operatorname{grad}f(x;y)\end{pmatrix}=\left(\begin{array}{rr}10-2y & 2-2x\\2-2x &16+18y\end{array}\right)$$
Speziell an der Stelle \((0;1)\) erhalten wir:$$f''(0;1)=\left(\begin{array}{rr}8 & 2\\2 & 34\end{array}\right)\quad\implies\quad\operatorname{det}f''(0;1)=8\cdot34-4=268$$
Die Hesse-Matrix ist an der Stelle \((0;1)\) positiv definit, da ihre Hauptminoren \(8\) und \(268\) beide positiv sind. Das heißt, an dieser Stelle ist die Funktion konvex.