Aloha :)$$f(x;y)=7x^2+xy+2y^2-2x^2y+xy^2-y^3$$Bei der partiellen Ableitung solltest du dazu schreiben, nach welcher Variablen du ableitest, ein Stich am Funktionsnamen ist nicht eindeutig. Deine ersten partiellen Ableitungen sehen schon fast gut aus, nur ein paar kleine Bugs:$$\frac{\partial f}{\partial x}=14x+y-4xy+y^2\quad;\quad\frac{\partial f}{\partial y}=x+4y-2x^2+2xy-3y^2$$$$\frac{\partial^2 f}{\partial y\partial x}=1-4x+2y\quad;\quad\frac{\partial^2 f}{\partial x\partial y}=1-4x+2y$$Diese beiden gemischten Ableitungen von der Zeile hier drüber sollten gleich sein. Das ist immer eine gute Kontrolle, ob du richtig liegst.$$\frac{\partial^2 f}{\partial x^2}=14-4y\quad;\quad\frac{\partial^2 f}{\partial y^2}=4+2x-6y$$
Damit lautet die Hesse-Matrix:$$H(x;y)=\begin{pmatrix}14-4y & 1-4x+2y\\1-4x+2y & 4+2x-6y\end{pmatrix}$$Speziell an der Stelle \((-1;-1)\):$$H(-1;-1)=\begin{pmatrix}18 & 3\\3 & 8\end{pmatrix}$$
Die Determinante ist \(18\cdot8-3\cdot3=135>0\). Da auch das Element links oben \(18>0\) ist, ist die Matrix positiv definit. Das heißt am Punkt \((-1;-1)\) ist die Funktion konvex.