Aloha :)
Hier ein Lösungsvorschlag zum Nachvollziehen.$$h(x;y)=x^5y^6+e^{xy}$$
1) Bestimmung der Hesse-Matrix
Wir bestimmen zuerst die partiellen Ableitungen 1-ter Ordnung:$$\frac{\partial h}{\partial x}=5x^4y^6+ye^{xy}\quad;\quad \frac{\partial h}{\partial y}=6x^5y^5+xe^{xy}$$Daraus berechnen wir die partiellen Ableitungen 2-te Ordnung:
$$\frac{\partial h^2}{\partial x^2}=20x^3y^6+y^2e^{xy}$$$$\frac{\partial h^2}{\partial y\,\partial x}=30x^4y^5+\underbrace{\frac{\partial}{\partial y}\left(ye^{xy}\right)}_{\text{Produktregel!}}=30x^4y^5+e^{xy}+xye^{xy}=30x^4y^5+(1+xy)e^{xy}$$Nach dem Satz von Schwarz sind die gemischten 2-ten Ableitungen gleich:\(\;\frac{\partial h^2}{\partial x\,\partial y}=\frac{\partial h^2}{\partial y\,\partial x}\)
Voraussetzung dafür ist, dass die 2-ten Ableitungen stetig sind, was hier der Fall ist.
$$\frac{\partial h^2}{\partial y^2}=30x^5y^4+x^2e^{xy}$$
Damit haben wir die Hesse-Matrix fertig berechnet:$$\nabla^2h(x;y)=\left(\begin{array}{cc}20x^3y^6+y^2e^{xy} & 30x^4y^5+(1+xy)e^{xy}\\30x^4y^5+(1+xy)e^{xy} & 30x^5y^4+x^2e^{xy}\end{array}\right)$$
2) Bestimmung der Eigenwerte
Speziell für \((x;y)=(1;0)\) vereinfacht sich die Hesse-Matrix zu:$$\nabla^2h(1;0)=\left(\begin{array}{cc}0 & 1\\1 & 1\end{array}\right)$$
Die Eigenwerte sind die Lösungen des charakteristsichen Polynoms:$$0\stackrel!=\operatorname{det}\left(\begin{array}{cc}0-\lambda & 1\\1 & 1-\lambda\end{array}\right)=-\lambda(1-\lambda)-1=\lambda^2-\lambda-1$$Die pq-Formel liefert die Eigenwerte:$$\lambda_{1;2}=\frac12\pm\sqrt{\frac14+1}=\frac{1\pm\sqrt5}{2}$$
