Du hast fx und fy genau vertauscht. Wegen der Kettenregel gibt es
bei fx im Zähler 2x und entsprechend bei y.
Dann fxx (x,y) = ( Nenner mal Abl. des Zählers - Zähler mal Abl. Nenner) / Nenner2
= ( (x2+y2+1) * 2 - 2x ( 2x ) ) / (x2+y2+1)2
= ( -2x2+2y2+2) / (x2+y2+1)2
entsprechend fyy (x,y) = ( -2y2 +2x2 +2 ) / (x2+y2+1)2
fyx (x,y) = fxy (x,y) = -4xy / (x2+y2+1)2
Den Rest findest du dort:
https://www.mathelounge.de/434656/kritische-punkte-bestimmen-mit-ln