f(x, y) = - 3·x + y + 7·x^2 + 5·y^2 - 5·x^2·y - x·y^2 - 4·y^3
f'(x, y) = [- 10·x·y + 14·x - y^2 - 3, - 5·x^2 - 2·x·y - 12·y^2 + 10·y + 1]
f''(x, y) = [14 - 10·y, - 10·x - 2·y; - 10·x - 2·y, - 2·x - 24·y + 10]
f''(2, 0) = [14, -20; -20, 6]
Da hat sich bei dir also ein kleiner Fehler eingeschlichen.