Du hattest die Lagrange-Funktion mit
L = - x^2 - y^2 + 4 + λ·(2 - (x - 1)^2 - (y - 1)^2)
aufgestellt. Du kannst auch
L = - x^2 - y^2 + 4 - λ·(2 - (x - 1)^2 - (y - 1)^2)
nehmen. Zweiteres wäre üblich. Das spielt aber keine Rolle. Um Extrempunkte zu bekommen musst du das Gleichungssystem lösen. Dabei kannst du zunächst die ersten partiellen Ableitungen nach Lambda auflösen und gleichsetzen
- 2·x + λ·(- 2·x + 2) = 0 --> λ = x/(1 - x)
- 2·y + λ·(- 2·y + 2) = 0 --> λ = y/(1 - y)
x/(1 - x) = y/(1 - y) --> y = x
Damit gehst du dann in die Nebenbedingung
- x^2 + 2·x - x^2 + 2·x = 0 --> x = 0 ∨ x = 2
Prüfe also mal (0, 0) und (2, 2)
https://www.wolframalpha.com/input/?i=optimize+-x%5E2-y%5E2%2B4+with+(x-1)%5E2%2B(y-1)%5E2%3D2