11·x^2 + 65·x·y + 20·y^2 = 2261 → y = √5·√(669·x^2 + 36176)/40 - 13/8·x oder y = - √5·√(669·x^2 + 36176)/40 - 13/8·x
Da du die Nebenbedingung ber nur schwer nach y auflösen kannst, bzw. hier ein recht unschöner Term herauskommt, kannst du besser Lagrange probieren.
L(x,y k) = 83·x + 97·y - k·(11·x^2 + 65·x·y + 20·y^2 - 2661)
Lx'(x,y k) = - 22·k·x - 65·k·y + 83 = 0
Ly'(x,y k) = - 65·k·x - 40·k·y + 97 = 0
Aus den partiellen Ableitungen eliminiere ich das k
y = 1087/995·x
Das kann man in die Nebenbedingung einfacher einsetzen
11·x^2 + 65·x·(1087/995·x) + 20·(1087/995·x)^2 = 2661 --> x = 5.013216245 (die negative Lösung entfällt)
Damit noch y zu berechnen sollte kein Problem darstellen.