Hallo,
um zu zeigen, dass ein Maximum und Minimum auf \(K\) exisitiert, musst du zeigen, dass \(K\) kompakt ist. Da \(K\subset \mathbb{R}^2\), musst du nach Heine-Borel nur zeigen, dass \(K\) abgeschlossen und beschränkt ist. Daraus folgt dann schon die Kompaktheit.
Zur Abgeschlossenheit:$$K=\{(x,y)\in \mathbb{R}^2 : \underbrace{x^2+y^2+xy}_{=:f(x,y)}=1\}=f^{-1}(\{1\})$$ Damit ist \(K\) als Urbild der abgeschlossenen Menge \(\{1\}\) unter der stetigen Funktion \(f\) abgeschlossen.
Zur Beschränktheit:
Die Ellipse \(x^2+y^2+xy=1\) ist vollständig in \(\overline{B_2(0,0)}\) enthalten. Damit beschränkt.
https://www.desmos.com/calculator/c9vvfa2b9x
Insgesamt folgt die Kompaktheit und damit nach dem Satz vom Maximum und Minimum die Existenz eben jener.
Was nun folgt, ist eine Aufgabe mit dem Lagrange-Optimierungsverfahren. Wie würdest du hier beginnen?