Hallo,
Allerdings habe ich Schwierigkeiten das LGS zu lösen, da es überbestimmt ist (und ich mit keiner Methode vorankomme).
das seh ich nicht so. Die Lagrange-Funktion für den Rand ist doch$$L(x,y,\lambda) = 4x^2-3xy + \lambda(x^2+y^2-1)$$Ableiten nach \(x\) und \(y\) gibt$$\operatorname{grad}(L) = \begin{pmatrix} 8x-3y\\ -3x\end{pmatrix} + \lambda \begin{pmatrix}2x\\ 2y\end{pmatrix} \to \vec 0$$Multipliziere die erste Koordinatengleichung mit \(y\) und die zweite mit \(x\), dann subtrahiere beide Gleichungen, so dass das \(\lambda\) heraus fällt$$8xy-3y^2 +3x^2 = 0$$Mit dem Ansatz \(y=ax\) kommt man anschließend auf zwei Lösungen$$y_1 = 3x, \quad y_2 = -\frac13 x$$und Einsetzen in die Nebenbedingung liefert in Summe vier Kandidaten für Extremstellen:$$\left(\frac{1}{\sqrt{10}},\frac{3}{\sqrt{10}}\right), \quad \left(-\frac{1}{\sqrt{10}},-\frac{3}{\sqrt{10}}\right), \quad \left(\frac{3}{\sqrt{10}},-\frac{1}{\sqrt{10}}\right), \quad \left(-\frac{3}{\sqrt{10}},+\frac{1}{\sqrt{10}}\right)$$Im Folgenden habe ich das Gebiet in Desmos eingegeben.
Den lilanen Punkt kann man mit der Maus verschieben. Das Streckenstück zeigt in Richtung der Ableitung - also \(\operatorname{grad}(f(x,y))\). Wenn man mit dem Punkt auf dem Rand entlang fährt, so liegen genau dort Kandidaten für Extremstellen, wo diese Richtung senkrecht auf dem Rand steht, also mit der Richtung der Ableitung des Randes überein stimmt.
Hinweis: Der einzige Kandidat im Innern \((0,\,0)\) entpuppt sich als Sattelpunkt.
Falls Du noch Fragen hast, so melde Dich bitte.
Gruß Werner