aufgrund der Form der Tragfähigkeitsfunktion reicht es das Problem darauf zu reduzieren, dass die Eckpunkte des Rechtecks auf dem Kreis liegen. Für ein gewähltes \( x \in (0, D) \) besteht der Zusammenhang:
$$ y^2 = D^2-x^2 $$
was man sehr leicht mit Pythagoras erkennen kann.
Dies ist also deine Nebenbedingung, die du in deine Funktion einsetzt und dann ganz normal dein Maximum im relevanten Bereich ermitteln kannst.
Gruß