Aloha :)
Du möchtest das Volumen \(V\) unter einer konstanten Nebenbedingung \(f\) optimieren:$$V(g;h)=g^2\cdot h\to\text{Maximum}\quad;\quad f(g;h)=2g^2+4gh=96$$
Dazu kannst du die Nebenbedingung \(f\) nach \(gh\) umstellen:$$2g^2+4gh=96\implies gh=24-\frac{g^2}{2}$$in die Formel für \(V\) einesetzen:$$V(g;h)=g^2\cdot h=g\cdot gh=24g-\frac{g^3}{2}\eqqcolon V(g)$$
Danach hängt die Funktion \(V(g)\) nur noch von \(g\) ab, sodass du mit den bekannten Mitteln der Differentialrechnung die Kandidaten für Extremwerte bestimmen kannst:$$0\stackrel!=V'(g)=24-\frac32g^2\implies g=\pm4$$Die negative Lösung ist irrelevant, da es keine negativen Längen gibt.
Wir prüfen den Kandidaten \(\,g=4\,\) durch Einsetzen in die zweite Ableitung:$$V''(g)=-3g\implies V''(g=4)=-12<0\implies\text{Maximum}\quad\checkmark$$Wir haben bei \(\,g=4\,\) also tatsächlich das maximale Volumen gefunden.
Die zugehörige Höhe \(h\) ermitteln wir aus der Nebenbedingung:$$2g^2+4gh=96\stackrel{(g=4)}{\implies}32+16h=96\implies h=4$$
Wir haben die optimale Lösung also bei \(\,\pink{g=4}\,\) und \(\,\pink{h=4}\,\):
Das optimale Volumen ist also ein Würfel mit der Kantenlänge \(4\).