Hi, ich denke Du bist doch auf dem richtigen Weg. Die Mantelfläche beträgt
$$ M(r,h) = 2\pi r h $$ und es gilt $$ R^2 = r^2 +\frac{h^2}{4} $$
D.h Du musst folgende Funktion maximieren:
$$ M(R,h) = 2\pi h \sqrt{R^2-\frac{h^2}{4} } $$
$$ \frac{\partial}{\partial h} M(R,h) = 0 $$ ergibt $$ \frac{2\pi (h^2 -2 R^2)}{\sqrt{4R^2 -h^2}} = 0 $$ also
$$ h = R \sqrt{2} $$ und daraus $$ r = \frac{R}{\sqrt{2}} $$ Also $$ M = 2 \pi R^2 $$
Jetzt muss noch nachgewiesen werden das \( \frac{\partial^2}{\partial h^2} M(R,h) < 0 \) gilt, damit ein Maximum bvorliegt.