Aloha :)
Die Grundfläche der Pappe beträgt 16cm mal 10cm.$$V(x)=\underbrace{(16-2x)}_{=\text{Länge}}\cdot\underbrace{(10-2x)}_{=\text{Breite}}\cdot\underbrace{ x}_{=\text{Höhe}}=(160-20x-32x+4x^2)x$$$$V(x)=4x^3-52x^2+160x$$Wir suchen das Maximum des Volumens, also müssen wir die erste Ableitung gleich null setzen:$$0\stackrel!=V'(x)=12x^2-104x+160=12\left(x^2-\frac{26}{3}x+\frac{40}{3}\right)$$Auf die Klammer wenden wir die pq-Formel an und finden:
$$x_{1,2}=\frac{13}{3}\pm\sqrt{\left(\frac{13}{3}\right)^2-\frac{40}{3}}=\frac{13}{3}\pm\sqrt{\frac{169}{9}-\frac{120}{9}}=\frac{13}{9}\pm\sqrt{\frac{49}{9}}=\frac{13}{3}\pm\frac{7}{3}$$$$x_1=2\quad;\quad x_2=\frac{20}{3}$$Die Lösung \(x=\frac{20}{3}\approx6,67\) scheidet aus, weil die eine Seite der Pappe nur 10cm lang ist und man deswegen maximal 5cm einschneiden kann.
Wir prüfen zur Sicherheit noch nach, ob bei \(x_1=2\) wirklich ein Maximum vorliegt. Darüber gibt die zweite Ableitung Auskunft:$$V''(x)=24x-104\quad\Rightarrow\quad V''(2)=-56<0\quad\Rightarrow\quad\text{Maximum}$$Das Maximum finden wir also bei \(\boxed{x=2}\).