Hallo,
bzw. weiß nicht, wie ich bei dieser Aufgabe genau vorgehen soll.
Du könntest damit beginnen, Dir eine Skizze zu machen. Hier habe ich die Funktion \(f(x)\) im Definitionsbereich von \(\mathbb D = \{x \in \mathbb R|\, 0\le x \le 9\}\) in Desmos eingegeben (der rote Graph).
https://www.desmos.com/calculator/1m2vuung1l
Verschiebe doch mal den Punkt \(P\) mit der Maus. Wo ist das Rechteck am größten?
(Bem.: bei solchen Aufgaben soll das Rechteck immer im ersten Quadranten des Koordinatensystems liegen!)
Hat \(P\) die Koordinaten \(x\) und \(y\), so ist die Fläche \(F\) des Rechtecks $$F = x \cdot y$$Und da \(P\) auf \(f\) liegt, gilt $$y = f(x) = \frac13 x^2-3x+5$$Setze das in die Fläche ein und leite nach \(x\) ab:$$\begin{aligned}F &= x \cdot \left( \frac13 x^2-3x+5\right) \\ F&= \frac13x^3-3x^2+5x \\ F' &= x^2-6x+5 \to 0\\ \implies x_{1,2} &= 3 \pm \sqrt{9 - 5} \\&= 3\pm 2\end{aligned}$$Es gibt also zwei lokale Extrema bei \(x_1=1\) und \(x_2=5\).
Um zu prüfen, welches von beiden ein Maximum ist, prüft man das Vorzeichen der zweiten Ableitung$$F''= 2x-6 \\ F''(1) = -4 \lt 0 \implies \max \\ F''(5) = 2\cdot 5 - 6 = 4 \gt 0 \implies \min$$D.h. bei \(x_1=1\) liegt ein lokales Maximum von $$F(1) = \frac 13 \cdot 1^3 - 3\cdot 1^2 + 5 \cdot 1 = \frac73 \approx 2,333$$
Nun ist der Definitionsbereich aber beschränkt. Das bedeutet, dass das nicht unbedingt das globale Maximum ist. Folglich muss man noch die Grenzen \(x_a=0\) und \(x_b=9\) prüfen. Und tatsächlich ist ... $$F(9) = \frac13 \cdot 9^3 - 3\cdot 9^2 + 5\cdot 9 = 45$$... deutlich größer. Das eigentliche Maximum liegt also hier, wie Du oben in der App bereits bemerkt haben solltest!
Gruß Werner