nur mit der Anforderung "möglichst groß werden" gibt es doch offensichtlich keine Lösung. Umso größer beide Zahlen sind, desto größer ist doch auch das beschriebene Produkt.
Ist das die wörtliche Wiedergabe der Aufgabe? Ist der Bereich der beiden gesuchten Zahlen irgendwie eingeschränkt?
Ich komme bei der Ableitung nicht weiter.
Binomische, dann ausklammern, ausmultiplizieren und ableiten$$P=(6+b)^2b^4=(36+12b+b^2) b^4 = 36b^4+12b^5+b^6 \\\implies P'=144b^3+60b^4+6b^5 = 6b^3(24+10b+b^2)$$lokales Maximum bei \(b=-4\); aber eben nur "lokal"!