Zunächst mal musst du die Kostenfunktion durch x teilen um auf die Stückkostenfunktion zu kommen. Dann hast du eine quadratische Funktion. Dann bildet man noch die Ableitung und setzt diese Null. Damit ist das nur noch eine lineare Gleichung.
Bitte dazu die oben genannten Rechnungen bei Wolframalpha ansehen.