ohne Angabe gegen welchen Wert dein x läuft, lässt sich kein Wert bestimmen. Für x gegen unendlich laufen die Kosten auch gegen unendlich.
Ich vermute mal, du möchtest die Extrema bestimmen, da du die Funktion abgeleitet hast
x^2-6x+10=0
Keine Lösung für x element |R