für f o g musst du das g bei f einsetzen, das gibt statt
f(x) = ax + b dann (fog)(x) = f(x) = a( ux2+ vx ) + b = a*u*x^2 + a*v*x + b
und hat die Ableitung 2*a*u*x + a*v und mit der Kettenregel
(f o g)' (x) = f ' (g(x))*g' (x) = a * g ' (x) denn
f ' (x) = a also auch f ' (g(x)) = a
und a * g ' (x) = a* (2*u*x*v) also auch 2*a*u*x + a*v
in der anderen Reihenfolge, probier es mal