Du musst, wie Lu schon gesagt hat Polynomdivision machen:
Also fängst du an mit
$$ x^5+x^4-10x^3-31x^2-33x-12):(x^4-4x^2-3x+6)=x+1\\
\underline{x^5-4x^3-x3^2+6x}$$
$$x^4-6x^3-28x^2-39x-12\\
\underline{x^4-4x^2-3x+6}$$
$$-6x^3-24x^2-36x-18$$
und dann machst du weiter indem du g durch den rest teilst... bis du nicht mehr weiter teilen kannst und findest so den ggT.
also f(x)=q_1*g(x)+r_1
dann g(x)=q_2*r_1+r_2
r_1=q_3*r_2+r_3.....