Formansatz bedeutet folgendes:
Wir wissen, dass die Ableitung eines Produktes aus einem Polynom \(p(x)\) und \(e^x\) wie folgt aussieht:
$$\left(p(x)e^x\right)' = p'(x)e^x+ p(x)e^x = (p'(x)+p(x))e^x$$
Wir suchen jetzt ein Polynom, für das gilt:
$$p'(x) + p(x) = x^2$$
Damit ist schon einmal klar, dass der \(\operatorname{grad}(p)=2\) ist ( weil beim Ableiten eines Polynoms der Grad nur kleiner werden kann).
Also ist der Ansatz
$$p(x) = ax^2+bx+c \Rightarrow p'(x) = 2ax+b$$
Damit ergibt sich
$$p'(x) + p(x) = ax^2 + (2a+b)x + b+c =x^2$$
Jetzt machst du Koeffizientenvergleich:
\(\Rightarrow a=1\)
\(\Rightarrow b=-2a = -2\)
\(\Rightarrow c=-b = 2\)
Damit ergibt sich
\(p(x) = x^2-2x+2\)
D.h., eine Stammfunktion ist
$$(x^2-2x+2)e^x$$