Hallo :-)
Ableiten der Ansatzfunktion ergibt:
$$ y(x)=(a\cdot x^2+b)\cdot e^{-x}\\y'(x)=2\cdot a\cdot x\cdot e^{-x}-(a\cdot x^2+b)\cdot e^{-x}=-(a\cdot x^2-2\cdot a\cdot x+b)\cdot e^{-x} $$
Eingesetzt in die DGL ergibt:
$$y(x)+y'(x)=(a\cdot x^2+b)\cdot e^{-x}-(a\cdot x^2-2\cdot a\cdot x+b)\cdot e^{-x}=2\cdot a\cdot x\cdot e^{-x}\stackrel{!}{=}4\cdot x\cdot e^{-x}$$
Koeffizientenvergleich liefert \(a=2\) und \(b\in \R\) beliebig. Die allgemeine Lösung der DGL lautet damit
$$ y(x)=(2\cdot x^2+b)\cdot e^{-x} $$
Mit der Anfangswertbedingung erhält man \(8=y(0)=(2\cdot 0^2+b)\cdot e^{-0}=b\) und damit die spezielle Lösung
$$ y_1(x)=(2\cdot x^2+8)\cdot e^{-x}. $$