a) Alternativ kannst Du das auch über den folg Ansatz das nachweisen:
y= x*z
y'= x *z' +z
y''= x *z'' +2 z'
->Einsetzen in die Aufgabe:
x^4 z'' +z' (2 x^3+x^2)= 1
Mit der folg Substitution:
z'= u
z''=u'
bekommst Du
x^4 u' +u (2 x^3+x^2)= 1 ,
was Du mit Variation der Konstanten löst.
Anschließend noch resubstituieren.
Zum Schluß noch die Anfangsbedingungen einsetzen.