Nachdem Du y ; y(p)' und y(p)'' in die Aufgabe eingesetzt hast , vereinfachst Du.
Du klammerst cos(5x) und sin(5x).aus .Dann betrachtest du jeweils auf der linken und dann auf der
rechten Seite , das was vor dem cos(5x) und sin(5x) steht (die Koeffizienten)
-->Koeffizientenvergleich
Du bekommst dann ein Gleichungssystem von 2 Gleichungen mit 2 Unbekannten , was einfach zu lösen geht.
A und B setzt Du nun in y(p) ein (A *cos(5x) +B*sin(5x))
y(p)= cos(5x)
y=y(h) +y(p)