deine Lösung der homogenen Gleichung ist fast richtig, die zweite Nullstelle ist -2 anstatt 2.
Für die partikuläre Lösung kannst du einen Ansatz machen und die Konstanten bestimmen:
Da die Inhomogenität g(x)=cos(x) ist, wäre der Ansatz
u(x)=A*sin(x)+B*cos(x)
Setze dies in die Differentialgleichung ein,
es ergibt sich
A*cos(x)-B*sin(x)-3*(A*sin(x)+B*cos(x))=cos(x)
Vergleiche die Koeffizienten vor sin und COS auf beiden Seiten miteinander.
Es ergibt sich das Gleichungssystem
-B-3A=0
A-3B=0
Lösung:
A=1/10
B=-3/10
--> u(x)=sin(x)/10-3*cos(x)/10