Du musst mal versuchen zu verstehen, worum es geht und was Ihr macht. Du rechnest blindlings drauf los.
Die ursprüngliche Gleichung ist doch
$$y''(x)-2y'(x)-3y(x)=\exp(2x)$$
Der Ansatz mit dem System für \((y_1,y_2)\) ist "nur" Lösungstechnik.
Am Ende behauptet Wolfram-Alpha - sagst Du, dass die Lösung gegen ist durch
$$y(x)=-\frac{1}{3}\exp(2x)+c_1\exp(-x)+c_2\exp(3x)+\frac{2e^2}{9}$$
$$y'(x)=-\frac{2}{3}\exp(2x)-c_1\exp(-x)+3c_2\exp(-3x)$$
$$y''(x)=-\frac{4}{3}\exp(2x)+c_1\exp(-x)+9c_2\exp(-3x)$$
Damit
$$y''(x)-2y'(x)-3y(x)=\exp(2x)-\frac{6e^2}{9}$$
Also ist der letzte Summand falsch.