Aloha ;)
a) Allgemeine Lösung des homogenen Systems
Wähle den Exponentialansatz. dann ist$$y_0\propto e^{\lambda x}\quad;\quad y'_0\propto \lambda e^{\lambda x}\quad;\quad y''_0\propto \lambda^2 e^{\lambda x}\quad;\quad y'''_0\propto \lambda^3 e^{\lambda x}$$Eingesetz in die homogene DGL liefert das:$$\left.y_0'''(x)=-2y_0''(x)+y_0'(x)+2y_0(x)\quad\right|\quad\text{einsetzen}$$$$\left.\lambda^3e^{\lambda x}=-2\lambda^2e^{\lambda x}+\lambda e^{\lambda x}+2e^{\lambda x}\quad\right|\quad:\,e^{\lambda x}$$$$\left.\lambda^3=-2\lambda^2+\lambda +2\quad\right|\quad\text{alle Terme nach links}$$$$\left.\lambda^3+2\lambda^2-\lambda-2=0\quad\right|\quad\text{\(\lambda^2\) ausklammern}$$$$\left.\lambda^2(\lambda+2)-(\lambda+2)=0\quad\right|\quad\text{\((\lambda+2)\) ausklammern}$$$$\left.(\lambda+2)(\lambda^2-1)=0\quad\right|\quad\text{3-te binomische Formel}$$$$\left.(\lambda+2)(\lambda+1)(\lambda-1)=0\quad\right.$$Die Nullstellen liefern uns die Exponenten der Lösungen, die wir linear zur allgemeinen homogenen Lösungen kombinieren:$$y_0(x)=Ae^{-2x}+Be^{-x}+Ce^x$$
b) Spezielle Lösung des gestörten Systems
Als Ansatz kommt \(s_0(x)=e^{-x}\cdot a\) nicht in Frage, weil das eine Lösung des homogenen Systems ist. Also habe ich als nächstes \(s_1(x)=e^{-x}\cdot ax\) probiert, hat aber nicht funktioniert. Dann habe ich \(s_2(x)=e^{-x}(ax^2+bx)\) eingesetzt und habe folgende spezielle Lösung gefunden:$$s_2(x)=e^{-x}(x^2-x)$$Die Rechnung hier nochmal abzutippen, habe ich mir gespart. Das ist nur Rumrechnerei ohne wirkliche Info.
c) Lösung zu den Anfangsbedingungen
Die allgemeine Lösung des Systems lautet:$$y(x)=Ae^{-2x}+Be^{-x}+Ce^x+e^{-x}(x^2-x)$$$$\implies y(0)=A+B+C\stackrel!=-1$$$$y'(x)=-2Ae^{-2x}-Be^{-x}+Ce^x+e^{-x}(-x^2+3x-1)$$$$\implies y'(0)=-2A-B+C-1\stackrel!=0$$$$y''(x)=4Ae^{-2x}+Be^{-x}+Ce^x+e^{-x}(x^2-5x+4)$$$$\implies y''(0)=4A+B+C+4\stackrel!=3$$
Das entstandene Gleichungssystem$$\begin{pmatrix}1 & 1 & 1\\-2 & -1 & 1\\4 & 1 & 1\end{pmatrix}\begin{pmatrix}A\\B\\C\end{pmatrix}=\begin{pmatrix}-1\\1\\-1\end{pmatrix}$$hat die Lösung: \(A=0\;;\;B=-1\;;\;C=0\). Die Lösung der DGL unter den gegebenen Anfangsbedingungen lautet also:$$\boxed{y(x)=e^{-x}(x^2-x-1)}$$