Falls die Aufgabe so lautet:
(ansonsten gibt das "komische " Ergebnisse)
2 y''' +2y''+y'+y=0
->charakt. Gleichung:
2 k^3+2 k^2+k+1=0
(1+k)(1 +2 k^2)=0
k1= -1
k2.3= ± i/√2
->
Lösung:
y=C1 e^{-x} +C2 cos(x/√2) +C3 sin(x/√2)
Was hat die Aufgabe mit einem System zu tun?
Das brauchst Du hier nicht.