Aloha :)
Du kannst die DGL etwas umformen:$$tx''\pink{-(1+2t)x'}+(1+t)x=0\quad\Longleftrightarrow$$$$tx''\pink{-tx'-(1+t)x'}+(1+t)x=0\quad\Longleftrightarrow$$$$t(x''-x')-(1+t)(x'-x)=0$$
Das ist eine DGL 1-ter Ordnung für die Hilfstfunktion \(\green{h(t)\coloneqq x'(t)-x(t)}\):$$th'-(1+t)h=0\implies th'=(1+t)h\implies\frac{h'}{h}=\frac{1+t}{t}=1+\frac1t\implies$$$$\ln|h|=t+\ln|t|+c_1\implies |h(t)|=e^t\cdot e^{\ln|t|}\cdot e^{c_1}\implies\green{h(t)=e^t\cdot t\cdot c_2}$$Im letzten Schritt haben wir die stets positive Konstante \(e^{c_1}\) durch die Konstante \(c_2\) ersetzt. Wenn wir für diese auch negative Werte zulassen, enfallen die Betragsstriche um \(h(t)\).
Aus der Anfangsbedingung folgt nun \(c_2\):$$h(1)=\left\{\begin{array}{ll}x'(1)-x(1) &=2e\\\green{e^1\cdot1\cdot c_2} & =c_2\cdot e\end{array}\right\}\implies\green{c_2=2}$$
Damit haben wir als Zwischenergebnis:$$\green{x'(t)-x(t)=h(t)=2te^t}$$
Das schreit nach dem Ansatz \(x(t)=f(t)\cdot e^t\), denn:$$x'(t)-x(t)=\underbrace{f'(t)\cdot e^t+f(t)\cdot e^t}_{=x'(t)}-\underbrace{f(t)\cdot e^t}_{=x(t)}=f'(t)\cdot e^t\implies f'(t)=2t$$Also ist \(f(t)=t^2+c_3\) und wir finden als Lösung:$$x(t)=\left(t^2+c_3\right)\cdot e^t$$Wegen der Randbedingung \(x(1)=0\) muss noch \(c_3=-1\) gewählt werden:$$\pink{x(t)=(t^2-1)\cdot e^t}$$
