Du fuehrst für die ersten Ableitungen neue Variablen ein: $$\dot{x}_1=\xi_1$$$$\dot{x}_2=\xi_2$$ Das sind gleichzeitig auch die ersten beiden Gleichungen für das System erster Ordnung. Und dann ersetzt Du in den Ausgangsgleichungen ueberall \(\dot{x}_1\) durch \(\xi_1\) und \(\dot{x}_2\) durch \(\xi_2\). Das ergibt dann die naechsten zwei Gleichungen für das System erster Ordnung: $$\dot{\xi}_1=\phantom{-}k(t\xi_1-x_2)^2-3t$$$$\dot{\xi}_2=-k(t\xi_2-x_1)^2+5t$$