Aloha :)
Bei der Integration mittels Substitution ist es immer gut, wenn die Ableitung von dem, was du substituieren möchtest, als Faktor im Integranden auftaucht:
$$I=\int-4x\cos(x^2)\,dx=-2\int\pink{2x}\cdot\cos(\pink{x^2})\,dx$$
Hier drängt sich also die Subsitution \(u\coloneqq \pink{x^2}\) auf, denn die Ableitung \(\frac{du}{dx}=\pink{2x}\) taucht als Faktor im Integranden auf. Dann ist nämlich \(du=2x\,dx\) und das Integral geht über in:$$I=-2\int\cos(\underbrace{x^2}_{=u})\;\underbrace{2x\,dx}_{=du}=-2\int\cos(u)\,du=-2\sin(u)+C=-2\sin(x^2)+C$$