Für den Fall m=n würde ich gar nichts umformen:
Dann hast du
\( \int\limits_{-π}^{π} \) sin(n*x) * sin(n*x) dx
=\( \int\limits_{-π}^{π} \) sin(n*x)^2 dx
= [ x/2 - sin(nx)cos(nx)/(2n) ] in den Grenzen von -pi bis pi
= pi/2 - sin(n*pi)cos(n*pi)/(2n) - (-pi/2) + sin(n*(-pi))cos(n*(-pi))/(2n)
und weil sin(n*pi) und sin(n*(-pi)) jeweils 0 sind, bleibt
= pi/2 - (-pi/2) = 1*pi
Das ist also schon mal OK.
Für den Fall n≠m würde ich auch etwas einfacher machen:
Gehe aus von - 1/2 * \( \int\limits_{-π}^{π} \) cos(n*x + m*x) - cos(n*x -m*x)dx
= - 1/2 * \( \int\limits_{-π}^{π} \) cos((n+m)*x) - cos(n-m)*x)dx
= (-1/2)* \( \int\limits_{-π}^{π} \) cos((n+m)*x) dx - \( \int\limits_{-π}^{π} \) cos(n-m)*x)dx)
= (-1/2)* ( 2 sin(m+n)*pi - 2sin(m-n)pi )
und in der Klammer sind beide Terme gleich 0, also
das ganze auch 0.