Aloha :)
Die Drehmatrix sei \(A=(a_{ij})\). Sie möge ein Koordinatensystem \(K\) in ein neues Koordinatensystem \(K'\) überführen. Wegen \(A^{-1}=A^T\) gilt dann für die Transformation von Vektoren:$$x'_i=a_{ij}\,x_j=a_{ij}\,(a_{kj}\,x_k')=a_{ij}a_{kj}\,x'_k\quad\stackrel{i=k}{\Rightarrow}\quad a_{ij}a_{kj}=\delta_{ik}$$$$x_i=a_{ki}\,x'_k=a_{ki}\,(a_{kj}\,x_j)=a_{ki}a_{kj}\,x_j\quad\stackrel{i=j}{\Rightarrow}\quad a_{ki}a_{kj}=\delta_{ij}$$Das heißt in Worten, bei einer Drehmatrix sind sowohl die Zeilen paarweise orthonormal zueinander, als auch die Spalten.
Damit ausgerüstet finden wir nun für die Drehung des Skalarproduktes zweier Vektoren \(\vec x\) und \(\vec y\):$$\vec x'\cdot\vec y'=x'_i\, y'_i=(a_{ij}\,x_j)(a_{ik}\,y_k)=a_{ij}a_{ik}\,x_jy_k=\delta_{jk}\,x_jy_k=x_k\,y_k=\vec x\cdot\vec y$$PS: Ich habe die Einstein'sche Summenkonvention verwendet, also das über doppelt auftretende gleiche Indizes automatisch summiert wird.