Du musst einfach nur die Gruppenaxiome prüfen:
1. O(n) ist abgeschlossen gegenüber der Matrixmultiplikation.
zeigt man so: Seien A,B orthogonale Matrizen.
Dann musst du zeigen: A*B ist auch orthogonal, d.h. es muss gelten
(A*B) * (A*B)^T = E (Einheitsmatrix) . Das gilt, weil
(A*B) * (A*B)^T = (beim Transponieren eines Produktes ändert sich die Reihenfolge ! )
(A*B) * (B^T*A^T) = ( Assoziativität ist ja vorausgesetzt.)
A* (B*B^T) * A^T = weil B orthogonal
A * E * A^T = Def. von E
A * A^T = weil A orthogonal
E
2. . O(n) enthält E ( klar , weil E*E^T = E )
3. mit A ist auch A^{-1} in O(n) . Musst also prüfen, ob aus A∈O(n) folgt:
A^{-1} * (A^{-1})^T = E . Das ist OK, weil wegen A*A^T = E folgt A^{-1} = A^T
A^{-1} * (A^{-1})^T
= A^T * (A^{-1})^T
= A^T * (A^T)^T
= A^T * A
Und wegen A*A^T = E gilt auch (A*A^T)^T = E^T = E
also (A^T)*(A^T)^T = E und
wegen (A^T)^T=A also auch A^T * A = E.
Also ist O(n) eine Gruppe.