Für "Gruppe" musst du ja 4 Sachen prüfen:
1. Abgeschlossenheit: Hier also: Produkt zweier orthogonaler Matrizen ist orthogonal
(Musst du vielleicht mittels Def. noch nachweisen.)
2. Assoziativität (Brauchst du nicht (s. Aufgabe)
3. neutrales El: Einheitsmatrix ist orthogonal
4. Und: zu jedem existiert ein Inverses in O(n), stimmt auch:
Jede orthogonale Matrix hat eine inverse, und die ist auch orthogonal.