Aloha :)
Wir vereinfachen den Term schrittweise.
1 Schritt: Allgemein gilt: \(\red{(XY)^T=Y^TX^T}\) und \(\green{(XY)^{-1}=Y^{-1}X^{-1}}\)
Die rote Regel gilt immer. Damit die grüne Regel gilt, müssen \(X\) und \(Y\) jede für sich invertierbar sind. Das ist aber nach Voraussetzung in der Aufgebenstellung der Fall.$$B\red{(BA^T)^T}\green{(AB)^{-1}}B^T=B\red{(A^T)^TB^T}\green{B^{-1}A^{-1}}B^T$$
2. Schritt: Allgemein gilt: \({\color{blue}(A^T)^T=A}\)
Wenn du Zeilen und Spalten 2-mal vertauschst, hast du wieder die Ursrpungsmatrix.$$B{\color{blue}(A^T)^T}B^TB^{-1}A^{-1}B^T=B{\color{blue}A}B^TB^{-1}A^{-1}B^T$$
3. Schritt: \(B\) ist nach Vorabe symmetrisch, d.h. \(\pink{B=B^T}\)$$BA\pink{B^T}B^{-1}A^{-1}\pink{B^T}=BA\pink BB^{-1}A^{-1}\pink B$$
4. Schritt: Nun nutze das Assoziativgesetz aus: \((AB)C=A(BC)\)
Die Reihenfolge in der du die Matrixmultiplikationen durchführst ist für das Ergebnis egal.$$BABB^{-1}A^{-1}B=BA\underbrace{\left(BB^{-1}\right)}_{=\mathbf 1}A^{-1}B=BAA^{-1}B=B\underbrace{\left(AA^{-1}\right)}_{=\mathbf 1}B=BB=B^2$$dabei sei \(\mathbf1\) die Einheitsmatrix der passenden Größe.
