a) Du kannst hier den Satz über die Determinante eines Produkts nutzen:
det(AB) = det(A)*det(B)
Darum gilt auch det(A)=1/det(A-1)
Damit die Gleichung überhaupt erfüllt sein kann, muss also gelten:
det (X*A*(X*A-1)-1) = det (Bi)
Die Determinanten der Matrizen Bi lassen sich leicht ausrechnen, es gilt:
det(B1)=1
det(B2)=0
det(B3)=0
Für die linke Seite gilt nach der genannten Produktregel:
det(X*A*(X*A-1)-1)= det(X)*det(A)*det((X*A-1)-1) = det(X)*det(A)/(det(X)*det(A-1)) = det(A)/det(A-1) = det(A)2
Berechnet man nun noch die Determinante
det(A) = -1,
dann erkennt man, dass nur B1 herauskommen kann.
Jetzt können wir uns ans rechnen machen:
Erstmal nutze ich aus, dass (AB)-1=B-1A-1 gilt, also
X*A*(X*A-1)-1 = X*A*A*X-1
A*A kann man leicht ausrechnen, das ergibt die Einheitsmatrix.
Nun steht da also noch
X*E*X-1 = X*X-1
Und herauskommen soll die Einheitsmatrix ⇒ alle invertierbaren Matrizen X, also alle 3x3-Matrizen mit det(X)≠0 erfüllen die Gleichung.