A heißt regulär, wenn sie intvertierbar ist  ↔ Rang = Dimension (hier 3) ↔ det(A) ≠ 0 ↔ in Dreiecksform keine 0 in der Hauptdiagonale. .
Bringt man A mit dem Gauß-Algorithmus auf Dreiecksform (bei den Umformungen kann man λ≠0 voraussetzen, weil  A für λ= 0 offensichtlich regulär ist), dann ergibt sich:
[1, 1, -1  |  0, 1, λ  |  0, 0, 1 - λ2]     ( | trennt die Matrixzeilen)
A ist also - wie du richtig erkannt hast -  regulär  für  λ ≠ ± 1 
Wendet man unter dieser Voraussetzung den von dir angedeuteten Algorithmus  
( A | I )  →  ( I | A ) an, dann ergibt sich:
A-1 =  [ 1 , 1/(a - 1) , 1/(1 - a)  |   0 , 1/(1 - a2) , a/(a2 - 1)  |   0 , a/(a2 - 1) , 1/(1 - a2) ]
Gruß Wolfgang