Ich gehe davon aus, dass die -1 hochgestellt sein soll. Also:
$$ab^{-1}$$
Eine nichtleere Teilmenge A von einer Gruppe G ist genau dann Untergruppe, wenn für alle a, b in A gilt:
$$ab^{-1}\in A$$
Beweis der Äquivalenzrelation (ohne Gewähr):
Reflexivität:
$$a \sim a$$ denn
$$aa^{-1}=e\in A$$ wobei e das neutrale Element ist. Dieses liegt in A, da A eine Gruppe ist.
Symmetrie:
$$a \sim b\Rightarrow b \sim a $$ denn
$$ba^{-1}=(ab^{-1})^{-1}\in A$$ In einer Gruppe liegt nämlich mit jedem Element auch dessen Inverses in der Gruppe.
Transitiviät:
$$a \sim b \land b \sim c \Rightarrow a\sim c$$ denn
$$(ab^{-1})(bc^{-1})=a(b^{-1}b)c^{-1}=aec^{-1}=ac^{-1}$$ und
$$(ab^{-1})(bc^{-1}) \in A$$
da eine Gruppe immer auch das Produkt zweier ihrer Elemente enthält.