Ich weiß nicht, was die Basis B soll, wenn es doch auf die Standardbasis
bezogen sein soll.
Da würde ich einfach (1;0) und ( o;1) jeweils an der Geraden spiegeln, das gibt
( -0,6 ; 0,8 ) bzw. ( 0,8 ; 0,6 ) und die Matrix der Spiegelung ist also
-0,6 0,8
0,8 0,6
Dann bist du doch fertig, oder???