a) Wenn du z.B für wählst $$\vec{n}=\frac{1}{\sqrt{3}}\begin{pmatrix} 1\\1\\1 \end{pmatrix}$$
dann ist die Ebene ja die mit der Gleichung 1/√3 * (x+y+z) = 0
oder eben einfach nur x+y+z=0.
Und die Formel $$S:=I_{n}-\frac{2}{<a,a>}aa^{T}$$
ergibt ja ( Das a ist das n. ) :
$$S=I_{3}-\frac{2}{<n,n>}nn^{T}=\begin{pmatrix} 1&0&0\\0&1&0\\0&0&1 \end{pmatrix}-\frac{2}{<n,n>}nn^{T}$$
$$=\begin{pmatrix} 1&0&0\\0&1&0\\0&0&1 \end{pmatrix}-\frac{2}{1}*\frac{1}{3}*\begin{pmatrix} 1&1&1\\1&1&1\\1&1&1 \end{pmatrix}$$
$$=\frac{1}{3}*\begin{pmatrix} 1&-2&-2\\-2&1&-2\\-2&-2&1 \end{pmatrix}$$
Wenn du nun mit dieser Matrix mal eine Probe machst, etwa mit dem Punkt
P(1;0;0), dann hast du
Ortsvektor von P' = S*Ortsvektor von P = S*(1;0;0)^T = (1/3;-2/3;-2/3)^T
Und jetzt kannst du prüfen: Die Mitte von P und P' liegt in der Ebene
und der Verbindungsvektor von P nach P' steht auf ihr senkrecht. Also ist
P wirklich an der Ebene gespiegelt worden.
Und allgemein machst du das einfach mit einem n = (nx;ny;nz).