Aloha :)
Du kannst die Skalarprodukte ausrechnen und dann die Gleichungen lösen:
$$\begin{pmatrix}a\\2\\4\end{pmatrix}\cdot\begin{pmatrix}2a\\1\\a\end{pmatrix}=0$$$$\left.2a^2+2+4a=0\quad\right|\quad:2$$$$\left.a^2+2a+1=0\quad\right|\quad\text{1. binomische Formel}$$$$\left.(a+1)^2=0\quad\right|\quad\sqrt{\cdots}$$$$\left.a+1=0\quad\right|\quad-1$$$$\left.a=-1\quad\right.$$
$$\begin{pmatrix}1\\2\\1\end{pmatrix}\cdot\begin{pmatrix}a\\2a\\a\end{pmatrix}=1$$$$\left.a+4a+a=1\quad\right|\quad\text{addieren}$$$$\left.6a=1\quad\right|\quad:6$$$$\left.a=\frac{1}{6}\quad\right.$$