Aloha :)
Zwei Vektoren sind ja genau dann orthogonal, wenn ihr Skalarprodukt \(=0\) ist:
$$0\stackrel!=\vec a\cdot\vec b=\begin{pmatrix}5\\-1\\3\end{pmatrix}\cdot\begin{pmatrix}a\\1\\-3\end{pmatrix}=5a-1-9=5a-10\implies 5a=10\implies a=2$$
Für \(a=2\) sind die beiden Vektoren orthogonal, für \(a\ne2\) sind sie nicht orthogonal.