Die von 0 nach p bzw. q nenne einfach
$$\vec{p} \text{ bzw. }\vec{q}$$
Dann hast du
$$\vec{a} * \vec{b}$$
$$(2\vec{p}-3\vec{q})*(4\vec{p}-\vec{q})$$
wegen der Gesetze für das Skalarprodukt ist das
$$2\vec{p}*4\vec{p}-3\vec{q}*4\vec{p}-2\vec{p}*\vec{q}+3\vec{q}*\vec{q}$$
wegen des Senkrechtstehens sind gemischte Produkte 0, also
= $$2\vec{p}*4\vec{p}+3\vec{q}*\vec{q}$$
= $$8\vec{p}*\vec{p}+3\vec{q}*\vec{q}$$
= 8*(Länge von p)^2+ 3*(Länge von q)^2