Du musst dafür sorgen, dass die Zeilen- oder Spaltenvektoren rechte Winkel einschliessen.
Da kannst du das Skalarprodukt =0 setzen.
Hier eine erste Gleichung für B. Skalarprodukt der ersten beiden Zeilen ist 0:
√2/2 *√2/4+a√3/2 + b√2/2 = 0
1/4 + a√3/2 + b√2/2 = 0
2√3a + 2√2b = -1
Weitere Gleichungen: Skalarprodukt 2. und 3. Zeile, sowie 1.und 3. Zeile. Dann versuchen die 4 Variabeln zu berechnen. Aus den 3 Gleichungen könnte sich mehr als eine Lösung ergeben.