Und muss man etwa nur die ersten zwei zeilen nehmen? (1 1) (0 1)?
Nein - was sollte das für einen Sinn haben. Deine Gleichungen oben sind schon richtig, nur die Zahlenwerte (Skalarprodukte) sind falsch berechnet. Es ist
[[vv, vw], [vw, ww]] b = [(q-u0)v, (q-u0)w]
[[3, 0], [0, 2]] b = [1, 1]
Daraus folgt b1=1/3; b2=1/2 und nach Einsetzen in die Ebenengleichung erhält man
[1,0,1] + [1,1,1]*1/3 + [0,1,-1]*1/2 = [4/3, 5/6, 5/6]
|q - [4/3, 5/6, 5/6]| = |[-1/3, 1/6, 1/6]| = sqrt(6)/6 = 0.4082...