> Wie kommt man darauf?
Dazu solltest du eine Vorstellung davon entwickeln, wo die gegebenen Punkte A und B im Koordinatensystem liegen.
Die zweite und dritte Koordinate von A und B stimmen überein. Das heißt, der Vektor von A nach B verlläuft parallel zur x1-Achse. Es existieren also Quadrate, die parallel zur x1-x2-Ebene liegen und Quadrate die parallel zur x1-x3-Ebene liegen. Es gibt natürlich auch Quadrate die zu keiner dieser beiden Ebenen parallel sind, aber es gibt kein Quadrat, dass zur x2-x3-Ebene parallel ist.
> die Strecke AB ausrechnen muss und da kommt (-1/0/0) raus
Insbesondere hat die Strecke die Länge 1. Gehe vom Punkt A eine Längeneinheit entlang der x2-Achse (egal in welche Richtung). Dann hast du einen dritten Punkt des Quadrates. Vom Punkt B aus eine Längeneinheit entlang der x2-Achse ist dann der vierte Punkt.
Übrigens: auch die Punkte A, B, C(0, 1/2, (√3)/3), D(1, 1/2, (√3)/3) bilden ein Quadrat.