Für das Rechteck muss gelten:
BC = ED --> AC - AB = AD - AE
CD = BE --> AD - AC = AE - AB
BC ⊥ BE --> (AC - AB) * (AE - AB) = 0
Das Problem hierbei ist ja das man nur eine handvoll Bedingungen bekommt aber keine genaue Beschreibung der Vektoren.
Eine andere Idee hätte ich momentan nicht. Eventuell hast du eine bessere Idee.