In R^3 ist u=v x w definiert als Vektor, der auf v und w senkrecht steht, und dessen Länge der Fläche des aufgespannten Parallelogramms entspricht.
In R^2 geht das gar nicht.
Es gibt keinen Vektor in der xy-Ebene, der auf den beiden gegebenen Vektoren senkrecht steht.
Entweder du berechnest nur die Fläche des aufgespannten Parallelogramms:
entspricht der Determinante ax by - ay bx
Oder du gibst einen Vektor in R^3 an: u = (0, 0, ax by - ay bx)
Ergänze einfach bei deinen beiden Vektoren als dritte Komponente 0 und rechne dann nach 3-D-Regeln.