Bei Winkeln zwischen Vektoren muss man darauf achten, dass die Vektoren beide vom Scheitelpunkt wegzeigen, damit mit der "normalen Formeln" (ja, in den Schulbüchern fehlen im Zähler häufig die Betragsstriche) gearbeitet werden kann. Du kannst ja deinen Richtungsvektor bzw. Normalenvektor einfach mit minus 1 multiplizieren und würdest dann die Richtung des Vektors ändern. Das Skalarprodukt hätte dann ein anderes Vorzeichen und dein Winkel wäre positiv.
Aus diesem Grund ist es sinnvoll, um den Zähler Beträge zu setzen (das heißt, beim Weiterrechen spielt das Vorzeichen keine Rolle). Man erhält dann aber den richtigen Winkel.
Deine Rechnung ist also gar nicht falsch, sondern lediglich unvollständig, weil du die Richtung der Vektoren nicht berücksichtigt hast.