Du rechnest die Distanz nicht so aus wie von mir vorgeschlagen, sondern mit dem Cosinussatz. Kann man auch. Es fehlt allerdings bei Dir auf der linken Seite vom ≈ die Wurzel, sonst kommt man gar nicht auf das, was bei Dir auf der rechten Seite steht. Anstatt 165 muss 165° stehen. Und Du scheinst Kilometer mit cm verwechselt zu haben.
Für den Azimut würde ich wie von mir beschrieben die Koordinaten des Zielpunktes ausrechnen, und dann den Arcustangens verwenden.
\(\displaystyle azi = arctan\left( \frac{5 \cdot cos(45°) + 6 \cdot cos(60°)}{\text{x-Koordinate}} \right)\)