So, oben sollte es statt
$$ 2ab = \frac{49 - 144} {2 \cdot \cos(50^\circ)} $$wohl richtig
$$ 2ab = \frac{144 - 49} {2 \cdot \cos(50^\circ)} $$heißen und darunter entsprechend auch.
Damit sollten sich dann die folgenden vier vorzeichenrichtigen, reellen Lösungspaare ergeben, die auch der numerische Löser meines Algebra-Programms liefert:
a = -4.14967099, b = -8.90394467
a = 4.14967099, b = 8.90394467
a = -8.90394467, b = -4.14967099
a = 8.90394467, b = 4.14967099
Wär nett, wenn das mal jemand bestätigen könnte. Was WolframAlpha da gemacht hat, weiß ich nicht. Mein CAS liefert die Lösung auch in algebraischer Form.