> wie formt man am besten diese zwei Gleichungen um
Mach dir darüber keine Gedanken. Oft ist es nicht notwendig, den besten Weg zu gehen; es reicht, einen gangbaren Weg zu finden und den dann zu gehen.
> ich weiß nicht einmal ob ich das Additionsverfahren, das Substitutionsverfahren oder das Gleichsetzverfahren hierzu am besten nutzen müsste.
Ich auch nicht. Ich löse einfach (||) nach x auf:
x = √(d2 - y2 - z2)
und setze in (I) ein:
√(d2 - y2 - z2) / (d2 - y2 - z2 + y² + z²) = cos(α).