Ich habe zuerst die Gerade des Flugzeugs aufgestellt über die Punkte.
X = [20, -40, 40] + r * [40, 60, -40]
Das habe ich nur zusammengefasst zu einem Vektor
X = [40·r + 20, 60·r - 40, 40 - 40·r]
und das habe ich jetzt in die Kugelgleichung eingesetzt
(40·r + 20)2 + ((60·r - 40) - 10)2 + (40 - 40·r)2 = 602
Jetzt hast du eine quadratische Gleichung, die du nach r auflösen kannst.