Gleichung eines der Lichtstrahlen ist
z = mx + 20.
Gleichung des Kreises ist
x2 + (z-6)2 = 36
womit die Gleichung des oberen Halbkreises
z = √(36 - x2) + 6
lautet.
Der Lichtstrahl ist eine Tangente des Kreises. Lichtstrahl und Keis haben also nur einen Punkt gemeinsam.
Gemeinsame Punkte von Kreis und Lichtstrahl bekommt man durch Gleichsetzen:
mx + 20 = √(36 - x2) + 6
was zu den Lösungen
x = (-14m ± 2√(9m2-40)) / (m2 + 1)
führt. Diese zwei Lösungen sind identisch, wenn
9m2-40 = 0
ist. In diesem Fall gibt es also nur einen gemeinsamen Punkt von Gerade und Kreis. Umformen liefert
m = ±(√40)/3.
Einsetzen einer dieser Lösungen in die Geradengleichung liefert
z = (√40)/3x + 20.
Der Boden hat z = 0. Lösung der Gleichung
0 = (√40)/3x + 20
ist also der Radius des Schattens.