Da muss man rechts, wie im Kommentar erwähnt, die binomische Formel anwenden.
a =1 und b = √(5-x) . (a+b)^2 = a^2 + 2ab + b^2
√(8-2x) = 1 + √(5-x) |^2
8-2x = 1 + 2√(5-x) + (5-x) |-5-1+x
Man braucht das gleich nochmals:
2-x = 2√(5-x) |^2
4 - 4x + x^2 = 4 (5-x)