hier liegt doch gar keine binomische Formel vor ;).
Ausklammern ist der erste Schritt:
x5-20x+64 = 0
x(x4-20x2+64) = 0
x1 = 0 und (x4-20x2+64) = 0
Für letztere wähle z = x2
z2-20z+64 = 0 |pq-Formel:
z1 = 4
z2 = 16
Nun noch Resubst.
x1 = 0
x2,3 = ±2
x4,5 = ±4
Grüße