hier liegt doch gar keine binomische Formel vor ;).
Ausklammern ist der erste Schritt:
x^5-20x+64 = 0
x(x^4-20x^2+64) = 0
x1 = 0 und (x^4-20x^2+64) = 0
Für letztere wähle z = x^2
z^2-20z+64 = 0 |pq-Formel:
z1 = 4
z2 = 16
Nun noch Resubst.
x1 = 0
x2,3 = ±2
x4,5 = ±4
Grüße