Es ist besser, wenn du ausklammerst. Ausmultiplizieren bringt dich auf einen Umweg.
x2(x-5)+(x-5)2-3x(5-x)=0 Angenommen das stimmt so. Dann:
x2(x-5)+(x-5)2 + 3x(x-5)=0
(x^2 + (x-5) + 3x) (x-5) = 0
Nun hast du vorne mit x^2 + (x-5) + 3x = 0 eine quadratische Gleichung und hinten die erste Lösung x1= 5.