Das, was du da kürzt funktioniert natürlich überhaupt nicht.
Zur Vereinfachung ignoriere ich die große Wurzel. Dann gilt $$\frac{1-\left(\frac{1}{4}\sqrt{10-2\sqrt{5}}\right)^2 }{\frac{1}{16}(10-2\sqrt{5})}=\frac{1-\frac{1}{16}(10-2\sqrt{5})}{\frac{1}{16}(10-2\sqrt{5})}=\frac{1}{\frac{1}{16}(10-2\sqrt{5})}-1.$$ Die \(\frac{1}{16}\) im Nenner kommen dann daher, weil an dieser Stelle "quadriert" wurde.
Wir machen nun den Nenner rational durch Anwendung der 3. binomischen Formel: $$\frac{10+2\sqrt{5}}{\frac{1}{16}(10-2\sqrt{5})(10+2\sqrt{5})}-1=\frac{10+2\sqrt{5}}{5}-1=2-\frac{2\sqrt{5}}{5}-1=1+\frac{2}{\sqrt{5}}.$$
Daraus folgt die Behauptung, wenn man nun auf beiden Seiten wieder die Wurzel zieht.