Aloha :)
a) Mit dem Ausklammern von \(x^2\) bist du bereits auf einem guten Weg. Du kannst dann noch auf den Rest der Klammer die zweite binomische Formel anwenden:$$f_k(x)=k^2x^4-2kx^3+x^2=x^2(k^2x^2-2kx+1)=x^2(kx-1)^2$$
Nach dem Satz vom Nullprodukt, liegen die Nullstellen dort, wo \(x^2=0\) oder \((kx-1)=0\) ist:$$x_1=0\quad;\quad x_2=\frac{1}{k}$$
b) Kandidaten für Extrempunkte finden wir dort, wo die erste Ableitung zu null wird:
$$0\stackrel!=f'_k(x)=4k^2x^3-6kx^2+2x=4k^2x\left(x^2-\frac{3}{2k}x+\frac{1}{2k^2}\right)$$Der Faktor \(4k^2x\) wird null für \(x_1=0\), die Nullstellen der Klammer liefert die pq-Formel:$$x_{2;3}=\frac{3}{4k}\pm\sqrt{\frac{9}{16k^2}-\frac{1}{2k^2}}=\frac{3}{4k}\pm\sqrt{\frac{9}{16k^2}-\frac{8}{16k^2}}=\frac{3}{4k}\pm\sqrt{\frac{1}{16k^2}}=\frac{3\pm1}{4k}$$Wir haben also drei Kandidaten für Extremwerte:$$x_1=0\quad;\quad x_2=\frac{1}{k}\quad;\quad x_3=\frac{1}{2k}$$
Zur Bestimmung der Art der Extrema bemühen wir die zweite Ableitung:$$f''_k(x)=12k^2x^2-12kx+2=12kx(kx-1)+2$$und testen die Kandidaten durch:$$f''_k\left(0\right)=2>0\implies\text{Minimum}$$$$f''_k\left(\frac{1}{k}\right)=2>0\implies\text{Minimum}$$$$f''_k\left(\frac{1}{2k}\right)=-1<0\implies\text{Maximum}$$
