Hallo,
das wird 'ne ziemliche Rechnerei. Die Idee ist, den Ausdruck zu \(x\) zu setzen, die Gleichung mit \(p\) zu multiplizieren und dann beide erhaltene Gleichungen von einander abziehen. Da in der Summe \(k^2\) steht, muss man das zweimal hintereinander machen. Ich leg' mal was vor:$$\begin{aligned} \sum_{k=1}^n k^2p^k &= x &&|\, \cdot p \\ \sum_{k=2}^{n+1} (k-1)^2p^k &= px &&|\, (1)-(2) \\ p - n^2p^{n+1} + \sum_{k=2}^{n} \left( k^2 - (k-1)^2\right)p^k &= x(1-p) \\ p - n^2p^{n+1} + \sum_{k=2}^{n} \left(2k - 1\right)p^k &= x(1-p) \\ p - n^2p^{n+1} + 2\sum_{k=2}^{n} kp^k - \sum_{k=2}^{n}p^k &= x(1-p) \\ \sum_{k=1}^{n} kp^k &= y &&|\, \cdot p \\ \sum_{k=2}^{n+1} (k-1)p^k &= py &&|\, (6)-(7) \\ p - np^{n+1} + \sum_{k=2}^{n}(k - (k-1)) &= y(1-p) \\ p - np^{n+1} + (n-1) &= y(1-p) \\ \implies y &= \frac{p - np^{n+1} + n-1}{1-p} &&| \, \to (5) \\ p - n^2p^{n+1} + \dots &{}\\ \dots + 2\left(\frac{p - np^{n+1} + n-1}{1-p} - p\right) - \sum_{k=2}^{n}p^k &= x(1-p) \\ -p - n^2p^{n+1} + \dots &{}\\ \dots + 2\frac{p - np^{n+1} + n-1}{1-p} - p^2 \frac{1-p^{n-1}}{1-p} &= x(1-p) \end{aligned}$$so jetzt 'nur' noch nach \(x\) auflösen$$\begin{aligned} -p - n^2p^{n+1} + 2\frac{p - np^{n+1} + n-1}{1-p} - p^2 \frac{1-p^{n-1}}{1-p} &= x(1-p) \\ -\left(p + n^2p^{n+1}\right)(1-p) + 2(p - np^{n+1} + n-1) - p^2(1-p^{n-1}) &= x(1-p)^2 \\ -p - n^2p^{n+1} + p^2 + n^2p^{n+2} + 2p - 2np^{n+1} + 2n- 2 - p^2+p^{n+1} &= x(1-p)^2 \\ - n^2p^{n+1} + n^2p^{n+2} + p - 2np^{n+1} + 2n- 2 +p^{n+1} &= x(1-p)^2 \\ p^{n+1}\left( 1 - 2n - n^2+ n^2p\right) + p + 2n- 2 &= x(1-p)^2 \\ p^{n+1}\left( -(2n-1) - n^2(1-p)\right) -(1-p) + (2n-1) &= x(1-p)^2 \end{aligned}$$und final $$\sum_{k=1}^n k^2p^k = \frac{(2n-1)-(1-p) - p^{n+1}\left( (2n-1) + n^2(1-p)\right)}{(1-p)^2}$$also für \(n=1\) ist es richtig, aber ansonsten rechne es bitte mal nach.
Gruß Werner