Aloha :)
Da beim Trägheitsmoment der senkrechte Abstand von der Rotationsachse entscheidend ist, bieten sich hier Zylinderkoordinaten an. $$\vec r=\begin{pmatrix}r\cos\varphi\\r\sin\varphi\\z\end{pmatrix}\quad;\quad r\in[0;1]\;;\;\varphi\in[0;2\pi]\;;\;z\in[0;\sqrt{1-r^2}]$$Bezüglich der Intervalle müssen wir gemäß Pythagoras den Zusammenhang zwischen der Höhe \(z\) und dem senkrechten Abstand \(r\) von der \(z\)-Achse beachten:$$r^2+z^2=R^2=1\quad\stackrel{(z\ge0)}{\implies}\quad z=\sqrt{1-r^2}$$Wir können \(r\) aus dem Intervall \([0;1]\) frei wählen, haben dann aber die Obergrenze \(\sqrt{1-r^2}\) für \(z\) vorgegeben. Daher die Einschränkung beim Intervall für die \(z\)-Koordinate.
Mit dem Volumenelement \(dV=r\,dr\,d\varphi\,dz\) in Zylinerkoordinaten und der Dichte \(\rho(x;y;z)=1\) können wir nun das Integral für das gesuchte Trägheitsmoment formulieren$$I_z=\int\limits_M(x^2+y^2)\cdot\rho(x;y;z)\,dV=\int\limits_{r=0}^1\;\int\limits_{\varphi=0}^{2\pi}\int\limits_{z=0}^{\sqrt{1-r^2}}r^2\cdot1\cdot r\,dr\,d\varphi\,dz$$$$\phantom{I_z}=\int\limits_{\varphi=0}^{2\pi}d\varphi\int\limits_{r=0}^1r^3\left(\int\limits_{z=0}^{\sqrt{1-r^2}}dz\right)dr=2\pi\int\limits_{r=0}^1r^3\sqrt{1-r^2}\,dr=\cdots=2\pi\cdot\frac{2}{15}=\frac{4}{15}\pi$$
Die Freude am Berechnen des verbliebenen Integrals möchte ich dir nicht nehmen, daher habe ich nur das Ergebnis angegeben.