Aloha :)
Nach Aufgabenstellung und Tipp vermute ich, dass die Transformation von kartesischen Koordinaten zu Kugelkoordinaten noch nicht im Unterricht behandelt wurde. Daher führe ich die Berechnung anhand kartesischer Koordinaten vor.
Wir sollen eine Achtelkugel im ersten Oktanden des Koordinatensystems betrachten, d.h. wir legen den Mittelpunkt der Kugel in den Ursprung des Koordinatensystems und setzen für alles Folgende \(x,y,z\ge0\) voraus. Für eine Kugel mit Radius \(R\) gilt:$$x^2+y^2+z^2\le R^2$$Zu Anfang können wir für \(x\) alle Werte aus \([0|R]\) wählen, ohne die Bedingung \(x^2\le R^2\) zu verletzen. Wenn \(x\) gewählt ist, müssen \(y^2+z^2\) die Bedingung$$y^2+z^2\le R^2-x^2$$erfüllen. Daher können wir \(y\) nur noch aus dem Intervall \([0|\sqrt{R^2-x^2}]\) wählen. Wenn \(x\) und \(y\) gewählt sind, wird es eng für \(z\), denn$$z^2\le R^2-x^2-y^2$$erlaubt uns nur noch, \(z\) aus dem Intervall \([0|\sqrt{R^2-x^2-y^2}]\) zu wählen. Nach diesen Überlegungen kann man das Volumen der Achtelkugel durch folgendes Integral bestimmen:$$V_8=\int\limits_0^R dx\int\limits_0^{\sqrt{R^2-x^2}}dy\int\limits_0^{\sqrt{R^2-x^2-y^2}}dz$$Wichtig ist hierbei die Einhaltung der Integrationsreihenfolge. Wir müssen zuerst über \(dz\) integrieren, weil in der Obergrenze von \(z\) die beiden anderen Integrationsvariablen \(x\) und \(y\) auftauchen. Das Integral kann man sofort hinschreiben:$$V_8=\int\limits_0^Rdx\int\limits_0^{\sqrt{R^2-x^2}}dy\sqrt{R^2-x^2-y^2}$$Die Obergrenze von \(y\) hängt von \(x\) ab, also muss die Integration über \(dy\) als nächstes erfolgen. Das ist sicherlich der "schwierigste Schritt".$$I_y=\int\limits_0^{\sqrt{R^2-x^2}}dy\sqrt{(R^2-x^2)-y^2}=\int\limits_0^{\sqrt{R^2-x^2}}\sqrt{R^2-x^2}\sqrt{1-\frac{y^2}{R^2-x^2}}\,dy$$Mit der Substitution \(u(y):=\frac{y}{\sqrt{R^2-x^2}}\) und daraus folgend$$\frac{du}{dy}=\frac{1}{\sqrt{R^2-x^2}}\;\Leftrightarrow\;dy=\sqrt{R^2-x^2}\,du\;\;;\;\;u(0)=0\;\;;\;\;u(\sqrt{R^2-x^2})=1$$vereinfacht sich das Integral zu$$I_y=\int\limits_0^{1}\sqrt{R^2-x^2}\sqrt{1-u^2}\,\sqrt{R^2-x^2}\,du=(R^2-x^2)\int\limits_0^1\sqrt{1-u^2}\,du$$Wir fassen den Zwischenstand zusammen:$$V_8=\int\limits_0^Rdx(R^2-x^2)\int\limits_0^1\sqrt{1-u^2}\,du=\left[R^2x-\frac{x^3}{3}\right]_0^R\int\limits_0^1\sqrt{1-u^2}\,du$$$$\phantom{V_8}=\left(R^3-\frac{R^3}{3}\right)\int\limits_0^1\sqrt{1-u^2}\,du=\frac{2R^3}{3}\int\limits_0^1\sqrt{1-u^2}\,du$$Für das letzte Integral sollte nun vermutlich der Tipp aus der Aufgabenstellung greifen. Leider steht da Unsinn. Daher rechne ist das verbliebene Integral von Hand aus. Substituiere:$$u:=\sin x\;\;\Rightarrow\;\;\frac{du}{dx}=\cos x\;\;\Rightarrow\;\;du=\cos x\,dx$$$$x=\arcsin(u)\;\;\Rightarrow\;\;x(0)=0\;\;;\;\;x(1)=\frac{\pi}{2}$$$$\int\limits_0^1\sqrt{1-u^2}\,du=\int\limits_0^{\pi/2}\sqrt{1-\sin^2x}\,\cos x\,dx=\int\limits_0^{\pi/2}\cos^2x\,dx=\int\limits_0^{\pi/2}\frac{1+\cos(2x)}{2}\,dx$$$$\phantom{\int\limits_0^1\sqrt{1-u^2}\,du}=\int\limits_0^{\pi/2}\frac{1}{2}\,dx+\int\limits_0^{\pi/2}\frac{\cos(2x)}{2}\,dx=\left[\frac{x}{2}\right]_0^{\pi/2}+\left[\frac{\sin(2x)}{4}\right]_0^{\pi/2}=\frac{\pi}{4}$$Damit ist das gesuchte Volumen$$V_8=\frac{2R^3}{3}\cdot\frac{\pi}{4}=\frac{\pi\,R^3}{6}$$