Aloha :)
Wir untersuchen zuerst die Punktmenge$$L=\{(x;y;z)\in\mathbb R^3\,\big|\,xy\ge0\;\land\;x^2+y^2+z^2=1\}$$
Zur Berechnung des Integrals brauchen wir einen Ortsvektor \(\vec r\), der vom Ursprung ausgehend, alle Punkte der Oberfläche abtastet. Dazu bieten sich hier Kugelkoordinaten an:$$\vec r=\begin{pmatrix}R\sin\vartheta\cos\varphi\\R\sin\vartheta\sin\varphi\\R\cos\vartheta\end{pmatrix}\quad;\quad R\in[0;\infty)\;;\;\vartheta\in[0;\pi]\;;\;\varphi\in[0;2\pi]$$
In der Menge \(L\) können wir die Koordinaten \(x\) und \(y\) unter Einhaltung der Bedinung \(xy\ge0\) frei wählen. Nach dieser Wahl ist die \(z\)-Koordinate dann aber durch die Bedingung \(z^2=1-x^2-y^2\) vorgegeben. Wir haben hier also 2 Freiheitsgrade, sodass die Menge \(L\) ein 2-dimensionales Objekt beschreibt. Wir schränken nun die Intervalle für die Variablen so ein, dass die Bedingungen aus \(L\) erfüllt sind.
Wegen \(x^2+y^2+z^2=R^2\stackrel!=1\) ist der Radius der Kugeloberfläche \(R=1\) fest.
Wegen \(xy=R^2\sin^2\vartheta\sin\varphi\cos\varphi=\frac{R^2}{2}\sin^2\vartheta\sin(2\varphi)\stackrel{!}{\ge}0\) und dem Quadrat an \(\sin^2\vartheta\) gibt es für \(\vartheta\in[0;\pi]\) keine Einschränkungen, jedoch fordert \(\sin(2\varphi)\ge0\), dass \(\varphi\in[0;\frac\pi2]\cup[\pi;\frac32\pi]\). Damit haben wir folgende Integrationsgrenzen gefunden:$$R=1\quad;\quad\vartheta\in[0;\pi]\quad;\quad\varphi\in\left[0;\frac\pi2\right]\cup\left[\pi;\frac32\pi\right]\eqqcolon P$$
Nun müssen wir das Flächenelement \(dS\) in den neuen Koordinaten ausdrücken:$$dS=\left\|\frac{\partial\vec r}{\partial\vartheta}\,d\vartheta\times\frac{\partial\vec r}{\partial\varphi}\,d\varphi\right\|=\left\|\begin{pmatrix}\cos\vartheta\cos\varphi\\\cos\vartheta\sin\varphi\\-\sin\vartheta\end{pmatrix}\times\begin{pmatrix}-\sin\vartheta\sin\varphi\\\sin\vartheta\cos\varphi\\0\end{pmatrix}\right\|\,d\vartheta\,d\varphi$$$$\phantom{dS}=\left\|\begin{pmatrix}\sin^2\vartheta\cos\varphi\\\sin^2\vartheta\sin\varphi\\\sin\vartheta\cos\vartheta\end{pmatrix}\right\|\,d\vartheta\,d\varphi=\sin\vartheta\left\|\begin{pmatrix}\sin\vartheta\cos\varphi\\\sin\vartheta\sin\varphi\\\cos\vartheta\end{pmatrix}\right\|\,d\vartheta\,d\varphi$$$$\phantom{dS}=\sin\vartheta\sqrt{\sin^2\vartheta\cos^2\varphi+\sin^2\vartheta\sin^2\varphi+\cos^2\vartheta}\,d\vartheta\,d\varphi$$$$\phantom{dS}=\sin\vartheta\sqrt{\sin^2\vartheta(\cos^2\varphi+\sin^2\varphi)+\cos^2\vartheta}\,d\vartheta\,d\varphi$$$$\phantom{dS}=\sin\vartheta\sqrt{\sin^2\vartheta+\cos^2\vartheta}\,d\vartheta\,d\varphi=\sin\vartheta\,d\vartheta\,d\varphi$$
Nach diesen kurzen Vorüberlegungen können wir das Integral formulieren:$$I=\int\limits_{\varphi\in P}\,\;\int\limits_{\vartheta=0}^\pi(\underbrace{5\sin\vartheta\cos\varphi}_{=5x}+\underbrace{2(\sin\vartheta\sin\varphi)^2}_{=2y^2}+\underbrace{\cos^3\vartheta}_{=z^3})\,\underbrace{\sin\vartheta\,d\vartheta\,d\varphi}_{=dS}$$$$\phantom I=\int\limits_{\varphi\in P}\,\;\int\limits_{\vartheta=0}^\pi(5\sin^2\vartheta\cos\varphi+2\sin^3\vartheta\sin\varphi+\sin\vartheta\cos^3\vartheta)\,d\vartheta\,d\varphi$$$$\phantom I=\int\limits_{\varphi\in P}\,\;\int\limits_{\vartheta=0}^\pi\left(5\,\underbrace{\left(\frac12-\frac12\sin(2\vartheta)\right)}_{=\sin^2\varphi}\cos\varphi+2\,\underbrace{(1-\cos^2\vartheta)}_{=\sin^2\vartheta}\sin\vartheta\sin\varphi+\sin\vartheta\cos^3\vartheta\right)d\vartheta\,d\varphi$$$$\phantom I=\int\limits_{\varphi\in P}\,\;\int\limits_{\vartheta=0}^\pi\left(\frac52\cos\varphi-\frac52\sin(2\vartheta)\cos\varphi+2\sin\vartheta\sin\varphi-2\cos^2\vartheta\sin\vartheta\sin\varphi+\sin\vartheta\cos^3\vartheta\right)d\vartheta\,d\varphi$$$$\phantom I=\int\limits_{\varphi\in P}\left[\frac52\cos(\varphi)\cdot\vartheta+\frac54\cos(2\vartheta)\cos\varphi-2\cos\vartheta\sin\varphi+\frac23\cos^3\varphi\sin\varphi-\frac14\cos^4\vartheta\right]_{\vartheta=0}^{\pi}d\varphi$$$$\phantom I=\int\limits_{\varphi\in P}\left(\frac{5\pi}2\cos\varphi+\frac54(1-1)\cos\varphi-2(-1-1)\sin\varphi+\frac23(-1-1)\sin\varphi-\frac14(1-1)\right)d\varphi$$$$\phantom I=\int\limits_{\varphi\in P}\left(\frac{5\pi}{2}\cos\varphi+\frac83\sin\varphi\right)\,d\varphi$$$$\phantom I=\int\limits_{\varphi=0}^{\pi/2}\left(\frac{5\pi}{2}\cos\varphi+\frac83\sin\varphi\right)d\varphi+\int\limits_{\varphi=\pi}^{3\pi/2}\left(\frac{5\pi}{2}\cos\varphi+\frac83\sin\varphi\right)d\varphi$$$$\phantom I=\left[\frac{5\pi}{2}\sin\varphi-\frac83\cos\varphi\right]_{\varphi=0}^{\pi/2}+\left[\frac{5\pi}{2}\sin\varphi-\frac83\cos\varphi\right]_{\varphi=\pi}^{3\pi/2}$$$$\phantom I=\left[\left(\frac{5\pi}{2}-0\right)-\left(0-\frac83\right)\right]+\left[\left(-\frac{5\pi}{2}-0\right)-\left(0+\frac83\right)\right]$$$$\phantom I=\left(\frac{5\pi}{2}+\frac83\right)+\left(-\frac{5\pi}{2}-\frac83\right)=0$$
