Aloha :)
Mit Hilfe des Gauß'schen Integralsatzes \((dV\cdot\vec\nabla=d\vec f)\) kannst du ein Integral über eine geschlossene(!) Oberfläche auf das Integral über das von dieser Fläche eingeschlossene Volumen zurückführen und umgekehrt.
Wir sollen hier den Fluss eines Vektorfeld \(\vec v(x;y;z)\) durch die Oberfläche einer Halbkugel berechnen:$$\vec v(x;y;z)=\begin{pmatrix}x^2y\\y^2x\\z^2\end{pmatrix}\quad;\quad F=\{(x;y;z)\in\mathbb R^3\big|z=\sqrt{1-x^2-y^2}\}$$Die Menge \(F\) ist nur für \(x\in[-1;1]\) und \(y\in[-1;1]\) definiert. Sie beschreibt die Mantelfläche der oberen Hälfte einer Kugel mit Radius \(1\).
Gemäß des Gauß'schen Satzes gilt:
$$\phi=\oint\limits_{F}\vec v\,d\vec f=\oint\limits_{F}d\vec f\,\vec v=\int\limits_{V(F)}dV\cdot\vec\nabla\vec v=\int\limits_{V(F)}\operatorname{div}\vec v\,dV$$
Für seine Anwendung brauchen wir also die Divergenz des Vektorfeldes und eine Parametrisierung der Halbkugel. Für letzteres bieten sich Kugelkoordinaten an:$$\vec r=\begin{pmatrix}x\\y\\z\end{pmatrix}=\begin{pmatrix}r\sin\vartheta\cos\varphi\\r\sin\vartheta\sin\varphi\\r\cos\vartheta\end{pmatrix}\quad;\quad r\in[0;1]\;;\;\varphi\in[0;2\pi]\;;\;\vartheta\in\left[0;\frac\pi2\right]$$Das Volumenelement in Kugelkoordinaten ist mathematische Allgemeinbildung:$$dV=r^2\sin\vartheta\,dr\,d\varphi\,d\vartheta$$Für die Divergenz von \(\vec v\) in Kugelkoordinaten erhalten wir:$$\operatorname{div}\vec v=2xy+2yx+2z=4xy+2z=4r^2\sin^2\vartheta\sin\varphi\cos\varphi+2r\cos\vartheta$$
Für das zu berechnende Integral heißt das:$$\phi=\int\limits_{r=0}^1\;\int\limits_{\varphi=0}^{2\pi}\int\limits_{\vartheta=0}^{\pi/2}\underbrace{\left(4r^2\sin^2\vartheta\sin\varphi\cos\varphi+2r\cos\vartheta\right)}_{=\operatorname{div}\vec v}\cdot\underbrace{r^2\sin\vartheta\,dr\,d\varphi\,d\vartheta}_{=dV}$$$$\phantom\phi=\int\limits_{r=0}^1\;\int\limits_{\varphi=0}^{2\pi}\int\limits_{\vartheta=0}^{\pi/2}2r^4\sin^3\vartheta\sin(2\varphi)\,dr\,d\varphi\,d\vartheta+\int\limits_{r=0}^1\;\int\limits_{\varphi=0}^{2\pi}\int\limits_{\vartheta=0}^{\pi/2}r^3\sin(2\vartheta)\,dr\,d\varphi\,d\vartheta$$
$$\phantom\phi=2\int\limits_{r=0}^1r^4\,dr\underbrace{\int\limits_{\varphi=0}^{2\pi}\sin(2\varphi)\,d\varphi}_{=0}\int\limits_{\vartheta=0}^{\pi/2}\sin^3\vartheta\,d\vartheta+\underbrace{\int\limits_{r=0}^1r^3\,dr}_{=\frac14}\underbrace{\int\limits_{\varphi=0}^{2\pi}d\varphi}_{=2\pi}\underbrace{\int\limits_{\vartheta=0}^{\pi/2}\sin(2\vartheta)\,d\vartheta}_{=1}=\frac\pi2$$