Aloha :)
$$I=\int\limits_F\operatorname{rot}\begin{pmatrix}x^3y\\y^2+4\\0\end{pmatrix}\,d\vec f\quad;\quad F=\{(x,y,z)\in\mathbb R^3\,\big|\,x^2+y^2\le a^2\,,\,z=\sqrt{a^2-x^2-y^2}\,,\,a>0\}$$Anstatt über das Flächenelement \(d\vec f\) zu integrieren, können wir mit Hilfe des Stoke'schen Satzes \(d\vec f\times\vec\nabla=d\vec r\) über die geschlossene Umrandung von \(F\) integrierieren. Da das Spatprodukt zyklisch ist, können wir das Integral wie folgt umformen:
$$I=\int\limits_F\left(\vec\nabla\times\begin{pmatrix}x^3y\\y^2+4\\0\end{pmatrix}\right)\,d\vec f=\int\limits_F\left(d\vec f\times\vec\nabla\right)\begin{pmatrix}x^3y\\y^2+4\\0\end{pmatrix}=\oint\limits_{\partial F}d\vec r\begin{pmatrix}x^3y\\y^2+4\\0\end{pmatrix}$$Wir müssen nun eine geeignete Parametrisierung des Vektors \(\vec r\) finden, der den den Rand \(\partial F\) der Fläche abtastet. Dazu wählen wir Zylinderkoordinaten:$$\vec r=\left(\begin{array}{c}r\cos\varphi\\r\sin\varphi\\z\end{array}\right)\quad;\quad\varphi\in[0;2\pi]\quad;\quad r=a\quad;\quad z=\sqrt{a^2-x^2-y^2}=0$$Wir halten den Radius \(r=a\) fest, da wir nur über den Rand der Fläche integrieren müssen, was zum Verschwinden der \(z\)-Koordinate führt, denn:$$z=\sqrt{a^2-(a\cos\varphi)^2-(a\sin\varphi)^2}=\sqrt{a^2-a^2(\cos^2\varphi+\sin^2\varphi)}=\sqrt{a^2-a^2}=0$$Wir bestimmen das Linienelement$$d\vec r=\frac{d\vec r}{d\varphi}\,d\varphi=\frac{d}{d\varphi}\left(\begin{array}{c}a\cos\varphi\\a\sin\varphi\\0\end{array}\right)\,d\varphi=\left(\begin{array}{c}-a\sin\varphi\\a\cos\varphi\\0\end{array}\right)\,d\varphi$$und setzen nun alles zum Integral zusammen:
$$I=\oint\limits_0^{2\pi}\begin{pmatrix}(a\cos\varphi)^3(a\sin\varphi)\\(a\sin\varphi)^2+4\\0\end{pmatrix}\left(\begin{array}{c}-a\sin\varphi\\a\cos\varphi\\0\end{array}\right)\,d\varphi$$$$\phantom{I}=\int\limits_0^{2\pi}\left(-a^5\cos^3\varphi\sin^2\varphi+a^3\sin^2\varphi\cos\varphi+4a\cos\varphi\right)d\varphi$$$$\phantom{I}=\int\limits_0^{2\pi}\left(-a^5\cos^3\varphi\sin^2\varphi+a^3\sin^2\varphi\cos\varphi+4a\cos\varphi\right)d\varphi$$Wegen der Symmetrie der ersten beiden Summanden bezüglich der \(x\)-Achse fallen die ersten beiden Integrale weg, übrig bleibt$$\phantom{I}=\int\limits_0^{2\pi}4a\cos\varphi\,d\varphi=4a\left[\sin\varphi\right]_0^{2\pi}=0$$Der Fluss des Vektorfeldes \(\operatorname{rot}\vec v\) durch die Fläche \(F\) ist also \(0\).