Aloha :)
Gegeben ist das Vektorfeld$$\vec f(\vec r)=\begin{pmatrix}x-z\\x+yz\\-3xy^2\end{pmatrix}$$sowie eine Kegeloberfläche, die wir in Zylinder-Koordinaten scheiben können:$$\vec r=\begin{pmatrix}x\\y\\4-\sqrt{x^2+y^2}\end{pmatrix}=\begin{pmatrix}r\cos\varphi\\r\sin\varphi\\4-r\end{pmatrix}\quad;\quad r\in[0;4]\quad;\quad\varphi\in[0;2\pi]$$
Wir bestimmen zuerst das linke Integral:$$\operatorname{rot}\vec f=\begin{pmatrix}\partial_x\\\partial_y\\\partial_z\end{pmatrix}\times\begin{pmatrix}x-z\\x+yz\\-3xy^2\end{pmatrix}=\begin{pmatrix}-6xy-y\\-1+3y^2\\1\end{pmatrix}$$$$d\vec o=\left(\frac{\partial\vec r}{\partial x}dx\right)\times\left(\frac{\partial\vec r}{\partial y}dy\right)=\begin{pmatrix}1\\0\\-\frac{x}{\sqrt{x^2+y^2}}\end{pmatrix}\times\begin{pmatrix}0\\1\\-\frac{y}{\sqrt{x^2+y^2}}\end{pmatrix}\,dx\,dy=\begin{pmatrix}\frac{x}{\sqrt{x^2+y^2}}\\\frac{y}{\sqrt{x^2+y^2}}\\1\end{pmatrix}dx\,dy$$$$I_1=\iint\limits_F\operatorname{rot}\vec f(\vec r)\,d\vec o=\iint\limits_F\begin{pmatrix}-6xy-y\\-1+3y^2\\1\end{pmatrix}\begin{pmatrix}\frac{x}{\sqrt{x^2+y^2}}\\\frac{y}{\sqrt{x^2+y^2}}\\1\end{pmatrix}dx\,dy$$$$\phantom{I_1}=\int\limits_{r=0}^4\,\int\limits_{\varphi=0}^{2\pi}\begin{pmatrix}-6r^2\cos\varphi\sin\varphi-r\sin\varphi\\-1+3r^2\sin^2\varphi\\1\end{pmatrix}\begin{pmatrix}\frac{r\cos\varphi}{r}\\[1ex]\frac{r\sin\varphi}{r}\\[1ex]1\end{pmatrix}r\,dr\,d\varphi$$$$\phantom{I_1}=\int\limits_{r=0}^4\,\int\limits_{\varphi=0}^{2\pi}\left(-6r^2\cos^2\varphi\sin\varphi-r\sin\varphi\cos\varphi-\sin\varphi+3r^2\sin^3\varphi+1\right)r\,dr\,d\varphi$$Mit \(3r^2\sin^3\varphi=3r^2\sin\varphi(1-\cos^2\varphi)=3r^2\sin\varphi-3r^2\sin\varphi\cos^2\varphi\) können wir die Integration über \(d\varphi\) direkt hinschreiben:$$\phantom{I_1}=\int\limits_{r=0}^4\left[2r^2\cos^3\varphi-\frac12r\sin^2\varphi+\cos\varphi-3r^2\cos\varphi+r^2\cos^3\varphi+\varphi\right]_{\varphi=0}^{2\pi}r\,dr$$$$\phantom{I_1}=\int\limits_{r=0}^4\left(\left(2r^2-0+1-3r^2+r^2+2\pi\right)-\left(2r^2-0+1-3r^2+r^2+0\right)\right)r\,dr$$$$\phantom{I_1}=\int\limits_0^42\pi\,r\,dr=\left[\pi r^2\right]_0^4=16\pi$$
Jetzt bestimmen wir das rechte Integral:
Wir halten \(r=4\) am Rand fest und haben lediglich \(\varphi\) als Integrationsvariable.
$$I_2=\int\limits_{\partial F}\vec f(\vec r)\,d\vec r=\int\limits_{0}^{2\pi}\vec f(\vec r(\varphi))\frac{\partial\vec r(\varphi)}{\partial\varphi}d\varphi=\int\limits_0^{2\pi}\begin{pmatrix}4\cos\varphi-0\\4\cos\varphi+0\\-3\cdot4^3\cos\varphi\sin^2\varphi\end{pmatrix}\begin{pmatrix}-4\sin\varphi\\4\cos\varphi\\0\end{pmatrix}d\varphi$$$$\phantom{I_2}=\int\limits_0^{2\pi}\left(-16\sin\varphi\cos\varphi+16\cos^2\varphi\right)d\varphi=\int\limits_0^{2\pi}\left(-8\sin2\varphi+8+8\cos2\varphi\right)d\varphi$$$$\phantom{I_2}=\left[4\cos2\varphi+8\varphi+4\sin2\varphi\right]_0^{2\pi}=(4+16\pi-0)-(4+0-0)=16\pi$$
Wie erwartet ist also \(I_1=I_2=16\pi\).