Aloha :)
zu a) Die gesamte Punktmenge des Kegels$$V=\left\{(x;y;z)\in\mathbb R^3\,\big|\,x^2+y^2\le1\,,\,0\le z\le1-x^2-y^2\right\}$$können wir mit einem Vektor \(\vec r\) in Zylinderkoordinaten abtasten:$$\vec r(r,\varphi,z)=\begin{pmatrix}r\cos\varphi\\r\sin\varphi\\z\end{pmatrix}\quad;\quad r\in[0;1]\quad;\quad\varphi\in[0;2\pi]\quad;\quad z\in[0;1-r^2]$$Die Randfläche von \(V\) tasten wir ab, indem wir mit der \(z\)-Koordinate nicht mehr durch das Volumen durchlaufen, sondern nur den Anfangs- und den Endpunkt der \(z\)-Koordinate betrachten:$$\partial V=\left\{(x;y;z)\in\mathbb R^3\,\big|\,x^2+y^2\le1\,,\,(z=0\,\lor\,z=1-x^2-y^2)\right\}$$Für \(z=0\) erhalten wir den Grundkreis des Kegels, für \(z=1-x^2-y^2\) erhalten wir den Mantel des Kegels. Zur Beschreibung der Hülle brauchen wir daher zwei Ortsvektoren in Zylinderkoordinaten, einen Vektor \(\vec r_G\) für den Grundkreis und einen Vektor \(\vec r_M\) für den Mantel:
$$\vec r_G(r,\varphi)=\begin{pmatrix}r\cos\varphi\\r\sin\varphi\\0\end{pmatrix}\quad;\quad\vec r_M(r,\varphi)=\begin{pmatrix}r\cos\varphi\\r\sin\varphi\\1-r^2\end{pmatrix}\quad;\quad r\in[0;1]\quad;\quad\varphi\in[0;2\pi]$$Der Fluss des Vektorfeldes \(\vec A(\vec r)=(xz;yz;xy)\) durch die Kegeloberfläche ist daher auch in zwei Schritten zu berechnen:$$\Phi=\iint\limits_{\text{Grundkreis}}\vec A\,d\vec f_G+\iint\limits_{\text{Mantel}}\vec A\,d\vec f_M$$Da der Grundkreis auf der \(xy\)-Ebene liegt und der Normalenvektor des Flächenelements \(d\vec f_G\) nach außen gerichtet sein soll, haben wir:$$d\vec f_G=\begin{pmatrix}0\\0\\-1\end{pmatrix}\,r\,dr\,d\varphi$$Das Flächenelement \(d\vec f_M\) des Mantels rechnen wir explizit aus:
$$d\vec f_M=\left(\frac{\partial\vec r_M}{\partial r}\,dr\right)\times\left(\frac{\partial\vec r_M}{\partial \varphi}\,d\varphi\right)=\begin{pmatrix}\cos\varphi\\\sin\varphi\\-2r\end{pmatrix}\times\begin{pmatrix}-r\sin\varphi\\r\cos\varphi\\0\end{pmatrix}\,dr\,d\varphi$$$$\phantom{d\vec f_M}=\begin{pmatrix}2r^2\cos\varphi\\2r^2\sin\varphi\\r\cos^2\varphi+r\sin^2\varphi\end{pmatrix}dr\,d\varphi=\begin{pmatrix}2r\cos\varphi\\2r\sin\varphi\\1\end{pmatrix}r\,dr\,d\varphi$$
Nach diesen Vorüberlegungen können wir das Flussintegral formulieren. Dabei müssen wir darauf achten, die Komponenten des Vektorfeldes \(\vec A\) auch in Polarkoordinaten zu schreiben.
$$\Phi=\int\limits_{r=0}^1\,\int\limits_{\varphi=0}^{2\pi}\vec A(\vec r_G)\,d\vec f_G+\int\limits_{r=0}^1\,\int\limits_{\varphi=0}^{2\pi}\vec A(\vec r_M)\,d\vec f_M$$$$\phantom{\Phi}=\int\limits_{r=0}^1\,\int\limits_{\varphi=0}^{2\pi}\begin{pmatrix}(r\cos\varphi)\cdot0\\(r\sin\varphi)\cdot0\\(r\cos\varphi)\cdot(r\sin\varphi)\end{pmatrix}\begin{pmatrix}0\\0\\-1\end{pmatrix}\,r\,dr\,d\varphi$$$$\phantom{\Phi}+\int\limits_{r=0}^1\,\int\limits_{\varphi=0}^{2\pi}\begin{pmatrix}(r\cos\varphi)\cdot(1-r^2)\\(r\sin\varphi)\cdot(1-r^2)\\(r\cos\varphi)\cdot(r\sin\varphi)\end{pmatrix}\begin{pmatrix}2r\cos\varphi\\2r\sin\varphi\\1\end{pmatrix}r\,dr\,d\varphi$$$$\phantom{\Phi}=\int\limits_{r=0}^1\,\int\limits_{\varphi=0}^{2\pi}\left(-r^2\sin\varphi\cos\varphi\right)\,r\,dr\,d\varphi$$$$\phantom{\Phi}+\int\limits_{r=0}^1\,\int\limits_{\varphi=0}^{2\pi}\left((1-r^2)2r^2\cos^2\varphi+(1-r^2)2r^2\sin^2\varphi+r^2\sin\varphi\cos\varphi\right)r\,dr\,d\varphi$$$$\phantom{\Phi}=\int\limits_{r=0}^1\,\int\limits_{\varphi=0}^{2\pi}2r^2(1-r^2)\left(\cos^2\varphi+\sin^2\varphi\right)r\,dr\,d\varphi=\int\limits_{r=0}^1\,\int\limits_{\varphi=0}^{2\pi}\left(2r^3-2r^5\right)\,dr\,d\varphi$$$$\phantom{\Phi}=\int\limits_{\varphi=0}^{2\pi}d\varphi\cdot\int\limits_{r=0}^1\left(2r^3-2r^5\right)\,dr=\left[\varphi\right]_{0}^{2\pi}\cdot\left[\frac{r^4}{2}-\frac{r^6}{3}\right]_0^1=2\pi\left(\frac12-\frac13\right)=\frac\pi3$$
zu b) Nun berechnen wir das Flussintegral mit Hilfe des Satzes von Gauß. Dazu müssen wir über das ganze Volumen integrieren. Die Parametrisierung haben wir bereits oben in Teil a) dargestellt:$$\Phi=\int\limits_V\operatorname{div}\vec A\,dV=\int\limits_{r=0}^1\,\int\limits_{\varphi=0}^{2\pi}\int\limits_{z=0}^{1-r^2}\left(z+z+0\right)\,r\,dr\,d\varphi\,dz=\int\limits_{\varphi=0}^{2\pi}d\varphi\cdot\int\limits_{r=0}^1\,\int\limits_{z=0}^{1-r^2}2z\,r\,dr\,dz$$$$\phantom{\Phi}=2\pi\cdot\int\limits_{r=0}^1\left[z^2r\right]_{z=0}^{1-r^2}dr=2\pi\int\limits_{r=0}^1\left(1-r^2\right)^2r\,dr=2\pi\int\limits_{r=0}^1\left(r-2r^3+r^5\right)\,dr$$$$\phantom{\Phi}=2\pi\left[\frac{r^2}{2}-\frac{r^4}{2}+\frac{r^6}{6}\right]_0^1=2\pi\left(\frac12-\frac12+\frac16\right)=\frac\pi3$$
Man merkt, dass man sich mit Hilfe des Gauß'schen Satzes viel Schreib- und Rechenarbeit sparen kann ;)
