Aloha :)
zu a) Die Punktmenge \(K\) beschreibt ein Volumen, das sich mit Hilfe eines Vektors \(\vec r\) in Zylinderkoordinaten abtasten lässt:$$\vec r=\begin{pmatrix}r\cos\varphi\\r\sin\varphi\\z\end{pmatrix}\quad;\quad r\in[0;2]\quad;\quad\varphi\in\left[0;\frac\pi2\right]\quad;\quad z\in[0;r]$$
zu b) Zur Berechnung des Flusses des Vektorfeldes \(\vec F=(xy;yx;x^2y^2)\) durch die Oberfläche von \(K\) bietet sich der Gauß'sche Integralsatz an (\(d\vec f=dV\,\vec\nabla\)):$$\Phi=\oint\limits_{\partial K}\vec F\,d\vec f=\oint\limits_{\partial K}d\vec f\,\vec F=\int\limits_{K}dV\,\vec\nabla\vec F=\int\limits_{K}dV\left(\frac{\partial F}{\partial x}+\frac{\partial F}{\partial y}+\frac{\partial F}{\partial z}\right)=\int\limits_{K}(y+x)dV$$Beim Übergang zu Zylinderkoordinaten wird das Volumenelement \(dV\) verzerrt, es gilt \(dV=r\,dr\,d\varphi\,dz\), sodass unser Integral wie folgt aussieht:$$\Phi=\int\limits_{r=0}^2\int\limits_{\varphi=0}^{\pi/2}\int\limits_{z=0}^r(r\sin\varphi+r\cos\varphi)\,r\,dr\,d\varphi\,dz=\int\limits_{r=0}^2\int\limits_{\varphi=0}^{\pi/2}\int\limits_{z=0}^rr^2(\sin\varphi+\cos\varphi)\,dr\,d\varphi\,dz$$$$\phantom{\Phi}=\underbrace{\int\limits_{\varphi=0}^{\pi/2}(\sin\varphi+\cos\varphi)d\varphi}_{=2}\cdot\int\limits_{r=0}^2r^2\underbrace{\left(\;\;\int\limits_{z=0}^r\,dz\right)}_{=r}\,dr=2\int\limits_{r=0}^2r^3\,dr=2\left[\frac{r^4}{4}\right]_0^2=8$$
