Aloha :)
Wir sollen den Fluss des Vektorfeldes$$\vec v\colon\mathbb R^3\to\mathbb R^3\;,\;\vec v(x,y,z)=\left(\begin{array}{c}x^3\\-z\\y\end{array}\right)$$durch die Oberfläche des Zylinders$$\vec r(r,\varphi,z)=\begin{pmatrix}r\cos\varphi\\r\sin\varphi\\z\end{pmatrix}\quad;\quad r\in[0;2]\;;\;\varphi\in[0;2\pi]\;;\;z\in[0;5]$$mit dem Satz von Gauß (a) und direkt mittels des Oberflächenintegrals (b) bestimmen.
zu b) Wir beginnen mit der direkten Berechnung. Dazu teilen wir die geschlossene Oberfläche des Zylinders in den Boden, den Deckel und die Mantelfläche auf. Bei einer geschlossenen Fläche wir die Flächennormale immer so gewählt, dass sie nach außen gerichtet ist. Wir überlegen uns daher Folgendes:
Für den Boden zeigt die Flächennormale senkrecht nach unten und \(z=0\) wird festgehalten:$$d\vec f_{\text{Boden}}=\begin{pmatrix}0\\0\\-1\end{pmatrix}dr\,d\varphi\quad;\quad r\in[0;2]\;;\;\varphi\in[0;2\pi]\;;\;z=0$$Für den Deckel zeigt die Flächennormale senkrecht nach oben und \(z=5\) wird festgehalten:$$d\vec f_{\text{Deckel}}=\begin{pmatrix}0\\0\\-1\end{pmatrix}dr\,d\varphi\quad;\quad r\in[0;2]\;;\;\varphi\in[0;2\pi]\;;\;z=5$$Für den Mantel zeigt die Flächennormale in Richtung von \(\vec r\) und \(r=2\) wird festgehalten:$$d\vec f_{\text{Mantel}}=\begin{pmatrix}r\cos\varphi\\r\sin\varphi\\0\end{pmatrix}d\varphi\,dz\quad;\quad r=2\;;\;\varphi\in[0;2\pi]\;;\;z\in[0;5]$$
Nun setzen wie die Zylinderkoordinaten \(x=r\cos\varphi\), \(y=r\sin\varphi\), \(z=z\) in das Vektorfeld \(\vec v\) ein, um die Flussintegrale zu formulieren:$$\Phi=\int\limits_{\partial V}\vec v\,d\vec f_{\text{Boden}}+\int\limits_{\partial V}\vec v\,d\vec f_{\text{Deckel}}+\int\limits_{\partial V}\vec v\,d\vec f_{\text{Mantel}}$$$$\phantom{\Phi}=\int\limits_{r=0}^{2}\,\int\limits_{\varphi=0}^{2\pi}\begin{pmatrix}(r\cos\varphi)^3\\-0\\r\sin\varphi\end{pmatrix}\begin{pmatrix}0\\0\\-1\end{pmatrix}dr\,d\varphi+\int\limits_{r=0}^{2}\,\int\limits_{\varphi=0}^{2\pi}\begin{pmatrix}(r\cos\varphi)^3\\-5\\r\sin\varphi\end{pmatrix}\begin{pmatrix}0\\0\\1\end{pmatrix}dr\,d\varphi$$$$\phantom{\Phi}+\int\limits_{\varphi=0}^{2\pi}\,\int\limits_{z=0}^{5}\,\begin{pmatrix}(2\cos\varphi)^3\\-z\\2\sin\varphi\end{pmatrix}\begin{pmatrix}2\cos\varphi\\2\sin\varphi\\0\end{pmatrix}d\varphi\,dz$$Das sieht zuerst böse aus, aber der Fluss durch den Boden und durch den Deckel kompensieren sich zu Null, wie wir sofort sehen werden:$$\phantom{\Phi}=\int\limits_{r=0}^{2}\,\int\limits_{\varphi=0}^{2\pi}-r\sin\varphi\,dr\,d\varphi+\int\limits_{r=0}^{2}\,\int\limits_{\varphi=0}^{2\pi}r\sin\varphi\,dr\,d\varphi+\int\limits_{\varphi=0}^{2\pi}\,\int\limits_{z=0}^{5}\left(16\cos^4\varphi-2z\sin\varphi\right)dz\,d\varphi$$$$\phantom{\Phi}=\int\limits_{r=0}^{2}\,\int\limits_{\varphi=0}^{2\pi}\underbrace{\left(-r\sin\varphi+r\sin\varphi\right)}_{=0}\,dr\,d\varphi+\int\limits_{\varphi=0}^{2\pi}\left[16\cos^4\varphi\cdot z-z^2\sin\varphi\right]_{z=0}^{5}d\varphi$$$$\phantom{\Phi}=\int\limits_{\varphi=0}^{2\pi}\left(80\cos^4\varphi-25\sin\varphi\right)d\varphi=80\int\limits_{\varphi=0}^{2\pi}\cos^4\varphi\,d\varphi-25\int\limits_{\varphi=0}^{2\pi}\sin\varphi\,d\varphi$$$$\phantom{\Phi}=80\int\limits_{\varphi=0}^{2\pi}{\underbrace{\left(\frac12+\frac12\sin(2\varphi)\right)}_{=\cos^2\varphi}}^2\,d\varphi+25\underbrace{\left[\cos\varphi\right]_{\varphi=0}^{2\pi}}_{=0}=20\int\limits_{\varphi=0}^{2\pi}\left(1+\sin(2\varphi)\right)^2\,d\varphi$$$$\phantom{\Phi}=20\int\limits_{\varphi=0}^{2\pi}(1+2\sin(2\varphi)+\underbrace{\sin^2(2\varphi)}_{=\frac12-\frac12\cos(4\varphi)})\,d\varphi=20\int\limits_{\varphi=0}^{2\pi}\left(\frac32+2\sin(2\varphi)-\frac12\cos(4\varphi)\right)d\varphi$$$$\phantom{\Phi}=20\left[\frac32\varphi-\cos(2\varphi)-\frac18\sin(4\varphi)\right]_0^{2\pi}=20\cdot\frac32\cdot2\pi=\boxed{60\pi}$$
zu a) Nun verwenden wir den Satz von Gauß und integrieren zur Bestimmung des Flusses \(\Phi\) die Divergenz des Vektorfeldes$$\operatorname{div}\vec v=\operatorname{div}\begin{pmatrix}x^3\\-z\\y\end{pmatrix}=3x^2=3(r\cos\varphi)^2=3r^2\cos^2\varphi$$über das gesamte Volumen \(V\) mit $$dV=r\,dr\,d\varphi\,dz$$Formal bedeutet dies:$$\Phi=\int\limits_V\operatorname{div}\vec v\,dV=\int\limits_{r=0}^2\,\int\limits_{\varphi=0}^{2\pi}\,\int\limits_{z=0}^5\underbrace{3r^2\cos^2\varphi}_{=\operatorname{div}\vec v}\cdot\underbrace{r\,dr\,d\varphi\,dz}_{=dV}$$$$\phantom{\Phi}=3\int\limits_{r=0}^2r^3\,dr\cdot\int\limits_{\varphi=0}^{2\pi}\cos^2\varphi\,d\varphi\cdot\int\limits_{z=0}^5dz\stackrel{(\text{Tipp})}{=}3\left[\frac{r^4}{4}\right]_{0}^{2}\cdot\pi\cdot\left[z\right]_0^5=3\cdot4\cdot\pi\cdot5=\boxed{60\pi}$$
Du siehst, weshalb ich lieber nochmal nachgefragt habe, ob du wirklich die vollständige Berechnung brauchst. Die direkte Berechnung des Flusses über Oberflächenintegrale ist oft erheblich aufwändiger als der indirekte Weg mittels des Gauß'schen Satzes.