Aloha :)
Die gegebene Fläche \(F\) über \(S\) können wir mit folgendem Vektor abtasten:$$\vec r=\begin{pmatrix}x\\y\\z\end{pmatrix}=\begin{pmatrix}x\\y\\xy\end{pmatrix}\quad;\quad x\in[0;1]\quad;\quad y\in[0;x]$$Zur Bestimmung des Oberflächenintegrals brauchen wir das Flächenelement:$$d\vec f=\left(\frac{\partial\vec r}{\partial x}dx\right)\times\left(\frac{\partial\vec r}{\partial y}dy\right)=\begin{pmatrix}1\\0\\y\end{pmatrix}\times\begin{pmatrix}0\\1\\x\end{pmatrix}\,dx\,dy=\begin{pmatrix}-y\\-x\\1\end{pmatrix}dx\,dy$$Ersetzen wir im Vektorfeld noch \(A_z=yz=y\cdot xy=xy^2\), erhalten wir:
$$I=\iint\limits_F\vec A\cdot d\vec f=\int\limits_{x=0}^1\;\int\limits_{y=0}^x\begin{pmatrix}x\\xy\\xy^2\end{pmatrix}\begin{pmatrix}-y\\-x\\1\end{pmatrix}dx\,dy=\int\limits_{x=0}^1\left(\;\;\int\limits_{y=0}^x\left(-xy-x^2y+xy^2\right)dy\right)dx$$$$\phantom{I}=\int\limits_{x=0}^1\left[-\frac{xy^2}{2}-\frac{x^2y^2}{2}+\frac{xy^3}{3}\right]_{y=0}^xdx=\int\limits_{x=0}^1\left(-\frac{x^3}{2}-\frac{x^4}{2}+\frac{x^4}{3}\right)dx$$$$\phantom{I}=\int\limits_{x=0}^1\left(-\frac{x^3}{2}-\frac{x^4}{6}\right)dx=\left[-\frac{x^4}{8}-\frac{x^5}{30}\right]_{0}^1=-\frac18-\frac1{30}=-\frac{38}{240}=-\frac{19}{120}$$
Beachte, dass der Wert des Integrals nur bis auf das Vorzeichen festgelegt ist, da das Flächenelement \(d\vec f\) auch genauso gut in die entgegengesetzte Richtung gewählt werden kann. Gemäß Konvention wird das Vorzeichen von \(d\vec f\) so gewählt, dass der Vektor "nach außen" zeigt. Da hier die Fläche aber nicht geschlossen ist, ist außen und innen nicht definiert.