Dein Ansatz, den du oben im Kommentar gemacht hast, sieht schonmal gut aus.
Hier ist ein zum Thema passender Vorlesungsauszug:
Auf Slide198 steht das Oberflächenintegral, um das es in deiner Aufgabe geht. Auf Slides 195/196 ist ein Beispiel mit einer Parametrisierung der Kugeloberfläche.
Hier der weitere Fahrplan für deine Berechnungen:
Du hast bis jetzt den Integranden korrekt aufgestellt:
\(\left\langle F(\vec x) , \vec v(\vec x)\right\rangle =x^2z^2+y^2x^2+z^2y^2\)
Die Kugelkoordinaten hast du zwar richtig herausgesucht, aber du hast an dieser Stelle noch nicht berücksichtigt, dass es nur um die Oberfläche der Kugel geht, die zu parametrisieren ist:
(Ich hab zum Rechnen die Form der Kugelkoordinaten genommen, bei der der "Äquator" auf \(0°\) liegt, "nördliche Breiten" positive und "südliche Breiten" negative Winkel haben.)
\(\begin{pmatrix} x \\ y \\ z \end{pmatrix} = S(\phi,\theta) = \begin{pmatrix} \cos \phi \cos \theta \\ \sin \phi \cos \theta \\ \sin \theta \end{pmatrix} \) mit \(\theta \in \left[-\frac{\pi}2 , \frac{\pi}2\right]\) und \(\phi \in [0,2\pi]\)
Jetzt benötigst du noch das Oberflächenelement \(d\sigma\) (siehe z. Bsp. oben verlinkten Vorlesungsauszug):
\(d\sigma = \left|\left| \frac{\partial S}{\partial \phi} \times \frac{\partial S}{\partial \theta} \right|\right|\, d(\phi,\theta) =\cos \theta\, d(\phi,\theta) \)
Nun kannst du das Integral berechnen. Setze dazu die Parametrisierung ein und rechne konzentriert und geduldig und nutze so oft es geht, dass \(\sin^2 t + \cos^2 t= 1\) gilt. Hier ist eine Möglichkeit, wie der Integrand nach einigen Umformungen aussehen kann:
\(\displaystyle\int_{\partial K}\left\langle F(\vec x) , \vec v(\vec x)\right\rangle d\sigma(\vec x) = ...\)
\(\displaystyle ... = \int_{\phi=0}^{2\pi}\int_{\theta=-\frac{\pi}2}^{\frac{\pi}2}\left(\sin^2 \theta + \sin^2 \phi (\cos^2 \phi \cos^2 \theta + \sin^2 \theta)\right)\cos^3 \theta \, d\theta\, d\phi = ...\)
\(... = \frac 45 \pi\)
Du kannst zum Beispiel zuerst nach \(\theta\) integrieren und nutzen, dass \(\cos \theta \,d\theta = d(\sin \theta)\) gilt. Danach integrierst du nach \(\phi\).
p.s.:
Hier ist die Berechnung des Integrals direkt nach Einsetzen der Parametrisierung. Offenbar hat WolframAlpha ein Problem, diesen langen Integranden korrekt darzustellen. Bei mir ist das letzte \(\cos u\) vor den Differentialen umgebrochen.