Aloha :)
Das Integral ist ein typischer Fall für Polarkoordinaten:$$\vec r=\begin{pmatrix}r\cos\varphi\\r\sin\varphi\end{pmatrix}\quad;\quad r\in[0;2]\;\;;\;\;\varphi\in\left[\frac{\pi}{4}\,;\;\frac{7\pi}{4}\right]$$Das Intervall für den Winkel \(\varphi\) wurde aus der Forderung \(|y|\ge x\) wie folgt bestimmt. Für \(x\le0\) ist die Forderung immer erfüllt, also wird rechts von der \(y\)-Achse etwas aus dem Kreis herausgeschnitten und wir können uns auf den Fall \(x>0\) beschränken. Der Einfachheit halber kehren wir die Forderung \(|y|\ge x\) zu \(|y|<x\) um und bestimmen die Winkel, die herausgeschnitten werden:$$|y|<x\quad\Leftrightarrow\quad -x<y<x\quad\Leftrightarrow\quad -\cos\varphi<\sin\varphi<\cos\varphi$$Wegen \(x>0\) bzw. \(\cos\varphi>0\) dividieren wir die Gleichungen durch \(\cos\varphi\) und finden:$$-1<\tan\varphi<1\quad\Leftrightarrow\quad-\frac{\pi}{4}<\varphi<\frac{\pi}{4}$$Da in Polarkoordinaten der Winkel normalerweise aus dem Interval \([0;2\pi]\) gewählt wird, fehlen also die Winkel von \(0\) bis \(\pi/4\) und von \(7\pi/4\) bis \(2\pi\). Die Menge \(D\) sieht also aus wie ein Pac-Man mit Maul auf der rechten Seite.
Das war der schwierige Teil, jetzt kommt noch das Integral:
$$I=\int\limits_D(x^2+y^2)\,dx\,dy=\int\limits_0^2dr\,r\int\limits_{\pi/4}^{7\pi/4}d\varphi\,r^2=\int\limits_0^2r^3\,dr\int\limits_{\pi/4}^{7\pi/4}d\varphi$$$$\phantom{I}=\left[\frac{r^4}{4}\right]_0^2\cdot\left[\varphi\right]_{\pi/4}^{7\pi/4}=\frac{2^4}{4}\cdot\frac{3}{2}\pi=6\pi$$
