Aloha :)
Willkommen in der Mathelounge... \o/
Hier musst du dir über die Integrationsgrenzen klar werden. Die Punktmenge \(A\), über die wir integrieren sollen, enthält Punkte \((x;y)\in\mathbb R^2\), im ersten Quadranten \(x\ge0, y\ge0\), deren Summe \(x+y\le2\) sein soll. Wir können also zunächst \(x\in[0;2]\) frei wählen und halten es fest. Für \(y\) ist unsere Wahl dann aber eingeschränkt, weil wir ja die Bedingung \(y\le2-x\) erfüllen müssen, also \(y\in[0;2-x]\). Damit ist dann auch die Integrationsreihenfolge vorgegeben, wir müssen zuerst über \(dy\) integrieren und anschließend über \(dx\). Das sieht formal so aus:
$$I=\int\limits_A\left(\frac32x^2+3y^2\right)\,d(x;y)=\int\limits_{x=0}^2\left(\,\int\limits_{y=0}^{2-x}\left(\frac32x^2+3y^2\right)dy\right)dx$$$$\phantom{I}=\int\limits_{x=0}^2\left[\frac32x^2y+y^3\right]_{y=0}^{2-x}dx=\int\limits_{x=0}^2\left(\frac32(2x^2-x^3)+(2-x)^3\right)dx$$$$\phantom{I}=\left[\frac32\left(\frac23x^3-\frac{x^4}{4}\right)-\frac{(2-x)^4}{4}\right]_{x=0}^2=\left(8-6-0\right)-\left(0-0-4\right)=6$$
