Es ist auf jeden Fall klug, Polarkoordinaten zu verwenden.
Damit erhältst du für r die Grenzen 0 und R (denn du muss ja bis zum Rand des Kreises integrieren) und für phi die Grenzen 0 bis alpha.
Die Polarkoordinaten sind definiert als r² = x²+y² und es gilt r dr dphi = dxdy
Also musst du das folgende Integral lösen:
$$ \int _ { 0 } ^ { \alpha } \int _ { 0 } ^ { R } r ^ { 2 } \cdot r d r d \phi = \int _ { 0 } ^ { \alpha } \int _ { 0 } ^ { R } r ^ { 3 } d r d \phi = \alpha \frac { R ^ { 4 } } { 4 } $$
Da für alpha und R keine Werte angegeben sind, bleibt das so stehen.