Aloha :)
Aus den Integrationsgrenzen kannst du erkennen, über welche Menge \(M\) integriert wird:$$M=\{(x;y)\in\mathbb R^2\,\big|\,x\in[1;2]\;\land\;y\in[x;x^2]\}$$
Das ist die Fläche zwischen den Graphen von \(g_1(x)=x\) und \(g_2(x)=x^2\):
~plot~ x*(x>=1)*(x<=2) ; x^2*(x>=1)*(x<=2) ; [[1|2,1|0|4]] ~plot~
Die Fläche ist nun:$$I=\int\limits_1^2\left(\int\limits_x^{x^2}(2x-y)dy\right)dx=\int\limits_1^2\left[2xy-\frac{y^2}{2}\right]_{y=x}^{x^2}dx$$$$\phantom{I}=\int\limits_1^2\left(\left(2x^3-\frac{x^4}{2}\right)-\left(2x^2-\frac{x^2}{2}\right)\right)dx=\int\limits_1^2\left(-\frac{x^4}{2}+2x^3-\frac{3x^2}{2}\right)dx$$$$\phantom{I}=\left[-\frac{x^5}{10}+\frac{x^4}{2}-\frac{x^3}{2}\right]_1^2=\left(-\frac{32}{10}+8-4\right)-\left(-\frac{1}{10}+\frac{1}{2}-\frac{1}{2}\right)=\frac{9}{10}$$