Aloha :)
Hier musst du auf die Reihenfolge der Integration achten. Die Obergrenze vom Integral über \(dy\) ist \(\sqrt x\), hängt also von \(x\) ab. Daher musst du zuerst über \(dy\) integrieren, bevor du über \(dx\) integrierst. Die Obergrenze vom Integral über \(dz\) ist \((1+x+y)\), hängt also sowohl von \(x\) als auch von \(y\) ab. Daher musst du über \(dz\) integrieren, bevor du über \(dx\) oder \(dy\) integrierst. Damit ist die Reihenfolge der Integration klar: \(dz\,,\,dy\,,\,dx\).
$$I=\int\limits_{x=0}^1\,\int\limits_{y=0}^{\sqrt x}\int\limits_{z=0}^{1+x+y}6xy\,dz\,dy\,dx=\int\limits_{x=0}^1\,\int\limits_{y=0}^{\sqrt x}\left[6xyz\right]_{z=0}^{1+x+y}\,dy\,dx$$$$\phantom{I}=\int\limits_{x=0}^1\,\int\limits_{y=0}^{\sqrt x}6xy(1+x+y)\,dy\,dx=\int\limits_{x=0}^1\,\int\limits_{y=0}^{\sqrt x}\left(6xy+6x^2y+6xy^2\right)\,dy\,dx$$$$\phantom{I}=\int\limits_{x=0}^1\left[3xy^2+3x^2y^2+2xy^3\right]_{y=0}^{\sqrt x}\,dx=\int\limits_{0}^1\left(3x^2+3x^3+2x^{5/2}\right)dx$$$$\phantom{I}=\left[x^3+\frac{3}{4}x^4+\frac{2}{\frac{7}{2}}x^{7/2}\right]_0^1=1+\frac{3}{4}+\frac{4}{7}=1+\frac{37}{28}=\frac{65}{28}$$
