Aloha :)
Die Punktmenge \(M\) ist ja bereits in Zylinderkoordinaten angegeben. Ihr Volumen erhalten wir durch Integration über das Volumenemelent \(dV=r\,dr\,d\varphi\,dz\):$$V=\iiint\limits_MdV=\int\limits_{r=0}^{R_0}\;\int\limits_{\varphi=0}^{2\pi}\int\limits_{z=z_0}^{\sqrt{R^2-r^2}}r\,dr\,d\varphi\,dz$$
Da die obere Grenze der Integration über \(dz\) noch von \(r\) abhängt, muss die Integration über \(dz\) vor der Integration über \(dr\) erfolgen:$$V=\underbrace{\int\limits_{\varphi=0}^{2\pi}d\varphi}_{=2\pi}\cdot\int\limits_{r=0}^{R_0}r\cdot\underbrace{\left(\int\limits_{z=z_0}^{\sqrt{R^2-r^2}}dz\right)}_{=\left(\sqrt{R^2-r^2}-z_0\right)}dr=2\pi\int\limits_{r=0}^{R_0}r\left(\sqrt{R^2-r^2}-z_0\right)\,dr$$$$\phantom{V}=2\pi\left(\;\int\limits_{r=0}^{R_0}r\left(R^2-r^2\right)^{\frac12}\,dr-\int\limits_{r=0}^{R_0}z_0r\,dr\right)=2\pi\left(\left[-\frac13\left(R^2-r^2\right)^{\frac32}\right]_{r=0}^{R_0}-\left[\frac{z_0r^2}{2}\right]_{r=0}^{R_0}\right)$$$$\phantom{V}=2\pi\left(-\frac{\left(R^2-R_0^2\right)^{\frac32}}{3}+\frac{R^3}{3}-\frac{z_0R^2}{2}\right)$$
Nun ist laut Aufgabenstellung \(R_0=\sqrt{R^2-z_0^2}\), was wir in das Volumen einsetzen:$$\phantom{V}=2\pi\left(-\frac{\left(R^2-\left(R^2-z_0^2\right)\right)^{\frac32}}{3}+\frac{R^3}{3}-\frac{z_0R^2}{2}\right)=2\pi\left(-\frac{z_0^3}{3}+\frac{R^3}{3}-\frac{z_0R^2}{2}\right)$$$$\phantom{V}=\left(\frac{2R^3}{3}-R^2z_0+\frac{(-2)}{3}z_0^3\right)\pi$$
Damit ist dann \(a=2\) und \(b=-2\).