Aloha :)
Du benötigst zuerst einen Ortsvektor \(\vec r\), der vom Ursprung ausgehend, das Volumen abtastet. Wegen der Symmetrie der Situation bieten sich dazu Zylinderkoordinaten an. Dabei müssen wir beachten, dass der maximale senkrechte Abstand \(r_{\text{max}}\) zur \(z\)-Achse und die Höhe \(z\) über \(\left(r_{\text{max}}=\frac45z\right)\) miteinader verknüft sind:$$\vec r=\begin{pmatrix}r\cos\varphi\\r\sin\varphi\\z\end{pmatrix}\quad;\quad r\in\left[0;\frac45z\right]\;;\;\varphi\in[0;2\pi]\;;\;z\in\left[0;5\right]\quad;\quad dV=r\,dr\,d\varphi\,dz$$
Damit kannst du das Integral für die Masse formulieren:$$M=\int\limits_V\rho(\vec r)\,dV=\int\limits_{r=0}^{4z/5}\int\limits_{\varphi=0}^{2\pi}\;\int\limits_{z=0}^5e^{-z}\,r\,dr\,d\varphi\,dz=2\pi\int\limits_{z=0}^5\left(e^{-z}\int\limits_{r=0}^{4z/5}r\,dr\right)dz$$$$\phantom{M}=2\pi\int\limits_{z=0}^5e^{-z}\left[\frac{r^2}{2}\right]_{r=0}^{4z/5}dz=\frac{16}{25}\pi\int\limits_{z=0}^5z^2e^{-z}\,dz=\frac{16}{25}\pi\left[-e^{-z}(z^2+2z+2)\right]_{z=0}^5$$$$\phantom{M}=\frac{16}{25}\pi\left(-\frac{37}{e^5}+2\right)=\frac{16}{25}\pi\left(2-\frac{37}{e^5}\right)\approx3,52\,\mathrm g$$
