Aloha :)
Das Problem in dieser Aufgabe ist etwas versteckt. Du hast normalerweise in kartesischen Koordinaten das infinitesimale Volumenelement \(dV=dx\,dy\,dz\). Hier jedoch gehst du zu anderen Koordinaten \((r,\psi,\varphi)\) über und musst auch das Volumenelement \(dV\) in die neuen Koordinaten transformieren. Über die beim Koordinaten-Übergang auftretende Verzerrung des Volumenelemts gibt die Funktional-Determinate Auskunft:
$$\frac{dx\,dy\,dz}{dr\,d\psi\,d\varphi}=\left|\begin{array}{rrr}\cos\psi\cos\varphi & -r\sin\psi\cos\varphi & -(R+r\cos\psi)\sin\varphi\\\cos\psi\sin\varphi & -r\sin\psi\sin\varphi & (R+r\cos\psi)\cos\varphi\\\sin\psi & r\cos\psi & 0\end{array}\right|$$$$\phantom{\frac{dx\,dy\,dz}{dr\,d\psi\,d\varphi}}=r(R+r\cos\psi)\left|\begin{array}{rrr}\cos\psi\cos\varphi & -\sin\psi\cos\varphi & -\sin\varphi\\\cos\psi\sin\varphi & -\sin\psi\sin\varphi & \cos\varphi\\\sin\psi & \cos\psi & 0\end{array}\right|$$$$\phantom{\frac{dx\,dy\,dz}{dr\,d\psi\,d\varphi}}=r(R+r\cos\psi)\left(\sin\psi\left|\begin{array}{rr}-\sin\psi\cos\varphi & -\sin\varphi\\-\sin\psi\sin\varphi & \cos\varphi\end{array}\right|-\cos\psi\left|\begin{array}{rr}\cos\psi\cos\varphi & -\sin\varphi\\\cos\psi\sin\varphi & \cos\varphi\end{array}\right|\right)$$$$\phantom{\frac{dx\,dy\,dz}{dr\,d\psi\,d\varphi}}=r(R+r\cos\psi)\left(\sin\psi\cdot(-\sin\psi)-\cos\psi\cdot\cos\psi\right)=-r(R+r\cos\psi)$$Das negative Vorzeichen gibt Auskunft darüber, dass die neuen Koordinaten in der Reihenfolge \((r,\psi,\varphi)\) ein Linkssystem und kein Rechtssystem bilden. Für die Berechnung des Volumens ist das unerheblich, weil wir am Ende eh den Betrag nehmen.
$$V=\int\limits_{r=0}^a\,\int\limits_{\psi=0}^{2\pi}\,\int\limits_{\varphi=0}^{2\pi}r(R+r\cos\psi)\,dr\,d\psi\,d\varphi=2\pi\int\limits_{r=0}^a\,\int\limits_{\psi=0}^{2\pi}(rR+r^2\cos\psi)\,dr\,d\psi$$$$\phantom{V}=2\pi\int\limits_{0}^a\left[rR\psi+r^2\sin\psi\right]_{\psi=0}^{2\pi}\,dr=2\pi\int\limits_0^a2\pi rR\,dr=4\pi^2R\left[\frac{r^2}{2}\right]_0^a=2\pi^2a^2R$$