Aloha :)
$$\vec F(\vec r)=\begin{pmatrix}x^2+2xy\\x^2+2y^2+az^2\\byz\end{pmatrix}\quad;\quad\vec r_1(t)=\begin{pmatrix}2t\\5t\\1-t\end{pmatrix}\;;\; \vec r_2(t)=\begin{pmatrix}2t^2\\5t\\1-t\end{pmatrix}\;;\;t\in[0;1]$$
zu a) Das Kurvenintegral entspricht physikalisch der Energie, die benötigt wird, um auf dem vorgegebenen Weg \(\vec r(t)\) durch das Kraftfeld \(\vec F(\vec r)\) zu gelangen. Daher hängt das Ergebnis im Allgemeinen vom Weg ab.
$$E_1=\int\limits_{\vec r_1(0)}^{\vec r_1(1)}\vec F(\vec r_1)\,d\vec r_1=\int\limits_{t=0}^1\vec F(\vec r_1(t))\,\frac{d\vec r_1}{dt}\,dt$$$$\phantom{E_1}=\int\limits_{t=0}^1\begin{pmatrix}(2t)^2+2(2t)(5t)\\(2t)^2+2(5t)^2+a(1-t)^2\\b(5t)(1-t)\end{pmatrix}\begin{pmatrix}2\\5\\-1\end{pmatrix}dt$$$$\phantom{E_1}=\int\limits_{t=0}^1\begin{pmatrix}24t^2\\54t^2+a(1-t)^2\\5b(t-t^2)\end{pmatrix}\begin{pmatrix}2\\5\\-1\end{pmatrix}dt$$$$\phantom{E_1}=\int\limits_0^1(318t^2+5a(1-t)^2+5b(t^2-t))\,dt=\cdots=106+\frac{5(2a-b)}{6}$$
$$E_2=\int\limits_{\vec r_2(0)}^{\vec r_2(1)}\vec F(\vec r_2)\,d\vec r_2=\int\limits_{t=0}^1\vec F(\vec r_2(t))\,\frac{d\vec r}{dt}\,dt$$$$\phantom{E_2}=\int\limits_{t=0}^1\begin{pmatrix}(2t^2)^2+2(2t^2)(5t)\\(2t^2)^2+2(5t)^2+a(1-t)^2\\b(5t)(1-t)\end{pmatrix}\begin{pmatrix}4t\\5\\-1\end{pmatrix}dt$$$$\phantom{E_2}=\int\limits_{t=0}^1\begin{pmatrix}4t^4+20t^3\\4t^4+50t^2+a(1-t)^2\\5b(t-t^2)\end{pmatrix}\begin{pmatrix}4t\\5\\-1\end{pmatrix}dt$$$$\phantom{E_2}=\int\limits_0^1(16t^5+100t^4+250t^2+5a(1-t)^2+5b(t^2-t))\,dt=\cdots=106+\frac{5(2a-b)}{6}$$
zu b) Damit das Ergebnis für alle Wege durch das Vektorfeld \(\vec F(\vec r)\) gleich ist, muss dieses der Gradient eines Skalarfeldes \(\phi(\vec r)\) sein. Ein solches Skalarfeld existiert genau dann, wenn die Rotation des Vektorfeldes \(\vec F\) verschwindet:$$\operatorname{rot}\vec F=\begin{pmatrix}\partial_x\\\partial_y\\\partial_z\end{pmatrix}\times\begin{pmatrix}x^2+2xy\\x^2+2y^2+az^2\\byz\end{pmatrix}=\begin{pmatrix}bz-2az\\0-0\\2x-2x\end{pmatrix}=\begin{pmatrix}(b-2a)z\\0\\0\end{pmatrix}\stackrel!=\begin{pmatrix}0\\0\\0\end{pmatrix}$$
Das Ergebnis ist also sicher wegunabhängig, falls \((\pink{b=2a})\) gilt.
Für diesen Fall lautet das Vektorveld:$$\vec F(\vec r)=\begin{pmatrix}x^2+2xy\\x^2+2y^2+az^2\\\pink{2a}yz\end{pmatrix}$$Da wir nun wissen, dass das Ergebnis unabhängig vom Weg ist, können wir einen Weg entlang der Koordinatenachsen wählen:$$E(\vec r_0)=\int\limits_{\vec 0}^{\vec r_0}\vec F(\vec r)\,d\vec r=\int\limits_{(0;0;0)}^{(x_0;y_0;z_0)}\begin{pmatrix}F_x\\F_y\\F_z\end{pmatrix}\begin{pmatrix}dx\\dy\\dz\end{pmatrix}$$$$\phantom{E(\vec r_0)}=\int\limits_{(0;0;0)}^{(x_0;0;0)}\begin{pmatrix}F_x\\F_y\\F_z\end{pmatrix}\begin{pmatrix}dx\\dy\\dz\end{pmatrix}+\int\limits_{(x_0;0;0)}^{(x_0;y_0;0)}\begin{pmatrix}F_x\\F_y\\F_z\end{pmatrix}\begin{pmatrix}dx\\dy\\dz\end{pmatrix}+\int\limits_{(x_0;y_0;0)}^{(x_0;y_0;z_0)}\begin{pmatrix}F_x\\F_y\\F_z\end{pmatrix}\begin{pmatrix}dx\\dy\\dz\end{pmatrix}$$
Dadurch ändert sich in jedem Integral nur eine Koordinate und die beiden anderen sind konstant, insbedondere sind dann auch jeweils zwei Differentiale null:$$\phantom{E(\vec r_0)}=\int\limits_{0}^{x_0}F_x(x;0;0)\,dx+\int\limits_{0}^{y_0}F_y(x_0;y;0)dy+\int\limits_{0}^{z_0}F_z(x_0;y_0,z)\,dz$$$$\phantom{E(\vec r_0)}=\int\limits_{0}^{x_0}x^2\,dx+\int\limits_{0}^{y_0}(x_0^2+2y^2)\,dy+\int\limits_{0}^{z_0}2ay_0z\,dz=\frac{x_0^3}{3}+\left(x_0^2y_0+\frac23y_0^3\right)+ay_0z_0^2$$
Wenn du das Prinzip verstanden hast, kannst du das Ergebnis direkt aus dem Vektorfeld heraus hinschreiben. Ich habe das nur zum Verständnis ausführlich gemacht ;)
Bei der Integration sind wir willkürlich vom Punkt \((0;0;0)\) aus gestartet, wir hätten auch von jedem anderen Punkt aus starten können, was sich im Ergebnis durch eine Konstante bemerkbar gemacht hätte. Daher geben wir als Stammfunktion an:$$E(x;y;z)=\frac{x^3+2y^3}{3}+x^2y+ayz^2+\text{const}$$
Zur Verifikation musst du nun einfach den Endpunkt \((2|5|0)\) einsetzen und solltest \(106\) erhalten, weil ja \(\pink{(b=2a)}\) vorausgestzt wurde.