Aloha :)
Willkommen in der Mathelounge... \o/
Wir betrachten die Funktion:$$\vec g(x;y)=\binom{y^2(1+\cos(x+y))}{2xy-2y+y^2\cos(x+y)+2y\sin(x+y)}$$
zu a) Ich weiß nicht, welche Bedingung (20.12) ist, kann mir aber denken, dass die Integrabilitäts-Bedingung gemeint ist:$$\frac{\partial g_x}{\partial y}=2y(1+\cos(x+y))-y^2\sin(x+y)$$$$\frac{\partial g_y}{\partial x}=2y-y^2\sin(x+y)+2y\cos(x+y)$$Offensichtlich sind beide partiellen Ableitung gleich, sodass ein Potential \(F\) existiert.
zu b) Wenn ein Potential \(F=F(\vec r)\) existiert, ist das Wegintegral über \(\vec g(\vec r)\) zwischen zwei beliebgen Punkten, etwa zwischen \((0|0)\) und \((x|y)\), unabhängig vom gewählten Weg. Der Einfachheit halber wählen wir den Weg entlang der Koordinatenachsen:$$\binom{0}{0}\mapsto\binom{x}{0}\mapsto\binom{x}{y}$$Um eine Verwechslung zwischen den Integrationsgrenzen und den Variablen zu vermeiden, benennen wir die Variablen der Funktion zur Berechnung in \(s\) und \(t\) um.$$F(\vec r)=\int\limits_{(0|0)}^{(x|y)}\vec g(\vec r)\,d\vec r=\int\limits_{(0|0)}^{(x|0)}\vec g(s;t)\binom{ds}{dt}+\int\limits_{(x|0)}^{(x|y)}\vec g(s;t)\binom{ds}{dt}$$Da sich im ersten Integral die \(t\)-Komponente gar nicht ändert, ist \(t=0\) und \(dt=0\). Im zweiten Integral ändert sich die \(s\)-Komponente nicht, sodass \(s=x\) und \(ds=0\) ist.$$\phantom{F(x;y)}=\int\limits_0^x\vec g(s;0)\binom{ds}{0}+\int\limits_0^y\vec g(x;t)\binom{0}{dt}=\int\limits_0^x g_1(s;0)\,ds+\int\limits_0^y g_2(x;t)\,dt$$$$\phantom{F(x;y)}=\int\limits_0^x0\,ds+\int\limits_0^y\left(2xt-2t+t^2\cos(x+t)+2t\sin(x+t)\right)\,dt$$$$\boxed{F(x;y)=y^2\left(\sin(x+y)+x-1\right)}$$
zu c) Hier brauchen wir nur Start- und Enpunkt in das Potential einzusetzen:$$I=\int\limits_C\vec g\,d\vec r=F(\vec c(1))-F(\vec c(0))=F\left(\frac\pi2\,\big|\,\frac\pi4\right)-F\left(\frac\pi2\,\big|\,0\right)$$$$\phantom{I}=\frac{1}{32}\pi^2\left(\pi+\sqrt2-2\right)$$