Aloha :)
Wenn ich die Frage richtig verstanden habe, haben wir eine offene Teilmenge \(U\subseteq\mathbb{R}^2\) und darauf definiert eine setig differenzierbare Funktion \(f:U\to\mathbb{R}\), d.h. \(f=f(x_1,x_2)\). Damit ist eine Funktion \(F:U\to\mathbb{R}^3\) definiert, \(F(x_1,x_2):=(x_1,x_2,f(x_1,x_2))\), die eine Oberfläche abtastet. Gesucht ist nun die Größe dieser Oberfläche über einer kompakten Teilemenge \(K\subseteq U\), d.h. \((x_1,x_2)\) tastet ganz \(K\) ab.
Der Ortsvektor \(\vec r\) taste die Oberfläche \(F\) ab, d.h.:$$\vec r=\left(\begin{array}{c}x_1\\x_2\\f(x_1,x_2)\end{array}\right)$$Der Betrag des Vektorprodukts von 2 Vektoren ist gleich der Fläche des von ihnen aufgespannten Parallelogramms. Daher gilt für das infinitesimale Flächenelement:
$$d\vec f=\left(\frac{\partial\vec r}{\partial x_1}dx_1\right)\times\left(\frac{\partial\vec r}{\partial x_2}dx_2\right)=\left(\frac{\partial\vec r}{\partial x_1}\times\frac{\partial\vec r}{\partial x_2}\right)\,dx_1\,dx_2$$$$\phantom{d\vec f}=\left(\begin{array}{c}1\\0\\\frac{\partial f}{\partial x_1}\end{array}\right)\times\left(\begin{array}{c}0\\1\\\frac{\partial f}{\partial x_2}\end{array}\right)\,dx_1\,dx_2=\left(\begin{array}{c}-\frac{\partial f}{\partial x_1}\\-\frac{\partial f}{\partial x_2}\\1\end{array}\right)\,dx_1\,dx_2$$Wir benötigen hier nur den Betrag:
$$df=\left|d\vec f\right|=\sqrt{1+\left(\frac{\partial f}{\partial x_1}\right)^2+\left(\frac{\partial f}{\partial x_2}\right)^2}\,dx_1\,dx_2$$Die gesuchte Oberfläche ist daher:
$$A(F(K))=\int\limits_Kdf=\int\limits_K\sqrt{1+\left(\frac{\partial f}{\partial x_1}\right)^2+\left(\frac{\partial f}{\partial x_2}\right)^2}\,dx_1\,dx_2$$Ich komme auf eine andere Formel als in der Aufgabenstellung, dürfte mich aber eigentlich nicht vertan haben.