Aloha :)
Man kann ein "nach außen" nur für geschlossene Flächen definieren. Das ist aber eigentlich nur nötig, wenn man den Gauß'schen Integralsatz anwenden möchte, um ein Flächenintegral über ein Vektorfeld auf ein Volumenintegral über die Divergenz dieses Vektorfeldes zurückzuführen. Die Divergenz ist nämlich positiv, wenn etwas aus dem Volumen, das von der Fläche eingeschlossen wird, hinaus strömt. Wenn man da nicht auf die Richtung der Flächennormale achtet, kommt im Ergebnis das falsche Vorzeichen raus.
Zum Berechnen von Normalenvektoren gibt es zwei wichtige "Tricks". Oft kann man Flächen in der Form einer Funktion darstellen, die konstant ist. Dann kann man den Normalenvektor über den Gradienten berechnen:$$\Psi(x,y,z)=\text{const}\quad\Rightarrow\quad\vec n=\frac{\text{grad}\Psi(x,y,z)}{\left|\text{grad}\Psi(x,y,z)\right|}$$Das ist z.B. bei ebenen Flächen der Fall, wenn du die Ebenengleichung in Koordinatenform vorliegen hast:$$E:\;2x+2y+1z=25\quad\Rightarrow\quad\vec n=\frac{1}{3}\left(\begin{array}{c}2\\2\\1\end{array}\right)$$Wenn du keine solche Darstellung hast, kannst du über den Ortsvektor \(\vec r\) gehen, der die Fläche abtastet. Wichtig dabei ist, dass alle Koordinaten dieses Ortsvektor von \(2\) unabhängigen Variablen \(\alpha, \beta\) abhängen:$$\vec r=\left(\begin{array}{c}x(\alpha,\beta)\\y(\alpha,\beta)\\z(\alpha,\beta)\end{array}\right)\quad\Rightarrow\quad\vec n=\frac{\partial \vec r}{\partial\alpha}\times\frac{\partial \vec r}{\partial\beta}\quad\text{muss noch normiert werden!}$$
Wir wenden das mal auf deine konkrete Aufgabe an. Bei der Menge$$Z=\left\{\left.(x,y,z)\in\mathbb{R^3}\right|x^2+y^2\le4\,,\,0\le z\le 3\right\}$$handelt es sich um einen Zylinder. Der Boden liegt bei \(z=0\) in der \(xy\)-Ebene. Der Deckel liegt bei \(z=3\) parallel zur \(xy\)-Ebene. Damit haben wir schon die Normalenvektoren von Boden und Deckel. Der Punkt \(P_1\) liegt im Boden, der Punkt \(P_3\) liegt im Deckel. Die Normalenvektoren sind daher:
$$P_1(0|0|0)\;\;\Rightarrow\;\;z=0\;\;\Rightarrow\;\;\vec n=\frac{\text{grad}(z)}{|\text{grad}(z)|}=\left(\begin{array}{c}0\\0\\1\end{array}\right)\;\;\Rightarrow\;\;\vec n_1=\left(\begin{array}{c}0\\0\\-1\end{array}\right)$$Weil wir uns im Boden befinden, haben wir hier den Fall, dass wir das Vorzeichen des Normalenvektors ändern müssen, damit er nach "außen" bzw. nach unten zeigt.
$$P_3(1|-1|3)\;\;\Rightarrow\;\;z=3\;\;\Rightarrow\;\;\vec n_3=\frac{\text{grad}(z)}{|\text{grad}(z)|}=\left(\begin{array}{c}0\\0\\1\end{array}\right)$$Der Punkt \(P_3\) befindet sich im Deckel, daher zeigt der Normalenvektor bereits in die richtige Richtung.
Interessant wird jetzt Punkt \(P_2\), weil sich dieser im Mantel befindet. Dazu wählen wir den Ortsvektor, der den Mantel abtastet und bestimmen daraus den Normalenvektor:
$$\vec r=\left(\begin{array}{c}x\\\pm\sqrt{4-x^2}\\z\end{array}\right)\quad\Rightarrow\quad\vec n=\underbrace{\left(\begin{array}{c}1\\\mp\frac{x}{\sqrt{4-x^2}}\\0\end{array}\right)}_{=\frac{\partial\vec r}{\partial x}}\times\underbrace{\left(\begin{array}{c}0\\0\\1\end{array}\right)}_{=\frac{\partial\vec r}{\partial z}}=\left(\begin{array}{c}\mp\frac{x}{\sqrt{4-x^2}}\\-1\\0\end{array}\right)$$Wir setzen \(x=\sqrt2\) ein und müssen, weil \(y=\sqrt2\) ist, das obere Vorzeichen wählen:$$\vec n=\left(\begin{array}{c}-\frac{\sqrt2}{\sqrt{4-2}}\\-1\\0\end{array}\right)=\left(\begin{array}{c}-1\\-1\\0\end{array}\right)$$Wichtig ist, dass wir bei der Vektorprodukt-Methode den erhaltenen Normalenvektor noch normieren müssen. Das können wir hier direkt damit verbinden, dass wir den Vektor noch negieren müssen, damit er nach "außen" zeigt:$$\vec n_3=\frac{1}{\sqrt2}\left(\begin{array}{c}1\\1\\0\end{array}\right)$$
