Hier eine eventuell noch etwas einfachere Rechnung.
Wie groß ist der Abstand zwischen Fläche und Ebene und welche beiden Punkte auf der Fläche und Ebene liegen sich am nächsten gegenüber?
E: x/6 + y/12 + z/8 = 1 --> z = 8 - 4/3·x - 2/3·y
dz / dx = -4/3
dz / dy = -2/3
F: z = 2·x^2 + x·y + y^2 + 10
dz / dx = 4·x + y = -4/3
dz / dy = x + 2·y = -2/3
Löse das Gleichungssystem und erhalte
x = -2/7 ∧ y = -4/21
z = 2·(-2/7)^2 + (-2/7)·(-4/21) + (-4/21)^2 + 10 = 646/63
x = -0.2857142857 ∧ y = -0.1904761904 ∧ z = -10.25396825
Einsetzen in die Abstandsformel der Ebene
d = (4·x + 2·y + 3·z - 24) / √(4^2 + 2^2 + 3^2)
d = (4·(-2/7) + 2·(-4/21) + 3·(646/63) - 24) / √(4^2 + 2^2 + 3^2) = 110/609·√29 = 0.9726898666
Hier habe ich nur den Punkt der Fläche F ausgerechnet. Der andere Punkt ist aber nicht schwer weil du ja den Normalenvektor der Ebene und den Abstand hast.