Ich schreibe mal x und y statt x1 und x2 .
Wenn du eine partielle Ableitung berechnest, dann leitest du ganz normal
nach einer Variablen ab und betrachtest die andere als Konstante, also
fx = 12x^2 - 2xy + y^2 + 3y + 3
fy=3y^2 + 2xy - 14y - x^2 + 3x
und die 2.Ableitungen
fxx=24x - 2y
fxy=2y-2x+3 = fyx
fyy=6y+2x-14
An der Stelle (2;1) gibt das
fxx(2;1)=46 fxy (2;1)= 1 = fxy (2;1) fyy(2;1) = -4
Hessematrix also
46 1
1 -4
also det= -185.
Also Hessematrix indefinit.
Damit ist
( siehe https://de.wikipedia.org/wiki/Hesse-Matrix#Konvexit%C3%A4t
die Funktion dort weder konkav noch konvex.