Was genau ist deine Aufgabe?
Zu lösen gibt es hier nichts, aber man kann zeigen, dass die Gleichung wahr ist (Übrigens: Die Matrix in Betragsstrichen ist nicht einfach eine Matrix, sondern damit wird die Determinante der Matrix innerhalb der Betragsstriche bezeichnet.
Diese Determinante kann man nach dem Laplaceschen Entwicklungssatz (siehe Link im Kommentar von Lu) berechnen. Das habe ich nachfolgend mal getan:
$$\left| \begin{matrix} x & y & 0 & 1 \\ -y & x & -1 & 0 \\ 0 & 1 & x & -y \\ -1 & 0 & y & x \end{matrix} \right| =x*\left| \begin{matrix} x & -1 & 0 \\ 1 & x & -y \\ 0 & y & x \end{matrix} \right| -y*\left| \begin{matrix} -y & -1 & 0 \\ 0 & x & -y \\ -1 & y & x \end{matrix} \right|$$$$+0*\left| \begin{matrix} -y & -x & 0 \\ 0 & 1 & -y \\ -1 & 0 & x \end{matrix} \right| -1*\left| \begin{matrix} -y & x & -1 \\ 0 & 1 & x \\ -1 & 0 & y \end{matrix} \right|$$$$=x*({ (x }^{ 3 }+0+0)-(0+(-xy^{ 2 })+(-x)))$$$$-y*(((-x^{ 2 }y)+(-y)+0)-(0+0+y^{ 3 }))$$$$-1*(((-y^{ 2 })+(-x^{ 2 })+0)-(1+0+0))$$$$=x*({ x }^{ 3 }+xy^{ 2 }+x)-y*(-x^{ 2 }y-y-y^{ 3 })-(-y^{ 2 }-x^{ 2 }-1)$$$$={ x }^{ 4 }+{ x }^{ 2 }{ y }^{ 2 }+{ x }^{ 2 }+{ x }^{ 2 }{ y }^{ 2 }+{ y^{ 2 }+y }^{ 4 }+{ y }^{ 2 }+x^{ 2 }+1$$$$={ x }^{ 4 }+{ 2x }^{ 2 }{ y }^{ 2 }+{ 2x }^{ 2 }+2y^{ 2 }+{ y }^{ 4 }+1$$$$=({ x }^{ 2 }+{ y }^{ 2 }+1)^{ 2 }$$
Dass die letzte Umformung richtig ist, kann man zeigen, indem man ( x 2 + y 2 + 1 ) 2 ausmultipliziert.