Eine Relation ist ja einfach eine Teilmenge des kartesischen Produktes der Grundmengen, in deinem Fall Z x Z. Das heisst, die Elemente der Relation sind geordnete Tupel (a,b) mit a, b in Z, wobei a in Relation zu b steht (mit der vorgegebenen Vorschrift).
Also wenn bei a) $$k, l \in \mathbb{Z}, kRl \Leftrightarrow k^2 \geq l^2$$, dann sind alle Tupel (a,b) mit a,b in Z in der Relation enthalten, wo a^2 >= b^2 ist, z.B. (2,2), weil 2^2 >= 2^2, oder (4,2), weil 4^2 >= 2^2, aber z.B. nicht (2,4), weil 2^2 nicht größer gleich 4^2 ist.
Bei a hast du richtig erkannt, dass die Relation reflexiv ist, denn $$k = l \Rightarrow k^2 \geq k^2 \Rightarrow kRk$$.
Wenn sie symmetrisch ist, muss gelten $$\forall a,b \in \mathbb{Z}, a \neq b: aRb \Rightarrow bRa$$. Da reicht ein Gegenbeispiel, um zu zeigen, dass dies nicht so ist, denn wenn a = 4, b = 2, dann ist a^2 >= b^2 bzw. 4^2 >= 2^2, also aRb, aber nicht bRa, weil b^2 >= a^2 bzw. 2^2 >= 4^2 falsch ist. Somit gilt es nicht für alle a,b in Z.
Sie ist auch nicht antisymmetrisch, da $$\forall a,b \in \mathbb{Z}: aRb \land bRa \Rightarrow a = b$$, (-4)^2 >= 4^2, also (-4)R4 und 4^2 >= (-4)^2, also 4R(-4), aber 4 ist nicht gleich -4.
Für die Transitivität muss man zeigen $$\forall a,b,c \in \mathbb{Z}: aRb \land bRc \Rightarrow aRc$$, also wenn z.B. 4^2 >= 2^2 und 2^2 >= 1^2, muss 4^2 >= 1^2 sein. Das gilt auch allgemein (Transitivität der ganzen Zahlen).
Versuch dich nochmal an b. Es ist nicht soo kompliziert, man muss es nur einmal verstanden haben.