Ich vermute mal, j soll die imaginäre Einheit sein.
Es sei z = zr + jzi mit reellen zr und zi.
Dann ist z~ = zr - jzi
1) lässt sich damit formulieren als
(zr + jzi)2 = j·(zr - jzi)
Jetzt kannst du weitestgehend mit reellen Zahlen rechnen; unter der Beachtung von j2 = -1.
Wegen binomischer Formel ist
(zr + jzi)2 = zr2 + 2zrzij + (jzi)2 = zr2-zi2 + 2zrzij.
Realteil von (zr + jzi)2 ist also zr2-zi2, Imaginärteil ist 2zrzi.
Außerdem ist wegen Distributivgesetz
j·(zr - jzi)= jzr - j2zi = zi +jzr.
Realteil von j·(zr - jzi) ist also zi, Imaginärteil ist zr.
Vergleicht man die Realteile, dann kommt man zu
(1) zr2-zi2 = zi.
Vergleicht man die Imaginärteile, dann kommt man zu
(2) 2zrzi = zr.
Löse das Gleichungssystem aus (1) und (2) in en reellen Zahlen.