Ich beziehe mich auf die Antwort von Lu (meine Ergänzungen rot):
(II) x/y = a/(2b)
(II)' x = (ay)/(2b)
Nun in der ersten Gleichung y durch diesen Bruch ersetzen.
Doppelbruch vereinfachen... (I) hat jetzt nur noch eine Unbekannte.
2b/ay + 1/y = (a+2b)/4ab oder auf dem Hauptnenner: (2b+a)/ay = (a+2b)/4ab
Daraus folgt unmittelbar ay = 4ab oder y = 4b und dann x = 2a
Irgendwann (später) kannst du dann noch "mal y" rechnen und kommst vermutlich auf eine quadratische Gleichung für y. Das hat Lu offensichtlich nicht zu Ende gerechnet.