Das sieht grausam aus mit den Brüchen.
Wir lassen b mal einfach b sein und subtrahieren die Originalgleichung 2 von der Oringinalgleichung 1:
x(a-1) + y(1-a)=0
Wegen (1-a)= -(a-1) folgt daraus
(x-y)(a-1)=0
Für a=1 ist das offensichtlich erfüllt. Übrigens: Für a=1 besteht das Gleichungssystem aus den drei identischen Gleichungen x+y+z=b.
Für a ≠ 1 ist (x-y)(a-1)=0 nur erfüllbar, wenn x=y gilt.
Wenn man analog Gleichung 3 von Gleichung 2 subtrahiert, erhält man entsprechend y=z. Somit muss x=y=z gelten, und wir können sowohl y als auch z durch x ersetzen.
Alle drei Gleichungen lauten dann
a*x+x+x=b bzw. (a+2)*x=b.
Jetzt kannst du das für b=0 bzw. für b=1 verwenden.