Hallo medi,
du solltest mit dem GA  eine obere Dreiecksmatrix herstellen.
Dabei kannst du z.B. jeweils eine Zeile Z durch Z - passendes Vielfaches der "Pivotzeile" ersetzen: 
⎡   9  3  1  1.2 ⎤
⎢ 16  4  1   3   ⎥
⎣ 64  8  1  2.2 ⎦
⎡ 9       3        1         6/5  ⎤
⎢ 0    -4/3     -7/9    13/15 ⎥   Z2 - 16/9 * Z1  
⎣ 0   -40/3   -55/9    -19/3 ⎦   Z3 -  64/9 * Z1
⎡ 9      3      1      6/5  ⎤
⎢ 0   -4/3  -7/9  13/15 ⎥
⎣ 0      0    5/3    -15   ⎦  Z3  - 10 * Z2  
→  x3 = -9  ;  x2 = 23/5  ;  x1 = -2/5
--------
Nachtrag:
mit der 3. Spalte (gemäß deinem obigen Kommentar) rechnet es sich - in diesem extremen Sonderfall :-) - wirklich deutlich einfacher:
⎡  9   3   1   6/5 ⎤
⎢  7   1   0   9/5 ⎥ Z2 - Z1
⎣ 55  5   0    1   ⎦ Z3 - Z1
⎡  9   3  1   6/5 ⎤
⎢  7   1  0   9/5 ⎥  
⎣ 20  0  0    -8  ⎦  Z3 - 5 * Z2
→  x1 = -8/(-20) = -2/5 .....
Gruß Wolfgang