Hallo medi,
du solltest mit dem GA eine obere Dreiecksmatrix herstellen.
Dabei kannst du z.B. jeweils eine Zeile Z durch Z - passendes Vielfaches der "Pivotzeile" ersetzen:
⎡ 9 3 1 1.2 ⎤
⎢ 16 4 1 3 ⎥
⎣ 64 8 1 2.2 ⎦
⎡ 9 3 1 6/5 ⎤
⎢ 0 -4/3 -7/9 13/15 ⎥ Z2 - 16/9 * Z1
⎣ 0 -40/3 -55/9 -19/3 ⎦ Z3 - 64/9 * Z1
⎡ 9 3 1 6/5 ⎤
⎢ 0 -4/3 -7/9 13/15 ⎥
⎣ 0 0 5/3 -15 ⎦ Z3 - 10 * Z2
→ x3 = -9 ; x2 = 23/5 ; x1 = -2/5
--------
Nachtrag:
mit der 3. Spalte (gemäß deinem obigen Kommentar) rechnet es sich - in diesem extremen Sonderfall :-) - wirklich deutlich einfacher:
⎡ 9 3 1 6/5 ⎤
⎢ 7 1 0 9/5 ⎥ Z2 - Z1
⎣ 55 5 0 1 ⎦ Z3 - Z1
⎡ 9 3 1 6/5 ⎤
⎢ 7 1 0 9/5 ⎥
⎣ 20 0 0 -8 ⎦ Z3 - 5 * Z2
→ x1 = -8/(-20) = -2/5 .....
Gruß Wolfgang