Aloha :)
Willkommen in der Mathelounge... \o/
Zur Anwendung des Gauß-Verfahrens schreibst du das Gleichungssystem zuerst in Form einer Tabelle auf:$$\begin{array}{rrrr|r|l}x_1 & x_2 & x_3 & x_4 & = & \text{Rechen-Operation}\\\hline1 & 2 & -1 & 3 & 5 & \\3 & 5 & -1 & 0 & -2 & \\2 & 3 & 0 & -3 & -7 &\\4 & -4 & 2 & 0 & 8\end{array}$$
Nun führst du elementare Gauß-Operationen durch, d.h.
1) Multiplikation / Division einer Zeile mit einer Konstanten
2) Addition / Subtraktion des Vielfachen einer Zeile zu / von einer anderen Zeile
Ziel ist es, so viele Spalten wie möglich zu erhalten, die aus lauter Nullen und genau einer Zahl ungleich Null (am besten einer Eins) bestehen.
$$\begin{array}{rrrr|r|l}x_1 & x_2 & x_3 & x_4 & = & \text{Rechen-Operation}\\\hline1 & 2 & -1 & 3 & 5 & \\3 & 5 & -1 & 0 & -2 & -3\cdot\text{Zeile 1} \\2 & 3 & 0 & -3 & -7 & -2\cdot\text{Zeile 1}\\4 & -4 & 2 & 0 & 8 & -4\cdot\text{Zeile 1}\\\hline1 & 2 & -1 & 3 & 5 &\\0 & -1 & 2 & -9 & -17 &\cdot(-1)\\0 & -1 & 2 & -9 & -17 &-\text{Zeile 2}\\0 & -12 & 6 & -12 & -12 &\div6\\\hline1 & 2 & -1 & 3 & 5 & -2\cdot\text{Zeile 2}\\0 & 1 & -2 & 9 & 17 & \\0 & 0 & 0 & 0 & 0 &\\0 & -2 & 1 & -2 & -2 & +2\cdot\text{Zeile 2}\\\hline1 & 0 & 3 & -15 & -29 &+\text{Zeile 4}\\0 & 1 & -2 & 9 & 17 &\\0 & 0 & 0 & 0 & 0 &\\0 & 0 & -3 & 16 & 32 &\div(-3)\\\hline1 & 0 & 0 & 1 & 3 &\\0 & 1 & -2 & 9 & 17 &+2\cdot\text{Zeile 4}\\0 & 0 & 0 & 0 & 0 &\\0 & 0 & 1 & -\frac{16}{3} & -\frac{32}{3} &\\[-2ex]\\\hline\pink1 & 0 & 0 & 1 & 3 & \Rightarrow \pink{x_1}+x_4=3\\0 & \pink1 & 0 & -\frac53 & -\frac{13}{3} & \Rightarrow \pink{x_2}-\frac53x_4=-\frac{13}{3}\\0 & 0 & 0 & 0 & 0 & \checkmark\\0 & 0 & \pink1 & -\frac{16}{3} & -\frac{32}{3} & \Rightarrow\pink{x_3}-\frac{16}{3}x_4=-\frac{32}{3}\end{array}$$
Unterwegs in der Rechnung hat sich eine Null-Zeile ergeben, die natürlich stets erfüllt ist. Wir stellen die erhaltenen Gleichungen nach den pinken Variablen um:$$\pink{x_1}=3-x_4\quad;\quad\pink{x_2}=-\frac{13}{3}+\frac53x_4\quad;\quad \pink{x_3}=-\frac{32}{3}+\frac{16}{3}x_4$$und schreiben alle möglichen Lösungen auf:$$\vec x=\begin{pmatrix}x_1\\x_2\\x_3\\x_4\end{pmatrix}=\begin{pmatrix}3-x_4\\[1ex]-\frac{13}{3}+\frac53x_4\\[1ex]-\frac{32}{3}+\frac{16}{3}x_4\\x_4\end{pmatrix}=\begin{pmatrix}3\\[1ex]-\frac{13}{3}\\[1ex]-\frac{32}{3}\\0\end{pmatrix}+x_4\begin{pmatrix}-1\\[1ex]\frac53\\[1ex]\frac{16}{3}\\1\end{pmatrix}\quad;\quad x_4\in\mathbb R$$
Das entspricht der angegebenen Lösung.
Uns gefällt die Lösung aber wegen der Brüche noch nicht. Da \(x_4\in\mathbb R\) völlig frei gewählt werden darf, können wir es z.B. durch \((3s-1)\) ersetzen, wobei wir \(s\in\mathbb R\) wieder völlig frei wählen dürfen. Das führt dann zu einer Lösung ohne Brüche:
$$\vec x=\begin{pmatrix}3\\[1ex]-\frac{13}{3}\\[1ex]-\frac{32}{3}\\0\end{pmatrix}+(3s-1)\begin{pmatrix}-1\\[1ex]\frac53\\[1ex]\frac{16}{3}\\1\end{pmatrix}=\begin{pmatrix}3\\[1ex]-\frac{13}{3}\\[1ex]-\frac{32}{3}\\0\end{pmatrix}-\begin{pmatrix}-1\\[1ex]\frac53\\[1ex]\frac{16}{3}\\1\end{pmatrix}+3s\begin{pmatrix}-1\\[1ex]\frac53\\[1ex]\frac{16}{3}\\1\end{pmatrix}$$$$\vec x=\begin{pmatrix}4\\-6\\-16\\-1\end{pmatrix}+s\cdot\begin{pmatrix}-3\\5\\16\\3\end{pmatrix}\quad;\quad s\in\mathbb R$$