Aloha :)
Du musst zunächst versuchen, eine obere Dreieckmatrix aufzubauen, d.h. unterhalb der Diagonalen sollten Nullen stehen. Das macht man am besten Spalte für Spalte. Danach kannst du dann die Werte oberhalb der Diagonalen zu Nullen machen:$$\begin{array}{rrrrcl}a & b & c & = && \text{Aktion}\\\hline-8 & 4 & -2 & 0 && :\,(-2)\\64 & 16 & 4 & 0 && :\,4\\12 & 4 & 1 & -2\\\hline4 & -2 & 1 & 0 & \\16 & 4& 1 & 0 && -4\cdot\text{Zeile 1} \\12 & 4 & 1 & -2 && -3\cdot\text{Zeile 1}\\\hline4 & -2 & 1 & 0 & \\0 & 12& -3 & 0 && \\0 & 10 & -2 & -2 && -\frac{5}{6}\cdot\text{Zeile 2}\\[0.5ex]\hline4 & -2 & 1 & 0 &&-2\cdot\text{Zeile 3} \\0 & 12& -3 & 0 && +6\cdot\text{Zeile 3} \\0 & 0 & 0,5 & -2 && \cdot2\\\hline4 & -2 & 0 & 4 && +\frac{1}{6}\cdot\text{Zeile 2}\\0 & 12& 0 & -12 && :\,12 \\0 & 0 & 1 & -4 && \\\hline4 & 0 & 0 & 2 && :\,4\\0 & 1 & 0 & -1 && \\0 & 0 & 1 & -4 && \\\hline1 & 0 & 0 & 0,5 && \\0 & 1 & 0 & -1 && \\0 & 0 & 1 & -4 &&\\\hline\hline \end{array}$$Wir lesen ab:$$a=\frac{1}{2}\quad;\quad b=-1\quad;\quad c=-4$$