Da die Matrix nur 3 Zeilen besitzt, kann ihr Rang höchstens 3 sein.
Das bedeutet unter anderem, dass die Spalten einen 3-dimensionalen
Unterraum des \(R^5\) aufspannen. Wir suchen nun unter den Spaltenvektoren
irgend drei linear unabhängige zu finden. Wenn man Vielfache
der zweiten Spalte zu den anderen Spalten addiert (elementare Spaltenumformung),
ändert sich der von den Spalten erzeugte Unterraum nicht.
Addiren wir also die 2. Spalte zur Spalte 1 und subtrahieren wir
die 2. Spalte von Spalte 3, dann bleibt der Rang erhalten.
Die ersten 3 Spalten lauten nun
\((1,-1,0)^T,(0,0,1)^T,(-2,-1,0)^T\). Diese sind offenbar linear unabhängig.
Folglich bilden die drei ersten Spalten der Ausgangsmatrix eine reguläre
Untermatrix maximalen Ranges.
Übrigens: du schreibst
"Wie finde ich jetzt die größtmögliche, reguläre Untermatrix?".
Es muss heißen:
"Wie finde ich jetzt EINE größtmögliche, reguläre Untermatrix?".