Erstmal hast Du ein lineares GLS.
Nicht quadratisch heißt ein
1. überbestimmtes GLS mehr (n) Gleichungen als (k) Unbekannte oder
2. unterbestimmtes GLS mehr Unbekannte k als Gleichungen n
Zu 1. beim Gaussalgorithmus fallen die abhängigen Gleichungen raus.
Du hast entweder ein quadratisches und ein zu 2 gehörendes GLS.
Dein Beispiel kommt raus auf
A1=Deine Matrix
A2(1)=A1(1)
A2(2)=-5/2 A1(1)+A1(2)
A2(3)=A1(3)-1/2 A1(1)
A3(1)=1/2 A2(1)
A3(2)=2/(-13) A2(2)
A3(3)=A2(3) - A2(2)*2/13*7/2
\(A3 \, := \, \left(\begin{array}{rrr}1&-\frac{3}{2}&\frac{11}{2}\\0&1&-3\\0&0&0\\\end{array}\right)\)
und \( \left\{ \left\{ x1 = 1, x2 = -3 \right\} \right\} \)
Zu 2.beim Gaussalgorithmus fallen die abhängigen Gleichungen raus.
und für die verbleibenden k Gleichungen kannst Du k Unbekannten berechnen und die Überzähligen n-k unbestimmt lassen.
Halte Dich an die Schreibregeln und gib die Aufgabe in Text an, dann kann ich das z.B. hier https://www.geogebra.org/m/BpqJ28eP mal durchrechnen lassen..