Leider schreibst du nicht genau, wo das Problem ist. Vielleicht hilft es, wenn du die Matrix zunächst ohne Matrizenrechnung auf die Zeilenstufenform bringst. Schaffst du das aufzuschreiben. D.h. mit Angabe der Zeilenumformungen?
E = [1, 0, 0; -2, 1, 0; -1, -1, 1]
U = [1, 2, 5; 0, -6, -10; 0, 0, -1]