Prost,
für 2 Veriablen brauchst Du auch nur 2 Gleichungen da sollte es reichen 2 Einträge der 2.Zeile von BA zu erzeugen?
{{3,7,-3} ({12,b-2,-b})^T = {b-2,2a+1,-1} ({6,3,-1})^T }
{{3,7,-3} ({4,2a+1,3})^T = {b-2,2a+1,-1} ({4,7,1})^T }
{{a = 7, b = 3}}