Gehe ich richtig in der Annahme, dass
Tr(AtB) die Spur von A^t * B sein soll?
und t transponiert bedeutet?
Wenn ja (oder auch nein): Kontrolliere einfach die definierenden Punkte von "Skalarprodukt".
Wenn jemand das für dich machen soll, wäre es sinnvoll, wenn du eure Abkürzungen und Definitionen genau angeben würdest.