Das ist nicht ganz eindeutig. Möglicherweise sind einfach Kommazahlen gemeint, dann bedeuten die Klammern eigentlich nicht besonders viel, und man würde rechnen:
-[((-3,8)-(4,5))-(-7,3)] = -[(-3,8-4,5)+7,3] = -[-8,3+7,3] = -[-1] = 1
Oder aber es sind Wertepaare gemeint, dann muss jeder Eintrag einzeln gerechnet werden:
-[((-3,8)-(4,5))-(-7,3)] = -[(-3-4, 8-5)+(7,-3)] = -[(-7, 3)+(7, -3)] = (0, 0)
Unpraktischerweise kommen bei beiden Varianten sehr handliche Lösungen heraus, deswegen bleibt weiter unklar, welches denn nun die gemeinte ist.