Leider gibst du nicht vor, was du jeweils von den Dreiecken gegeben hast.
Ich habe früher mal in Pascal eine Grafikbibliothek geschrieben die Körper aus Dreiecken zeichnen konnte. Dabei musste ich auch überprüfen ob sich zwei Dreiecke überlappen. Ich habe für ein Dreieck jeweils die Eckpunkte in Bildschirmkoordinaten gehabt.
P1(x1|y1); P2(x2|y2); P3(x3|y3)
Wenn ich jetzt ein Rechteck drum herum lege gilt:
xmin = min(x1, x2, x3)
xmax = max(x1, x2, x3)
ymin = min(y1, y2, y3)
ymax = max(y1, y2, y3)
Das Rechteck also aus
A(xmin, ymin); B(xmax, ymin); C(xmax, ymax); D(xmin, ymax)
Zwei Rechtecke überlappen sich wenn sich die x und die y-Bereiche überlappen. Das ist alles recht einfach im Bereich der Integerarithmetik zu lösen.