Hier mal allgemein für ein rechtwinkliges Dreieck mit der Grundseite g und der Höhe h.
y = h - h/g·x
A = x·y = x·(h - h/g·x) = h·x - h/g·x^2
A' = h - 2·h/g·x = 0
x = g/2
y = h - h/g·x = h - h/g·(g/2) = h/2
Das maximale Rechteck teilt also die Grundseite und die Höhe..
Von dir ist das ganze auf dein Dreieck zu übertragen und die hinreichende Bedingung zu Prüfen ob es wirklich ein Maximum ist.