Puuh, ich bezweifle, dass man diese Aufgabe so einfach lösen kann, wie du dir das vorstellst.
Auf jeden Fall funktioniert das nicht mit einer eindimensionalen Extremwertaufgabe, da ja allein für drei Körper bereits 6 Parameter benötigt werden, um ihre Lage zueinander eindeutig zu beschreiben.
Falls dich die Theorie dahinter interessiert, dann solltest du etwas über die "Theorie der dichtesten Packungen" lesen. Ich finde da zwar im ersten Moment nur etwas über Kugelpackungen, aber in der Kristallgeometrie sollten sich auch Anwendungsbeispiele zu Quadern finden lassen.
Hier findest du eine englische Dissertation zu dem Thema. Allein daran, dass es eine Dissertation (=Doktorarbeit) ist, erkennst du, dass das Thema ziemlich komplex ist.