Aber wie kann man dann das lösen?
In deiner Gleichung ist |AC| und cos(∠ABC) unbekannt.
Du kannst noch drei weitere ähnliche Gleichungen aufstellen und hast dann als Unbekannte die vier Innenwinkel des Vierecks und die beiden Diagonalen. Das sind vier Gleichungen mit sechs Unbekannten.
Einen Winkel kannst du wegen Winkelsumme im Viereck eliminieren. Es bleiben vier Gleichungen mit fünf Unbekannten.
Zusätzlich nimmst du
s = |AC| + |BD|
als Gleichung hinzu (fünf Gleichungen mit sechs Unbekannten). Löse dieses Gleichungssystem soweit auf, dass in der Gleichung
s = |AC| + |BD|
nur noch s auf der linken Seite und ein Term mit einer Variablen und keinem s auf der rechten Seite vorkommt. Diese Gleichung kannst du dann als Funktionsgleichung auffassen. Bestimme mit Mitteln der Analysis das Maximum dieser Funktion.