Der Betrag der Strecke \(AB\) ist gegeben und daher konstant und spielt folglich für den Lösungsweg keine Rolle. Es reicht aus die Höhe \(h_c\) - d.h. den Abstand des Punktes \(C\) von der Geraden \(g\) durch \(A\) und \(B\) zu maximieren.
Dazu bestimme ich die Geradengleichung in der Normalform. Aus folgender Überlegung ..

.. folgt, dass ein Normalenvektor \(\vec{n}\) der Geraden
$$\vec{n} = \begin{pmatrix} -m\\ 1 \end{pmatrix}$$
ist. Damit und mit dem Punk \(A\) stelle ich die Normalengleichung auf:
$$g: \space \vec{n} \cdot \vec{x} = \vec{n} \cdot \begin{pmatrix} a_x\\ a_y \end{pmatrix}=-m \cdot a_x + a_y$$
Ein Maß \(h^*\) für den Abstand eines Punktes \(C\) (mit Ortsvektor \(\vec{c}\)) ist
$$h^* = \vec{n} \cdot \vec{c} + m \cdot a_x - a_y$$
Wohlgemerkt ist \(h^*\) nicht direkt der Abstand von \(C\) von \(g\), da ich \(\vec{n}\) nicht normiert habe, aber es ist ein Vielfaches des Abstands und es reicht daher aus, diesen Wert zu maximieren. Einsetzten der Koordinaten von \(C\) ergibt dann:
$$h^*(c_x) = -m\cdot c_x + {c_x}^2 + m \cdot a_x - a_y$$
und ableiten nach \(c_x\)
$$\frac{\partial h^*}{\partial c_x} = -m + 2c_x \quad \rightarrow 0$$
Und das Ergebnis ist dann
$$c_x = \frac{m}{2}= \frac{b_y - a_y}{2(b_x - a_x)}$$