Hallo,
zwei Antworten gibt es schon und niemand kommt auf die Idee Vekoren zu benutzen. Wenn man alles in Koordinaten hin schreibt sieht man meines Erachtens manchmal den Wald vor Bäumen nicht.
Ich nenne die drei Punkte \(A\), \(B\) und \(C\) um in \(P_{1,2,3}\). Dann ist die Summe \(S\) der Quadrate der Entfernungen zu einem Punkt \(X\)$$S=\sum\limits_{i=1}^{3} (P_i- X)^2$$Das ganze nach \(X\) abgeleitet (also den Koordinaten von \(X\)) und zum Nullvektor gesetzt, gibt:$$\begin{aligned} \frac{\partial S}{\partial X}= \sum\limits_{i=1}^{3}\left(-2(P_i- X)\right) &= \vec{0} &&|\, \div (-2) \\ \sum\limits_{i=1}^{3} (P_i - X)&= \vec{0}\\ \sum\limits_{i=1}^{3}P_i - \sum\limits_{i=1}^{3}X &=\vec{0} &&|\,+3X, \div 3 \\ \frac{1}{3}\sum\limits_{i=1}^{3}P_i &= X\end{aligned}$$Das ist schlicht der Schwerpunkt des Dreiecks. Also in diesem konkretem Fall$$X= \frac{1}{3}\begin{pmatrix} 2 \\ 2\end{pmatrix}$$Soll der Punkt \(X\) auch auf dem Einheitskreis liegen, so ist schon aus der Symmetrie klar, dass es nur der Punkt \((\sqrt{2},\, \sqrt{2})/2\) sein kann. Ein 'Dienstweg' zur Lösung führt über den Lagrange Multiplikator. Die Nebenbedingung ist:$$X^2 - 1 = 0$$Bilden der Lagrange-Funktion nebst Ableiten und Nullsetzen gibt dann$$\begin{aligned} L(X,\lambda)&= \sum\limits_{i=1}^{3} (P_i- X)^2 + \lambda \cdot (X^2-1) \\\frac{\partial L}{\partial X} &= \sum\limits_{i=1}^{3}\left(-2(P_i- X)\right) + 2 \lambda X = 0 \\ \implies X &= \frac{1}{3+ \lambda} \sum\limits_{i=1}^{3} P_i\end{aligned}$$Was heißt das nun? das heißt, dass \(X\) und \(\sum P_i\) kolinear sein müssen. Setzt man dies in die Nebenbedingung ein, kommt ein Faktor heraus, mit dem \(X\) dann berechnet werden kann. Da \(\sum P_i\) auf der Geraden \(y=x\) liegt, ist es der bereits oben vermutetet Punkt$$X = \begin{pmatrix}\sqrt{2}/2 \\ \sqrt{2}/ 2\end{pmatrix}$$Gruß Werner