mach es doch so:
Orthogonale zu g, die durch den Mittelpunkt M(20|0) geht ist $$ o(x)=-\frac{3}{4}\cdot x+15. $$
Schnittpunkt von g und o berechnen ergibt:
$$ o=g\\-\frac{3}{4}\cdot x+15=\frac{4}{3}\cdot x+\frac{20}{3}\\ \Leftrightarrow x=4\qquad y=12\qquad P(4|12) $$
Schnittpunkt von K und o berechnen ergibt:
$$ y=o(x)=-\frac{3}{4}\cdot x+15\\(x-20)^2+\Big(-\frac{3}{4}\cdot x+15\Big)^2=225\\ \Leftrightarrow 0=x^2-40x+256\\x_{1,2}=20\pm 12\\x_1=32\\x_2=8\\o(32)=-9\\o(8)=9 $$ x_2 ist sinnvoll zu wählen, da der Punkt somit näher an g dran ist. Dann hat man den Schnittpunkt S(8|9).
Abstand von P und S ergibt $$ d(P;S)=\sqrt{(8-4)^2+(9-12)^2}=5 $$ Also muss der Radius r=2,5 sein. Nun der Mittelpunkt der Strecke PS:
$$ N\Bigg(\frac{8+4}{2} \Bigg|\frac{9+12}{2} \Bigg)=N(6|10,5) $$
Damit hat man diesen Kreis:
$$ K_{min}:(x-6)^2+(y-10,5)^2=2,5^2 $$