vielleicht hilft Dir folgendesr:
Gesucht:
$$ f(x) $$ mit
$$ f(f(x)) = sqrt(x) = x^\frac{1}{2} $$
Nimm mal folgenden Ansatz:
$$ f(x) = x^n $$ mit n gesucht.
Setzt das ein und löse dann entsprechend nach n auf. Falls das wider Erwarten Probleme bereite, helfe ich gerne weiter.