Hallo,
nehmen wir an, eine solche Funktion \(g: \mathbb{R} \to \mathbb{R}\) mit \((g \circ g)(x)=-x\) existiere. Ohne Einschränkung der Allgemeinheit nehmen wir an, dass \(g(x)<x\). Wir definieren die Funktion \(f: \mathbb{R} \to \mathbb{R}\) mit \( f(x):=g(x)-x\). Die Funktion \(f\) ist als Komposition zweier stetiger und monotoner Abbildungen ebenfalls wieder stetig und monoton. Es gilt
\((f \circ g) (x)=f(g(x))=g(g(x))-g(x)=-x-g(x)\).
Also \((f \circ g)(x)=\begin{cases} >0, & x<0 \\ <0, & x>0 \end{cases} \).
Nach dem Zwischenwertsatz gibt es also ein \(\tilde{x} \in \mathbb{R} \) mit \(f(\tilde{x})=0\). Das würde bedeuten, dass \(g(\tilde{x}) =\tilde{x} \) gelten muss für ein bestimmtes \(\tilde{x} \in \mathbb{R}\). Daraus folgt wiederum
\((g \circ g)(\tilde{x})=g(g(\tilde{x})) \stackrel{Zwischenwertsatz}{=}g(\tilde{x})\stackrel{Zwischenwertsatz}{=}\tilde{x}\).
Das ist jedoch ein Widerspruch zu unserer Annahmne, dass \((g \circ g)(x)=-x\) gelten soll. \(\square\)