a) Sei \( x = \frac{p}{q} \in \mathbb{Q} \) dann gilt \( f(x) = \frac{1}{q} \).
Sei \( 0 < \varepsilon < \frac{1}{q} \)
In jeder \( \delta \) -Umgebung \( U_\delta(x) \) gibt es irrationale Zahlen \( a \) und für solch eine Zahl gilt \( f(a) = 0 \), also
$$ | f(x) - f(a) | = \frac{1}{q} > \varepsilon $$ Also ist \( f \) für \( x \in \mathbb{Q} \) nicht stetig.
(b) Sei jetzt \( x \notin \mathbb{Q} \) und \( \varepsilon > 0 \) beliebig. Es gilt \( f(x) = 0 \)
und sei \( n \) so, dass gilt \( \frac{1}{n} < \varepsilon \). Dann gilt für alle rationalen Zahlen \( \frac{p}{q} \) mit \( q \ge n \)
\( f\left( \frac{p}{q} \right) = \frac{1}{q} < \varepsilon \)
Sie \( M = \left\{ \frac{p}{q} \bigg| 0 < p < q < n \right\} \) und
\( \delta = \min \left\{ \left| x - \frac{p}{q} \right| \bigg| \ \frac{p}{q} \in M \right\} \)
(i) Sei \( a \in U_\delta(x) \)
Ist \( a \notin \mathbb{Q} \) gilt \( f(a) = 0 \in U_\varepsilon(0) = U_\varepsilon(f(x))) \)
(ii) Sei \( a = \frac{p}{q} \in \mathbb{Q} \) dann gilt \( f(a) = \frac{1}{q} < \varepsilon\) und damit gilt
\( f(a) \in U_\varepsilon(0) = U_\varepsilon(f(x)) \) und damit ist \( f \) stetig an jeder irrationalen Stelle und unstetig an jeder rationalen Stelle.
