Der vertikale Strich \(|\), manchmal auch \(:\), liest sich als "unter der Bedingung, dass". Du kennst das vielleicht aus der Schule von der bedingten Wahrscheinlichkeit \(P(A|B)\).
\(M=\{x\in \mathbb{R}\, | \, x\notin \mathbb{N}\}\) bedeutet, dass du zunächst alle \(x\) aus der Menge der reellen Zahlen \(\mathbb{R}\) ansprichst. Aber unter der Bedingung, dass \(x\) keine natürliche Zahl \(\mathbb{N}\) ist.
Das heißt, dass z. B. Werte wie \(1,2,3,4,..\) keine Elemente der Menge \(M\) sind, aber beispielsweise \(3.5,\pi, -4,\frac{1}{4}\) schon. Was redundant wäre, wäre z. B. \(\{x\in \mathbb{R} \, | \, x\in \mathbb{N}\}\). denn jede natürliche Zahl ist sogleich eine reelle Zahl. Die Bedingung nach dem Trennstrich hat folglich einen restriktiven (einschränkenden) Charakter.