Dein Fehler liegt in der fünften Zeile, bis dahin ist eigentlich alles richtig. Ich fange mal da an:
u' = 1/4x - u/x + u²/x = 1/x*(1/4 - u + u²) |:(1/4-u+u²)
du/(1/4-u+u²) = dx/x
Den Bruch muss man jetzt etwas genauer untersuchen, dann stellt man fest, dass es sich um das folgende Integral handelt:
$$ \int \frac { d u } { ( u - 1 / 2 ) ^ { 2 } } = - \frac { 1 } { u - 1 / 2 } + C $$
Insgesamt erhält man also, wenn man rechts auch integriert:
$$ \begin{array} { l } { - \frac { 1 } { u - 1 / 2 } = \ln ( x ) + C } \\ { u - 1 / 2 = - \frac { 1 } { \ln ( x ) + C } } \\ { u = \frac { 1 } { 2 } - \frac { 1 } { \ln ( x ) + C } } \\ { \Rightarrow y = x u = \frac { x } { 2 } - \frac { x } { \ln ( x ) + C } } \end{array} $$