Hallo,
Willkommen in der Mathelounge!
Ich würde theoretisch die Produktregel nehmen, weiß aber nicht genau, wo ich mit ihr ansetzen soll.
Du solltest beim Produkt ansetzen ;-) Allgemein gilt doch $$f(x) = u(x) \cdot v(x) \implies f'(x) = u'(x)\cdot v(x) + u(x) \cdot v'(x)$$also hier in diesem Fall:$$\begin{aligned} f(x) &= \frac{5}{4}x^{2}-\frac{1}{2}\underbrace{x^{2}}_{u}\cdot\underbrace{\ln(x)}_{v} \\ f'(x) &=\frac{5}{2}x - \frac 12\left( \underbrace{2x}_{u'}\cdot\underbrace{\ln(x)}_{v} + \underbrace{x^2}_{u}\cdot \underbrace{\frac{1}{x}}_{v'}\right)\\ &= \frac 12\left( 5x - 2x\ln(x) - x\right) \\ &= x\left( 2-\ln(x)\right) \end{aligned}$$
Die blaue Kurve ist der Graph von \(f\) und die rote der Graph von \(f'\)
~plot~ 5/4x^2-1/2x^2*ln(x);x*(2-ln(x));[[-8|20|-6|15]] ~plot~
Gruß Werner