allgemein heißt ja die Formel  
xn+1 = xn - f(xn) / f ' (xn) 
und bei dir ist   f(x) = log2(2x2-3x)-3   soll wohl log zur Basis 2 sein??
und log2(z) =ln(z) / ln(2) also hier 
  f(x) = ln(2x2-3x)/ ln(2)  -  3  und  f ' (x) = (4x-3) / (( 2x^2 - 3x)*ln(2) )
und dann musst du einsetzen  und zwar x0 = 2
x1= x0 - f(x0) / f ' (x0) 
     = 2   -  (-2) /  ( 5 / 2ln(2) ) = 2 + 4ln(2)/5 ≈ 2,5545
x2= x1 - f(x1) / f ' (x1) = 2,5545  -   ( -0,5704 / 1,9329 ) = 2,8496 
etc. nähert sich dem Wert 2,886 immer mehr an.