Du hast die Aufgabe nicht vollständig korrekt gelöst.
Nach der Substitution müssen die Grenzen des Integrals angepasst werden:
∫4bx2−42xdx=∫12b2−4u21du
Mit c=b2−4 gilt dann
b→∞lim∫4bx2−42xdx=c→∞lim∫12cu21du
Du kannst zwar dieselbe Variable b benutzen, aber das ist unsauber und kann bei komplizierteren Substitutionen zu Fehlern führen.
Außerdem ist aufgrund der Nichtanpassung der unteren Grenze die folgende Gleichung falsch:
b→∞lim[−u1]4b=b→∞lim[−x2−41]4b
Nur die Rücksubstitution von u durch x hat dich hier gerettet.
Übrigens ist nach korrekter Substitution mit Anpassung der Integrationsgrenzen gar keine Rücksubstitution erforderlich. Es ist
b→∞lim[−u1]12b=121
Noch eine grundsätzliche Bemerkung:
Die Aufgabe ist nur, das Integral auf Konvergenz zu untersuchen. Du hast nur Glück gehabt, dass es einfach war, eine Stammfunktion des Integranden zu finden.
Bei vielen solchen Aufgaben zur Konvergenz von Integralen wird das nicht gelingen. Es wäre also hilfreich, sich auch einmal mit Konvergenzkriterien uneigentlicher Integrale zu beschäftigen.