Deine erste Substitution \(u=\log x \Leftrightarrow x=e^u\) führt auf das uneigentliche Integral
$$\int_0^{\infty}\frac{e^{(1-a)u}}{u^b}du$$
Offenbar ist dieses Integral auch uneigentlich bei der unteren Grenze \(u=0\). Also splittest du das Integral auf.
(1) \(I_1 := \int_0^1\frac{e^{(1-a)u}}{u^b}du\)
Was auch immer \(a \in \mathbb{R}\) ist, die Funktion \(e^{(1-a)u}\) ist stetig und positiv auf \([0,1]\). Damit können wir für jedes \(a\) Konstanten finden mit
\(0<m_a \leq e^{(1-a)u} \leq M_a \)
\(\Rightarrow m_a \int_0^1\frac{1}{u^b}du \leq \int_0^1\frac{e^{(1-a)u}}{u^b}du \leq M_a \int_0^1\frac{1}{u^b}du\)
Das heißt, \(I_1\) konvergiert genau dann, wenn \(\int_0^1\frac{1}{u^b}du\) konvergiert.
Bingo! \(\boxed{b < 1}\).
(Kannst du gern selber per Stammfunktion von \(\frac 1{u^b}\) nun nachrechnen.)
(2) \(I_2 := \int_1^\infty\frac{e^{(1-a)u}}{u^b}du\)
Für \(1-a\geq 0\) ist \(e^{(1-a)u}\geq 1\). Damit ist
\(I_2 \geq \int_1^\infty\frac{1}{u^b}du \stackrel{b<1}{=}\infty\) (Bitte selber nachrechnen.)
Also müssen wir nur noch \(a > 1 \Leftrightarrow a-1> 0\) prüfen.
Ein möglicher Weg ist, die e-Reihe zu nutzen. Für \(x > 0\) gilt auf jeden Fall
\(e^x = \sum_{n=0}^{\infty}\frac {x^n}{n!} > \frac {x^n}{n!}\) für beliebiges \(n\in\mathbb N \Rightarrow \frac 1{e^x} < \frac {n!}{x^n}\).
Jetzt können wir den Integranden abschätzen. Wähle dazu ein \(n>1-b\):
\(\frac{e^{(1-a)u}}{u^b} = \frac{1}{u^be^{(a-1)u}} < \frac{n!}{u^b(a-1)^nu^n} = \frac{n!}{(a-1)^n}\frac 1{u^{n+b}}\)
\(\Rightarrow \int_1^\infty\frac{e^{(1-a)u}}{u^b}du < \frac{n!}{(a-1)^n}\int_1^\infty\frac 1{u^{n+b}}du \stackrel{n+b > 1}{<} \infty\).
\(I_2\) ist also für \(\boxed{a >1}\) konvergent (und sogar unabhängig davon, was \(b\) ist).
Alles zusammen: \(\boxed{b < 1,\; a> 1}\)