Die Frage sollte wohl eher lauten, für welche Werte \(a\) und \(b\) die Gleichung keine Lösung in \(\mathbb{R}\) hat.
Diese Frage lässt sich wie folgt klären. Für \(a\neq 0\) gilt:$$ax^2+b=0 \Longleftrightarrow ax^2=-b$$$$\Leftrightarrow x^2=-\frac{b}{a}$$ In den reellen Zahlen ist das Wurzelziehen negativer Zahlen nicht definiert und daher ein Widerspruch.
Stelle dir also die Frage: Wann ist \(-\frac{b}{a}\) negativ? Den Fall \(a=0\) wirst du separat behandeln müssen, das sollte allerdings kein Problem darstellen, da dann \(b=0\).