Hi,
die Betafunktion ist ja so definiert
$$ B(x,y)=\int_0^1 t^{x-1}(1-x)^{y-1}dt $$
Zu (a)
Für \( x-1\ge 0 \) und \( y-1\ge 1 \) ist der Integrant eine beschränkte Funktion die \( \le 1 \) ist, deshalb existiert das Integral.
Falls \( 0 < x < 1 \) und \( 0 < y < 1 \) gilt, kann man den Integranten wie folgt abschätzten.
$$ t^{x-1}(1-t)^{y-1}\le t^{x-1}\left(\frac{1}{2}\right)^{y-1} \text{ für } 0 \le t \le \frac{1}{2} $$ und
$$ t^{x-1}(1-t)^{y-1}\le \left(\frac{1}{2}\right)^{x-1}(1-t)^{y-1} \text{ für } \frac{1}{2} \le t \le 1 $$
Für die Fälle \( 0 < x < 1 \) und \( y > 1 \) oder \( 0 < y < 1 \) und \( x > 1 \) kann den Term mit dem Exponenten der \( \ge 0 \) ist durch \( 1 \) nach oben abschätzten.
Übrig bleibt, das man die Integranten \( t^{x-1} \) bzw. \( (1-t)^{y-1} \) betrachten muss. Entweder im Bereich \( [0, \frac{1}{2}] \) ,\( [ \frac{1}{2}, 1] \) oder \( [0, 1] \)
In allen Fällen ergibt sich die Konvergenz des Integrals.
Zu (b)
Wenn \( x\le 0 \) oder \( y \le 0 \) gilt, gibt es die divergente Minorante \( x^{-1} \)
Damit ist alles gezeigt.