Aloha :)
Gegeben ist:$$a_{n+1}=\sqrt{a_nb_n}\;\;;\;\;b_{n+1}=\frac{a_n+b_n}{2}\;\;;\;\;a_1=a\;\;;\;\;b_1=b\;\;;\;\;0<a<b$$
Für zwei beliebige ungleiche, nicht-negative Zahlen \(x,y\in\mathbb{R}^{\ge0}\,,\,x\ne y\) gilt:$$0<\left(\sqrt x-\sqrt y\right)^2=x-2\sqrt{xy}+y\;\;\Rightarrow\;\;2\sqrt{xy}<x+y\;\;\Rightarrow\;\;\sqrt{xy}<\frac{x+y}{2}$$Damit ist \(a_{n+1}=\sqrt{a_nb_n}<\frac{a_n+b_n}{2}=b_{n+1}\), falls nur \(a_1\ne b_1\) ist. Nach Voraussetzung ist sogar \(a_1<b_1\), sodass schließlich gilt:$$a_n<b_n\quad\text{für alle } n$$Daher gilt weiter für alle \(n\):
$$a_n=\sqrt{a_na_n}<\sqrt{a_nb_n}<\sqrt{b_nb_n}=b_n\quad\Rightarrow\quad a_n<a_{n+1}<b_n$$$$a_n=\frac{a_n+a_n}{2}<\frac{a_n+b_n}{2}<\frac{b_n+b_n}{2}=b_n\quad\Rightarrow\quad a_n<b_{n+1}<b_n$$Es handelt sich bei der Folge also um eine Intervallschachtelung, die Teilfolge \((a_n)\) ist streng monoton wachsend und die Teilfolge \((b_n)\) ist streng monoton fallend.
Bist du sicher, dass die nächste Ungleichung so in der Aufgabenstellung steht? Sinnvoll wäre z.B. jetzt noch zu zeigen, dass sich die Intervallbreite mit jedem Schritt mindestens halbiert:$$b_{n+1}-a_{n+1}<b_{n+1}-a_n=\frac{a_n+b_n}{2}-a_n=\frac{1}{2}\left(b_n-a_n\right)$$
