Ich mach mal i):
Deine Zerlegung in \(g(z) = z^8\) und \(h(z) = -3z^2+1\) ist richtig.
Die Dominanz bezieht sich hier aber auf die Beträge der Funktionen auf dem Rand des betrachteten Gebietes und nicht auf etwaige höchste Potenzen.
Beachte auch, dass \(|z| > 1\) betrachtet wird, während Rouché eine Aussagen über \(|z| < 1\) liefert.
Zunächst stellen wir fest, dass \(g\) und \(h\) keine Nullstellen auf \(|z| = 1\) haben (Das ist eine Voraussetzung von Rouché.).
Nun schätzen wir ab:
\(|g(z)| = |z|^8 = 1 \) für \(|z|=1\)
Für die Abschätzung von \(h\) kannst du die "umgekehrte" Dreiecksungleichung verwenden:
\(\quad |w-z|\geq ||w|-|z||\)
Auf diese Weise erhältst du:
\(|h(z)| = |1-3z^2| \geq |1 - 3|z|^2 | =|1-3| = 2 > |g(z)|\) auf \(|z| = 1\)
Damit hat \(f=g+h\) genauso viele Nullstellen (einschließlich Vielfachheit) im Inneren von \(|z|= 1\) wie \(h\), also 2 Nullstellen.
Folglich hat \(f\) - gezählt mit Vielfachheit - 6 Nullstellen im Äußeren von \(|z|=1\), also für \(\boxed{|z| > 1}\).