das machst du am besten in Polarkoordinaten:
aus 1<= x^2+y^2=r^2<=4 folgt r∈ [1,2]
Nun brauchen wir noch die Grenzen für den Winkel φ, die bekommt man
mithilfe der zweiten Ungleichung:
0<= y <= x
Ohne groß rechnen zu müssen erkennt man , dass es sich hierbei um die Fläche
unterhalb der Geraden y=x im ersten Quadranten handelt, vergleiche hiermit:
https://www.wolframalpha.com/input/?i=0%3C%3D+y+%3C%3D+x
Also ist φ ∈[0,π/4] .
Nun zur Berechnung des Integrals, dafür bleibt noch f in Polarkoordinaten auszudrücken:
f=x^2-y^2=r^2cos^2(φ)-r^2sin^2(φ)=r^2*(cos^2(φ)-sin^2(φ)=r^2*cos(2φ)
Man benötigt noch das Flächenelement in Polarkoordinaten: dA=rdrdφ
Dann ist
$$ I=\int fdA=\int_{0}^{\pi/4}d\varphi\int_{1}^{2}rdr*r^2cos(2\varphi)\\=\int_{0}^{\pi/4}cos(2\varphi)d\varphi *\int_{1}^{2}r^3dr\\=\frac{1}{2}*\frac{15}{4}=\frac{15}{8} $$