Pi brauchst du hier gar nicht.
Im Grunde hat Anonym schon alles erklärt, ich versuche es mal
ein bisschen ausführlicher:
Das große, einbeschriebene Quadrat hat eine Diagonale d = 2*5cm
Daraus folgt, dass die Kantenlänge a des Quardats
a^2 + a^2 = (2*5cm)^2
2a^2 = (2*5cm)^2
a^2 = (2*5cm)^2/2
a = 2*5/√2 cm ist
Der Flächeninhalt des einbeschriebenen Quadrats
ist daher (2*5/√2 cm)^2
Es fehlt noch der Flächeninhalt der 8 flachen Dreiecke,
die sich zu 4 Rechtecken zusammensetzen lassen.
Die Höhe eines Rechtecks ist 5cm - 5/√2 cm.
Die Breite eines Rechtecks ist 5/√2 cm
Der Flächeninhalt eines Rechtecks ist (5cm - 5/√2)*5/√2
Weil wir 4 Rechtecke haben, ist der Flächeninhalt der 4
Rechtecke 4*(5cm - 5/√2 cm)*5/√2 cm.
Aus den Teilflächen ergibt sich der Flächeninhalt des Achtecks:
A = 4*(5cm - 5/√2 cm)*5/√2 cm + (2*5/√2 cm)^2