Hallo,
Für eine Funktionsvorschrift muss ja irgendwo eine Funktion definiert sein. Das ist ja gar nicht der Fall! Es ist ja nur von einer Funktion \(f_A\) und einer Matrix \(A\) die Rede.
Im Allgemeinen geht es dabei um lineare Abbildungen der Form$$f_A(x)= A \cdot x \quad x \in \mathbb R^2$$Wenn \(A\) eine 2x2-Matrix ist, wie hier. Und eine Funktionsvorschrift \(\left(f_A\right)^2\) heißt nichts anderes, als die Funktion \(f_A\) zweimal hintereinander anzuwenden:$$\left(f_A\right)^2(x) = f_A(f_A(x))= A \cdot \left( A \cdot x\right) = A^2 \cdot x$$
Ich dachte mir, dass es unendlich viele Wege gibt, wie man diese Matrix erhält, aber ich glaube, dass ich da falsch liege.
Wenn es sich also bei dem \(A^2\) um die von Dir erwähnte 'diese Matrix' handelt, so ist das schlicht:$$A^2=\begin{pmatrix}1& -2\\ 2& 5\end{pmatrix}^2 = \begin{pmatrix}-3& -12\\ 12& 21\end{pmatrix}$$siehe Multiplikation von Matrizen.
Gruß Werner