Die zwei Summenzeichen stören etwas, daher würd ich zunächst substituieren. Sei
$$ x_i \text{ der $i$-te Summand von } \sum_{m=0}^{M-1}{\sum_{n=0}^{N-1}}{f(m,n)} \\ \bar{x} = \frac{1}{MN}\sum_{i=1}^{MN}{x_i} = m_f $$
Dann gilt mit dem Steinerschen Verschiebungssatz:
$$\frac{1}{MN} \sum_{m=0}^{M-1}{\sum_{n=0}^{N-1}}{(f(m,n) - m_f)^2} \\ = \frac{1}{MN}\sum_{i=1}^{MN}{(x_i - \bar{x})^2} \\ \stackrel{Steiner}{=} \frac{1}{MN}\sum_{i=1}^{MN}{x_i^2 - \bar{x}^2} \\ = \frac{1}{MN} \sum_{m=0}^{M-1}{\sum_{n=0}^{N-1}}{f(m,n)^2 - m_f^2} $$
Ich denke, dass das die "einfache Umformung" sein wird. Solltet ihr den Verschiebungssatz hier nicht einfach benutzen dürfen, lässt sich der aber relativ einfach beweisen.