Wenn wir von Deiner Aufteilung ausgehen und den 2. Term betrachten, so folgt wegen der Linearität des Skalarprodukts:
$$\langle f \mid \sum_{j=0}^Na_jx^j\rangle=\sum_{j=0}^N a_j \langle f \mid x^j\rangle$$
Wenn wir jetzt nach a_i ableiten wollen, so sind die Skalarprodukte \( \langle f \mid x^j\rangle\) einfach Zahlen. Wir erhalten
$$\frac{\partial}{\partial a_i}\langle f \mid \sum_{j=0}^Na_jx^j\rangle=\langle f \mid x^i\rangle$$
Für den 3. Term folgt aus der Linearität des Skalarprodukts:
$$\langle \sum_{k=0}^N a_kx^k \mid \sum_{j=0}^Na_jx^j\rangle=\sum_{k=0}^N\sum_{j=0}^N a_k a_j\langle x^k\mid x^ j\rangle$$
Wenn wir nach a_i differenzieren, erhalten wir für die einzelnen Summanden:
$$\frac{\partial}{\partial a_i}\left(a_k a_j\langle x^k\mid x^ j\rangle\right)=\begin{cases}a_j\langle x^i\mid x^ j\rangle & \text{ if } k=i,j \neq i \\ a_k\langle x^k\mid x^ i\rangle & \text{ ij }j=i,k \neq i \\ 2a_i\langle x^i\mid x^ i\rangle& \text{ if }j=k=i \end{cases}$$
Alle anderen Terme liefern 0. Damit
$$\frac{\partial}{\partial a_i}\langle \sum_{k=0}^N a_kx^k \mid \sum_{j=0}^Na_jx^j\rangle=2 \sum_{j=0}^N a_j\langle x^j\mid x^i\rangle=2 \langle\sum_{j=0}^N a_j x^j\mid x^i\rangle$$
Dabei wird ausgenutzt, dass das Skalarprodukt symmetrisch ist.