Aloha :)
Willkommen in der Mathelounge... \o/
Da die Summe endlich ist, kannst du die Ableitung unter dem Summenzeichen durchführen. Dazu bietet sich die Kettenregel an. Für die Ableitung nach \(a\) sieht das so aus:
$$\phantom=\frac{\partial}{\partial a}\left(\frac1n\sum\limits_{i=1}^n\left(y_i-(ax_i^2+bx_i+c)\right)^2\right)=\frac1n\sum\limits_{i=1}^n\frac{\partial}{\partial a}\left(y_i-(ax_i^2+bx_i+c)\right)^2$$$$=\frac1n\sum\limits_{i=1}^n\underbrace{2\left(y_i-(ax_i^2+bx_i+c)\right)}_{\text{äußere Ableitung}}\cdot\underbrace{\frac{\partial}{\partial a}\left(y_i-(ax_i^2+bx_i+c)\right)}_{\text{innere Ableitung}}$$$$=\frac1n\sum\limits_{i=1}^n2\left(y_i-(ax_i^2+bx_i+c)\right)\cdot(-x_i^2)=-\frac2n\sum\limits_{i=1}^nx_i^2\left(y_i-(ax_i^2+bx_i+c)\right)$$
Die beiden noch offenen Ableitungen nach \(b\) und \(c\) folgen dem gleichen Schema:
$$\phantom=\frac{\partial}{\partial b}\left(\frac1n\sum\limits_{i=1}^n\left(y_i-(ax_i^2+bx_i+c)\right)^2\right)=\frac1n\sum\limits_{i=1}^n\frac{\partial}{\partial b}\left(y_i-(ax_i^2+bx_i+c)\right)^2$$$$=\frac1n\sum\limits_{i=1}^n\underbrace{2\left(y_i-(ax_i^2+bx_i+c)\right)}_{\text{äußere Ableitung}}\cdot\underbrace{\frac{\partial}{\partial b}\left(y_i-(ax_i^2+bx_i+c)\right)}_{\text{innere Ableitung}}$$$$=\frac1n\sum\limits_{i=1}^n2\left(y_i-(ax_i^2+bx_i+c)\right)\cdot(-x_i)=-\frac2n\sum\limits_{i=1}^nx_i\left(y_i-(ax_i^2+bx_i+c)\right)$$
und nochmal copy-pasten:
$$\phantom=\frac{\partial}{\partial c}\left(\frac1n\sum\limits_{i=1}^n\left(y_i-(ax_i^2+bx_i+c)\right)^2\right)=\frac1n\sum\limits_{i=1}^n\frac{\partial}{\partial c}\left(y_i-(ax_i^2+bx_i+c)\right)^2$$$$=\frac1n\sum\limits_{i=1}^n\underbrace{2\left(y_i-(ax_i^2+bx_i+c)\right)}_{\text{äußere Ableitung}}\cdot\underbrace{\frac{\partial}{\partial c}\left(y_i-(ax_i^2+bx_i+c)\right)}_{\text{innere Ableitung}}$$$$=\frac1n\sum\limits_{i=1}^n2\left(y_i-(ax_i^2+bx_i+c)\right)\cdot(-1)=-\frac2n\sum\limits_{i=1}^n\left(y_i-(ax_i^2+bx_i+c)\right)$$