Du rechnest auch nicht 6/(3(6-3)), sondern mit der Fakultätsfunktion.
Die ist so definiert:
$$ n!:=n\cdot(n-1)\cdot(n-2)\cdot...\cdot 1 $$
Beispiel:
$$ 6!=6\cdot(6-1)\cdot(6-2)\cdot(6-3)\cdot(6-4)\cdot(6-5)\\=6\cdot 5\cdot 4\cdot 3\cdot 2\cdot 1= 720$$
Und die Fakultät kommt auch beim Binomialkoeffizienten vor. Also ist
$$ \begin{pmatrix}6\\ 3 \end{pmatrix}= \frac{6!}{3!(6-3)!}=20 $$
Gelesen als ,,6 über 3 ist 20".