Aloha :)
Diese "Klammern" werden Binomialkoeffizient genannt. Die kannst du mit Hilfe der Fakultät berechnen:
(nk)=k!⋅(n−k)!n!
Oder mit dem Taschenrechner (Taste: "nCr")... aber die Werte können sehr groß werden.
Bei deiner konkreten Aufgabe ist:
(1000100)(15010)⋅(85090)=100!⋅900!1000!10!⋅140!150!⋅90!⋅760!850!=10!⋅140!⋅90!⋅760!⋅1000!150!⋅850!⋅100!⋅900!≈0,0413496
Für die Fakultät gibt es eine sehr gute Näherungsformel von Stirling, die dir hier weiterhelfen kann:
n!≈2πn(en)n