Mit \(a=1,\;b=2\; c=3\) hat man
\((a\circ b)\circ c=(a+b)^2\circ c=((a+b)^2+c)^2=(9+3)^2=144\) und
\(a\circ (b\circ c)=(a+(b\circ c))^2=(a+(b+c)^2)^2=26^2\neq 144\).
Du hast die Verknüpfung falsch angewendet, kommst aber
zufällig auch zur Nichtassoziativität.