Der Trick liegt doch einzig und allein darin alle Terme mal zu faktorisieren.
(4·i^2 - 12·i·j + 5·j^2)/(2·i^2 + 5·i·j - 3·j^2) : ((i^2 - 2·i·j - 15·j^2)/(i^2 + 6·i·j + 9·j^2))
(4·i^2 - 12·i·j + 5·j^2)/(2·i^2 + 5·i·j - 3·j^2) * (i^2 + 6·i·j + 9·j^2)/(i^2 - 2·i·j - 15·j^2)
= ((2·i - j)·(2·i - 5·j))/((i + 3·j)·(2·i - j)) * (i + 3·j)^2/((i + 3·j)·(i - 5·j))
= (2·i - 5·j)/1 * 1/(i - 5·j)
= (2·i - 5·j)/(i - 5·j)