Wenn du das so hinschreibst:
$$(a+b+c)(a+b) = 240$$
$$(a+b+c)(a+c) = 260$$
$$(a+b+c)(b+c) = 300$$
Ergibt das ein Gleichungssystem mit 3 Variablen und 3 Gleichungen. Das kann man nun lösen.
Ergebnisse sind a = -5, b = -7, c = -8 und a = 5, b = 7, c = 8