Ich versuche mal den Ansatz von @lul aufzugreifen. Bei Denkfehlern / einfacherer Lösung bitte korrigieren, bzw. kommentieren.
(Die natürlichen Zahlen werden in diesem Kontext ohne 0 betrachtet.)
$$\text{Für } a=1 \text{ folgt } T(1,b)=1-\frac{1}{b}+b\cdot (b+3) \Rightarrow -\frac{1}{b}\in \mathbb{Z} \Rightarrow b=1$$
In Fallunterscheidung folgt (a>1)
\( 1) \ 3b^2-a=0 \Rightarrow a=3b^2 \text{ (a ist Vielfaches von b) gibt eine Lösung } \forall b\in \mathbb{N}\\ 2) \ 3b^2-a \neq 0 \text{ (a ist kein Vielfaches von b) } \Rightarrow 3b^2-a=k\cdot (a\cdot b), \ k\in \mathbb{Z} \Rightarrow a\cdot (\frac{3b^2}{a}-1)=a\cdot (k\cdot b) \Rightarrow \frac{3b^2}{a}-1=k\cdot b \Rightarrow \frac{3b^2}{a} \text{ ist ganz} \Rightarrow b^2 \text{ ist Vielfaches von } a \text{ oder } a=3\\ (2.1) \ b^2\text{ ist Vielfaches von a} \Rightarrow \exists t\in \mathbb{Z}: \ b^2=t\cdot a \Rightarrow \frac{3b^2}{a}-1 = \frac{3\cdot t\cdot a}{a}-1 = 3\cdot t - 1 = k\cdot \sqrt{t\cdot a} \ \text{ wobei } t\cdot a \text{ Quadratzahl sein muss } \Rightarrow t=1 \text{ und a ist Quadratzahl oder } t=a \Rightarrow a=4 \ \vee \ 3\cdot a - 1 = k\cdot a \\ (2.1.1) \ 3\cdot a - 1 = k\cdot a \Rightarrow 1<a=\frac{1}{3-k}\notin \mathbb{N} \ \forall k \in \mathbb{Z} \\ (2.1.2) \ a=4 \Rightarrow T(4,b)=4+b^2+\frac{-4+3b^2}{4b} \Rightarrow \text{Für } z=4\cdot b \in \mathbb{N} \text{ folgt } -4+3b^2=r\cdot z, \ r\in \mathbb{Z} \Rightarrow b=\frac{z}{4} \Rightarrow -4+\frac{3z^2}{16}=r\cdot z \Rightarrow 3z^2-16rz=z(3z-16r)=64 \Rightarrow z=8 \ \wedge \ r=1 \Rightarrow b=2\\ (2.2) \ a=3 \Rightarrow T(3,b)=3-\frac{1}{b} + b\cdot (b+1) \Rightarrow -\frac{1}{b}\in \mathbb{Z} \Rightarrow b=1 \)
Alle natürlichen a,b, sodass T(a,b) ganzzahlig ist finden sich also für:
$$L(a,b)=\{(1,1),(3,1),(4,2)\}\cup \{(a,b)\in \mathbb{N}^2| \ a=3b^2\}$$
Der entsprechende Beweis, dass es sich bei T(a,b) dann um eine Quadratzahl handelt sollte dann auch nicht mehr schwer sein.