Aloha :)
Wenn du den Ausdruck für die Folgenglieder etwas umformst:$$a_n=\frac{n^2+1}{\sqrt{3n^4-8n+13}}=\frac{n^2+1}{\sqrt{n^4\cdot\left(3-\frac{8}{n^3}+\frac{13}{n^4}\right)}}=\frac{n^2+1}{\sqrt{n^4}\cdot\sqrt{3-\frac{8}{n^3}+\frac{13}{n^4}}}$$$$\phantom{a_n}=\frac{n^2+1}{n^2\cdot\sqrt{3-\frac{8}{n^3}+\frac{13}{n^4}}}=\frac{\pink{\frac{1}{n^2}}\left(n^2+1\right)}{\pink{\frac{1}{n^2}}\left(n^2\cdot\sqrt{3-\frac{8}{n^3}+\frac{13}{n^4}}\right)}=\frac{1+\frac{1}{n^2}}{\sqrt{3-\frac{8}{n^3}+\frac{13}{n^4}}}$$
kannst du den Grenzwert ablesen:$$\lim\limits_{n\to\infty}(a_n)=\frac{1+0}{\sqrt{3-0+0}}=\frac{1}{\sqrt3}$$
Das passt zu deinem Ergebnis, denn du hast ja die Folgenglieder quadriert, also den Grenzwert von \((a_n^2)\) bestimmt, und als Ergebnis \(\frac13\) erhalten.
Das Quadrieren von Folgendgliedern kann bei der Grenzwertbestimmung aber nach hinten losgehen, etwa wenn die Folgenglieder ihr Vorzeichen wechseln. Daher solltest du diese Methode nicht allgemein verwenden.