Ich denke mal, es soll \(f(x,y)\) heißen, nicht \(f(x)\) in der Frage.
Bei Stetigkeit an der Stelle \((0,0)\) hilft es immer, sich Beträge von \((a,b)=:z\) anzuschauen. Denn: Wenn \(\lim\limits_{|z|\to 0}|f(z)|=0\), dann gilt \(\lim\limits_{(x,y)\to0}f(x,y)=0\), was ja einfach die stetige Fortsetzbarkeit in \((0,0)\) durch \(f(0,0)=0\) bedeutet.
Nehmen wir mal ein \(z=(x,y)\) mit einem festen Betrag \(|z|=C\). Dann gilt natürlich auch \(|x|\leq C\), \(|y|\leq C\) und \(x^2+y^2= C^2\).
Jetzt schauen wir mal, wie wir Zähler und Nenner von \(f\) gut abschätzen können. Der Zähler ist sehr einfach abschätzbar, denn \(|x^3-3x^2y|\leq 4C^3\) nach der Dreiecksungleichung. Für den Nenner brauchen wir keine Abschätzung, der ist genau \(C^2\). Daraus kombinieren wir jetzt: \(0\leq|f(x,y)|\leq 4|(x,y)|\). Obere und untere Abschätzung gehen beide für \((x,y)\to 0\) gegen \(0\), also gilt \(\lim\limits_{(x,y)\to0}f(x,y)=0\) und du bist fertig.
Zum Mitnehmen: Wie verallgemeinert man das für beliebige Fortsetzungen, also wie zeigt man, dass z.B. eine Funktion \(g:\mathbb{R}^2\setminus\{(a,b)\}\to\mathbb{R}\) durch \(g(a,b)=c\) fortgesetzt werden kann? Zeig genau wie oben, dass die Funktion \(G(x,y)=g(a+x,b+y)-c\) in \((0,0)\) stetig fortgesetzt werden kann durch \(G(0,0)=0\).