Hola
Creo que para este problema basta decir \[ {\color{red}\forall x \in \mathbb{R}},\, 0\leq sen^2(x)\leq 1 \], y para su máximo valor, 1, tenemos
\[ \lim_{x \to{+}\infty}{\frac{1}{x^2-5}}=0 \]
Por lo que \[ \lim_{x \to{+}\infty}{\frac{sen^2(x)}{x^2-5}}=0 \]
Saludos