Hola Judita.
Tus fórmulas no se ven bien.
Para que se vean bien, tenés que encerrarlas entre un par de etiquetas [tex].......[/tex].
Fijate cómo escribo tu mismo mensaje corregido, así:
[tex]\displaystyle\sum_{i=1}^n{\infty}\displaystyle\binom{n(n+1)}{x^n}=\displaystyle\binom{2x^2}{(x-1)^3}
[/tex]
El resultado es éste:
\( \displaystyle\sum_{i=1}^n{\infty}\displaystyle\binom{n(n+1)}{x^n}=\displaystyle\binom{2x^2}{(x-1)^3}
\)