Un programa donde se pueda escribir de manera amigable no conozco.
Podés usar
codecogs para ir viendo la salida a medida que se insertan los simbolos, pero debido al gran anidamiento de las raíces siempre será difícil de leer.
Ojo con las raíces en Latex porque no podés poner dos corchetes sucesivos.
Quiero decir [TEX]\sqrt[\sqrt[3]{3}]{3}[/TEX] es incorrecto.
debe incluirse llaves [TEX]\sqrt[{\sqrt[3]{3}}]{3}[/TEX]