La diferencia entre las aplicaciones que mencionas depende mucho de que es lo que quieras hacer.
A nivel basico es posible realizar las operaciones mas comunes en ambos (maxima/mathematica), limites, derivadas, polinomio de taylor, resolver ecuaciones, hacer graficos.
Una diferencia es que la interfaz maxima no es tan intuitiva como la de mathematica/maple. Otra diferencia es que es mas probable encontrar ejemplos para mathematica/maple en la red que para maxima.
Otra diferencia es que mathematica/maple tienen un precio por arriba de los 2000 dolares (a menos que uno tenga alguna licencia educativa), en cambio maxima cuesta 0 (en cualquier moneda).
Otras alternativas son sagemath, y axiom.
Por otro lado no tengo mucha experiencia con maple, pero creo que los programas de codigo abierto mas similares que se pueden encontrar son scilab y octave, si no me equivoco tienen un modo de compatibilidad que permite ejecutar scripts de maple sin realizar cambios.
Si vas a necesitar algun programa para estadisticas el mas usado es R (
http://www.r-project.org/).