Hola. Más o menos la cosa es así:
Relación/Correspondencia: combinación de elementos de dos conjuntos.
Aplicación/Mapeo: Relación/Correspondencia entre dos conjuntos y que asigna un valor único en el segundo conjunto (codominio) por cada elemento del primer conjunto (dominio).
Función: Aplicación/Mapeo de un primer conjunto (dominio) en un segundo conjunto que es un cuerpo escalar (R o C).
Transformación: Aplicación/Mapeo que conserva propiedades algebraicas o geométricas entre un primer conjunto (dominio, que por lo general es un espacio) en un segundo conjunto (codominio, que también es un espacio).
Operador: Transformación de un primer conjunto (dominio, subconjunto de un espacio dado) en un segundo conjunto (codominio, subconjunto del mismo espacio dado).
Funcional: Operador lineal de un primer conjunto (dominio, espacio vectorial) en un segundo conjunto que es un cuerpo escalar (R o C).
Transformada: es una transformación de un primer conjunto (dominio, espacio de funciones) en un segundo conjunto (codominio, espacio de funciones).
La linealidad, continuidad, acotación, etc, son propiedades que se van agregando aparte de la definición básica.
Espero te sirva,
Luis E. Rojas//.