En efecto, lo estaba buscando, pero te me has adelantado

Hay dos niveles (a mi entender) de definición de función. Esto es en el mismo sentido que hay "dos definiciones" de números naturales: una es la metamatemática y la otra una suerte de modelización (no tiene por qué ser única y de hecho no lo es, en general) dentro de una teoría de conjuntos.
La definición metamatemática corresponde a nuestra idea intuitiva de función, se trata de un criterio que a cada elemento de un conjunto le hace corresponder otro elemento de un conjunto. El caso es que metamatemáticamente sólo podemos trabajar con conjuntos de los cuales tenemos intuición, esto es a lo sumo numerables. No sabemos trabajar por ejemplo con funciones del análisis matemático, pero tiene sentido, por ejemplo, considerar una función sucesor que a cada número natural le asocie su número siguiente. Aquí se cumplen todas esas definiciones intuitivas que usan palabras como correspondencia, asociar, etc., siempre que se use un castellano claro y se entienda lo que estamos diciendo.
Ahora bien, a la práctica, en matemáticas necesitamos trabajar con conjuntos mucho más grandes y está visto que trabajar alegremente puede dar lugar a contradicciones. En ese marco utilizamos una teoría formal, una teoría de conjuntos que nos permita trabajar sin miedo. Ahora bien, aunque a la práctica al trabajar no nos importa demasiado qué axiomas subyacen, es importante notar que ellos sólo nos construyen un "tablero de juego" en el que podemos modelizar conceptos matemáticos. Aquí, al menos en rigor, no valen conceptos de correspondencia, hay que precisar exactamente qué conjunto de nuestra teoría de conjuntos es cada cosa, o al menos asegurar que existe algún conjunto con unas ciertas características y es el que tomamos.
Cuando hablamos de una función, en general nos referimos al segundo nivel de definición, esto es porque normalmente trabajamos con funciones reales, al menos, y eso se nos escapa de un razonamiento estrictamente metamatemático. La definición de función es la siguiente: una función es una colección de pares ordenados (esto es una relación) de modo que no haya dos pares con la misma primera proyección (relación unívoca). Y es que se tiene que cumplir la famosa propiedad de que para cada elemento del dominio existe una única imagen, aquello de que si la gráfica retrocede ya no es una función.
\( f = \bigl\{(x_i, y_i) \in D \times R \bigr\}_{i\in I} \) es una función de dominio \( D \) i rango \( R \) (\( I \) es un conjunto de índices), siempre que dado \( (a,b), (c,d)\in f \) de modo que \( (a,b) \neq (c,d) \), entonces también \( a\neq c \). En este sentido una función es un conjunto. No es una correspondencia, no es una asociación, no es un criterio. Es sólo un conjunto. Lo que pasa es que capta bien la idea metamatemática de lo que debería ser una función.
¿Ventajas? Muchas, nos permite trabajar en matemáticas y estudiar funciones mucho más complicadas de lo que sabríamos hacer mentalmente. ¿Desventajas? Bueno, no toda función lícita de considerar metamatemáticamente tiene sentido aquí, como es el caso que ha referido Raúl, de la relación definida por la pertenencia, \( \in \). Pero como normalmente cuando hablamos de función queremos trabajar con funciones entre conjuntos formalizables en ZFC, esto no es un problema.