Hola
Lo que yo no veo es dónde andas confundido. Por otro lado, el conjunto hallado no es \( (0, 3), (1/3, 1/3), (1, 0), (3, 0). \), sino el cuadrilátero con vértices en esos puntos.
El ejercicio dice, sea \( X \) un conjunto, hallar máximo y mínimo de \( f \) sobre \( X \). ¿Qué de esto no se entiende?
En \( \mathbb{R} \) un ejemplo sería. Siendo \( X = [1,4] \) y \( f(x)=(x-2)^2 \), el máximo se alcanza en \( x=4 \) donde \( f(4) = 4 \) y el mínimo en \( x=2 \) donde \( f(2) = 0 \).
Saludos
Edito: notemos que el conjunto es compacto y las funciones continuas, por lo que tiene máximo y mínimo.