Tu planteamiento tiene sentido... pero veamos:
Sea \( Y_n=\max\{X_1,\cdots,X_n\} \) y \( Y_1=\min\{X_1,\cdots,X_n\} \).
Tomemos los sucesos \( A:Y_n\leq{y} \) y \( B:a<Y_1<b \), donde \( a=m-\epsilon,b=m+\epsilon \). Nota que \( B \) es intersección de los eventos \( B_1:a<Y_1 \) y \( B_2:Y_1<b \), y que \( a<b \). Es claro que \( a<y \).
Entonces queremos calcular \( P(A|B) \)
Según mi criterio (es decir, el camino que se me hace más sencillo), es más sencillo trabajar con \( P(A|B^c) \).
Nota que \( P(A|B)=\displaystyle\frac{1-(1-P(B))P(A|B^c)}{P(B)} \), de modo que debemos calcular \( P(B) \) y \( P(A|B^c) \).
\( P(B) \) es "fácil". Veamos qué pasa con \( P(A|B^c) \).
Para esto, deberemos calcular \( P(A\cap B^c) \).
Pero \( A\cap B^c=A\cap B_1^c\bigcup A\cap B_2^c \). Nota que estos dos uniendos son disjuntos, ya que \( a<b \). Para verlo más claro: \( A\cap B_1^c\subset B_1^c \) y \( A\cap B_2^c\subset B_2^c \), de modo que si suceden los eventos \( A\cap B_1^c \) y \( A\cap B_2^c \), entonces suceden los eventos \( B_1^c \) y \( B_2^c \), de modo que \( b\le Y_1\le a \), lo cual contradice el hecho de que \( a<b \).
Por tanto \( P(A\cap B^c)=P(A\cap B_1^c)+P(A\cap B_2^c) \).
Calculemos \( P(A\cap B_1^c) \). Esto significa hallar la probabilidad de que suceda \( A \) y no suceda \( B_1 \), lo cual significa hallar la probabilidad de que \( Y_n\le y \) y \( Y_1\le a \). Nuevamente, esto significa que \( X_1,\cdots,X_n\le y \) y que exista un \( i\in\{1,...,n\} \) tal que \( X_i\le a \). Recuerda que \( a<y \)
Veamos. Esto se puede calcular de la siguiente manera (estoy seguro que debe haber una forma más rápida):
1)Que sólamente un \( X_i \) sea menor o igual que \( a \) y los demás sean mayores que \( a \) y menores que \( y \). El modelo a seguir viene dado como \( P(X_1\le a,\mbox{ }a<X_2,\cdots,X_n\leq{y}) \). Utilizando la independencia de las observaciones, esta expresión es igual a \( P(X_1\le a)P(a<X_2\le y)\cdots P(a<X_n\le y)=P(X_1\le a)\left(P(a<X\le y)\right)^{n-1} \)
Como el lugar de \( X_1 \) puede tomarlo cualquier \( X_i \), entonces el caso en que sólamente uno sea menor o igual a \( a \) y los demás sean mayores que \( a \) y menores que \( y \) tiene probabilidad \( nP(X\le a)\left(P(a<X\le y)\right)^{n-1} \).
2) Sólamente dos \( X_i \) son menores o iguales que \( a \) y los demás sean mayores que \( a \) y menores que \( y \). Análogamente, esta probabilidad viene dada por \( \displaystyle\binom{n}{2}(P(X\le a))^2(P(a<X\le y))^{n-2} \)
\( \vdots \)
Todas salvo una \( X_i \) son son menores o iguales que \( a \) y la otra sea mayores que \( a \) y menor que \( y \).
\( \displaystyle\binom{n}{n-1}(P(X\le a))^{n-1}P(a<X\le y) \)
Finalemente, todas las \( X_i \) son menores o iguales que \( a \):\( \displaystyle\binom{n}{n}P(X\le a)^n \).
Llamando \( p_1=P(X\le a) \) y \( p_2=P(a<X\le y) \), vemos que
\( P(A\cap B_1^c)=\displaystyle\binom{n}{1}p_1p_2^{n-1}+\displaystyle\binom{n}{2}p_1^2p_2^{n-2}+\cdots+\displaystyle\binom{n}{n}p_1^np_2^0=(p_1+p_2)^n-p_2^n \).
Intenta terminar con estos datos.
Saludos.
