Sea X la cantidad de extracciones necesarias hasta conseguir la primera bola roja.
P(salió cara|X=3)=P(salió cara y X=3)/P(X=3)=P(X=3|salió cara)P(salió cara)/P(X=3)
Ahora bien,
P(X=3|salió cara)=3/5*3/5*2/5
P(salió cara)=1/2
P(X=3)=P(X=3|salió cara)P(salió cara)+P(X=3|salió ceca)P(salió ceca)
Para calcular esta última, notá que P(salió ceca)=1/2 y P(X=3|salió ceca)=2!*3!/5!.
Esto se llama teorema de Bayes, es una aplicación del teorema de probabilidad total.
PD: Bienvenido al foro.