Hola.
La cantidad de movimiento se va a conservar en la dirección horizontal y vertical.
Inicialmente, solo hay cantidad de movimiento producto de la velocidad que trae la esfera, y esta es horizontal, por lo tanto:
\( P_i=M_e v_e \)
Sean \( v_{fe} \) y \( v_{fb} \) la velocidad final de la esfera y la bola respectivamente, el diagrama de velocidades finales, si entendí correctamente, sería algo así:

Como P se conserva, luego del choque la resultante de P del sistema tiene que ser horizontal, por lo tanto, P en la vertical debe ser nulo:
\( M_ev_{fe}\red \sen 45 \black-m_b v_{fb}\sin 30=0 \)
Y en la dirección horizontal:
\( M_ev_{fe}\red \cos 45 \black+m_bv_{fb}\cos 30=M_ev_e \)
Ahora a despejar las incógnitas.
Saludos.
Gracias aladan, a menudo me pasa cuando el ángulo es 45 que me desentiendo totalmente de si es seno o coseno.