Lo veo sin resolver y no resisto.
a) Suponiendo que el origen de referencia esta en el CM de la masa de $$M_1=200 kg$$ y a la izquierda de la $$M_3=500 kg$$
$$F_t=F_1+F_2=\dfrac{GM_1M_3(0-d/2)}{|0-d/2|^{3}}+\dfrac{GM_2M_3(d-d/2)}{|d-d/2|^{3}}=\dfrac{4GM_3}{d^2}(M_2-M_1)=2.5\times10^{-5}N$$ en dirección a la de 500kg
b) Ahora se iguala 0 la fuerza total, la masa de $$M_3=50kg$$ estará a distancia $$x$$ de la $$M_1$$ y $$d-x$$ de la $$M_2$$
$$0=F_1+F_2=-\dfrac{GM_1M_3}{x^2}+\dfrac{GM_2M_3}{(d-x)^{2}}=$$
$$\dfrac{GM_1M_3}{x^2}=\dfrac{GM_2M_3}{(d-x)^{2}}$$
$$\dfrac{M_1}{x^2}=\dfrac{M_2}{(d-x)^{2}}$$
$$\dfrac{x^2}{M_1}=\dfrac{(d-x)^{2}}{M_2}=\dfrac{d^2}{M_2}-\dfrac{2dx}{M_2}+\dfrac{x^2}{M_2}$$
$$x^2(\dfrac{1}{M_2}-\dfrac{1}{M_1})-x\dfrac{2d}{M_2}+\dfrac{d^2}{M_2}=0$$
resolviendo
$$\boxed{x= 0.15497035468911724 m}$$ mas cerca de la masa pequeña que de la grande.