Hola
La idea es la siguiente: el sistema que queda es indeterminado, sí se pueden encontrar infinitas soluciones en los reales, pero acá estamos trabajando en los enteros positivos, porque las soluciones representarán el número de ovejas de cada pastor.
Llama "x" al número de ovejas del pastor 1, e "y" al número de ovejas del segundo pastor.
Se tiene \( x+y = 189 \).
Además, sabemos que si el primero divide x en 11, le sobran 5. Lo que quiere decir esto es que el resto de la división entera de x entre 11 es 5, por lo que \( x \equiv 5\pmod {11} \) o equivalentemente \( x-5 \) es múltiplo de 11, por lo que podemos escribir \( x = 5 + 11a \) con \( a \in \mathbb{Z} \).
Análogamente con el segundo pastor, podemos decir que \( x-5 \) es múltiplo de 13 por lo que \( x = 5 + 13b \) con \( b \in \mathbb{Z} \).
Sustituímos en \( x+y = 189 \) y nos queda \( 5+11a + 5+13b = 189 \Leftrightarrow 11a + 13b = 179 \).
Esta es una ecuación diofántica lineal de primer orden, queremos buscar soluciones enteras que verifiquen una restricción. Si no sabes resolver ecuaciones diofánticas de primer oden, te aconsejo que busques el procedimiento en Google ya que es muy sencillo. En esta página te las resuelve y te indica los pasos que realiza:
http://www.alpertron.com.ar/QUAD.HTMDespués de resolver la ecuación, tenemos que nuestras soluciones son de la forma \( \left\{\begin{matrix} a= 8 +13t \\b= 7-11t\end{matrix} \right \) con \( t \in \mathbb{Z} \)
Esto nos da infinitas soluciones... pero nosotros queremos que tanto x como y sean mayores a cero, por lo que para ver qué t nos sirven, tenemos que resolver el siguiente sistema en los enteros:
\( \left\{\begin{matrix} x > 0 \Rightarrow 5 + 11a > 0 \Rightarrow 5 + 11(8 +13t) >0 \Rightarrow 143t + 93 > 0\\
y> 0 \Rightarrow 5 + 13(7-11t) > 0 \Rightarrow 96 - 143t > 0\end{matrix} \right \) con \( t \in \mathbb{Z} \)
La solución es el intervalo \( -\frac{93}{143} < t < \frac{96}{143} \Rightarrow -0.6503496503 < t < 0.6713286713 \)
Como t debe ser un entero, el único valor que sirve es \( t=0 \).
De ahi despejamos a y b en función de t: \( a = 8 \) y \( b=7 \)
Y finalmente, obtenemos x e y:
\( x = 5 + 11\cdot 8 = 93 \), \( y = 5 + 13\cdot 7 = 96 \)
Por lo que el primer pastor tiene
93 ovejas y el segundo
96. No hay más soluciones que cumplan nuestra restricción de x > 0 e y > 0.
Te dejo verificar que estos números cumplen lo pedido.
Saludos