para determinar el centro hay que emplear algunas cosas de geometria plana.
Consideramos L1: 5x-12y+5=0 y buscamos dos puntos de esta recta. Por ejemplo el P1=(-1,0) y el Q1=(0,5/12). Al restar estos dos puntos obtenemos un vector de dirección de la recta: v1=Q1-P1=(1,5/12) (hay maneras mas faciles de determinar un vector de direccion, pero no me acuerdo de la formula). Lo dividimos por su norma y obtenemos w1=12/13 (1,5/12).
Hacemos lo mismo con L2 y obtenemos P2=(0,1), Q2=(3,-3), v2=(3,-4) y w2=1/5 (3,-4)
Al ser w1,w2 vectores de norma uno, w1+w2 es un vector que nos da la direccion de la recta bisectriz de L1 y L2 ( recuerda que el vector w1+w2 se determina por la ley del paralelogramo y com w1 y w2 tienen longitud 1, el paralelogramo es un rombo. Ademas, las diagonales del rombo son las bisectrices de sus angulos)
Ahora ya tenemos el vector director de la bisectriz de L1 y L2. Nos falta solo un punto de esta bisectriz, que lo tomamos como L1 intersecction L2. Es decir, se resuelve el sistema:
5x-12y+5=0
4x+3y-3=0
que da por solucion x=1/3, y=5/9. Por lo tanto la ecuación vectorial de la bisectriz es: (x,y)=(1/3,5/9) + t (99/65,-27,65)
eliminando el parametro t, queda: 27x+99y=64.
Haciendo la interseccion de la bisectriz con L3 obtenemos el centro:
27x+99y=64
7x - 2y - 1 = 0
que sale x -> 227/747, y -> 421/747
calculando la distancia de este punto a L1 se obtiene el radio