Primero elige el libro de informática: 3
Luego eliges los de matemáticas: \( \displaystyle\binom{7}{4} \)
Ahora ya tienes los libros que vas a acomodar en los 5 lugares: * * * * *
Pero en el tercer lugar ya has decidido que vas a acomodar el de informática. Luego, en realidad los que debes organizar son los de matemáticas. Eso lo haces de 4! formas (porque son 4 libros en una fila)
Entonces cada elección de los libros se puede acomodar de 4! formas, y en total hay \( 3\displaystyle\binom{7}{4} \) elecciones. Por tanto, la respuesta es \( 4!*3*\displaystyle\binom{7}{4} \)
Saludos.