Como no has llevado los cursos, creo que adquirir libros de muchos temas puede ser abrumador.
Si manejas las operaciones básicas como multiplicación, división, factorizar, creo que un buen libro para empezar es el Leithold (quizás alguien puede sugerir otro). Ahí puedes aprender de geometría analítica, límites, derivadas e integrales, lo cual corresponde a dos cursos iniciales en una carrera universitaria. Te cuento esto para que veas que sólo estos temas requieren bastante tiempo para ser aprendidos.
Una vez que manejes derivadas e integrales puedes comenzar a estudiar diferenciación e integración de funciones de varias variables (lo cual corresponde a un curso de un semestre) y paralelamente puedes comenzar a estudiar ecuaciones diferenciales partiendo con ecuaciones diferenciales ordinarias (también corresponde a un curso de un semestre) y luego estudiar ecuaciones diferenciales parciales (que puede corresponder a uno o dos cursos de un semestre cada uno).
Cálculo numérico es un curso donde se aprende a utilizar el computador para resolver sistemas de ecuaciones, aproximar integrales y resolver ecuaciones diferenciales, por lo que para sacarle provecho primero hay que estudiar los temas que te citaba antes.
Otra posibilidad es que en vez de empezar con cálculo empeces con el tema de probabilidades. Pero te sugiero comenzar con cálculo, porque derivadas e integrales aparecen en todos los temas que has mencionado y es preferible que sepas algún lenguaje de programación.
¿Quieres aprender por tu cuenta, o quieres prepararte para iniciar alguna carrera?