Yo la estoy cursando actualmente y te diría que aparte de todo lo que ha dicho el_manco es objetivamente indispensable un estudio previo de estructuras algebraicas, esto es, un estudio formal sobre grupos y anillos (en anillos especialmente la teoría de cuerpos finitos). Creo que el estudio de la criptografía a nivel medio-alto requiere una preparación muy sólida en matemáticas aplicadas en general.