Si lo que quieres es considerar objetos que tienen una "especie" asociada, como en los ejemplos que ponías de lenguajes de programación, lo que tienes que mirar son teorías de tipos y no teorías de conjuntos.
En teoría de conjuntos (intuitiva) en principio puedes considerar conjuntos que contengan a cualesquiera elementos siempre que sepas decir si algo es o no es un elemento del conjunto. No tienen por qué ser de la misma "especie" ni nada parecido.
En cambio, en teoría de tipos, cada objeto viene siempre equipado con un tipo determinado (una especie, como dices tú). No obstante, aún así puedes combinar tipos para definir nuevos tipos, y por ejemplo nada te impide tener un tipo int + string cuyos objetos sean o de tipo int o de tipo string. Esto lo puedes hacer en Haskell, y en C puedes hacer lo mismo con estructuras union.
En definitiva, si te empeñas en ver las cosas como agrupadas por "especies", la formalización más adecuada son las teorías de tipos y no las de conjuntos. Pero ten en cuenta que cualquier teoría de tipos que sirva para algo te va a permitir definir tipos "unión de especies".